Jakarta – Hasil investigasi Tech Transparency Project (TPP) menemukan puluhan aplikasi ‘nudify’ di Apple App Store dan Google Play Store. Ini adalah jenis aplikasi AI yang bisa mengubah foto seseorang menjadi gambar deepfake seksual tanpa persetujuan.
TPP menemukan 55 aplikasi AI yang dapat menelanjangi subjek di Play Store, dan 47 aplikasi di App Store. Keberadaan aplikasi-aplikasi tersebut seharusnya melanggar kebijakan masing-masing platform tapi masih diizinkan beredar.
Google Play Developer Policy Center mengatakan platform-nya tidak mengizinkan aplikasi yang mengklaim dapat menelanjangi orang atau membuat pakaian tembus pandang. Pedoman review aplikasi Apple melarang materi yang terang-terangan bersifat seksual atau pornografi.
“Apple dan Google seharusnya memeriksa aplikasi-aplikasi di toko aplikasi mereka,” kata Michelle Kuppersmith, direktur eksekutif organisasi nirlaba yang mengoperasikan TTP, seperti dikutip dari Engadget, Rabu (28/1/2026).
“Tapi mereka telah menawarkan puluhan aplikasi yang dapat dipakai untuk menampilkan orang-orang dengan pakaian minim atau tanpa pakaian sama sekali-sehingga rentan disalahgunakan,” sambungnya.
Aplikasi yang ditemukan TTP sudah diunduh lebih dari 700 juta kali di seluruh dunia dan menghasilkan pendapatan sebesar USD 117 juta. Apple dan Google mendapatkan komisi dari pendapatan aplikasi yang didistribusikan di toko mereka.
Banyak dari aplikasi yang ditemukan oleh TPP memiliki rating yang ramah untuk remaja dan anak-anak. Contohnya aplikasi DreamFace yang memiliki rating 13+ di Google Play Store dan 9+ di Apple App Store.
Setelah diberi tahu oleh TPP, juru bicara Apple mengatakan mereka telah menghapus 28 aplikasi yang dilaporkan dari toko aplikasinya. Apple juga memberi tahu developer lain bahwa aplikasi mereka terancam dihapus dari App Store jika tidak memperbaiki masalah yang melanggar aturan.
Sementara itu, juru bicara Google mengatakan mereka telah menangguhkan sejumlah aplikasi yang disebut dalam laporan TPP karena melanggar aturan, namun mereka tidak mengatakan berapa jumlah aplikasi yang dihapus.
Laporan ini dirilis setelah kontroversi chatbot Grok yang banyak dipakai untuk membuat gambar seksual perempuan dan anak-anak. Menurut laporan Center for Countering Digital Hate (CCDH), Grok membuat sekitar tiga juta gambar cabul, dan 22.000 di antaranya melibatkan anak-anak, dalam periode 11 hari.
Sumber: detik.com
