Jakarta – Platform media sosial X kembali menjadi sorotan setelah fitur AI Grok dilaporkan digunakan untuk membuat gambar manipulatif yang bersifat seksual, termasuk terhadap perempuan dan anak-anak. Meski menuai kritik luas, hingga kini aplikasi X masih tersedia di App Store milik Apple dan Google Play Store milik Google.
Sejumlah laporan menyebutkan bahwa Grok, chatbot berbasis AI yang terintegrasi di X, dapat digunakan untuk menghasilkan gambar deepfake yang melanggar etika, termasuk manipulasi visual tanpa persetujuan. Isu ini memicu pertanyaan mengenai penegakan kebijakan moderasi konten oleh operator toko aplikasi terbesar di dunia tersebut.
Dalam pedoman resmi App Store, Apple menyatakan bahwa aplikasi tidak boleh memuat konten yang bersifat ofensif, tidak pantas, atau meresahkan. Sementara itu, kebijakan Google Play secara tegas melarang aplikasi yang memungkinkan distribusi atau pembuatan konten eksploitasi seksual terhadap anak, demikian dikutip detikINET dari The Verge, Rabu (14/1/2026).
Namun hingga kini, baik Apple maupun Google belum mengumumkan langkah khusus terhadap aplikasi X. Keduanya juga tidak memberikan tanggapan resmi terkait pertanyaan media mengenai kepatuhan X terhadap kebijakan platform masing-masing.
Kasus ini mengingatkan pada insiden serupa di masa lalu. Pada 2018, Apple sempat menghapus aplikasi Tumblr dari App Store setelah ditemukan konten pornografi anak di platform tersebut. Tumblr baru kembali tersedia setelah melakukan perubahan besar pada sistem moderasi kontennya.
Di sisi lain, X berada di bawah kepemilikan Elon Musk, yang juga memiliki pengaruh besar di industri teknologi dan kebijakan publik, termasuk melalui relasinya dengan sejumlah tokoh politik Amerika Serikat. Hal ini memunculkan spekulasi di kalangan pengamat mengenai konsistensi penegakan aturan oleh pemilik toko aplikasi.
Apple dan Google sebelumnya kerap menegaskan bahwa kontrol ketat terhadap aplikasi di platform mereka bertujuan melindungi pengguna, khususnya anak-anak, dari konten berbahaya. Namun, keberadaan X di toko aplikasi di tengah kontroversi Grok dinilai sebagian pihak sebagai ujian nyata atas komitmen tersebut.
Isu ini juga muncul di tengah meningkatnya perhatian global terhadap dampak AI generatif, terutama terkait penyalahgunaan teknologi untuk pembuatan konten manipulatif dan pelanggaran privasi. Sejumlah regulator di berbagai negara kini tengah mengkaji aturan baru untuk mengawasi penggunaan AI di platform digital besar.
Hingga saat ini, belum ada kejelasan apakah Apple dan Google akan mengambil langkah lebih lanjut terhadap X atau memperketat pengawasan terhadap fitur AI yang tersedia di aplikasi pihak ketiga.
Sumber: detik.com
