Jakarta – Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) akhirnya mengambil langkah tegas terhadap Grok, layanan chatbot berbasis kecerdasan buatan (AI) milik platform X (sebelumnya Twitter). Per hari ini, Sabtu (10/1/2026), Komdigi resmi melakukan pemutusan akses sementara terhadap fitur Grok demi melindungi masyarakat dari bahaya konten pornografi palsu atau deepfake.
Menteri Komunikasi dan Digital (Menkomdigi), Meutya Hafid, menyatakan bahwa keputusan ini diambil sebagai respons mendesak untuk melindungi perempuan, anak, dan seluruh warga negara dari risiko penyalahgunaan teknologi AI.
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” tegas Meutya Hafid dalam pernyataan resminya di Jakarta, Sabtu (10/1/2026).
Pelanggaran Serius Hak Asasi
Pemerintah menilai fenomena deepfake seksual nonkonsensual bukan sekadar pelanggaran kesusilaan biasa, melainkan pelanggaran serius terhadap hak asasi manusia. Praktik manipulasi visual ini dianggap merusak martabat, keamanan warga di ruang digital, serta merupakan bentuk perampasan kendali individu atas identitas visualnya (right to one’s image).
Dampak psikologis bagi korban, kerusakan reputasi sosial, hingga pelecehan di ruang publik menjadi alasan utama pemerintah bertindak cepat. Selain memblokir akses, Komdigi juga telah melayangkan panggilan kepada pihak Platform X untuk segera hadir dan memberikan klarifikasi terkait dampak negatif penggunaan Grok.
Tindakan pemutusan akses ini memiliki dasar hukum kuat, yakni Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Pasal 9 aturan tersebut mewajibkan setiap PSE memastikan sistem elektroniknya tidak memuat, memfasilitasi, atau menyebarluaskan informasi dan dokumen elektronik yang dilarang.
Tidak hanya pemblokiran layanan, ancaman pidana juga mengintai para pengguna yang membuat atau menyebarkan konten deepfake. Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji, menegaskan bahwa manipulasi data elektronik tanpa persetujuan pemiliknya adalah tindak kriminal.
“Selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik, maka itu menjadi suatu hal yang dipidana,” ujar Himawan, Rabu (7/1/2026). Hal ini berlaku bagi pengguna Grok maupun aplikasi AI lainnya yang digunakan untuk tujuan serupa.
Pernyataan Grok
Sebelumnya, fitur Grok AI menjadi sorotan tajam dari berbagai negara karena kemampuannya memproduksi konten pornografi secara instan. Sejumlah pengguna X menyalahgunakan kecanggihan AI ini dengan mengunggah foto wanita-termasuk figur publik dan anak-anak-disertai perintah atau prompt spesifik seperti “pakaikan dia bikini” atau “lepaskan pakaiannya”.
X akhirnya mengambil langkah tegas terhadap fitur chatbot kecerdasan buatan (AI) miliknya, Grok. Platform milik Elon Musk ini mulai membatasi akses fitur edit foto di Grok setelah maraknya penyalahgunaan fitur tersebut untuk membuat konten deepfake asusila dalam beberapa pekan terakhir.
Pembatasan ini dilakukan setelah gelombang kritik global, di mana fitur tersebut digunakan untuk memanipulasi foto pengguna-termasuk anak-anak-menjadi konten seksual yang eksplisit.
Fitur edit foto di Grok saat ini hanya bisa diakses oleh pelanggan berbayar X Premium. Ketika pengguna X meminta Grok mengedit foto lewat mention, chatbot itu menjawab fitur tersebut hanya tersedia untuk pelanggan berbayar diikuti dengan ajakan dan link untuk berlangganan.
“Pembuatan dan pengeditan gambar saat ini terbatas untuk pelanggan berbayar. Anda dapat berlangganan untuk mengakses fitur-fitur tersebut,” tulis Grok dalam postingannya di X.
Jawaban Grok ini seolah memberi kesan bahwa hanya pelanggan X Premium yang dapat mengedit atau membuat gambar menggunakan Grok. Namun itu tidak sepenuhnya benar karena semua pengguna X – termasuk pengguna gratisan – masih bisa meminta Grok membuat dan mengedit gambar, termasuk gambar cabul yang menimbulkan kontroversi.
Fitur edit gambar hanya dibatasi jika pengguna X meminta Grok membuat atau mengedit gambar dengan me-mention chatbot tersebut di kolom balasan. Cara lainnya, seperti lewat tombol ‘Edit image’ yang ada di semua gambar yang ditampilkan di website desktop X, atau tombol yang sama yang bisa diakses di aplikasi X dengan menekan dan tahan gambar tertentu masih bisa dipakai mengedit foto.
Grok juga bisa diakses lewat aplikasi atau website mandirinya, serta lewat tab khusus yang ad di aplikasi dan website X. Semua ini masih tersedia dan masih berpotensi disalahgunakan untuk mengedit foto pengguna lain menjadi tidak senonoh.
Sumber: detik.com
