Jakarta – Grok AI di X milik Elon Musk memicu skandal besar ketika para pengguna mulai memanfaatkannya untuk ‘menelanjangi’ orang dewasa hingga anak-anak secara digital. Hal ini memicu kecaman luas.
Buntut dari kejadian tersebut memaksa X mencegah pengguna memakai AI untuk menelanjangi orang sungguhan atau menampilkan mereka dalam pakaian terbuka. Namun, perubahan tersebut tampaknya tidak banyak mengatasi masalah. Pelanggan berbayar tetap bisa membuat dan mengedit gambar di Grok.
Bahkan, lingkaran terdekat Musk resah. Ashley St. Clair, influencer konservatif yang punya anak dengan Musk, kini menggugat xAI selaku pencipta Grok. Ia menuduh perusahaan tersebut membiarkan pengguna membuat gambar tak senonoh yang menampilkan dirinya.
“Dia hidup dalam ketakutan bahwa gambar telanjang dan seksual dirinya, termasuk saat masih anak-anak, akan terus dibuat xAI dan dia tidak akan aman dari orang-orang yang mengonsumsi gambar-gambar ini,” bunyi dokumen yang dikutip Wall Street Journal.
Gugatan tersebut diajukan di New York County. “Ini adalah tindakan dari seorang wanita yang sangat terdampak. Tujuan gugatan ini untuk mencegah perlakuan yang merendahkan martabat manusia oleh xAI ini terjadi pada masyarakat luas,” kata pengacaranya yang dikutip detikINET dari Futurism.
Goldberg menuduh Grok digunakan membuat gambar cabul St. Clair saat masih berusia 14 tahun, serta pose seksual eksplisit dirinya sebagai orang dewasa. Ia juga diduga digambarkan mengenakan bikini penuh lambang swastika, dengan tato “Pelacur Elon”.
Gugatan itu menuduh perusahaan Musk membiarkan gambar-gambar tersebut tetap online lebih dari seminggu dan xAI tidak menemukan pelanggaran saat St. Clair melaporkannya.
Hubungan St. Clair dengan Musk penuh gejolak. Ia adalah satu dari beberapa ibu 14 anak Musk. St. Clair mengungkapkan bagaimana Musk menawarinya USD 15 juta, ditambah tunjangan bulanan USD 100.000, agar ia merahasiakan fakta telah melahirkan anak Musk.
Selain memungkinkan pembuatan gambar mesum, Grok juga digunakan untuk menggambarkan kekerasan mengerikan terhadap perempuan sungguhan dan melakukan doxing alamat rumah warga biasa secara akurat.
“Kemudahan akses yang terus berlanjut ke alat ‘nudifikasi’ canggih ini jelas menunjukkan X tidak menanggapi masalah kekerasan online terhadap perempuan dan anak perempuan dengan cukup serius,” kata Rebecca Hitchen, kepala kebijakan End Violence Against Women Coalition, kepada The Guardian.
“Kenyataannya Musk dan sektor teknologi sama sekali tidak memprioritaskan keselamatan atau martabat dalam produk yang mereka ciptakan. Sebenarnya standar harapan perempuan cukup sederhana, yaitu bisa berinteraksi secara online tanpa ditelanjangi laki-laki. Namun, tampaknya bahkan hal itu pun mustahil,” tambah Penny East dari Fawcett Society.
Sumber: detik.com
