Teknologi deepfake memakai AI telah berkembang sangat jauh. Nah belakangan ini, sebagian orang termasuk remaja telah menggunakan teknologi ini untuk mengerjai teman, pasangan dan keluarga mereka.
Jadi, mereka mengirim foto-foto hasil manipulasi AI seolah-olah ada orang asing atau tunawisma datang ke rumah mereka. Di luar negeri seperti di Amerika Serikat, tren ini dinilai meresahkan, bahkan sampai melibatkan panggilan darurat ke 911.
“Tidak, aku tidak mengenalnya. Apa yang dia inginkan?” sebut seorang ayah kepada putranya dalam satu video TikTok yang mendapat jutaan penayangan. Sang ayah melihat ada gelandangan di rumahnya, padahal itu adalah hasil manipulasi AI.
“Dia bilang kalian dulu satu sekolah, jadi aku mengundangnya masuk,” jawab putranya, sambil mengunggah gambar yang diedit AI dari seorang pria yang duduk di sofa. “JOE ANGKAT TELEPONNYA. SAYA TIDAK KENAL DIA!!!!!” jawab orang tua yang terkejut itu.
Prank semacam ini memicu penegak hukum mengeluarkan peringatan. “Selain tidak pantas, ada banyak alasan mengapa prank ini terus terang saja, bodoh dan berpotensi berbahaya,” tulis departemen kepolisian Salem, Massachusetts.
“Prank ini merendahkan martabat para tunawisma, menyebabkan penerima yang tertekan menjadi panik dan membuang-buang sumber daya polisi,” tambah mereka seperti dikutip detikINET dari Futurism.
Siaran pers departemen kepolisian Oak Harbor di Washington juga memperingatkan tentang kekhawatiran keamanan terkait dengan prank pria tunawisma yang dibuat AI. “Tool AI dapat menciptakan gambar sangat meyakinkan dan misinformasi dapat menyebar cepat, menyebabkan ketakutan tidak perlu atau mengalihkan sumber daya keselamatan publik,” bunyi pernyataan itu.
“Kami ingin memperjelas: perilaku ini bukan lelucon, ini adalah kejahatan,” tulis kantor sheriff Brown County, Ohio, menyusul insiden terpisah. “Kedua remaja yang terlibat telah didakwa secara pidana atas peran mereka dalam insiden ini.”
Bukan hanya Amerika Serikat, remaja di Inggris dan di negara lain juga menggunakan AI untuk mengerjai orang tua, pasangan, atau teman merek. Penegak hukum setempat meminta agar dipastikan dulu foto itu asli atau nyata sebelum melapor ke polisi.
“Lelucon, meskipun bisa jadi tidak berbahaya, dapat menimbulkan konsekuensi tidak diinginkan. Dan sering kaum muda tidak memikirkan konsekuensi itu dan keluarga yang mungkin terdampak, mungkin tetangga mereka, sehingga insiden di kehidupan nyata bisa saja terjadi dengan salah satu tetangga mereka, dan mereka menguras sumber daya,” kata komandan departemen kepolisian Round Rock, Texas, Andy McKinney.
Sumber: detik.com
