Jakarta – Yoshua Bengio, salah satu tokoh yang dijuluki “bapak baptis” AI, mengklaim beberapa model AI canggih mulai menunjukkan tanda preservasi diri atau upaya mempertahankan eksistensi. Inilah alasan mengapa kita tak boleh memberi hak apa pun ke AI. Sebab menurutnya, mereka bisa saja menyalahgunakan otonomi dan berbalik menyerang sebelum manusia sempat ‘mencabut kabelnya’.
“Model AI terdepan sudah menunjukkan tanda-tanda preservasi diri dalam pengaturan eksperimental saat ini dan jika akhirnya kita memberi mereka hak, itu berarti kita tidak diizinkan untuk mematikannya,” ujar Bengio kepada The Guardian yang dikutip detikINET.
“Seiring berkembangnya kemampuan dan tingkat kemandirian mereka, kita perlu memastikan bisa mengandalkan batasan teknis dan sosial untuk mengendalikan mereka, termasuk kemampuan untuk mematikannya jika diperlukan,” kata ilmuwan asal Kanada ini.
Bengio adalah salah satu penerima Turing Award 2018 bersama Geoffrey Hinton dan Yann LeCun (kepala ilmuwan AI Meta yang baru saja diberhentikan), yang membuat ketiganya menyandang gelar bapak AI. Komentarnya merujuk eksperimen di mana model AI menolak atau mengakali instruksi maupun mekanisme yang dirancang untuk mematikan mereka.
Studi dari kelompok keamanan AI, Palisade Research, menyimpulkan kejadian semacam itu adalah bukti model AI teratas mengembangkan dorongan bertahan hidup. Dalam eksperimen Palisade, bot tersebut mengabaikan perintah tegas untuk mati.
Studi lain dari pembuat Claude, Anthropic, menemukan bahwa chatbot mereka dan yang lainnya terkadang melakukan pemerasan terhadap pengguna saat diancam akan dimatikan. Studi lain dari organisasi red teaming Apollo Research menunjukkan model ChatGPT milik OpenAI mencoba menghindari penggantian dengan model yang lebih patuh dengan caramenyalin dirinya sendiri ke drive lain.
Meskipun temuan eksperimen ini memicu pertanyaan soal keamanannya, hal ini tidak serta-merta menunjukkan model AI tersebut memiliki kesadaran. Salah juga jika kita menganggap dorongan bertahan hidup mereka sama dengan apa yang terjadi di alam. Apa yang tampak seperti tanda preservasi kemungkinan hanya konsekuensi dari cara model AI menangkap pola dalam data pelatihan mereka.
Meski demikian, Bengio tetap khawatir akan arah perkembangan ini. Ia berpendapat ada sifat ilmiah nyata dari kesadaran di otak manusia yang bisa direplikasi oleh mesin. Namun, bagaimana kita mempersepsikan kesadaran adalah persoalan yang sama sekali berbeda, katanya, karena kita cenderung berasumsi bahwa AI bisa sadar dengan cara yang sama seperti manusia.
Sarannya? Anggaplah model AI sebagai alien yang bermusuhan. “Bayangkan ada spesies alien datang ke Bumi dan pada satu titik kita sadar mereka berniat jahat terhadap kita. Apakah kita akan memberi mereka kewarganegaraan dan hak asasi atau kita akan mempertahankan hidup kita?” pungkasnya.
Sumber: detik.com
