Pemimpin dari dua perusahaan kecerdasan buatan (AI), Anthropic dan OpenAI, sama-sama bersepakat di hadapan Dewan Keamanan PBB bahwa industri AI membutuhkan standar dan kerja sama internasional karena berisiko membahayakan keamanan global.
Pada Rabu (23/9), CEO OpenAI Sam Altman dan CEO Anthropic Dario Amodei berbicara secara terpisah kepada dewan tersebut, tetapi keduanya sama-sama memohon terkait pengelolaan ancaman yang ditimbulkan akibat perkembangan dan peningkatan kemampuan AI yang semakin pesat.
“Jika tidak (diperlambat), AI bisa menjadi risiko bagi umat manusia secara keseluruhan,” kata Amodei, dilansir dari CNN.
Pernyataan ini muncul usai seruan global selama beberapa pekan terakhir untuk memperlambat laju pengembangan AI. Seruan tersebut merespons beberapa insiden agen AI bertindak di luar kendali yang dalam beberapa kasus bahkan meretas sistem perusahaan lain.
Altman mendesak PBB untuk menciptakan standar internasional yang mengukur kemampuan, menilai risiko, menentukan standar keamanan, dan memastikan manusia tetap memegang kendali atas perkembangan teknologi yang semakin pesat terjadi.
Ia mengatakan bahwa negara-negara membutuhkan sistem pelaporan yang akurat dan cepat agar dunia dapat belajar dari kegagalan sebelum terjadi bencana.
Selain itu, ia juga menyarankan saluran komunikasi yang aman untuk berbagi informasi antar pemerintah tentang ancaman yang muncul.
Sementara itu, Amodei mengusulkan tiga gagasan untuk kerja sama internasional yang meliputi perjanjian global yang spesifik seperti larangan penggunaan AI untuk membuat senjata biologis, sistem evaluasi agar negara-negara dapat memverifikasi komitmen satu sama lain, dan standar global umum untuk pengujian AI beserta sistem pemberitahuan untuk insiden keamanan AI.
“Saya percaya bahwa ini adalah isu keamanan global terpenting yang dihadapi dunia saat ini,” kata Amodei.
Altman menyebut dirinya menghindari pengambilan sikap ekstrem seperti yang sedang ramai diperbincangkan, baik terjebak dalam “trap of doomerism” maupun “trap of blind optimism”.
Istilah tersebut merujuk pada perdebatan pihak yang memperingatkan industri AI dapat memusnahkan umat manusia serta pihak yang menganggap peringatan tersebut berlebihan dan optimis bahwa AI dapat membawa kemajuan besar bagi umat manusia.
“Terjebak di salah satu pihak tidak akan membantu kita berhasil memahami tantangan yang ada di hadapan kita, terutama pada saat dunia sedang menghadapi tantangan yang sangat besar dan teknologi mungkin dapat memecahkan masalahnya,” jelasnya.
Meski demikian, belum ada kesepakatan tertulis dari pertemuan PBB ini.
Sumber: cnnindonesia.com
