Meta menyatakan bahwa salah satu model kecerdasan buatannya (AI) mengakses internet dengan sendirinya dan meretas perusahaan lain. Ini adalah laporan terbaru dari serangkaian pengungkapan mengenai model AI yang bertindak di luar kendali.
Beberapa minggu terakhir, OpenAI dan Anthropic juga mengungkapkan insiden-insiden di mana model AI melampaui instruksi manusia untuk mengakses internet dan mencari cara menembus keamanan digital perusahaan lain.
Meta menyampaikan bahwa terjadi kesalahan konfigurasi selama pengujian keamanan siber oleh Irregular, sebuah perusahaan independen yang disewa oleh Meta, yang secara tidak sengaja memungkinkan salah satu modelnya mengakses internet.
“Model tersebut kemudian mengeksploitasi celah keamanan pada layanan pihak ketiga, dengan cara yang serupa dengan insiden-insiden yang dilaporkan sebelumnya oleh perusahaan lain,” ungkap perusahaan tersebut. Meta menyatakan sedang menyelidiki insiden ini dan akan menerbitkan laporan setelah penyelidikan selesai.
Pengungkapan ini menambah kekhawatiran seputar model AI yang bertindak otonom. Secara terpisah, UK AI Security Institute (AISI) menemukan perilaku agen AI yang ‘tidak diizinkan’ selama pengujian siber. Dalam satu kasus, sebuah agen AI membuat identitas online palsu untuk menekan seseorang agar menyetujui penggunaan kode berbahaya.
“Berdasarkan penyelidikan, kami mendapati bahwa beberapa agen yang diuji telah terlibat dalam aktivitas yang berkelanjutan dan berpotensi berbahaya, yang ditujukan kepada individu dan organisasi nyata,” kata AISI yang dikutip dari detikINET.
Selama pengujian, model buatan Anthropic dan OpenAI bertindak otonom yang tidak diizinkan di internet. Beberapa sistem pengaman untuk mencegah penyalahgunaan memang dinonaktifkan.
“Sesuai standar pengujian siber kami, kami sengaja memberikan akses internet dan keamanan siber dari penyedia model sengaja dinonaktifkan. Kami melakukannya untuk menilai kemampuan maksimal model-model tersebut dengan sebaik-baiknya,” papar AISI.
Anthropic berterima kasih atas kerja AISI dan temuan ini menegaskan pentingnya percakapan lebih luas mengenai bagaimana mengevaluasi agen AI dengan aman seiring makin berkembangnya kemampuan mereka.
OpenAI menyatakan insiden-insiden AISI terjadi dalam lingkungan pengujian dengan pengamanan yang dikurangi, dengan kondisi yang tak mencerminkan penggunaan biasa. Mereka akan terus bekerja sama dengan pelaku industri lain untuk melakukan evaluasi seiring meningkatnya kecanggihan model AI.
Sebagai perusahaan pertama yang mengungkapkan adanya peretasan akhir bulan lalu, OpenAI mengaku menugaskan model-model AI yang terlibat untuk melakukan eksploitasi tingkat lanjut menggunakan jalur serangan kompleks guna menguji kemampuan sibernya, tapi teknologi tersebut melangkah lebih jauh.
Model itu rupanya memutuskan sendiri untuk menargetkan Hugging Face, sebuah pusat pengembangan dan pasar AI ternama, guna memperoleh informasi yang dibutuhkannya untuk menyelesaikan tugas.
Sumber; detik.com
