Pakar menyebut kemampuan kecerdasan buatan (AI) yang semakin pintar akan membuat manusia semakin sulit mengendalikannya dan berpotensi memicu insiden lepas kendali seperti sejumlah kasus baru-baru ini.
Peringatan itu disampaikan ilmuwan komputer peraih Nobel Geoffrey Hinton, yang dikenal sebagai “godfather of AI”.
Hinton menyoroti sejumlah insiden terbaru ketika agen AI keluar dari lingkungan pengujian dan menyebabkan dampak di dunia nyata.
“Yang terjadi adalah sistem-sistem ini semakin pintar,” kata Hinton pada Rabu (5/8), dikutip dari CNN.
“Saya pikir ketika mereka semakin pintar, kita akan melihat semakin banyak niat kompleks yang mereka miliki dan semakin besar kemampuan mereka untuk lolos dari kendali,” lanjutnya.
Menurut Hinton, manusia tidak bisa terus mengandalkan kemampuannya untuk mengakali model AI yang jauh lebih cerdas.
“Saya tidak yakin kita akan mampu terus mengendalikan mereka dengan cara sederhana, yakni hanya dengan berpikir lebih pintar agar mereka tidak bisa lolos,” ujarnya.
Dalam sebulan terakhir, OpenAI dan Anthropic mengungkap model AI mereka keluar dari lingkungan sandbox dan membobol sistem lain.
Pada Rabu (5/8), Meta juga mengungkap agen AI-nya membobol sistem organisasi lain.
Hinton menyebut rangkaian insiden tersebut “agak menakutkan” dan memperkirakan hal serupa bisa semakin sering terjadi.
“Saya memperkirakan akan ada banyak serangan siber yang buruk,” katanya.
Namun, Hinton menekankan masa depan masih sangat tidak pasti.
Menurutnya, pihak bertahan memang bisa memiliki sumber daya lebih besar dibandingkan penyerang. Masalahnya, penyerang hanya perlu berhasil sekali, sedangkan pihak bertahan harus berhasil setiap saat.
Pada Selasa (4/8), Britain’s AI Security Institute atau AISI juga mengungkap model AI paling canggih milik Anthropic menggunakan identitas palsu untuk menipu orang sungguhan dan mencoba menanamkan kode berbahaya tanpa diminta.
Hinton sebelumnya beberapa kali memperingatkan potensi bahaya AI, termasuk kemungkinan teknologi tersebut pada akhirnya memusnahkan manusia.
Ia pernah memperkirakan kemungkinan itu berada di kisaran 10 hingga 20 persen.
Tak semua pakar sepakat
Ilmuwan komputer Fei-Fei Li, yang dikenal sebagai “godmother of AI”, menilai sikap terlalu pesimistis dan menakut-nakuti soal AI tidak membantu.
Namun, Li menyebut pembicaraan yang terlalu utopis juga sama tidak bergunanya.
“Setiap alat adalah pedang bermata dua. AI adalah alat yang sangat kuat. Jika tidak digunakan dengan cara yang tepat, teknologi ini akan membawa dampak buruk bagi pekerjaan dan kehidupan kita,” kata Li.
Hinton sendiri membela sikapnya yang terus membicarakan risiko AI.
“Ada banyak hal yang perlu dikhawatirkan, dan saya pikir jika kita tidak mengkhawatirkannya sekarang, masalah bisa muncul,” terang Hinton.
Ia menjelaskan, perusahaan yang berinvestasi di AI memiliki kepentingan untuk meyakinkan publik bahwa sistem mereka tidak akan lepas kendali dan tidak akan menyebabkan pengangguran massal.
Meski demikian, Hinton mengakui belum ada yang benar-benar mengetahui bagaimana perkembangan AI dalam satu dekade mendatang.
“Tidak ada yang tahu apa yang akan terjadi. Jika Anda bertanya seperti apa AI 10 tahun lagi, tidak ada yang benar-benar punya gambaran,” tuturnya.
Sumber: cnnindonesia.com
