Salah satu pendiri perusahaan AI Anthropic, Jack Clark, menyerukan perlunya kemampuan untuk memperlambat laju perkembangan kecerdasan buatan (AI). Dia memperingatkan bahwa teknologi ini mendekati titik di mana ia dapat berkembang tanpa campur tangan manusia.
“Anda tentu menginginkan opsi untuk bisa melepaskan kaki dari pedal gas dan menginjak pedal rem. Saat ini industri AI ibaratnya hanya memiliki pedal gas, tanpa pedal rem,” kata Clark yang dikutip dari Detik.
Ia menekankan bahwa masyarakat, melalui kebijakan pemerintah, harus tetap memegang kendali atas sistem AI, yang ke depannya akan menjadi semakin kuat dan berdampak lebih luas.
“Dunia perlu merenungkan hal ini dan pada akhirnya kita harus menyusun sejumlah regulasi baru yang membuat kita merasa yakin dan aman dengan sistem-sistem ini,” ujarnya.
Saat ini, chatbot populer Anthropic, Claude, beroperasi menggunakan kode yang 80%-nya ditulis sendiri oleh sistem tersebut. Menurut Clark, mencapai angka 100% sangat mungkin terjadi dalam kurun waktu dua tahun dan hal itu akan membawa implikasi sangat besar.
Clark tidak menjabarkan bagaimana “pedal rem” untuk AI ini dapat diciptakan, namun ia menarik persamaan antara AI dengan ledakan industri minyak beserta para konglomeratnya.
“Respons masyarakat kala itu adalah merumuskan kebijakan dan kerangka regulasi masuk akal, memberi masyarakat keyakinan akan minyak beserta manfaat yang bisa diberikan ke dunia. Ini berarti Anda tidak perlu lagi mengkhawatirkan karakter dari orang-orang yang memimpin perusahaan tersebut. Itulah arah yang jelas akan kita tuju saat ini,” sebutnya.
Meskipun demikian, minggu ini Anthropic menyambut baik perintah eksekutif tentang AI dari Presiden AS Donald Trump yang tidak mewajibkan perusahaan AI tunduk pada pengujian keamanan oleh pemerintah.
Anthropic berkembang begitu pesat sejak didirikan lima tahun lalu, hingga kini bersiap debut di pasar saham. Pencatatan saham ini diproyeksi menjadi salah satu yang pertama oleh perusahaan AI pendatang baru, sekaligus jadi salah satu pencatatan saham paling berharga dalam sejarah. Valuasi Anthropic diperkirakan hampir USD 1 triliun.
Clark mengatakan bahwa motivasi Anthropic untuk membahas peningkatan kapabilitas teknologi AI secara publik bukanlah untuk memoles reputasinya di mata pelanggan berbayar. Ia hanya ingin memberi tahu dunia mengenai apa yang mereka lihat di dalam perusahaan-perusahaan ini dengan teknologi yang tidak biasa tersebut.
Sejak didirikan Dario Amodei, Clark, dan beberapa eksekutif lainnya, Anthropic memang vokal terhadap risiko AI. Perusahaan ini bahkan terlibat perselisihan dengan Dephan AS atas kekhawatiran perangkat AI-nya digunakan untuk pengawasan massal dan peperangan otonom.
“Saya khawatir akan nasib anak-anak saya jika kita sebagai masyarakat tidak melakukan pembicaraan serius mengenai makna dari implikasi kemajuan AI yang terus berlanjut. Ada potensi manfaat yang besar. Namun ada pula risiko-risikonya,” ungkap Clark.
Salah satu risikonya adalah disrupsi perekonomian. Perusahaan-perusahaan teknologi besar telah melakukan PHK massal, dengan sering kali menjadikan peningkatan kemampuan AI untuk melakukan pekerjaan engineer sebagai alasannya.
Clark menilai orang-orang kreatif dan memiliki ide-ide justru mungkin unggul dibanding AI. “Masih ada pertanyaan yang belum terjawab mengenai apakah sistem AI bisa benar-benar kreatif belum ada bukti nyata untuk itu saat ini,” tambahnya.
Sumber: detik.com
