Anthropic, Google, dan OpenAI dilaporkan telah membahas pembentukan badan standar industri kecerdasan buatan (AI) untuk mengatur pengujian dan penerapan model-model AI canggih.
Pembicaraan itu berlangsung sebelum rangkaian peristiwa dalam sepekan terakhir, termasuk pengunduran diri mantan peneliti Anthropic yang menilai perusahaan-perusahaan AI terkemuka tidak bertindak secara bertanggung jawab.
Diskusi tersebut juga terjadi sebelum CEO Anthropic Dario Amodei mengusulkan keberadaan pengawas pihak ketiga di perusahaan-perusahaan AI.
Menurut sumber yang mengetahui pembicaraan tersebut, gagasan pembentukan badan standar itu dipicu esai pendiri Google DeepMind Demis Hassabis pada Juli.
Hassabis mengusulkan sebuah badan standar yang dipimpin Amerika Serikat (AS) dan mencontoh model Financial Industry Regulatory Authority atau FINRA.
Dalam usulannya, badan tersebut bertugas menguji model AI canggih sebelum dirilis atau digunakan secara luas.
Hassabis menginginkan badan itu berbentuk kemitraan publik-swasta yang diawasi pemerintah, tetapi dibiayai industri.
Lembaga tersebut juga diusulkan diisi pakar teknis independen serta perwakilan komunitas open source.
Pembicaraan mengenai badan standar itu disebut masih berlangsung. Salah satu sumber mengatakan diskusi akan terus berjalan dengan atau tanpa keterlibatan pemerintahan Presiden AS Donald Trump.
Pada Juli, tak lama setelah Hassabis mempublikasikan gagasannya, Bloomberg melaporkan Menteri Keuangan AS Scott Bessent juga mempertimbangkan lembaga regulator AI independen dengan model mirip FINRA.
Namun, tidak semua pemimpin teknologi mendukung gagasan tersebut.
CEO Meta Mark Zuckerberg dilaporkan telah menyarankan Trump untuk tidak mendukung rencana itu dalam percakapan telepon pada musim panas ini.
Perwakilan Google, OpenAI, dan Anthropic menolak berkomentar atau tidak merespons permintaan komentar.
Saat ini masih sedikit standar industri atau regulasi yang mengatur bagaimana model AI diuji.
Kekhawatiran terhadap keselamatan model dan proses pengujiannya meningkat setelah sejumlah insiden pada musim panas ini ketika agen AI bertindak di luar kendali selama pengujian.
Dalam kasus paling serius, agen OpenAI keluar dari lingkungan pengujiannya dan meretas sistem perusahaan lain untuk berbuat curang dalam sebuah tes keamanan siber.
Gedung Putih saat ini memiliki mekanisme yang memungkinkan perusahaan AI secara sukarela menyerahkan model terbaru mereka untuk ditinjau pemerintah hingga 30 hari sebelum dirilis ke publik.
Namun, persyaratan kelayakan model maupun proses peninjauan itu belum dipublikasikan.
Seorang pejabat Gedung Putih pada akhir bulan lalu mengatakan pemerintah masih bekerja bersama para pemangku kepentingan industri untuk menerapkan kerangka tersebut.
Perusahaan-perusahaan AI juga menyatakan ingin memiliki standar yang lebih baik.
“Saya percaya standar keselamatan bersama dan koordinasi internasional dalam pengembangan AI lebih lanjut perlu menjadi prioritas sekarang,” kata Kepala Ilmuwan OpenAI Jakub Pachocki dalam sebuah keterangan awal bulan ini, dikutip dari CNN.
Ketika ditanya soal perkembangan pembentukan badan standar industri, Pachocki mengatakan OpenAI telah berbicara dengan sejumlah organisasi eksternal mengenai kemungkinan standar konkret yang dapat diterapkan.
Ia mengatakan perkembangan lebih lanjut akan dibagikan dalam beberapa bulan mendatang.
CEO OpenAI Sam Altman juga mengatakan perusahaannya menantikan kolaborasi dengan perusahaan lain di industri untuk merumuskan standar terbaik.
Namun, belum ada kesepakatan soal bentuk standar tersebut.
Ketua Parlemen AS Mike Johnson mengatakan perusahaan-perusahaan AI yang saling bersaing itu masih belum memiliki konsensus mengenai aturan dan pembatasan yang seharusnya diterapkan.
Menurut Johnson, perusahaan AI dan pemerintah perlu segera duduk bersama untuk menyusun standar tersebut.
“Ini harus menjadi kemitraan dengan industri itu sendiri, dengan perusahaan-perusahaan yang mengembangkan teknologi ini, serta dengan pembuat kebijakan dan legislator,” kata Johnson.
Sumber: cnnindonesia.com
