CEO Anthropic, Dario Amodei, mengatakan dilema terberat mengenai usulannya untuk memperlambat kemajuan kecerdasan buatan (AI) adalah apa yang akan terjadi jika negara-negara rival, khususnya China, tidak melakukan hal yang sama. Artinya, AS kemungkinan bisa kalah di ranah AI dari China.
“Hal yang lebih berjangka panjang adalah bekerja sama untuk menetapkan batas kecepatan pada laju kemajuan AI. Menurut saya itu akan sangat sulit karena insentif untuk unggul dan keuntungan militer yang Anda dapatkan darinya begitu besar. Sejujurnya, saya tak tahu apakah itu mungkin, tapi kita harus mencoba,” katanya.
Amodei menerbitkan esai yang mendesak perusahaan-perusahaan AI memperlambat pengembangan model-model paling canggih. Langkah ini diambil menyusul peringatan keras dari para peneliti industri mengenai potensi teknologi tersebut yang makin besar untuk menyebabkan bencana yang mematikan.
Seorang peneliti Anthropic, Jacob Coxon, mengumumkan bahwa ia mengundurkan diri dari pekerjaannya karena khawatir bahwa perusahaannya beserta rival utamanya, OpenAI, sedang mempertaruhkan nyawa.
Dalam beberapa bulan terakhir, model-model AI dari startup China mendapatkan momentum dan mulai menyaingi produk-produk unggulan dari perusahaan Amerika seperti OpenAI dan Anthropic, memicu kekhawatiran dari para anggota parlemen dan pakar di Silicon Valley.
Presiden China Xi Jinping pada hari Minggu menyerukan kerangka tata kelola AI global berbasis konsensu” pada KTT blok BRICS di India dan mengatakan bahwa China akan membantu mendirikan komunitas open-source AI BRICS.
Dikutip detikINET dari CNBC, Presiden Donald Trump dijadwalkan bertemu dengan Xi di Gedung Putih pada 24 September, dan kedua pemimpin tersebut diperkirakan akan membahas AI.
Esai Amodei muncul pada momen krusial industri AI, yang saat ini tengah menghadapi kecaman publik atas data center serta meningkatnya seruan regulasi. Anthropic dan OpenAI juga tengah bersiap-siap IPO, meskipun kedua perusahaan tersebut belum menetapkan tanggal resmi untuk debutnya.
Hubungan Altman dengan Amodei yang membelot dari OpenAI untuk mendirikan Anthropic, tegang dalam beberapa tahun terakhir. Namun, Altman menyatakan dukungannya terhadap esai Amodei, dengan menulis bahwa ia setuju akan perlunya “mengatur laju teknologi terdepan.
Beberapa pemimpin industri lainnya, termasuk Demis Hassabis, Kepala Google DeepMind, dan Elon Musk, CEO Tesla dan SpaceX, juga menyambut baik usulan Amodei.
“Esai Dario mengarah ke jalan yang tepat untuk masa depan. Detailnya perlu dibahas lebih lanjut, tapi arahnya sudah benar untuk menghadapi momen kritis ini,” tulis Hassabis di X.
Dalam esainya, Amodei mengusulkan rencana tiga langkah untuk memperlambat laju pengembangan tanpa mengorbankan keuntungan komersial atau posisi Amerika Serikat yang memimpin dalam bidang AI.
Amodei mengatakan Anthropic berkomitmen pada langkah pertama dari rencana tersebut, yakni memberikan akses setingkat karyawan kepada evaluator pihak ketiga ke dalam perusahaan untuk memverifikasi praktik keamanan dan melaporkan insiden.
Langkah kedua mendorong perusahaan-perusahaan AI terkemuka di negara-negara demokratis berkoordinasi dan menetapkan standar keamanan bersama. Kemudian langkah ketiga adalah menyerukan koordinasi antara pemerintah yang demokratis dengan pemerintah otoriter.
“Dario benar bahwa harus ada pengawasan. Tinjauan sejawat (peer review) terhadap AI oleh para pesaing adalah cara yang tepat untuk memulai ini,” cetus Elon Musk.
Sumber: detik.com
