Raksasa AI Amerika Serikat, menuduh tiga perusahaan AI asal China terlibat dalam kampanye terkoordinasi untuk mengekstraksi informasi dari modelnya. Ini menjadikan Anthropic sebagai perusahaan teknologi Amerika terbaru yang melayangkan klaim semacam itu setelah OpenAI melontrakan keluhan serupa.
Menurut pernyataan dari Anthropic, DeepSeek, Moonshot AI, dan MiniMax, membanjiri Claude dengan volume besar prompt yang dibuat khusus untuk melatih model-model milik mereka.
Melalui distilasi, model AI yang lebih kecil mampu meniru kinerja model lebih besar dan terlatih, dengan cara mengekstraksi pengetahuan dari model yang lebih canggih tersebut. Teknik ini sangat berguna bagi tim kecil dengan sumber daya terbatas.
Meskipun pembatasan layanan Anthropic mencegah akses komersial ke Claude di China, ketiga perusahaan tersebut diduga menggunakan layanan proxy komersial untuk mengakali batasan, sehingga memungkinkan akses ke jaringan yang menjalankan puluhan ribu akun Claude secara bersamaan.
“Begitu akses diamankan, laboratorium-laboratorium tersebut menghasilkan volume besar prompt yang dirancang dengan cermat untuk mengekstraksi kemampuan spesifik dari model kami,” kata Anthropic yang dikutip dari Detik.
Respons Claude terhadap prompt ini kemudian dikumpulkan massal, baik untuk pelatihan atau untuk menjalankan proses yang dikenal sebagai pembelajaran penguatan, proses intensif data di mana model AI belajar mengambil keputusan melalui trial and error tanpa panduan manusia.
Anthropic memperkirakan ketiga perusahaan China tersebut secara kolektif mampu menghasilkan lebih dari 16 juta pertukaran pesan dengan Claude dari sekitar 24.000 akun yang dibuat secara curang. Dari ketiga perusahaan, Anthropic menemukan bahwa MiniMax adalah yang paling banyak menyedot lalu lintas data, dengan lebih dari 13 juta pertukaran pesan.
Anthropic bergabung dengan perusahaan AS lain yang makin lantang menyuarakan kekhawatiran atas distilasi oleh perusahaan China. Awal bulan ini, OpenAI mengajukan surat terbuka pada legislator AS terkait aktivitas yang mengindikasikan upaya DeepSeek mendistilasi model terbaik OpenAI dan laboratorium garis depan AS lainnya.
Perusahaan tersebut telah menandai bukti distilasi oleh perusahaan China sejak awal tahun lalu, seiring peluncuran model DeepSeek pertama China yang menurut pengguna sangat mirip ChatGPT.
Namun, distilasi bukanlah praktik yang asing di industri AI. Anthropic mengakui perusahaan AI secara rutin mendistilasi model mereka sendiri untuk membuat versi yang lebih kecil dan lebih murah.
Akan tetapi, perusahaan tersebut mengkhawatirkan keuntungan kompetitif yang diperoleh perusahaan saingan, karena praktik ini dapat digunakan untuk memperoleh kemampuan canggih dari laboratorium lain dalam waktu jauh lebih singkat dan biaya jauh lebih murah, dibandingkan mengembangkannya sendiri.
Anthropic dan OpenAI membingkai distilasi oleh perusahaan-perusahaan China ini sebagai ancaman keamanan nasional bagi AS. Masih belum jelas seberapa besar pernyataan ini mencerminkan masalah keamanan murni atau sekadar keinginan mempertahankan keunggulan kompetitif perusahaan AI Amerika.
Pastinya, laporan semacam itu menambah kekhawatiran pemerintahan AS yang tampak semakin cemas atas kemajuan pesat China dalam industri AI, terutama karena keuntungan China dilaporkan muncul dari penggunaan sistem yang dikembangkan Amerika.
Sumber: detik.com
