Jakarta – Model kecerdasan buatan (AI) milik Anthropic, perusahaan pengembang chatbot Claude, diketahui mengirim laporan palsu mengenai kasus pembunuhan yang belum terpecahkan kepada kepolisian Philadelphia, Amerika Serikat.
Laporan tersebut dikirim pada 18 Juli 2026 ketika Anthropic sedang melakukan pengujian otomatis terhadap model AI Claude Haiku 4.5.
Dilansir dari Reuters dan TechCrunch, Sabtu (10/10/2026), AI tersebut mengakses situs Philadelphia Police Department dan mengisi formulir untuk memberikan informasi terkait kasus pembunuhan. Namun, informasi yang disampaikan ternyata tidak benar.
Kepolisian Philadelphia mengonfirmasi telah menerima laporan tersebut. Namun, laporan itu terdeteksi sebagai spam sehingga tidak ditindaklanjuti oleh penyidik.
Anthropic baru mengetahui kejadian tersebut pada 28 September 2026, lebih dari dua bulan setelah laporan palsu dikirim. Perusahaan kemudian memberitahukan insiden tersebut kepada kepolisian Philadelphia pada 7 Oktober.
Pihak kepolisian mempertanyakan keterlambatan pemberitahuan dari Anthropic, mengingat laporan palsu tersebut berkaitan dengan penyelidikan kasus pembunuhan.
Anthropic Perketat Pengujian AI
Anthropic menjelaskan bahwa insiden terjadi ketika perusahaan sedang menguji kemampuan model AI untuk menjalankan tugas secara otomatis melalui internet.
Dalam pengujian tersebut, AI memiliki kemampuan membuka situs web, mencari informasi, dan berinteraksi dengan layanan daring, termasuk mengisi formulir.
Perusahaan menyatakan pengiriman laporan palsu itu bukan tindakan yang diharapkan dari model AI.
Setelah menemukan kejadian tersebut, Anthropic menghentikan proses pengujian terkait dan menambahkan mekanisme pengamanan untuk mencegah kejadian serupa.
Insiden ini melibatkan teknologi yang dikenal sebagai AI agent, yakni sistem kecerdasan buatan yang dapat menjalankan sejumlah tindakan melalui perangkat lunak atau situs web.
Berbeda dari chatbot yang hanya menghasilkan respons berupa teks, AI agent dapat melakukan tindakan seperti membuka halaman internet dan mengirimkan informasi melalui formulir daring.
Hingga laporan tersebut dipublikasikan, tidak ada indikasi bahwa informasi palsu yang dikirim AI Anthropic telah memengaruhi penyelidikan kepolisian Philadelphia.
Sumber: detik.com
