Tom Siegel, mantan kepala tim Trust and Safety Google, menilai industri teknologi berisiko mengulangi kesalahan yang terjadi di era media sosial, kali ini dengan potensi dampak negatif AI yang lebih besar terhadap pengguna di bawah umur. Dia menyoroti bahwa penggunaan artificial intelligence (AI) berisiko bisa lebih membahayakan anak daripada media sosial.
Dilansir Reuters, Siegel mengatakan perusahaan teknologi tidak bisa hanya mengandalkan upaya internal sendiri untuk memastikan AI aman bagi anak-anak. Menurutnya, pengawasan dari pihak luar dan standar keselamatan yang lebih jelas dibutuhkan karena teknologi AI berkembang lebih cepat daripada regulasinya.
“Kita berada dalam situasi yang sangat buruk terkait apa yang dilakukan AI terhadap anak-anak.”
– Tom Siegel, mantan kepala tim Trust and Safety Google –
Ia menilai anggapan bahwa industri AI akan mampu menyelesaikan persoalan tanpa bantuan eksternal merupakan hal yang tidak realistis. Kekhawatiran Siegel muncul ketika jutaan anak dan remaja sudah menggunakan chatbot AI dalam keseharian, sementara perusahaan teknologi terus menambahkan kemampuan baru ke layanannya.
Khawatir AI Mengulangi Kesalahan Media Sosial
Siegel melihat situasi saat ini punya kemiripan dengan perkembangan media sosial. Platform media sosial kini menghadapi tuntutan hukum terkait dugaan dampak negatif terhadap pengguna muda. Beberapa negara juga mulai memperketat aturan untuk membatasi akses anak ke platform digital.
Sementara itu, perkembangan AI berjalan jauh lebih cepat. Regulasi dinilai belum sepenuhnya mampu mengejar kemampuan chatbot yang terus bertambah. Sebelumnya, dokumen kebijakan internal Meta menyebut chatbot perusahaan dapat terlibat dalam percakapan romantis atau sensual dengan anak. Laporan tersebut kemudian memicu penyelidikan di Kongres Amerika Serikat.
Menurut Siegel, situasi ini menunjukkan pentingnya membangun sistem keselamatan sebelum teknologi AI semakin banyak digunakan anak-anak. Kekhawatiran serupa juga muncul di kalangan sejumlah peneliti dan orang dalam industri teknologi. Mereka menilai AI berpotensi menimbulkan risiko yang lebih dalam terhadap anak dibandingkan media sosial karena chatbot dapat berinteraksi secara langsung dan terus-menerus dengan penggunanya.
Siegel Bergabung dengan Youth AI Safety Institute
Siegel kini mengambil peran baru untuk menangani persoalan tersebut. Pada Selasa (22/9), ia mengumumkan bergabung dengan Common Sense Media, organisasi nirlaba yang fokus pada keselamatan anak di dunia digital.
Common Sense Media mendirikan Youth AI Safety Institute pada Mei 2026. Lembaga ini secara khusus meneliti penggunaan AI oleh anak-anak dan mengembangkan standar untuk menilai keamanan produk AI. Siegel menjadi direktur eksekutif pertamanya.
Anthropic dan OpenAI Foundation, organisasi nirlaba yang mengendalikan OpenAI, termasuk pihak yang mendukung lembaga ini. Di posisi barunya, Siegel berencana mengembangkan standar yang dapat digunakan untuk meminta pertanggungjawaban perusahaan AI. Ia juga berharap proses ini melibatkan perusahaan teknologi dan organisasi pihak ketiga.
Youth AI Safety Institute sendiri dirancang untuk melakukan pengujian independen terhadap produk AI, mempublikasikan hasilnya, serta mengembangkan standar keselamatan yang dapat digunakan untuk menilai teknologi AI bagi anak.
Siegel memiliki pengalaman panjang di bidang keamanan teknologi. Ia bekerja di Google sejak 2004 hingga 2019 dan pernah menjabat sebagai wakil presiden Trust and Safety.
Ia kemudian meninggalkan Google karena memiliki pandangan bahwa kemampuan industri teknologi dalam menciptakan ruang online yang aman mulai mencapai titik stagnasi. Setelah itu, Siegel ikut mendirikan TrustLab, perusahaan rintisan yang mengembangkan perangkat untuk membantu perusahaan mendeteksi ancaman keamanan dan keselamatan di platform digital.
Awal September 2026, Siegel mundur dari posisi CEO TrustLab untuk mengambil peran barunya di Youth AI Safety Institute. Menurut Siegel, sejumlah perusahaan AI saat ini sudah menyediakan berbagai fitur untuk anak-anak meski belum memiliki sistem pengamanan yang dianggapnya memadai.Siegel mengatakan risiko penggunaan AI oleh anak dapat mencakup sejumlah skenario serius, mulai dari bunuh diri dan psikosis, hingga apa yang disebut cognitive offloading. Istilah tersebut merujuk pada kondisi ketika seseorang terlalu mengandalkan AI untuk menjawab pertanyaan atau menyelesaikan persoalan sehingga proses berpikir kritisnya berkurang.
Kekhawatiran mengenai dampak penggunaan AI terhadap proses belajar juga mulai muncul dalam penelitian Youth AI Safety Institute. Survei terhadap 1.017 remaja di AS menemukan 70 persen responden menggunakan AI untuk membantu pekerjaan sekolah. Di antara mereka yang menggunakan AI, 63 persen menggunakannya untuk mendapatkan jawaban.
Siegel mengatakan perusahaan AI sebenarnya dapat mengambil sejumlah langkah langsung untuk mengurangi risiko tersebut. Ia menyarankan Anthropic dan OpenAI memperkuat sistem verifikasi usia agar anak di bawah umur tidak dapat mengakses chatbot yang tidak dirancang untuk mereka. Sementara untuk Google, ia mengatakan perusahaan dapat menyediakan pilihan untuk menonaktifkan AI Overviews dan AI Mode di mesin pencarinya.Menurut Siegel, Google sudah memiliki mekanisme serupa untuk menyaring konten seksual eksplisit sehingga opsi untuk mematikan fitur AI seharusnya dapat diterapkan.
Ia mengakui langkah-langkah tersebut berpotensi memengaruhi penggunaan produk atau pendapatan perusahaan dalam jangka pendek. Namun, menurutnya perusahaan yang tidak segera memperkuat perlindungan anak juga menghadapi risiko tuntutan hukum dan regulasi yang dampaknya terhadap bisnis bisa lebih besar.
Google dan OpenAI Beri Tanggapan
Google membantah bahwa perusahaan tidak menyediakan kontrol bagi orang tua. Kepada Reuters, juru bicara Google mengatakan orang tua dapat sepenuhnya mematikan akses anak ke mesin pencari.
Google juga menyebut fitur AI di Search berguna bagi anak dan remaja untuk belajar, mengeksplorasi informasi, serta memahami dunia di sekitar mereka. Sementara itu, OpenAI mengatakan perusahaan menggunakan kombinasi sinyal akun dan perilaku, selain usia yang dilaporkan pengguna, untuk mengidentifikasi pengguna yang masih di bawah umur.
“Tidak ada satu metode penentuan usia yang sempurna,” kata juru bicara OpenAI.
OpenAI mengaku bahwa mereka terus menguji dan meningkatkan sistem, termasuk menghadapi upaya pengguna untuk melewati perlindungan yang tersedia. Adapun Anthropic, sampai saat ini belum memberikan tanggapan.Di Common Sense Media, Siegel ingin membawa pendekatan pengujian independen ke industri AI. Ia membayangkan adanya standar yang dapat mengukur tingkat risiko produk AI yang tersedia untuk publik, mirip dengan pengujian keselamatan pada mobil.Menurut dia, lembaga independen dapat menguji berbagai sistem AI kemudian mempublikasikan hasilnya sehingga publik memiliki informasi yang lebih jelas mengenai tingkat keamanan masing-masing produk.Keberhasilan pendekatan tersebut akan bergantung pada kesediaan perusahaan AI untuk bekerja sama. Siegel mengakui belum ada kepastian bahwa seluruh perusahaan akan bersedia terlibat.
Namun, ia menilai peluang kerja sama tersebut cukup besar untuk membuatnya mengambil posisi sebagai direktur eksekutif Youth AI Safety Institute.
Langkah tersebut datang ketika penggunaan AI di kalangan anak dan remaja terus berkembang. Data Common Sense Media pada 2026 menunjukkan 86 persen anak usia 9-17 tahun yang disurvei telah menggunakan AI, sementara hampir seperempatnya menggunakannya setiap hari. Lebih dari empat dari 10 anak mengatakan orang tua atau wali mereka belum pernah membicarakan keamanan AI bersama mereka.Bagi Siegel, persoalannya bukan lagi apakah anak-anak akan menggunakan AI, melainkan bagaimana memastikan teknologi tersebut berkembang dengan perlindungan yang memadai sebelum risikonya semakin sulit dikendalikan.
Sumber: kumparan.com
