OpenAI mengungkap bahwa perusahaan kini tengah mengembangkan ChatGPT versi terbaru yang ditujukan untuk anak remaja (teen-mode). Versi anyar ini dibuat agar lebih ramah digunakan anak muda, dengan aturan keamanan dan pembatasan ketat.
Keputusan untuk membuat ChatGPT versi remaja friendly hadir sebagai respons atas gugatan sebuah keluarga yang menuduh platform ini berkontribusi atas kematian putra remaja mereka, Adam Raine, yang bunuh diri pada April 2025.
Dalam gugatan tersebut, OpenAI, selaku induk perusahaan diminta untuk bertanggung jawab karena sudah membantu korban menulis draft surat bunuh diri, menyarankan metode terbaik, mengabaikan upaya preventif hingga mencegahnya bercerita ke orang lain terkait apa yang dia alami.
Menurut CEO OpenAI sendiri, Sam Altman, seorang anak di kelompok usia ini memang perlu perhatian khusus, seperti memberikan perlindungan lebih saat menggunakan teknologi canggih berbasis kecerdasan buatan (AI) seperti ChatGPT.
“Kami mengutamakan keselamatan daripada privasi dan kebebasan bagi remaja; ini adalah teknologi baru dan canggih, dan kami yakin anak di bawah umur membutuhkan perlindungan signifikan,” tulis Altman dalam sebuah posting blog resmi.
Bawa pengalaman berbeda
Perusahaan chatbot AI buatan Negeri Tirai Bambu itu juga sesumbar mengatakan bahwa, ChatGPT versi remaja friendly nantinya akan memberikan pengalaman yang berbeda dibandingkan versi standarnya.
Hal ini dikarenakan mode remaja friendly dibekali sejumlah fitur dan teknologi keamanan khusus. Salah satunya, yaitu pengguna yang berada di bawah usia 18 tahun tidak akan bisa mengakses versi “standar” karena secara otomatis diarahkan ke ChatGPT mode remaja.
OpenAI menjelaskan, ChatGPT versi remaja friendly nantinya akan dilengkapi teknologi prediksi usia (age-prediction technology). Sesuai namanya, fitur ini berfungsi untuk menebak usia calon pengguna aplikasi ChatGPT.
Yang menarik, kata perusahaan, jika teknologi tersebut merasa kurang yakin dengan hasil prediksinya, maka secara otomatis sistem akan menempatkan pengguna ke dalam ChatGPT kategori usia di bawah 18 tahun.
ChatGPT versi remaja friendly dan fitur keamanan baru ChatGPT versi remaja friendly hadir dengan membawa sederet fitur utama yang berkaitan dengan keamanan dan mental health remaja. Ketiga fitur tersebut yaitu, content filters, crisis response, dan parental controls.
Fitur pertama yaitu content filters yang diklaim punya sistem penyaringan yang lebih ketat. ChatGPT tidak akan menampilkan percakapan bernada menggoda maupun pembahasan terkait bunuh diri, meskipun hanya dalam konteks fiksi atau penulisan kreatif.
Lalu untuk fitur kedua, yaitu sistem respon krisis (crisis response). Secara teknis, fitur ini dirancang agar bisa mendeteksi perlakukan atau keinginan negatif pengguna remaja seperti bunuh diri (suicide).
Nantinya, jika si anak terdeteksi menulis hal-hal buruk, maka sistem diklaim akan langsung mengirimkan peringatan ke orang tua. Dalam kondisi darurat, OpenAI bahkan disebut mampu menghubungi pihak berwenang resmi.
Lebih lanjut, yaitu ada fitur ketiga (parental controls). Pada fitur ini, orang tua bisa menautkan (linked) akun resmi mereka, hingga membuat aturan khusus soal bagaimana ChatGPT merespons.
Parental controls juga memanfaatkan blackout hours dengan tujuan membuat aplikasi ChatGPT tidak bisa diakses anak di jam-jam tertentu. Misalnya pada saat malam hari, atau saat di sekolah dan belajar di rumah.
Adapun langkah pembuatan versi remaja friendly di ChatGPT sekilas mengingatkan pada keputusan Google saat memperkenalkan YouTube Kids dulu.
Saat itu, Google menghadirkan aplikasi terpisah setelah mendapat kritik keras dan tekanan regulasi terkait konten-konten yang bisa diakses anak di bawah umur.
OpenAI menyebut, ChatGPT versi remaja friendly akan digulirkan secara bertahap sebelum akhir tahun 2025, sebagaimana dihimpun KompasTekno dari Cnet, Kamis (18/9/2025).
Sumber: kompas.com
