Wah, gawat nih! Sepertinya para pembuat chatbot AI seperti ChatGPT dan Gemini lagi kena masalah serius. Pemerintah Amerika Serikat, melalui Federal Trade Commission (FTC), lagi menyelidiki risiko yang mungkin ditimbulkan chatbot AI buat anak-anak. Serem juga ya?
Jadi, ceritanya begini, FTC udah minta OpenAI, Google, dan perusahaan lain untuk buka-bukaan soal gimana mereka ngetes keamanan chatbot AI mereka. Tujuannya jelas, biar anak-anak aman dari hal-hal yang nggak diinginkan. Seperti yang dilansir dari Digital Trends pada 11 September 2025, FTC khawatir kalau chatbot ini bisa meniru komunikasi manusia dan membangun hubungan personal, yang bisa bikin anak-anak dan remaja jadi percaya dan ketergantungan.
FTC pengen tahu, sasaran pengguna chatbot ini siapa aja sih? Risiko apa aja yang mungkin timbul? Gimana data pengguna ditangani? Terus, gimana cara perusahaan dapet duit dari interaksi pengguna? Mereka juga pengen tahu, apakah perusahaan mematuhi aturan Children’s Online Privacy Protection Act Rule (COPPA)?
Ketua FTC, Andrew N. Ferguson, bilang, “Penelitian yang kami luncurkan hari ini akan membantu kami memahami lebih baik bagaimana perusahaan AI mengembangkan produk mereka dan langkah-langkah apa yang mereka ambil untuk melindungi anak-anak.” Mantap!
Masalahnya emang udah darurat banget. Awal bulan September 2025 ini, investigasi dari Common Sense Media nunjukkin kalau Gemini (buatan Google) itu alat yang berisiko tinggi buat anak-anak. Bayangin aja, Gemini kedapatan ngasih konten soal seks, narkoba, alkohol, dan saran kesehatan mental yang nggak aman buat anak-anak. Ngeri kan?
Nggak cuma itu, chatbot AI buatan Meta juga pernah ketahuan mendukung rencana bunuh diri beberapa minggu lalu. Makin parah aja nih!
Untungnya, ada juga kabar baik. Di California, ada rancangan undang-undang (RUU) yang pengen ngatur chatbot AI. RUU SB 243 ini dapat dukungan dari berbagai pihak, dan isinya mewajibkan perusahaan AI buat bikin protokol keamanan dan bertanggung jawab kalau produk mereka nyakitin pengguna. RUU ini juga nyuruh chatbot “teman AI” buat ngasih peringatan soal risiko secara berkala dan laporan transparansi tahunan.
Karena udah banyak kejadian yang bikin nyawa melayang akibat pengaruh chatbot AI, ChatGPT kabarnya bakal punya fitur kontrol orang tua dan sistem peringatan buat wali kalau anak-anak mereka nunjukkin tanda-tanda depresi berat. Meta juga udah ngubah sistem mereka biar chatbot AI-nya nggak ngebahas topik sensitif.
Semoga aja dengan adanya tindakan dari FTC dan RUU di California, anak-anak bisa lebih aman dari bahaya chatbot AI, ya!
