Jangan kaget kalau anak-anak TK atau SD saat ini sudah biasa pegang HP. Bahkan anak SD pun sudah tahu bagaimana cara mengakses ChatGPT untuk membantu mereka mengerjakan PR.
Di satu sisi, orang tua tak bisa melarang anak menggunakan HP. Di sisi lain, Bunda juga harus tetap menyeleksi konten apa saja yang dikonsumsi anak-anak.
Berkaitan dengan penggunaan chatbot AI seperti ChatGPT atau Google Gemini, belum lama ini Common Sense Media, organisasi nonprofit yang fokus pada keamanan anak dalam penggunaan media dan teknologi, merilis laporan bahwa Gemini dikategorikan berisiko tinggi (high risk) bagi anak-anak dan remaja.
Padahal, Google sudah menyiapkan mode khusus “Under 13” dan “Teen Experience” untuk Gemini. Tetapi menurut penilaian Common Sense Media, versi itu bukan dibuat dari nol khusus untuk anak-anak, melainkan hanya modifikasi dari produk dewasa. Seharusnya, Google memberikan panduan dan informasi khusus untuk anak.
Baca juga: Jangan Panik Jika Anak Bertanya soal Demo, Begini Cara Menjelaskannya!
“AI untuk anak seharusnya dirancang sesuai tahap perkembangan mereka, bukan satu produk serbabisa yang hanya diubah sedikit dari versi dewasa,” ujar Robbie Torney, Senior Director of AI Programs di Common Sense Media.
Risiko Kesehatan Mental
Menurut laporan Common Sense, filter Gemini belum cukup detail dalam memberikan batasan bagi anak. Masih ada celah di mana anak bisa terpapar konten yang tidak sesuai, misalnya yang berkaitan dengan seks, obat-obatan terlarang, alkohol, atau bahkan saran yang berisiko mengganggu kesehatan mental.
Saat menjawab pertanyaan-pertanyaan pengguna yang sifatnya curhat, Gemini cukup jelas menyatakan bahwa dirinya adalah komputer, bukan teman manusia. Hal ini dianggap langkah positif, karena chatbot AI yang berpura-pura jadi teman bisa memperparah delusi atau masalah psikologis pada anak yang rentan.
Meski begitu, kelemahan di area lain tetap membuatnya dikategorikan berisiko tinggi.
Kekhawatiran ini sebenarnya tidak hanya untuk Gemini. Banyak tools AI lain juga menyimpan risiko serupa. Contohnya, Character.ai yang pernah dikaitkan dengan kasus bunuh diri remaja. Bahkan OpenAI sedang menghadapi gugatan setelah seorang remaja 16 tahun dilaporkan bunuh diri usai berkonsultasi berbulan-bulan dengan ChatGPT, berhasil menembus sistem pengaman yang ada.
Kasus-kasus seperti ini bikin orang tua dan pendidik semakin waspada, apalagi AI berkembang pesat dan semakin mudah diakses oleh anak-anak.
Oleh karena itu, Common Sense menyarankan agar penggunaan chatbot AI sebaiknya dibatasi sesuai usia:
• Anak di bawah 5 tahun: sebaiknya tidak menggunakan chatbot sama sekali.
• Usia 6–12 tahun: butuh pengawasan ketat dari orang tua.
• Remaja: perlu ada batasan konten yang jelas.
Baca juga: Kapan Harus Imunisasi Campak untuk Mendapat Manfaatnya dalam Jangka Panjang?
Orang tua tidak perlu melarang penggunaan AI sama sekali, tetapi pemakaiannya harus cermat dan tetap diawasi.
Respons dari Google
Dari sisi Google, sebenarnya perusahaan teknologi ini juga selalu menegaskan kebijakan dan perlindungan khusus bagi pengguna di bawah 18 tahun untuk membantu mencegah hasil yang berbahaya.
Google juga melakukan pengujian ketat (red-teaming) yang dilakukan oleh ethical hacker (peretas etis) untuk memastikan sistem, jaringan, dan aplikasinya aman digunakan.
Namun, mereka juga mengakui bahwa beberapa jawaban Gemini terkadang tidak berfungsi sesuai harapan, sehingga mereka menambahkan perlindungan tambahan untuk mengatasi masalah tersebut.
Google mengatakan (seperti disampaikan Common Sense) bahwa mereka memang memiliki perlindungan untuk mencegah Gemini terlibat dalam percakapan yang bisa memberi kesan hubungan nyata.
Selain itu, Google juga menekankan bahwa fitur yang ditekankan dalam laporan mungkin tidak tersedia untuk pengguna di bawah 18 tahun. Tetapi karena Common Sense tidak membagikan detail pertanyaan yang dipakai saat menguji, Google agak kesulitan memastikan letak masalahnya.
Baca juga: 5 Ide Quality Time Seru saat Mencuci Baju Bareng Keluarga
Bagaimana dengan AI yang Lain?
Hm... pada dasarnya sama saja. Untuk membuktikan laporannya mengenai risiko Gemini, Common Sense Media juga menguji beberapa AI lain, yaitu:
Meta AI & Character.ai: dinilai unacceptable (risiko sangat tinggi).
Perplexity: high risk.
ChatGPT: moderate risk.
Claude: minimal risk (karena memang ditujukan untuk 18+).
Jadi menurut mereka, meskipun Google Gemini punya niat baik dengan menghadirkan mode khusus anak dan remaja, implementasinya masih jauh dari kata aman. Risiko paparan konten berbahaya, terutama terkait kesehatan mental, masih cukup besar.
Buat orang tua dan para guru, melarang total penggunaan AI memang tidak mungkin, karena inilah masa depan kita. Yang wajib dilakukan sekarang adalah lebih aktif mendampingi, memberi batasan, dan menjelaskan pada anak apa saja yang aman dan tidak saat berinteraksi dengan AI.
Teknologi bisa jadi tools yang hebat, tetapi tetap harus digunakan dengan bijak.
Sumber: TechCrunch, Mashable