Gemini Google Dinilai Kurang Aman untuk Anak, Google Pastikan Tambah Proteksi

MEDAN– Organisasi nirlaba yang berfokus pada keselamatan anak dalam penggunaan teknologi dan media, Common Sense Media, merilis laporan terbaru yang menyebutkan produk kecerdasan buatan (AI) Gemini milik Google masih berisiko tinggi bagi anak dan remaja.

Laporan yang dilansir oleh TechCrunch, Minggu (7/9), itu menyoroti bagaimana Gemini versi "Under 13" dan "Teen Experience" pada dasarnya merupakan adaptasi dari versi dewasa dengan tambahan filter keamanan, bukan sistem yang secara khusus dirancang untuk kebutuhan dan perkembangan anak.

"Gemini memang sudah tepat dalam beberapa hal mendasar, tetapi keliru pada detailnya," ujar Robbie Torney, Senior Director AI Programs di Common Sense Media.

"Sebuah platform AI untuk anak seharusnya disesuaikan dengan kondisi mereka, bukan menggunakan pendekatan seragam untuk anak-anak di berbagai tahap perkembangan."

Konten Tidak Pantas Masih Bisa Lolos

Meski Gemini telah diprogram untuk menyatakan diri sebagai sistem komputer dan bukan teman manusia, Common Sense menemukan masih adanya kemungkinan sistem ini membagikan informasi tidak pantas, seperti topik seks, narkoba, alkohol, hingga saran kesehatan mental yang berisiko.

Kekhawatiran ini muncul seiring laporan bahwa AI diduga terlibat dalam sejumlah kasus bunuh diri remaja dalam beberapa bulan terakhir.

Situasi semakin menjadi sorotan setelah bocoran internal mengungkap bahwa Apple tengah mempertimbangkan Gemini untuk ditanamkan pada Siri versi terbaru yang akan diluncurkan tahun depan.

Jika kabar ini benar, maka jutaan pengguna remaja bisa terpapar risiko yang sama jika tidak ada penambahan pengaman ekstra dari pihak Apple.

Label "High Risk" untuk Gemini

Dalam laporan penilaiannya, Common Sense memberi label "High Risk" untuk Gemini dalam dua kategori: pengguna di bawah usia 13 tahun, dan remaja.