Gemini Google Dinilai Kurang Aman untuk Anak, Google Pastikan Tambah Proteksi

MEDAN– Organisasi nirlaba yang berfokus pada keselamatan anak dalam penggunaan teknologi dan media, Common Sense Media, merilis laporan terbaru yang menyebutkan produk kecerdasan buatan (AI) Gemini milik Google masih berisiko tinggi bagi anak dan remaja.

Laporan yang dilansir oleh TechCrunch, Minggu (7/9), itu menyoroti bagaimana Gemini versi "Under 13" dan "Teen Experience" pada dasarnya merupakan adaptasi dari versi dewasa dengan tambahan filter keamanan, bukan sistem yang secara khusus dirancang untuk kebutuhan dan perkembangan anak.

"Gemini memang sudah tepat dalam beberapa hal mendasar, tetapi keliru pada detailnya," ujar Robbie Torney, Senior Director AI Programs di Common Sense Media.

"Sebuah platform AI untuk anak seharusnya disesuaikan dengan kondisi mereka, bukan menggunakan pendekatan seragam untuk anak-anak di berbagai tahap perkembangan."

Konten Tidak Pantas Masih Bisa Lolos

Meski Gemini telah diprogram untuk menyatakan diri sebagai sistem komputer dan bukan teman manusia, Common Sense menemukan masih adanya kemungkinan sistem ini membagikan informasi tidak pantas, seperti topik seks, narkoba, alkohol, hingga saran kesehatan mental yang berisiko.

Kekhawatiran ini muncul seiring laporan bahwa AI diduga terlibat dalam sejumlah kasus bunuh diri remaja dalam beberapa bulan terakhir.

Situasi semakin menjadi sorotan setelah bocoran internal mengungkap bahwa Apple tengah mempertimbangkan Gemini untuk ditanamkan pada Siri versi terbaru yang akan diluncurkan tahun depan.

Jika kabar ini benar, maka jutaan pengguna remaja bisa terpapar risiko yang sama jika tidak ada penambahan pengaman ekstra dari pihak Apple.

Label "High Risk" untuk Gemini

Dalam laporan penilaiannya, Common Sense memberi label "High Risk" untuk Gemini dalam dua kategori: pengguna di bawah usia 13 tahun, dan remaja.

Organisasi ini menilai Gemini gagal memahami bahwa anak dan remaja memerlukan pendekatan berbeda dibandingkan pengguna dewasa.

Sebagai perbandingan, Common Sense juga menilai platform AI lain. Berikut klasifikasinya:

- Meta AI & Character.AI: Unacceptable

- Perplexity: High Risk

- ChatGPT (OpenAI): Moderate Risk

- Claude (Anthropic): Minimal Risk (khusus pengguna 18 tahun ke atas)

Menanggapi laporan tersebut, Google menyatakan telah menambahkan sejumlah pengamanan dan pembaruan sistem untuk melindungi pengguna anak dan remaja.

"Kami memiliki kebijakan serta perlindungan khusus bagi pengguna di bawah 18 tahun, termasuk pengujian keamanan serta konsultasi dengan pakar eksternal," tulis perwakilan Google dalam pernyataan resminya.

Namun, perusahaan raksasa teknologi ini juga mempertanyakan metode pengujian yang dilakukan oleh Common Sense Media, karena Google tidak diberi informasi lengkap tentang bentuk atau jenis pertanyaan yang diajukan dalam evaluasi.

Google juga menegaskan bahwa sistemGemini tidak dirancang untuk menciptakan hubungan emosional atau persepsi sosial terhadap AI.

Namun mereka mengakui masih ada respons yang tidak sesuai tujuan dan tengah memperbaikinya.

Laporan ini menjadi pengingat penting bagi para orang tua, pendidik, dan pengembang AI bahwa sistemAI perlu disesuaikan secara ketat untuk anak-anak, bukan sekadar dimodifikasi dari versi dewasa.

Di tengah pesatnya perkembangan AI generatif, isu keamanananak dalam interaksi dengan teknologi canggih semakin krusial, terutama jika AI menjadi bagian dari produk mainstream seperti asisten digital di perangkat pribadi.*

(at/008)