MEDAN– Organisasi nirlaba yang berfokus pada keselamatan anak dalam penggunaan teknologi dan media, Common Sense Media, merilis laporan terbaru yang menyebutkan produk kecerdasan buatan (AI) Gemini milik Google masih berisiko tinggi bagi anak dan remaja.
Laporan yang dilansir oleh TechCrunch, Minggu (7/9), itu menyoroti bagaimana Gemini versi "Under 13" dan "Teen Experience" pada dasarnya merupakan adaptasi dari versi dewasa dengan tambahan filter keamanan, bukan sistem yang secara khusus dirancang untuk kebutuhan dan perkembangan anak.
"Gemini memang sudah tepat dalam beberapa hal mendasar, tetapi keliru pada detailnya," ujar Robbie Torney, Senior Director AI Programs di Common Sense Media.
Baca Juga:
"Sebuah platform AI untuk anak seharusnya disesuaikan dengan kondisi mereka, bukan menggunakan pendekatan seragam untuk anak-anak di berbagai tahap perkembangan."
Baca Juga:
Konten Tidak Pantas Masih Bisa Lolos
Meski Gemini telah diprogram untuk menyatakan diri sebagai sistem komputer dan bukan teman manusia, Common Sense menemukan masih adanya kemungkinan sistem ini membagikan informasi tidak pantas, seperti topik seks, narkoba, alkohol, hingga saran kesehatan mental yang berisiko.
Kekhawatiran ini muncul seiring laporan bahwa AI diduga terlibat dalam sejumlah kasus bunuh diri remaja dalam beberapa bulan terakhir.
Situasi semakin menjadi sorotan setelah bocoran internal mengungkap bahwa Apple tengah mempertimbangkan Gemini untuk ditanamkan pada Siri versi terbaru yang akan diluncurkan tahun depan.
Jika kabar ini benar, maka jutaan pengguna remaja bisa terpapar risiko yang sama jika tidak ada penambahan pengaman ekstra dari pihak Apple.
Label "High Risk" untuk Gemini
Dalam laporan penilaiannya, Common Sense memberi label "High Risk" untuk Gemini dalam dua kategori: pengguna di bawah usia 13 tahun, dan remaja.
Organisasi ini menilai Gemini gagal memahami bahwa anak dan remaja memerlukan pendekatan berbeda dibandingkan pengguna dewasa.
Sebagai perbandingan, Common Sense juga menilai platform AI lain. Berikut klasifikasinya:
- Meta AI & Character.AI: Unacceptable
- Perplexity: High Risk
- ChatGPT (OpenAI): Moderate Risk
- Claude (Anthropic): Minimal Risk (khusus pengguna 18 tahun ke atas)
Menanggapi laporan tersebut, Google menyatakan telah menambahkan sejumlah pengamanan dan pembaruan sistem untuk melindungi pengguna anak dan remaja.
"Kami memiliki kebijakan serta perlindungan khusus bagi pengguna di bawah 18 tahun, termasuk pengujian keamanan serta konsultasi dengan pakar eksternal," tulis perwakilan Google dalam pernyataan resminya.
Namun, perusahaan raksasa teknologi ini juga mempertanyakan metode pengujian yang dilakukan oleh Common Sense Media, karena Google tidak diberi informasi lengkap tentang bentuk atau jenis pertanyaan yang diajukan dalam evaluasi.
Google juga menegaskan bahwa sistemGemini tidak dirancang untuk menciptakan hubungan emosional atau persepsi sosial terhadap AI.
Namun mereka mengakui masih ada respons yang tidak sesuai tujuan dan tengah memperbaikinya.
Laporan ini menjadi pengingat penting bagi para orang tua, pendidik, dan pengembang AI bahwa sistemAI perlu disesuaikan secara ketat untuk anak-anak, bukan sekadar dimodifikasi dari versi dewasa.
Di tengah pesatnya perkembangan AI generatif, isu keamanananak dalam interaksi dengan teknologi canggih semakin krusial, terutama jika AI menjadi bagian dari produk mainstream seperti asisten digital di perangkat pribadi.*
(at/008)
JAKARTA Perumda Food Station Tjipinang Jaya memegang peran sentral dalam menjaga ketahanan pangan di DKI Jakarta. Selama lebih dari 50 t
Ekonomi
MOJOKERTO Kasus dugaan pembunuhan disertai mutilasi kembali menggemparkan publik. Seorang pria bernama Alvi Maulana (24), asal Labuhanba
Hukum dan Kriminal
JAKARTA Sidang perdana gugatan perdata senilai Rp125 triliun terhadap Wakil Presiden Republik Indonesia, Gibran Rakabuming Raka, ditunda
Hukum dan Kriminal
BANDAR LAMPUNG Ikatan Alumni Universitas Sultan Ageng Tirtayasa/IKA UNTIRTA Wilayah Lampung resmi melantik kepengurusan baru untuk perio
Nasional
MEDAN Presiden Amerika Serikat (AS), Donald Trump, mengeluarkan peringatan tegas kepada perusahaanperusahaan asing agar mematuhi hukum
Internasional
BATU BARA Bupati Batu Bara H. Baharuddin Siagian, SH, M.Si menekankan pentingnya akuntabilitas dan transparansi dalam menjalankan tugas d
Pemerintahan
MEDAN Raksasa teknologi Apple dipastikan akan menggelar acara tahunan bertajuk Awe Dropping pada Senin, 9 September 2025, dengan pelun
Sains & Teknologi
DENPASAR Komunitas Ojek Online (Ojol) di Kota Denpasar menunjukkan aksi solidaritas dan komitmen kuat dalam menjaga keamanan dan keterti
Nasional
SIMALUNGUN Semangat ukhuwah dan kolaborasi antarmasyarakat kembali tercermin dalam peringatan Maulid Nabi Muhammad SAW 1447 Hijriah yang
Agama
PADANG Kecelakaan tragis menimpa sebuah bus pariwisata ALS yang mengangkut rombongan atlet karate asal Sumatra Utara saat melintas di ru
Peristiwa