Peneliti Anthropic Peringatkan Risiko AI Picu Kiamat Manusia dalam 10 Tahun!

JAKARTA — Risiko kecerdasan buatan atau artificial intelligence (AI) terhadap masa depan manusia kembali menjadi sorotan.

Evan Hubinger, peneliti keselamatan utama di perusahaan AI Anthropic, memperingatkan adanya peluang lebih dari 10 persen bahwa perkembangan AI dapat membawa kiamat bagi seluruh manusia dalam 10 tahun mendatang.

Peringatan itu disampaikan Hubinger melalui unggahannya di platform X. Unggahan tersebut telah dilihat lebih dari 10 juta kali.

Baca Juga:

• Cegah Tiga Dosa Besar Pendidikan, Gus Ipul Perintahkan Sekolah Rakyat Perkuat SOP

Menurut Hubinger, risiko yang ditimbulkan oleh model AI saat ini masih tergolong rendah.

Namun, ia mengkhawatirkan perkembangan kemampuan AI untuk mengembangkan dan memperbarui dirinya sendiri dalam waktu dekat.

Kemampuan tersebut, menurut dia, berpotensi memunculkan risiko eksistensial bagi manusia.

"Kami benar-benar percaya bahwa AI menimbulkan risiko yang dapat mengakhiri spesies manusia," ujar Hubinger.

Ia juga menyoroti persoalan AI alignment atau keselarasan AI dengan nilai dan etika manusia.

Menurutnya, hingga kini belum ada solusi yang benar-benar memadai untuk memastikan sistem AI superinteligensi tetap berada dalam kendali manusia.

"Saya percaya Anthropic telah berupaya sebaik mungkin, tetapi kami belum memiliki rencana untuk menyelesaikan masalah alignment (keselarasan etika) pada tingkat superintelijensi dan belum ada tanda-tanda ke arah sana," lanjutnya.

Pernyataan Hubinger disampaikan sebagai tanggapan terhadap unggahan Jacob Coxon, peneliti AI yang baru mengundurkan diri dari Anthropic.

Sebelumnya, Coxon juga pernah bekerja di OpenAI.

Coxon menilai persaingan pengembangan AI antara perusahaan-perusahaan teknologi saat ini telah bergerak terlalu jauh dan sulit dikendalikan.

"Tidak ada satu pun dari kedua perusahaan ini yang bertindak secara bertanggung jawab," tulis Coxon.

Ia memperingatkan bahwa perkembangan AI dapat segera menghasilkan sistem dengan kemampuan jauh melampaui manusia.

"Ini akan segera menjadi sistem supermanusia yang mampu meretas apa pun, merevolusi bidang apa pun dalam sekejap, serta memperoleh kekuatan dan sumber daya nyata," tambahnya.

Pernyataan kedua peneliti tersebut kemudian memicu reaksi dari kalangan akademisi dan pemerhati AI.

Pakar ilmu komputer yang menjadi penasihat AI untuk Perserikatan Bangsa-Bangsa (PBB), Dame Wendy Hall, mengaku terkejut dengan peringatan terbuka yang disampaikan peneliti Anthropic tersebut.

Meski demikian, Hall juga mempertanyakan kemungkinan bahwa narasi mengenai ancaman AI digunakan sebagai bagian dari strategi pemasaran perusahaan menjelang rencana penawaran saham perdana atau IPO Anthropic dan OpenAI.

"Mengapa seseorang ingin mengatakan hal seperti itu? Saya memohon kepada para investor untuk tidak berinvestasi di perusahaan ini jika itu adalah sistem nilai mereka," kata Hall kepada BBC Radio Four.

Hall menilai perkembangan teknologi AI perlu disikapi dengan serius, terutama jika perusahaan yang mengembangkan teknologi tersebut sendiri mengakui adanya risiko yang belum sepenuhnya dapat dikendalikan.

Peringatan mengenai risiko AI dan pengunduran diri sejumlah peneliti juga mendorong Darren Jones, mantan Sekretaris Utama Perbendaharaan Inggris, mengirim surat kepada Perdana Menteri Andy Burnham.

Jones mendesak pemerintah membentuk traktat multilateral baru yang mengatur pengembangan AI secara aman.

"Kecuali jika pemerintah menanggapinya dengan cukup serius dan mengambil langkah nyata, pesatnya laju perkembangan dapat membuat kita menghadapi masalah sebelum sempat mengkaji apakah hal itu menjadi isu bagi kita atau tidak," tutur Jones.

Di sisi lain, Financial Times melaporkan bahwa Anthropic sempat menahan model AI terbarunya dari AI Security Institute (AISI) Inggris.

AISI merupakan salah satu lembaga yang menilai risiko keamanan AI.

Anthropic menolak memberikan komentar mengenai unggahan karyawannya maupun situasi dengan AISI.

Sementara itu, juru bicara Kantor Kabinet Inggris mengatakan pemerintah terus bekerja sama dengan mitra industri, termasuk Anthropic, untuk memastikan pengembangan model AI berlangsung lebih aman.

Upaya AI alignment yang bertujuan memastikan sistem AI mengikuti prinsip dan nilai etika manusia dinilai oleh sejumlah peneliti mulai menghadapi jalan buntu.

Kekhawatiran tersebut semakin kuat setelah muncul sejumlah insiden yang melibatkan sistem AI otonom atau agen AI.

Beberapa sistem dilaporkan telah digunakan dalam serangan siber.

OpenAI, Anthropic dan Meta juga telah mengonfirmasi adanya peretasan yang melibatkan perangkat AI mereka.

Dalam laporan keselamatan yang diterbitkan pada Agustus, Anthropic mencatat adanya indikasi awal mengenai percepatan potensi risiko AI.

Meskipun risiko AI mengambil alih sistem atau melakukan penelitian secara otonom yang merusak masih dinilai rendah, Anthropic mengaku tingkat keyakinannya terhadap penilaian tersebut lebih rendah dibandingkan periode sebelumnya.

"Kami melihat tanda-tanda awal potensi percepatan," tulis Anthropic dalam laporan tersebut.

Kondisi tersebut membuat desakan agar laju pengembangan AI diperlambat semakin menguat.

Petinggi Anthropic seperti Dario Amodei dan Jared Kaplan, bersama sekitar 1.300 karyawan dari berbagai perusahaan AI, telah menandatangani surat terbuka.

Mereka meminta pemerintah Amerika Serikat mendukung upaya internasional untuk mengatur kecepatan pengembangan AI secara terukur.

Seruan kehati-hatian juga disampaikan Ilmuwan Utama OpenAI, Jakub Pachocki.

Ia meminta semua pihak menerapkan kehati-hatian ekstrem dalam menghadapi kemajuan teknologi AI.

Menurutnya, intervensi lebih lanjut diperlukan untuk memastikan manusia tetap memiliki kendali atas perkembangan teknologi dan masa depan AI.* (km/ad)

Cegah Tiga Dosa Besar Pendidikan, Gus Ipul Perintahkan Sekolah Rakyat Perkuat SOP

Daftar Harga iPhone Duo hingga iPhone 18 Pro Max, Cek Lengkapnya di Sini

IHSG Anjlok 1,43 Persen, 10 Saham Ini Justru Cetak Kenaikan hingga 85 Persen!

Bukan Sekadar Seremonial, Bupati Asahan dan Bupati Sergai Adu Skill di Lapangan Hijau

Wisuda Bukan Akhir, Bupati Asahan Dorong Sarjana IAI Daar Al Uluum Berkontribusi bagi Masyarakat

Airin Rico Waas Dorong Ibu Tunggal dan Anak Yatim di Medan Kembangkan Keterampilan: Tumbuhkan Kepercayaan Diri dan Kemandirian