Peneliti Anthropic Peringatkan Risiko AI Picu Kiamat Manusia dalam 10 Tahun!

Coxon menilai persaingan pengembangan AI antara perusahaan-perusahaan teknologi saat ini telah bergerak terlalu jauh dan sulit dikendalikan.

"Tidak ada satu pun dari kedua perusahaan ini yang bertindak secara bertanggung jawab," tulis Coxon.

Ia memperingatkan bahwa perkembangan AI dapat segera menghasilkan sistem dengan kemampuan jauh melampaui manusia.

"Ini akan segera menjadi sistem supermanusia yang mampu meretas apa pun, merevolusi bidang apa pun dalam sekejap, serta memperoleh kekuatan dan sumber daya nyata," tambahnya.

Pernyataan kedua peneliti tersebut kemudian memicu reaksi dari kalangan akademisi dan pemerhati AI.

Pakar ilmu komputer yang menjadi penasihat AI untuk Perserikatan Bangsa-Bangsa (PBB), Dame Wendy Hall, mengaku terkejut dengan peringatan terbuka yang disampaikan peneliti Anthropic tersebut.

Meski demikian, Hall juga mempertanyakan kemungkinan bahwa narasi mengenai ancaman AI digunakan sebagai bagian dari strategi pemasaran perusahaan menjelang rencana penawaran saham perdana atau IPO Anthropic dan OpenAI.

"Mengapa seseorang ingin mengatakan hal seperti itu? Saya memohon kepada para investor untuk tidak berinvestasi di perusahaan ini jika itu adalah sistem nilai mereka," kata Hall kepada BBC Radio Four.

Hall menilai perkembangan teknologi AI perlu disikapi dengan serius, terutama jika perusahaan yang mengembangkan teknologi tersebut sendiri mengakui adanya risiko yang belum sepenuhnya dapat dikendalikan.

Peringatan mengenai risiko AI dan pengunduran diri sejumlah peneliti juga mendorong Darren Jones, mantan Sekretaris Utama Perbendaharaan Inggris, mengirim surat kepada Perdana Menteri Andy Burnham.

Jones mendesak pemerintah membentuk traktat multilateral baru yang mengatur pengembangan AI secara aman.

"Kecuali jika pemerintah menanggapinya dengan cukup serius dan mengambil langkah nyata, pesatnya laju perkembangan dapat membuat kita menghadapi masalah sebelum sempat mengkaji apakah hal itu menjadi isu bagi kita atau tidak," tutur Jones.

Cegah Tiga Dosa Besar Pendidikan, Gus Ipul Perintahkan Sekolah Rakyat Perkuat SOP

Daftar Harga iPhone Duo hingga iPhone 18 Pro Max, Cek Lengkapnya di Sini

IHSG Anjlok 1,43 Persen, 10 Saham Ini Justru Cetak Kenaikan hingga 85 Persen!

Bukan Sekadar Seremonial, Bupati Asahan dan Bupati Sergai Adu Skill di Lapangan Hijau

Wisuda Bukan Akhir, Bupati Asahan Dorong Sarjana IAI Daar Al Uluum Berkontribusi bagi Masyarakat

Airin Rico Waas Dorong Ibu Tunggal dan Anak Yatim di Medan Kembangkan Keterampilan: Tumbuhkan Kepercayaan Diri dan Kemandirian