Ancaman Pelanggaran HAM di Balik Personalisasi Konten Berbasis AI

Pemilihan Kepala Daerah (Pilkada) DKI Jakarta tahun 2017 lalu, yang mempersaingkan Basuki Tjahaja Purnama (Ahok) dengan Anies Rasyid Baswedan, dapat menjadi ilustrasi keadaan ini. Personalisasi konten media digital mempolarisasi penduduk Jakarta menjadi dua kelompok yang eksklusif. Tak ada sedikit pun wilayah persinggungannya. Calon pemilih Ahok tak mungkin ada yang tetap bersimpati pada Anies. Juga tak mungkin, calon pemilih Anies yang tetap mengakui sisi baik Ahok.

Gambar yang ditunjukan oleh berbagai analisa jejaring sosial menggambarkan dua kumpulan jejaring yang terbentuk oleh percakapan maupun sentimen terhadap kedua kandidat, tanpa penengah. Eksklusivitas itu dibentuk oleh personalisasi konten, yang disusun berdasar algoritma riwayat konsumsi berita maupun komentar calon pemilih.

Baca Juga:

• Pria di Sergai Dilaporkan karena Hina Bupati dan Kapolres di Facebook, Polisi Dalami Dugaan Pelanggaran UU ITE
• Pengamat Unsoed: Regulasi Penggunaan AI Mendesak Dipercepat, Hoaks Kian Sulit Diidentifikasi

Konten berikutnya yang ditawarkan pada masing-masing kelompok, bertema konsisten. Sesuai preferensi masing-masing calon pemilih. Seluruhnya terjadi akibat gelembung penapisan informasi, filter bubble. Hanya berita senada, yang tersaji sebagai pilihan khalayak. Informasi yang akhirnya hadir, sebagai tema yang kian menguat. Gaungnya memantul kian keras. Kekerasan yang mampu membangun ilusi kebenaran khalayak, oleh berulangnya suara yang senada. Ini sama halnya dengan suara di dalam gua, terpantul di dalam ruang gema, echo chamber. Peningkatan yang persisten, dianggap merepresentasikan kebenaran.

Calon pemilih yang mengalami dau keadaan di atas kehilangan hak dasarnya untuk mempertimbangkan realitas yang lebih beragam. Realitas yang berpeluang memiliki nilai yang obyektif. Dapat diterima atau ditolak, setelah dibandingkan seksama. Kehilangan peluang membandingkan, mendorong calon pemilih menganggap: hanya realitas yang di hadapannya yang benar. Realitas alternatif yang ada di hadapan pesaing, adalah realitas palsu. Bahkan salah. Hak atas kebenaran yang hakiki, dipangkas oleh personalisasi. Ini pun belum memperhitungkan: konten yang dipersonalisasi, adalah berita yang mengandung disinformasi, alih-alih sebatas misinformasi.

Relevan dengan uraian di atas, Matt James Boyd, 2018, dalam AI Content Targeting may Violate Human Rights mengemukakan kurang lebih, terjadinya pelanggaran hak asasi atas kebenaran hakiki, dapat disebabkan oleh operasi AI yang tidak transparan. Seluruhnya dapat mengganggu otonomi dan perilaku sadar individu. Riwayat penelusuran, demografi pengguna, analisis semantik dan sentimen, juga berbagai faktor lainnya, digunakan untuk menentukan konten mana yang hendak disajikan serta ditargetkan kepada siapa. Sementara alasan di balik keputusan penyajiannya, sering tak jelas bagi penggunanya. Bahkan bagi penyedia media digital.

Memang personalisasi dapat meminimalkan hadirnya konten yang tak relevan. Namun itu tak membebaskannya dari bias. Bias yang makin diperkuat, konten yang menghasut, maupun yang mengandung disinformasi. Seluruhnya makin terpromosi akibat terbaca oleh perangkat analitik, sebagai minat khalayak yang tinggi. Reproduksi bias berputar, sebagai siklus yang tak berkesudahan. Seluruhnya memangkas hak otonomi individu.

Terpangkasnya hak itu, menganggu kebebasan individu dalam mencari dan membagi ide yang mampu melintasi batas ideologi, politik, maupun sosial. Membatasinya menemukan jenis informasi yang benar-benar diperlukannya. Bukan informasi yang 'dianggap' diperlukannya. Demikian pula, personalisasi berbasis algoritma mengabaikan konten dengan minat yang rendah, alih-alih mencegahnya dari promosi konten yang digerakkan bot, peretasan metadata, maupun konten yang rendah validitasnya namun banyak peminatnya.

Jadi, atas nama relevansi dan kemudahan memilih melalui personalisasi media digital, bolehkah hak dasar manusia diabaikan? Jika itu yang memang terjadi, masih berada di jalur etiskah, seluruh pengembangan kedigdayaan perangkat teknologi informasi yang mengandalkan personalisasi?* (mediaindonesia.com)

*)Pemerhati Budaya dan Komunikasi Digital, serta Pendiri Literos.org

Pria di Sergai Dilaporkan karena Hina Bupati dan Kapolres di Facebook, Polisi Dalami Dugaan Pelanggaran UU ITE

Pengamat Unsoed: Regulasi Penggunaan AI Mendesak Dipercepat, Hoaks Kian Sulit Diidentifikasi