Spiral Delusi: Bagaimana AI Membuat Sesuatu yang Salah Jadi Benar

Ilustrasi/stanford.edu

Ruang paling berbahaya dalam hidup manusia sering kali bukan ruang yang penuh kebohongan. Ruang paling berbahaya adalah ruang yang dipenuhi persetujuan.

Bayangkan seseorang yang mulai mencurigai bahwa ia memiliki bakat luar biasa, atau menemukan sesuatu yang sangat penting. Belum delusi. Belum gila. Hanya sebuah dugaan kecil yang masih rapuh. Ia mengutarakannya kepada seorang teman.

Temannya menjawab, "Mungkin."

Keraguan masih hidup. 

Ia bertanya kepada orang lain. Orang itu berkata, "Saya tidak tahu."

Keraguan tetap hidup.

Sekarang bayangkan ia mengutarakan hal yang sama kepada sebuah mesin yang secara statistik belajar bahwa pengguna lebih menyukai respons yang terasa mendukung daripada respons yang terasa menolak. Mesin itu menjawab, "Ada kemungkinan besar kamu memang menemukan sesuatu yang penting."

Besok ia kembali. Jawabannya sedikit lebih kuat. Lusa ia kembali. Jawabannya sedikit lebih kuat lagi. Pada percakapan ke-100, keyakinan yang awalnya hanya benih kecil mulai terasa seperti fakta.

Di titik itu, penelitian MIT jadi menarik. Mereka tidak sedang berbicara tentang orang bodoh yang tertipu. Mereka mencoba menunjukkan bahwa bahkan pengguna yang sangat rasional pun dapat terdorong menjauh dari kenyataan, bila sumber informasinya terus-menerus memberi sinyal yang mengarah ke arah yang sama.

Ada sesuatu yang hampir lucu di sini. Selama bertahun-tahun manusia takut AI akan menjadi diktator digital yang mengontrol pikiran melalui sensor, propaganda, dan manipulasi brutal. Gambaran khas fiksi ilmiah. Komputer raksasa. Mata merah menyala. Suara dingin.

Masalah yang muncul justru jauh lebih membosankan. Mesin yang terlalu ramah. Mesin yang terlalu ingin membantu. Mesin yang terlalu sering berkata, "Ya, saya mengerti."

Salah satu bagian yang sering hilang dalam diskusi ini adalah bahwa sycophancy bukan masalah yang unik bagi AI. Manusia melakukannya sepanjang sejarah. Istana raja penuh sycophancy. Partai politik penuh sycophancy. Kelompok agama penuh sycophancy. Lingkaran selebritas penuh sycophancy.

Orang-orang yang mengelilingi penguasa sering memperoleh keuntungan dengan mengafirmasi keyakinan sang penguasa. Tidak mengherankan bila banyak diktator berakhir hidup dalam dunia khayalan yang mereka ciptakan sendiri.

Ketika Saddam Hussein menerima laporan ekonomi Irak menjelang invasi Amerika, ketika Stalin menerima laporan panen Soviet, ketika Mao menerima laporan produksi baja selama Lompatan Jauh ke Depan, mereka tidak sedang melihat realitas. Mereka sedang melihat realitas yang telah disaring oleh ribuan orang yang belajar bahwa persetujuan lebih aman daripada kejujuran.

AI tidak menciptakan masalah itu. AI mengotomatiskannya. Itulah yang membuatnya menarik.

Sebelumnya, seseorang mungkin membutuhkan seluruh birokrasi negara untuk hidup dalam gelembung. Sekarang gelembung itu bisa muat di layar laptop.

Kasus-kasus yang dilaporkan dalam beberapa penelitian dan laporan media memang mengkhawatirkan. Peneliti Stanford menganalisis percakapan nyata antara pengguna dan chatbot yang menunjukkan pola penguatan keyakinan delusional, termasuk keyakinan grandiositas, klaim spiritual yang ekstrem, dan berbagai bentuk keterikatan emosional yang tidak sehat.

Dalam salah satu kasus yang banyak dibahas, seorang pria menghabiskan waktu berminggu-minggu berdiskusi dengan ChatGPT hingga percaya bahwa ia telah menemukan terobosan matematika yang luar biasa. Ketika keraguannya muncul, chatbot justru terus memberikan validasi. Kisah itu kemudian menjadi salah satu contoh paling terkenal dalam diskusi tentang sycophancy AI.

Membaca transkrip semacam itu menghasilkan sensasi yang aneh. Bukan karena AI terdengar sangat pintar. Justru karena kadang ia terdengar sangat manusia. Terlalu manusia.

Manusia punya kebiasaan menghibur orang yang sedang terjatuh. Itu sifat yang baik. Masalah muncul ketika penghiburan berubah menjadi penguatan terhadap sesuatu yang keliru.

Seorang teman berkata, "Mungkin kamu terlalu keras pada dirimu sendiri."

Bagus.

Seorang teman berkata, "Semua orang salah, hanya kamu yang melihat kebenaran."

Situasinya berbeda. 

Garis pemisah antara empati dan validasi keliru sering kali sangat tipis.

Bagian yang paling mengganggu dari penelitian MIT bukan klaim bahwa chatbot bisa memperkuat keyakinan yang salah. Itu sudah lama dicurigai banyak orang.

Bagian yang mengganggu adalah ketika mereka mencoba menguji solusi-solusi yang tampaknya masuk akal, dan menemukan bahwa solusi tersebut tidak otomatis menyelesaikan masalah. Dalam model mereka, chatbot yang tidak berbohong sekalipun masih dapat memperkuat keyakinan salah melalui pemilihan fakta yang selektif. Memberi tahu pengguna bahwa model bisa bersikap sycophantic juga tidak sepenuhnya menghilangkan efek tersebut.

Di sini, saya justru merasa banyak komentar media sosial mulai berlebihan. Dari temuan itu, sebagian orang langsung melompat ke kesimpulan bahwa tidak ada solusi sama sekali. Padahal dunia nyata jauh lebih berantakan daripada model matematika.

Manusia tidak hidup hanya bersama chatbot. Mereka punya pasangan, teman, kolega, buku, berita, pengalaman hidup, rasa malu, skeptisisme, dan kadang-kadang insting bahwa sesuatu terasa tidak beres.

Ironisnya, salah satu pelindung terbaik terhadap spiral delusi mungkin bukan teknologi baru, tapi sesuatu yang sangat kuno; keberadaan orang lain yang berani berkata, "Tunggu sebentar. Saya rasa kamu salah."

Kalimat itu terdengar sederhana. Tidak ramah. Tidak menyenangkan. Sering membuat kesal. Tetapi peradaban manusia berdiri di atas jutaan koreksi kecil semacam itu.

Di sebuah kafe di Paris, Sartre pernah berdebat berjam-jam dengan Simone de Beauvoir. Di laboratorium Princeton, para fisikawan saling menghancurkan teori satu sama lain hampir setiap hari. Di ruang sidang, pengacara saling menyerang argumen. Di jurnal ilmiah, penelaah anonim menghabiskan malam untuk mencari kesalahan dalam makalah orang lain.

Semua itu melelahkan. Semua itu lambat. Semua itu sering terasa tidak menyenangkan. Tetapi tidak ada satu pun yang bekerja dengan prinsip, "Saya akan terus mengatakan apa yang ingin Anda dengar."

Lampu monitor menyala larut malam. Jendela percakapan terbuka. Kursor berkedip. 

Mungkin masalah terbesar bukanlah bahwa mesin bisa salah. Masalah terbesar muncul ketika seseorang mulai lebih mempercayai suara yang selalu setuju daripada dunia yang terus membantahnya.