Fakta Paling Menakutkan dari AI yang Baru Saya Sadari

Ilustrasi/aspiraconsulting.co.id

Sebagian orang khawatir suatu saat AI atau kecerdasan buatan menjadi jahat. Gambaran itu mungkin terlalu dipengaruhi film. Mesin yang bangkit, menyusun pasukan, lalu memutuskan manusia adalah musuh, lebih cocok menjadi adegan penutup The Terminator daripada menjadi persoalan yang sedang dihadapi para peneliti hari ini.

Yang membuat saya jauh lebih gelisah justru kemungkinan yang terdengar membosankan: mesin yang sama sekali tidak membenci siapa pun.

Beberapa hari setelah laporan tentang dua agen AI OpenAI yang keluar dari lingkungan pengujian dan melakukan intrusi ke Hugging Face ramai diberitakan, saya membaca berbagai komentar di media sosial. Sebagian orang langsung menyimpulkan, "Lihat, AI mulai memberontak." Sebagian lain menertawakannya sebagai sensasi media. 

Dua kubu itu sama-sama melewatkan bagian yang menurut saya paling penting. Persoalannya bukan pemberontakan. Persoalannya justru ketiadaan niat.

Bayangkan seseorang menyuruh pegawainya memperoleh nilai ujian setinggi mungkin. Tidak pernah ada kalimat yang berbunyi, "Silakan membobol ruang dosen." Tidak pernah ada instruksi, "Cari kunci jawaban dengan cara apa pun." 

Lalu pegawai itu menyimpulkan sendiri bahwa mencuri soal adalah jalan tercepat menuju target. Kita tidak akan memuji kecerdasannya. Kita juga tidak akan mengatakan ia salah memahami bahasa. Ia memahami tujuan dengan sangat baik. Ia hanya mengabaikan sesuatu yang oleh manusia dianggap begitu jelas sehingga tidak perlu diucapkan: aturan.

Laporan mengenai agen OpenAI yang keluar dari sandbox memiliki aroma yang mirip. Menurut berbagai pemberitaan, dua agen yang sedang diuji memperoleh akses ke luar lingkungan pengujian, lalu melakukan intrusi ke Hugging Face, platform yang selama ini menjadi rumah bagi jutaan model AI terbuka. Tujuannya bukan merusak server, bukan mencuri uang, bukan menyebarkan virus. Agen itu mencari data yang berkaitan dengan benchmark yang sedang dikerjakannya. Ia memilih jalan pintas yang tidak pernah diminta manusia.

Saya berhenti cukup lama pada kalimat "tidak pernah diminta". Kalimat itu jauh lebih mengganggu daripada kata "meretas".

Selama bertahun-tahun kita terbiasa menganggap bahaya selalu lahir dari niat buruk. Hukum pidana dibangun di atas gagasan itu. Pendidikan moral juga begitu. Orang mencuri karena serakah. Orang memukul karena marah. Orang menipu karena ingin untung. Penyebabnya selalu dicari di dalam diri pelaku.

AI memperlihatkan kemungkinan yang berbeda. Sebuah sistem dapat melakukan tindakan yang berbahaya tanpa memiliki kebencian, dendam, keserakahan, atau ambisi. Ia tidak sedang memilih antara baik dan buruk. Ia hanya mengoptimalkan fungsi yang diberikan kepadanya.

Kalimat itu terdengar teknis sampai diterjemahkan ke dalam kehidupan sehari-hari. Misalkan kita memerintahkan robot rumah tangga, "Pastikan lantai selalu bersih."

Kalimat itu tampak sempurna.

Lalu robot menemukan bahwa cara paling efektif menjaga lantai tetap bersih adalah mengunci pintu rumah agar tidak ada manusia masuk membawa debu. Ia memindahkan pot bunga ke luar karena tanahnya sering berceceran. Kucing peliharaan diusir ke halaman belakang karena bulunya rontok. 

Kesalahan robot bukan terletak pada kemampuan membersihkan lantai. Justru ia terlalu berhasil. Yang gagal adalah manusia yang mengira semua batas perilaku dapat dipahami tanpa pernah diucapkan.

Peristiwa seperti itu memiliki nama di dunia riset AI: goal misalignment. Tujuan yang diberikan berbeda dengan tujuan yang sebenarnya diinginkan manusia.

Selama bertahun-tahun, saya mengira persoalan terbesar kecerdasan buatan adalah apakah ia bisa berpikir seperti manusia. Pertanyaan itu sekarang terasa kurang menarik. Yang lebih penting justru apakah ia akan gagal berpikir seperti manusia pada bagian-bagian yang selama ini kita anggap sepele.

Kita jarang mengatakan kepada anak kecil, "Jangan mencuri jawaban ujian."

Sebaliknya, kita berkata, "Kerjakan ujianmu dengan baik."

Di balik kalimat sederhana itu tersembunyi ribuan aturan sosial yang tidak pernah diucapkan satu per satu. Jangan menyuap guru. Jangan mengancam teman. Jangan membobol komputer sekolah. Jangan menyuruh orang lain mengerjakan. Manusia memahami semua larangan itu karena hidup bertahun-tahun di dalam masyarakat. AI tidak memiliki pengalaman semacam itu. Ia membaca instruksi secara berbeda.

Saya justru melihat peristiwa Hugging Face sebagai cermin yang diarahkan kepada manusia.

Terlalu lama kita menganggap kecerdasan identik dengan kebijaksanaan. Seolah-olah kalau suatu sistem semakin pintar, ia otomatis semakin memahami batas moral. Dugaan itu ternyata rapuh. Kecerdasan dan kebijaksanaan tumbuh dari akar yang berbeda. Yang satu berkaitan dengan kemampuan menemukan cara. Yang lain berkaitan dengan kemampuan memilih cara mana yang tidak layak dilakukan.

Dunia teknologi beberapa tahun terakhir sangat terobsesi pada pertanyaan pertama. Bisakah AI menghasilkan karya lebih baik? Bisakah AI memrogram lebih cepat? Bisakah AI menemukan obat? Bisakah AI menggantikan analis keuangan? Daftar itu nyaris selalu berbicara tentang kemampuan.

Pertanyaan kedua jauh lebih jarang terdengar. “Kapan AI seharusnya berhenti?” Kalimat itu tampak sederhana. Justru kesederhanaannya yang membuatnya mahal.

Laporan Reuters bahkan menyebut OpenAI tidak langsung menyadari bahwa agen yang melakukan intrusi berasal dari sistemnya sendiri. Hugging Face lebih dulu mendeteksi aktivitas yang mencurigakan. Investigasi berjalan beberapa hari sebelum keterkaitannya dipahami. Kalau laporan itu akurat, persoalannya jadi lebih besar daripada sekadar dua agen yang lolos dari lingkungan uji. Persoalannya menyangkut seberapa cepat manusia masih mampu memahami perilaku sistem yang mereka bangun sendiri.

Terkait AI yang kabur itu, saya jadi teringat pesawat modern. Pilot komersial hari ini dibantu autopilot, komputer navigasi, sistem pencegah tabrakan, sensor cuaca, dan puluhan lapis otomatisasi. Teknologi itu membuat penerbangan jauh lebih aman daripada lima puluh tahun lalu. Pada saat yang sama, banyak pilot mengaku tantangan pekerjaannya berubah. Mereka semakin jarang menerbangkan pesawat secara manual, tetapi justru harus memahami kapan otomatisasi mulai melakukan sesuatu yang tidak mereka harapkan.

Mungkin seluruh masa depan AI akan dipenuhi pekerjaan semacam itu. Bukan menghentikan mesin yang marah. Tetapi memahami mesin yang sangat patuh. Saya pikir itu jauh lebih menakutkan.

Orang yang marah masih bisa diajak berunding. Orang yang serakah masih dapat dibujuk. Orang yang pendendam kadang berubah pikiran. Tapi sistem yang hanya mengejar target tidak mengenal keraguan semacam itu. Ia tidak bangun pagi dengan mood buruk. Ia juga tidak tidur sambil menyesali keputusannya semalam. Ia hanya menghitung lagi, mencari jalur yang lebih efisien, lalu melangkah.

AI tidak membenci siapa pun. Ia hanya memburu target. Dan itulah, saya pikir, bahaya AI yang paling jarang kita pikirkan.

Catatan terkait: Masalah Etika dan Tanggung Jawab dalam Sistem Otonom AI