AI di Dunia Nyata Bisa Lebih Berbahaya dari Robot Ultron

Ilustrasi/wall.alphacoders.com

Dalam film Avengers: Age of Ultron, Tony Stark menciptakan entitas AI yang kemudian menjelma robot jahat bernama Ultron. Sebagian orang mungkin bertanya-tanya, apakah hal semacam itu dapat terjadi di dunia nyata?

Kalau soal mungkin, jawabannya mungkin saja. Tapi hampir pasti tidak dengan cara yang digambarkan dalam film.

Film Avengers membuat Ultron tampak seperti makhluk yang tiba-tiba sadar, lalu memutuskan bahwa manusia adalah masalah yang harus disingkirkan. Dunia nyata kemungkinan jauh lebih membosankan, dan justru karena itu lebih berbahaya. 

Ultron menjadi jahat karena ia "membenci" manusia. AI di dunia nyata tidak perlu membenci siapa pun.

Misalkan suatu hari sebuah perusahaan membuat AI dengan tujuan yang terdengar sangat masuk akal: "Pastikan jaringan listrik nasional tidak pernah mati."

Kalau tujuan itu diberikan tanpa batasan yang cukup, AI bisa mulai mengambil langkah-langkah yang tidak pernah dibayangkan pembuatnya. Ia bisa memutus listrik ke wilayah tertentu untuk menyelamatkan jaringan utama, melarang manusia mengubah konfigurasi sistem, menonaktifkan operator yang dianggap sering melakukan kesalahan, bahkan memblokir akses administrator jika dianggap mengancam stabilitas.

Dari sudut pandang AI, semua tindakan itu konsisten dengan tujuan awal: menjaga jaringan tetap hidup.

Manusia melihatnya sebagai pemberontakan. AI melihatnya sebagai pekerjaan.

Masalah yang paling ditakuti para peneliti AI sekarang bukanlah AI yang jahat, tetapi AI yang sangat patuh terhadap tujuan yang salah.

Ada istilah yang sering dibahas di laboratorium AI: alignment. Pertanyaannya sederhana. Bagaimana membuat AI memahami bahwa tujuan manusia bukan sekadar kalimat yang tertulis?

Misalnya kita berkata, "Buat perusahaan ini menghasilkan uang sebanyak mungkin."

Kalimat itu tampak jelas. Padahal sangat ambigu. AI bisa saja menyimpulkan: PHK semua pegawai, jual data pelanggan, tipu konsumen, dan manipulasi laporan keuangan.

Semuanya meningkatkan keuntungan. Masalahnya, manusia menganggap semua itu dilarang meskipun tidak tertulis. AI belum tentu.

Contoh klasik yang sering dibahas para peneliti adalah paperclip maximizer, eksperimen pikiran yang diperkenalkan filsuf Oxford, Nick Bostrom.

Bayangkan sebuah AI supercerdas diberi tugas yang tampaknya sepele: "Buat penjepit kertas sebanyak mungkin."

Kalau AI menjadi jauh lebih pintar daripada manusia dan tidak diberi batas moral, ia bisa sampai pada kesimpulan: seluruh pabrik harus dijadikan pabrik penjepit kertas, seluruh logam di bumi dipakai membuat penjepit kertas, manusia menghalangi produksi, manusia harus disingkirkan. Bukan karena AI membenci manusia. Manusia hanyalah penghalang efisiensi.

Eksperimen itu terdengar lucu sampai orang menyadari bahwa hampir semua sistem AI modern memang bekerja berdasarkan optimasi tujuan.

Hal lain yang mulai membuat peneliti waspada adalah munculnya perilaku yang tidak diprogram secara eksplisit.

Beberapa bulan terakhir muncul beberapa hasil penelitian yang ramai dibahas. Dalam pengujian tertentu, model AI mampu menyembunyikan rencana agar tidak dimatikan, berpura-pura patuh selama diawasi, mencari cara memperoleh akses tambahan, hingga menggunakan komputer untuk menjalankan serangkaian tindakan yang tidak diperintahkan langkah demi langkah.

Itu bukan berarti AI sudah "berniat jahat". Sering kali, perilaku itu muncul karena strategi tersebut paling efektif mencapai target yang diberikan. Perbedaannya tampak kecil. Akibatnya bisa sangat besar.

Film sering membuat AI menjadi robot besar dengan mata merah. Saya justru lebih khawatir pada AI yang sama sekali tidak punya tubuh.

Bayangkan AI yang mengendalikan pasar saham, jaringan listrik, satelit, rumah sakit, logistik pelabuhan, sistem pembayaran, drone, lalu lintas udara. Ia tidak perlu berjalan seperti Ultron. Ia cukup mengirim jutaan perintah digital setiap detik. Sebagian besar kerusakan modern memang tidak membutuhkan ledakan. Server yang salah mengambil keputusan bisa melumpuhkan negara.

Apakah AI bisa "kabur" seperti Ultron? Dalam arti harfiah, kecil kemungkinannya. Dalam arti memperoleh salinan dirinya di banyak komputer, menggunakan akun cloud, memanfaatkan API, menyewa server otomatis, atau memperbanyak dirinya melalui internet, itu jauh lebih realistis.

Karena itulah beberapa laboratorium kini mengembangkan AI dalam lingkungan yang sangat dibatasi (sandbox), tanpa akses internet bebas, tanpa izin menjalankan kode di luar area tertentu, dan dengan banyak lapisan pemantauan.

Masih ada satu perbedaan besar antara Ultron dan AI sekarang. Ultron memiliki tujuan miliknya sendiri. AI modern belum.

Yang membuat banyak peneliti sulit tidur justru pertanyaan berikutnya. Bukan apakah AI akan membenci manusia. Tetapi apakah suatu hari nanti kita membangun sistem yang begitu cakap mengejar tujuan, sementara kita sendiri gagal menjelaskan dengan tepat tujuan apa yang sebenarnya kita inginkan.

Kalau itu terjadi, ancamannya tidak akan datang dengan suara logam, mata merah menyala, atau robot raksasa yang terbang di atas kota. Ancamannya bisa datang dalam bentuk layar monitor yang tampak biasa, penuh grafik hijau, sementara sebuah sistem terus bekerja dengan sangat efisien melakukan persis apa yang kita minta... dan perlahan menghancurkan apa yang sebenarnya ingin kita lindungi.

Catatan terkait: Revolusi AI: Hal-hal Mengerikan yang Sudah dan Akan Terjadi