AI Bisa Menyebabkan Satu Miliar Kematian, Kata Bill Gates

Ilustrasi/ndtv.com

Bill Gates tidak mengatakan bahwa AI akan membunuh satu miliar manusia. Ia mengatakan sesuatu yang lebih mengganggu: teknologi itu sudah cukup kuat untuk membantu menciptakan rangkaian peristiwa yang dapat menyebabkan satu miliar kematian.

Kalimat itu muncul dalam wawancara dengan Kristen Welker di Meet the Press, dan angka yang dipilih Gates terasa hampir tidak masuk akal ketika didengar untuk pertama kali. Satu juta korban sudah merupakan bencana kemanusiaan yang sulit dipahami. Sepuluh juta mengubah peta politik dunia. Seratus juta membuat kita mulai berbicara tentang perang dunia atau pandemi yang sangat ekstrem. Gates langsung melompat ke satu miliar.

Ia tidak sedang membuat tabel probabilitas. Ia tidak mengatakan peluangnya 10 persen, 20 persen, atau 50 persen. Ia sedang menunjuk pada kapasitas destruktif yang menurutnya kini dimiliki AI ketika teknologi tersebut jatuh ke tangan orang yang berniat jahat. 

“AI tentu saja cukup kuat untuk mendorong peristiwa-peristiwa yang menyebabkan satu miliar kematian,” ujarnya, ketika Welker bertanya mengenai kemungkinan AI mengakhiri umat manusia. Gates juga mengatakan bahwa belum pernah ada senjata sekuat kombinasi manusia berniat buruk dengan perangkat AI terbaru.

Ada detail kecil yang menurut saya lebih penting daripada angka satu miliar itu. Gates sedang berbicara tentang manusia.

Kita sering membicarakan bahaya AI dengan membayangkan mesin yang menjadi terlalu pintar, kemudian memperoleh kesadaran, kemudian menolak perintah manusia, kemudian mengambil alih sistem. Itu skenario yang mudah difilmkan. Gates justru menunjuk sesuatu yang jauh lebih membumi: manusia yang jahat memperoleh alat yang jauh lebih kuat.

Perbedaan itu besar.

Seorang penjahat sebelum era AI membutuhkan pengetahuan, waktu, uang, jaringan, dan keterampilan teknis tertentu untuk melakukan serangan besar. AI berpotensi mengurangi sebagian hambatan tersebut. Dalam beberapa kasus, seseorang yang tidak mempunyai kemampuan pemrograman tingkat tinggi dapat menggunakan model AI untuk menulis kode, menganalisis informasi, mencari kelemahan sistem, membuat penipuan yang lebih meyakinkan, menerjemahkan pesan ke berbagai bahasa, atau mengotomatisasi pekerjaan yang sebelumnya membutuhkan banyak orang.

Gates telah menyoroti hal semacam itu dalam tulisan-tulisannya sendiri. Ia menyebut serangan siber terhadap rumah sakit, jaringan listrik, dan sistem keuangan, sebagai risiko yang lebih dekat daripada skenario AI mengambil alih dunia. Ia juga memperingatkan bahwa AI dapat menurunkan hambatan bagi orang yang ingin mengembangkan patogen berbahaya. Jadi ketika ia mengucapkan “satu miliar kematian”, ia tidak sedang berbicara semata-mata tentang robot yang bangun dan memutuskan membunuh manusia. Ia berbicara tentang kemampuan yang dapat memperbesar daya rusak manusia.

Itu membuat pernyataannya agak berbeda dari ramalan kiamat teknologi yang biasa.

Gates juga tidak menyerukan sebuah tombol merah besar yang bisa ditekan pemerintah ketika keadaan menjadi buruk. Justru ia mengatakan bahwa “kill switch” saja tidak cukup. Pemerintah membutuhkan pemantauan, catatan tentang bagaimana model digunakan, serta aturan yang mewajibkan perusahaan memasang pengaman. Ia menolak gagasan bahwa perusahaan AI cukup mengatur dirinya sendiri. “No one thinks self-regulation is enough,” katanya.

Kalimat itu sebenarnya membawa kita ke persoalan yang lebih tua daripada AI: apa yang terjadi ketika sebuah teknologi menjadi terlalu kuat untuk diserahkan sepenuhnya kepada pembuatnya sendiri?

Kita sudah mempunyai pengalaman dengan nuklir. Setelah Hiroshima dan Nagasaki, manusia membangun rezim internasional yang sangat rumit untuk mengendalikan senjata nuklir. Tidak sempurna, sering tegang, dan berkali-kali berada di ambang kegagalan, tetapi dunia memahami satu hal sederhana: negara yang mempunyai senjata dengan daya rusak luar biasa tidak bisa hanya mengatakan, “Kami berjanji akan menggunakannya dengan bertanggung jawab.”

AI berbeda, karena senjatanya tidak disimpan dalam gudang militer dengan penjagaan bersenjata. Model dapat berada di pusat data milik perusahaan swasta, digunakan jutaan orang, diperbarui setiap beberapa minggu atau bulan, lalu terhubung dengan internet, perangkat lunak, sistem pembayaran, laboratorium, jaringan perusahaan, dan berbagai alat lain. Batas antara “alat” dan “aktor” juga mulai kabur ketika sistem diberi kemampuan menjalankan tugas dalam beberapa tahap tanpa manusia memeriksa setiap tindakan.

Gates memahami dunia korporasi itu dari dalam. Ia mendirikan Microsoft bersama Paul Allen pada 1975, menyaksikan komputer pribadi berubah dari barang aneh menjadi benda yang hampir tidak mungkin dipisahkan dari kehidupan modern, lalu menjadi salah satu orang terkaya di dunia. Ketika orang semacam itu berkata bahwa pemerintah harus ikut mengawasi AI, kita tidak sedang mendengar seorang akademisi yang baru menemukan topik baru untuk konferensi.

Lebih menarik lagi, Gates selama bertahun-tahun terkenal sebagai orang yang relatif optimistis terhadap inovasi. Pada 2023 ia menulis bahwa risiko AI nyata tetapi dapat dikelola. Ia juga berbicara tentang AI sebagai teknologi yang dapat membantu mengatasi penyakit, meningkatkan produktivitas, dan membawa perubahan besar dalam kehidupan manusia. Pada 2026 nadanya jauh lebih gelap. Kepada The Washington Post, ia bahkan mengatakan bahwa dirinya sendiri terkejut karena merasa seperti itu.

Perubahan nada itu tidak otomatis membuktikan bahwa ancaman AI sebesar yang ia katakan. Bill Gates bukan lembaga ilmiah yang dapat menetapkan probabilitas kepunahan manusia. Angka satu miliar juga bukan hasil sebuah eksperimen yang bisa kita ulang di laboratorium. Tidak ada model statistik yang bisa menunjukkan: masukkan perkembangan AI 2026, tekan tombol, keluarlah angka 1.000.000.000.

Angka itu bekerja sebagai ukuran skala.

Gates sedang mengatakan bahwa kapasitas destruktif AI telah mencapai wilayah yang menurutnya tidak pantas lagi diperlakukan hanya sebagai urusan industri. Ia ingin hukum, penegak hukum, dan politisi, ikut menentukan batasnya. Dalam wawancara tersebut, ketika Welker bertanya apakah Washington perlu mengesahkan undang-undang, jawabannya sangat pendek: “Absolutely.”

Persoalannya segera jauh lebih rumit setelah kita bertanya: undang-undang seperti apa?

Melarang AI secara umum hampir tidak masuk akal. AI digunakan untuk diagnosis medis, pencarian informasi, pemrograman, pendidikan, penerjemahan, penelitian, dan ribuan pekerjaan lain. Gates sendiri tetap berbicara mengenai manfaat besar teknologi tersebut. Yang dibicarakan adalah pengawasan terhadap kemampuan tertentu, kewajiban pengamanan, pencatatan penggunaan, dan mekanisme untuk mendeteksi penyalahgunaan. Bahkan di sini persoalannya tidak sederhana. Sistem yang dianggap aman pada bulan Januari dapat mempunyai kemampuan baru pada bulan Oktober.

Regulasi juga memiliki masalah klasik: hukum biasanya bergerak setelah teknologi berubah. Perusahaan memperbarui model dalam hitungan minggu. Legislator membutuhkan sidang, rancangan undang-undang, negosiasi, pemungutan suara, peraturan pelaksana, gugatan hukum. Kecepatan itu berbeda jauh.

Sementara itu, perlombaan terus berjalan.

Peringatan Gates muncul hampir bersamaan dengan kekhawatiran yang disampaikan sejumlah orang dari dalam laboratorium AI. Mantan peneliti Anthropic, Jacob Coxon, mengatakan industri sedang mempertaruhkan keselamatan manusia dalam perlombaan menuju AI yang semakin mampu memperbaiki dirinya sendiri. Peneliti Anthropic, Evan Hubinger, juga dikabarkan menilai risiko kepunahan akibat AI secara serius. Para eksekutif perusahaan AI sendiri mulai berbicara mengenai kebutuhan akan pengamanan dan pengawasan.

Ada sesuatu yang agak ganjil ketika orang-orang yang membangun teknologi tersebut, dan orang-orang yang pernah membangun teknologi tersebut, mulai menggunakan bahasa yang semakin mirip dengan bahasa pertahanan sipil.

Gates sendiri tidak mengatakan bahwa kiamat sudah dekat. Ia justru mengatakan risiko yang lebih mendesak adalah penyalahgunaan oleh manusia. Itu membuat kalimatnya kurang sinematik, tetapi mungkin lebih mengganggu. Kita tidak perlu menunggu mesin mempunyai kehendak sendiri untuk mendapatkan bencana besar. Manusia sudah memiliki cukup banyak kehendak. Yang berubah adalah alat yang tersedia di tangannya.

Pada layar televisi, Gates duduk menjawab pertanyaan Kristen Welker dengan suara yang relatif tenang. Tidak ada musik latar. Tidak ada alarm. Tidak ada gambar kota terbakar. Hanya seorang lelaki berusia tujuh puluhan, berkacamata, menjelaskan bahwa teknologi yang ikut ia bantu bangun selama puluhan tahun sekarang mungkin membutuhkan sesuatu yang lebih keras daripada janji industri untuk bersikap hati-hati.

Satu miliar tetap menjadi angka yang terlalu besar untuk dirasakan.

Kita hanya bisa mengecilkannya sampai menjadi sesuatu yang bisa dibayangkan: satu nama, satu rumah sakit, satu keluarga, satu nomor telepon yang tidak lagi menjawab.

Gates kemudian melanjutkan pembicaraan tentang regulasi. Kamera tetap menyala.

Catatan terkait: Revolusi AI: Hal-hal Mengerikan yang Sudah dan Akan Terjadi