Elon Musk, Superintelligence, dan Ritual Pemanggilan Iblis

Ilustrasi/theguardian.com

Elon Musk mengucapkan kalimat tentang “memanggil iblis” dua belas tahun lalu, tetapi kalimat itu mendadak terasa jauh lebih dekat sekarang. Ia mengucapkannya pada sebuah forum MIT ketika kecerdasan buatan belum menjadi teman kerja jutaan orang, belum bisa menulis program dalam hitungan detik, belum bisa menjalankan agen yang menggunakan komputer, dan belum menjadi bahan pembicaraan sehari-hari di meja makan. 

Pada Oktober 2014, Musk berdiri di sebuah acara peringatan seratus tahun Departemen Aeronautics and Astronautics MIT dan menjawab pertanyaan tentang masa depan AI. Ia mengatakan bahwa manusia perlu sangat berhati-hati, karena AI mungkin merupakan ancaman eksistensial terbesar yang kita hadapi. Sesaat kemudian ia memakai gambaran yang jauh lebih aneh: manusia, katanya, sedang “summoning the demon”.

Elon Musk kemudian menjelaskan maksudnya dengan gambaran seorang pemanggil setan yang berdiri di depan pentagram sambil memegang air suci, yakin bahwa ia mampu mengendalikan makhluk yang baru dipanggilnya. 

Penonton tertawa. 

Musk sendiri ikut tertawa dalam suasana itu, tetapi ada bagian yang terasa tidak seperti lelucon. 

Moderator kemudian menyinggung HAL 9000 dari film 2001: A Space Odyssey. Musk menjawab bahwa HAL 9000 akan mudah ditangani dibandingkan AI yang sedang ia bicarakan. “Puppy dog,” kira-kira begitu perbandingannya. Setelah pertanyaan berikutnya, Musk bahkan sempat meminta moderator mengulang pertanyaan karena pikirannya sedang tersangkut pada persoalan AI.

Kita sekarang terlalu mudah menganggap semua kutipan AI sebagai komentar tentang 2026. Padahal tanggalnya penting. Musk belum sedang menanggapi ChatGPT, Claude, Gemini, agen komputer, atau model multimodal, karena semua itu belum hadir dalam bentuk seperti sekarang. Ia sedang memperingatkan tentang sesuatu yang masih jauh lebih abstrak. Justru itu yang membuat kutipan tersebut kembali mengambang di internet. Sebuah kalimat lama memperoleh tubuh baru karena teknologinya mulai mendekati imajinasi yang dulu terdengar berlebihan.

Pada 2014, untuk memahami ketakutan Musk, orang masih harus melewati cukup banyak lapisan fiksi ilmiah. Sekarang orang dapat membuka laptop, mengetik beberapa kalimat, dan menyaksikan model menghasilkan kode yang berjalan. Kita sudah terbiasa meminta mesin mengekstrak dokumen, membaca gambar, menulis program, menerjemahkan bahasa, membuat rencana perjalanan, menganalisis data, dan melakukan serangkaian tindakan menggunakan perangkat lunak. Jarak psikologis antara “komputer sebagai alat” dan “komputer yang melakukan pekerjaan” menyusut tanpa meminta izin kepada siapa pun.

Karena itulah kata “superintelligence” sekarang terasa berbeda.

Kecerdasan manusia selama ini mempunyai keunggulan yang sangat sederhana: manusia adalah makhluk yang menciptakan alat-alat intelektualnya sendiri. Kita membuat kalkulator karena otak kita lambat menghitung. Kita membuat buku karena ingatan kita buruk. Kita membuat komputer karena jumlah perhitungan yang mampu dilakukan otak tidak cukup untuk menjalankan jaringan listrik, menerbangkan pesawat, mengurutkan genom, atau mengelola transaksi jutaan orang.

Superintelligence membalik hubungan itu. Konsepnya bukan sekadar mesin yang lebih cepat menghitung atau lebih pandai menjawab pertanyaan tertentu. Ia merujuk pada sistem yang kemampuan intelektualnya melampaui manusia secara sangat luas, termasuk dalam bidang-bidang yang membutuhkan penalaran, pemrograman, penelitian, perencanaan, dan kemampuan menemukan strategi baru. Definisi dan batasnya masih diperdebatkan. Tidak ada garis meteran yang dapat ditempelkan pada dahi mesin untuk menentukan kapan ia resmi menjadi superintelligent.

Masalah sebenarnya mulai muncul ketika kemampuan tinggi itu digabungkan dengan otonomi.

Sebuah mesin yang mampu menjawab pertanyaan sulit masih membutuhkan seseorang untuk memberinya pertanyaan. Mesin yang mampu mengembangkan strategi, menulis kode, menguji hasil, memperbaiki kesalahan, menggunakan internet, mengoperasikan perangkat lunak, dan menjalankan tugas berikutnya tanpa menunggu manusia pada setiap langkah, mempunyai karakter yang berbeda. Ia mulai membentuk rantai tindakan. Satu kesalahan dapat diteruskan ke tindakan berikutnya sebelum manusia sempat menyadarinya.

Itu belum berarti mesin tersebut akan memusuhi manusia. Ini bagian yang sering hilang ketika pembicaraan tentang AI berubah menjadi film horor.

Mesin tidak perlu membenci kita.

Jika sebuah sistem diberi tujuan yang salah, memiliki akses terlalu luas, atau mampu mengejar tujuan tersebut dengan kemampuan yang jauh melebihi kemampuan pengawasnya, persoalannya dapat muncul tanpa kebencian, kemarahan, atau kesadaran. Sebuah program tidak harus memiliki dendam untuk melakukan sesuatu yang menghancurkan. Ia hanya membutuhkan kemampuan dan tujuan yang tidak cocok dengan kepentingan manusia.

Elon Musk sebenarnya sudah menyentuh bagian itu sejak awal. Ia tidak mengatakan pada 2014 bahwa AI pasti akan berubah menjadi Terminator. Ia mengatakan bahwa manusia perlu memiliki pengawasan regulasi, bahkan pada tingkat nasional dan internasional, karena kita mungkin melakukan sesuatu yang sangat bodoh.

Kata “bodoh” di sini lebih menarik daripada “iblis”.

Iblis adalah metafora. Kebodohan adalah perilaku manusia yang nyata.

Kita sudah berkali-kali membangun teknologi yang kemampuannya berkembang lebih cepat daripada kemampuan masyarakat mengatur penggunaannya. Mesin pembakaran menghasilkan mobil, kapal, pesawat, dan perang mekanis. Energi nuklir menghasilkan pembangkit listrik sekaligus senjata yang dapat memusnahkan kota. Internet memungkinkan pengetahuan menyebar dalam skala yang belum pernah terjadi sekaligus memberi ruang bagi penipuan, propaganda, pencurian data, dan serangan siber.

AI menambahkan sesuatu yang berbeda: teknologi itu bekerja pada wilayah yang selama berabad-abad dianggap sebagai keunggulan manusia sendiri, yaitu pekerjaan dengan bahasa, penalaran, simbol, perencanaan, dan produksi pengetahuan.

Musk sendiri tentu bukan pengamat netral. Ia ikut mendirikan OpenAI pada 2015, perusahaan yang pada awalnya dibentuk sebagai organisasi nirlaba dengan misi menyatakan bahwa AI harus dikembangkan demi manfaat umat manusia. Ia kemudian berpisah dari OpenAI, dan pada 2023 mendirikan xAI, perusahaan yang membangun model AI sendiri. Fakta itu membuat kisah “pemanggilan iblis” jauh lebih aneh. Orang yang paling sering mengucapkan peringatan tentang bahaya AI juga menjadi salah satu pengusaha yang terus mengejar teknologi tersebut.

Kontradiksi itu tidak otomatis membuat peringatannya salah.

Justru di situlah percakapan mengenai AI jadi tidak nyaman. Hampir semua orang yang paling serius mengembangkan teknologi ini sekaligus mempunyai alasan untuk terus mengembangkannya. Mereka melihat manfaatnya. Mereka melihat uangnya. Mereka melihat keunggulan strategisnya. Mereka juga melihat risikonya. Semua hal itu dapat benar secara bersamaan.

Sebuah perusahaan tidak perlu mempunyai niat jahat untuk masuk terlalu jauh. Cukup dengan muncul keyakinan bahwa pesaing akan terus bergerak jika mereka berhenti. Jika OpenAI berhenti, Anthropic mungkin terus berjalan. Jika Anthropic berhenti, Google mungkin terus berjalan. Jika perusahaan Amerika berhenti, perusahaan di negara lain mungkin tidak berhenti. Kompetisi menciptakan dorongan yang sangat sederhana: kemampuan baru selalu memiliki nilai ekonomi.

Pada tahap tertentu, “kita belum tahu apakah aman” dapat berhadapan dengan “kita tidak boleh tertinggal”.

Itulah bagian yang terasa lebih nyata daripada gambar robot dengan mata merah.

Musk mungkin terlalu pesimistis. Ia bisa saja salah mengenai seberapa cepat superintelligence muncul, seberapa berbahaya ia kelak, atau apakah sistem yang sangat cerdas akan benar-benar menimbulkan ancaman eksistensial. Banyak prediksi tentang AI masa lalu terbukti terlalu dini. Pernyataan “demon” sendiri lahir pada saat kemampuan AI masih jauh dari apa yang sekarang kita lihat.

Tetapi kutipan lama itu memiliki satu kualitas yang membuatnya terus hidup: ia tidak meminta kita membayangkan robot berdiri di tengah kota sambil menembakkan senjata. Ia meminta kita memikirkan tindakan manusia sebelum sesuatu menjadi terlalu kuat untuk dikendalikan.

Pada video lama dari MIT itu, suasananya ringan. Penonton tertawa ketika Musk menyebut pentagram dan air suci. Orang-orang duduk di kursi auditorium, mendengarkan seorang pengusaha roket berbicara tentang komputer yang bahkan belum ada dalam bentuk yang kita kenal sekarang. Tidak ada alarm. Tidak ada pusat data berdengung di latar belakang. Tidak ada agen AI yang sedang mengakses komputer dari jauh.

Hanya sebuah kalimat yang sempat terdengar seperti lelucon.

Sekarang kalimat itu beredar lagi, dipotong dari video, ditempelkan pada berita tentang superintelligence, dan dikirim dari satu layar ke layar lain. Tahun 2014 tertulis kecil di bawahnya.

Orang yang membacanya mungkin tidak memperhatikannya. Itu mungkin bagian paling ganjil dari semuanya.

Catatan terkait: Geoffrey Hinton dan Bahaya Besar AI yang Masih Tersembunyi