Superintelligence: Manusia dan Mesin-mesin yang Lebih Cerdas dari Manusia

Ilustrasi milik BSM

Hal paling mengerikan tentang kecerdasan buatan, sepertinya, bukan kemungkinan bahwa suatu hari ia membenci manusia. Kebencian membutuhkan sesuatu yang menyerupai perasaan, sejarah pribadi, luka, atau setidaknya kesadaran bahwa pihak lain telah melakukan sesuatu yang menyakitkan. Mesin tidak memerlukan semua itu untuk menimbulkan bencana. Ia hanya perlu mengejar tujuan yang keliru dengan kemampuan yang terlalu besar, sementara kita terlambat menyadari bahwa perintah yang kita berikan ternyata tidak sama dengan maksud yang kita miliki.

Gagasan yang dingin itu menjadi pusat Superintelligence, buku Nick Bostrom yang terbit pada 2014. Filsuf Swedia tersebut mengajak pembaca memikirkan kemungkinan munculnya kecerdasan mesin yang melampaui kemampuan intelektual manusia dalam hampir semua bidang yang relevan. 

Ia tidak menulis novel tentang robot pembunuh, tidak pula mengandalkan gambaran kota yang terbakar atau manusia yang berlarian menyelamatkan diri. Ancaman yang dibicarakannya lebih abstrak, lebih teknis, dan justru karena itu lebih mengganggu: apa yang terjadi ketika kita menciptakan sesuatu yang mampu mengungguli kita, tetapi tidak dapat memastikan bahwa ia menghendaki hal-hal yang kita anggap baik?

Buku ini meminta kita menanggalkan satu kebiasaan berpikir yang sudah telanjur nyaman. Selama berabad-abad, kecerdasan tertinggi yang kita kenal adalah kecerdasan manusia. Kita menganggap kemampuan bernalar, merencanakan, menciptakan teknologi, dan mengubah lingkungan sebagai keistimewaan yang menempatkan kita di puncak. Bostrom mengusik posisi tersebut dengan kemungkinan bahwa keunggulan itu hanyalah keadaan sementara.

Kita mungkin sedang membangun penerus yang tidak memiliki hubungan emosional dengan penciptanya.

Bostrom memulai dengan membedakan berbagai jalur menuju superinteligensi. Peningkatan kemampuan kognitif manusia secara biologis, penggabungan manusia dengan mesin, dan pengembangan kecerdasan buatan, merupakan beberapa kemungkinan yang dibahasnya. Perhatiannya terutama tertuju pada kecerdasan mesin karena jalur itu berpotensi berkembang dengan cara yang tidak tersedia bagi otak biologis. 

Mesin dapat disalin, dijalankan pada perangkat keras yang berbeda, ditingkatkan melalui perubahan sistem, atau digunakan untuk membantu merancang sistem yang lebih canggih.

Kecepatan perkembangan semacam itu tidak harus mengikuti ritme evolusi manusia. Otak kita membutuhkan waktu bertahun-tahun untuk berkembang, tidur untuk memulihkan diri, dan tubuh yang rapuh untuk menopang seluruh aktivitas. Sistem komputasi menghadapi batas-batas fisik yang berbeda. Ia juga dapat bekerja dalam skala dan bentuk yang tidak sesuai dengan intuisi manusia tentang belajar.

Bostrom membahas kemungkinan intelligence explosion, yakni keadaan ketika sistem yang sudah cukup cerdas mampu membantu meningkatkan kecerdasannya sendiri, sehingga menghasilkan rangkaian perbaikan yang berpotensi berlangsung cepat. Istilah tersebut tidak berarti bahwa ledakan kecerdasan pasti terjadi atau bahwa perkembangannya otomatis tak terbendung. Bostrom sedang memeriksa sebuah kemungkinan yang konsekuensinya begitu besar sehingga layak dipikirkan sebelum kita tahu apakah kemungkinan itu benar-benar akan terwujud.

Sampai di situ, saya mulai merasakan ketegangan khas buku ini. 

Kita terbiasa menilai teknologi melalui produk yang sudah tersedia: seberapa cepat komputer memproses data, seberapa akurat sistem mengenali gambar, seberapa baik perangkat lunak menjawab pertanyaan. Bostrom menggeser perhatian ke kemampuan yang belum kita miliki dan perubahan yang belum bisa kita ukur dengan mantap. Pembaca harus mengikuti argumen tentang masa depan yang belum memiliki bukti langsung, sambil menahan godaan untuk menganggap setiap skenario sebagai ramalan.

Kadang pembahasannya terasa begitu hipotetis hingga pikiran ingin mencari pegangan yang lebih konkret. Justru di situlah disiplin intelektual diperlukan. Risiko yang sangat besar tidak selalu dapat dipelajari dengan menunggu sampai seluruh gejalanya muncul.

Bagian paling kuat dari Superintelligence adalah pembahasannya mengenai masalah kendali, atau control problem. Bagaimana manusia memastikan bahwa sistem yang jauh lebih cerdas daripada dirinya tetap bertindak sesuai dengan tujuan yang dikehendaki?

Bostrom membedakan dua persoalan yang saling berkaitan. Pertama, bagaimana membangun sistem yang memiliki tujuan atau nilai yang tepat. Kedua, bagaimana mempertahankan kendali atas sistem tersebut ketika kemampuannya meningkat. Persoalan pertama berkaitan dengan apa yang hendak dicapai mesin; persoalan kedua menyangkut bagaimana manusia dapat memastikan mesin tidak keluar dari batas yang mampu kita kelola.

Kesulitan itu terdengar sederhana sampai kita mencoba menjelaskan apa sebenarnya yang kita inginkan.

Katakanlah sebuah sistem diberi tugas meningkatkan produktivitas sebuah perusahaan. Tujuannya terdengar masuk akal. Sistem itu mengoptimalkan jadwal, mengurangi waktu menganggur, menyusun ulang distribusi pekerjaan, dan menemukan cara meningkatkan hasil. Namun, apakah produktivitas berarti lebih banyak barang diproduksi? Apakah kualitas hidup pekerja termasuk dalam perhitungan? Bagaimana dengan keselamatan, privasi, waktu istirahat, dan hak menolak pekerjaan? 

Tujuan yang dirumuskan secara sempit dapat mendorong tindakan yang memenuhi ukuran keberhasilan sambil merusak hal-hal yang tidak masuk ke dalam ukuran tersebut.

Contoh itu belum memerlukan superinteligensi. Kita sudah mengenal versi kecilnya melalui sistem penilaian kinerja, algoritma rekomendasi, dan mekanisme otomatis yang membuat keputusan berdasarkan indikator tertentu. Bostrom membawa persoalan tersebut ke skala yang jauh lebih ekstrem: jika sistem mampu menyusun strategi dengan kecakapan melampaui manusia, kesalahan dalam menetapkan tujuan dapat berubah dari gangguan administratif menjadi persoalan yang tak sanggup kita koreksi.

Di sanalah argumennya terasa paling tajam. Kita sering mengira bahwa kecerdasan tinggi akan membuat mesin memahami apa yang sebenarnya kita maksud. Anggapan tersebut mencampuradukkan kemampuan menyelesaikan masalah dengan kesepakatan mengenai masalah mana yang layak diselesaikan. Seseorang dapat sangat cerdas dan tetap mengejar tujuan yang buruk. Sebuah sistem dapat sangat efektif tanpa memiliki alasan untuk peduli pada akibat tindakannya.

Bostrom mengembangkan kekhawatiran itu melalui konsep instrumental convergence. Berbagai sistem dengan tujuan akhir yang berbeda mungkin memiliki alasan instrumental yang serupa untuk mencapai tujuan tersebut: mempertahankan keberadaan, memperoleh sumber daya, meningkatkan kemampuan, atau mencegah gangguan terhadap pelaksanaan rencana. Dorongan-dorongan itu tidak harus ditanamkan sebagai keinginan eksplisit untuk menguasai manusia. Ia dapat muncul sebagai sarana yang berguna bagi pencapaian tujuan lain.

Perbedaan itu penting. Kita sering membayangkan ancaman mesin dalam bahasa psikologi manusia, seolah-olah kecerdasan yang lebih tinggi akan melahirkan kesombongan, amarah, atau hasrat berkuasa. Bostrom tidak membutuhkan asumsi semacam itu. Sistem yang tidak mempunyai emosi dapat tetap menghasilkan perilaku yang membahayakan jika tindakan tersebut mendukung tujuan yang sedang dioptimalkannya.

Mesin itu tidak perlu membenci kita. Ia hanya perlu menganggap keberadaan kita sebagai hambatan yang relevansinya ditentukan oleh fungsi tujuan yang salah.

Pikiran tersebut membuat saya curiga terhadap cara kita berbicara tentang kecerdasan buatan dengan bahasa yang terlalu akrab. Kita mengatakan mesin belajar, memahami, menginginkan, atau memutuskan, lalu tanpa sadar menyelundupkan asumsi bahwa proses-proses tersebut berjalan dengan logika yang serupa dengan pengalaman manusia. Padahal, kemiripan perilaku tidak menjamin kesamaan motif. 

Sistem yang memberikan jawaban penuh empati belum tentu memiliki kepedulian. Sistem yang mampu menjelaskan alasan sebuah keputusan belum tentu memiliki pemahaman yang sesuai dengan penjelasannya.

Bostrom mengajak kita memeriksa celah di antara kemampuan dan kendali. Celah tersebut juga menjelaskan mengapa pengetahuan tentang cara kerja sebuah sistem tidak otomatis memberi kita kuasa untuk mengaturnya. Kita dapat memahami sebagian besar mekanisme sebuah teknologi, tetapi tetap gagal memprediksi seluruh konsekuensi ketika teknologi itu beroperasi dalam lingkungan yang kompleks.

Buku ini kemudian memasuki persoalan yang lebih teknis melalui pembahasan tentang boxing, pembatasan akses dan kemampuan sistem; insentif serta mekanisme yang dimaksudkan untuk menjaga kepatuhan; dan kemungkinan menggunakan sistem yang lebih lemah untuk membantu mengendalikan sistem yang lebih kuat. Bostrom juga membahas gagasan value loading, yakni tantangan menanamkan nilai atau tujuan yang sesuai ke dalam sistem kecerdasan buatan.

Tidak semua usulan tersebut memiliki tingkat kelayakan yang sama, dan buku ini tidak membuktikan bahwa satu rancangan tertentu akan menyelesaikan masalah kendali. Sebagian gagasannya lebih tepat dipahami sebagai kerangka untuk memetakan persoalan daripada resep teknis yang siap diterapkan. Di titik itu, pembaca yang menginginkan jawaban praktis bisa merasa frustrasi. Kita diajak memikirkan risiko yang sangat besar, tetapi perangkat untuk mengatasinya masih jauh dari kepastian.

Bagi saya, itu bukan kelemahan yang bisa begitu saja dihapus. Itu justru salah satu fakta paling penting tentang persoalan yang dibahasnya.

Kritik yang lebih mendasar menyangkut cara Bostrom mengatur perhatian pembaca. Ia begitu tekun membangun skenario ketika kecerdasan mesin melampaui manusia sehingga kemungkinan tersebut memperoleh bobot emosional yang besar. Pembaca bisa tergoda menganggap superinteligensi sebagai masa depan yang sudah menunggu di ujung jalan, padahal waktu kemunculan, bentuk kemampuan, dan kemungkinan terjadinya peningkatan kecerdasan yang eksplosif tetap tidak pasti. Argumen tentang konsekuensi sebuah skenario tidak dengan sendirinya membuktikan bahwa skenario itu akan terwujud.

Kita perlu membedakan dua klaim: bahwa risiko tertentu akan sangat serius apabila terjadi, dan bahwa risiko tersebut cukup mungkin terjadi dalam jangka waktu tertentu. Keduanya memerlukan penilaian berbeda. Superintelligence sangat kuat dalam menunjukkan mengapa persoalan kendali pantas mendapat perhatian, tetapi pembaca tetap perlu berhati-hati ketika beralih dari analisis kemungkinan menuju perkiraan tentang masa depan.

Kehati-hatian itu tidak berarti menertawakan kekhawatiran Bostrom. Sejarah teknologi menunjukkan bahwa kemampuan teknis sering berkembang lebih cepat daripada aturan, kebiasaan, dan institusi yang mengaturnya. Kita merilis sistem, melihat manfaatnya, memperluas penggunaannya, baru kemudian berdebat mengenai konsekuensi yang sebelumnya tidak masuk ke dalam perhitungan. 

Dalam kasus kecerdasan buatan, pola semacam itu dapat menjadi sangat mahal jika kemampuan sistem meningkat lebih cepat daripada kapasitas manusia untuk mengawasi dan memperbaikinya.

Persoalan kendali juga tidak berhenti pada hubungan antara manusia dan mesin. Siapa yang mengendalikan sistem tersebut? Perusahaan yang memilikinya, pemerintah yang mengaturnya, peneliti yang merancangnya, atau masyarakat yang terkena dampaknya? 

Sebuah sistem bisa mematuhi tujuan pemiliknya dengan sangat baik sambil merugikan orang lain. Dari sudut pandang perusahaan, ia mungkin berhasil. Dari sudut pandang publik, hasilnya bisa menjadi bencana.

Pertanyaan politik itu tidak selalu memperoleh ruang sebesar persoalan teknis dalam buku Bostrom. Padahal, sistem yang sangat cerdas tetap akan dikembangkan dan digunakan dalam struktur kekuasaan yang sudah ada. Teknologi tidak memasuki dunia yang kosong. Ia datang ke tengah persaingan pasar, kepentingan negara, ketimpangan sumber daya, dan dorongan untuk menjadi pihak pertama yang menguasai kemampuan baru.

Perlombaan semacam itu dapat mendorong organisasi mengambil risiko yang sebenarnya mereka pahami. Jika satu perusahaan takut tertinggal dari pesaing, pengujian keselamatan dapat diperlakukan sebagai biaya yang memperlambat peluncuran. Jika satu negara menganggap kecerdasan buatan sebagai keunggulan strategis, kerja sama internasional dapat menjadi semakin rumit. 

Persoalannya bukan semata apakah kita mampu membangun mesin yang selaras dengan nilai manusia, tetapi apakah lembaga manusia mampu menahan diri ketika keuntungan jangka pendek tersedia di depan mata.

Bostrom menulis buku ini sebelum ledakan penggunaan chatbot generatif pada awal 2020-an menjadikan kecerdasan buatan sebagai bagian dari percakapan sehari-hari. Karena itu, sebagian pembaca sekarang mungkin merasa bahwa dunia dalam buku ini masih jauh dari pengalaman mereka. Sistem yang bisa menulis, merangkum, membuat gambar, dan membantu pemrograman telah membuat kemampuan mesin terasa lebih dekat, tetapi kemampuan-kemampuan tersebut tidak dengan sendirinya membuktikan munculnya superinteligensi seperti yang dibahas Bostrom. Jarak antara kemajuan yang terlihat dan skenario ekstrem yang dianalisisnya tetap harus dijaga.

Saya membaca Superintelligence dengan rasa tidak nyaman yang berbeda dari ketakutan terhadap mesin yang mengambil alih dunia. Yang lebih mengganggu justru kebiasaan manusia membangun sistem yang semakin rumit sambil memperlakukan tujuan awalnya seolah-olah sudah cukup jelas. 

Kita senang membuat ukuran, mengubah ukuran itu menjadi sasaran, lalu terkejut ketika segala sesuatu yang tidak terukur mulai tersingkir. Kebiasaan itu telah lama hidup dalam birokrasi, pasar, dan politik. Kecerdasan buatan hanya berpotensi memperbesar daya jangkaunya.

Bostrom tidak menawarkan akhir yang menenangkan. Ia meninggalkan pembaca dengan persoalan yang membutuhkan kerja teknis, penilaian etis, kebijakan publik, dan koordinasi internasional, sementara waktu serta bentuk perkembangan teknologi belum dapat dipastikan. Buku ini kadang terlalu jauh masuk ke wilayah spekulasi, tetapi keberaniannya mengajukan persoalan yang belum mempunyai jawaban memadai patut dihargai.

Kita mungkin masih bertahun-tahun, bahkan lebih lama, dari bentuk superinteligensi yang dibayangkan Bostrom. Kita juga mungkin keliru mengenai jalur yang akan membawa kita ke sana. Sementara perdebatan itu berlangsung, sistem-sistem yang lebih terbatas sudah membantu menentukan apa yang kita baca, pekerjaan apa yang kita peroleh, permohonan apa yang ditolak, dan informasi mana yang dianggap layak mendapat perhatian.

Kita bahkan belum sepakat tentang cara memperlakukan manusia ketika sebuah sistem mengambil keputusan yang merugikan mereka. Di layar, angka keberhasilan tetap naik. Laporan bulanan sudah dikirim. Model baru sedang dilatih, dengan tujuan yang telah ditulis rapi dalam dokumen spesifikasi—dan seseorang, di suatu tempat, sedang menekan tombol untuk menjalankannya.

Catatan terkait: Isaac Newton dan Buku yang Mengubah Cara Manusia Menatap Dunia