Kecerdasan Buatan, Kapitalisme Pengawasan, dan Perilaku Manusia

Kecerdasan Buatan, Kapitalisme Pengawasan, dan Perilaku Manusia
Ilustrasi/hidde.blog
Ulasan buku The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power, karya Shoshana Zuboff

Kita membuka ponsel untuk mencari sepasang sepatu. Beberapa jam kemudian, iklan sepatu muncul di media sosial, menyusul di situs berita, mungkin juga di aplikasi yang tidak ada hubungannya dengan belanja. Rasanya agak ganjil. Kita tidak merasa sedang memberi tahu siapa pun, tetapi sesuatu seolah mengikuti perpindahan perhatian kita. 

Jari terus menggulir layar. Iklan berikutnya muncul. Kita menganggapnya bagian dari kehidupan digital, gangguan kecil yang bisa diabaikan dengan sekali usap.

Shoshana Zuboff meminta kita berhenti menganggapnya sepele.

Dalam The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power, buku yang terbit pada 2019, akademisi Harvard Business School itu mengembangkan sebuah argumen besar: perusahaan teknologi telah membangun bentuk kapitalisme yang menjadikan pengalaman manusia sebagai bahan baku untuk memperoleh keuntungan. Aktivitas sehari-hari dikumpulkan sebagai data, diolah menjadi prediksi perilaku, lalu digunakan untuk menghasilkan nilai ekonomi. Zuboff menyebut sistem itu surveillance capitalism, atau kapitalisme pengawasan.

Istilah tersebut penting karena menggeser cara kita memahami bisnis digital. Kita terbiasa berpikir bahwa layanan internet diberikan sebagai imbalan atas perhatian kita terhadap iklan. Gambaran itu tidak sepenuhnya salah, tetapi terlalu sederhana. Bagi Zuboff, yang dipertaruhkan adalah proses ekstraksi yang jauh lebih luas: perusahaan mengumpulkan informasi tentang perilaku manusia, termasuk informasi yang tidak diperlukan untuk menyediakan layanan, kemudian memanfaatkannya untuk membangun produk prediksi yang dapat dijual kepada pengiklan dan pihak lain.

Perusahaan tidak hanya ingin mengetahui apa yang kita lakukan. Mereka ingin memperkirakan apa yang akan kita lakukan berikutnya.

Perubahan itu tumbuh dari ekonomi internet yang selama bertahun-tahun mengandalkan pengumpulan data dalam skala besar. Google menjadi salah satu contoh utama dalam analisis Zuboff. Mesin pencari menghasilkan data tentang apa yang dicari orang, kapan mereka mencarinya, dan bagaimana mereka berinteraksi dengan hasil pencarian. Informasi tersebut dapat membantu memperbaiki layanan. Dalam model bisnis berbasis iklan, data yang sama juga bernilai karena dapat digunakan untuk menargetkan iklan dan memperkirakan kemungkinan seseorang melakukan klik.

Pada hal tersebut, Zuboff memperkenalkan konsep behavioral surplus, atau surplus perilaku: bagian dari pengalaman manusia yang diambil dan diolah melampaui kebutuhan langsung untuk menyediakan layanan. Surplus itu menjadi bahan baku bagi sistem prediksi. Semakin banyak perilaku yang dapat diamati, semakin kaya pula bahan yang tersedia untuk mencari pola dan memperkirakan tindakan berikutnya.

Kita perlu berhenti sejenak pada kata surplus. Dalam ekonomi biasa, istilah itu terdengar seperti kelebihan produksi yang dapat dimanfaatkan. Dalam ekonomi pengawasan, yang disebut kelebihan justru dapat berupa jejak kehidupan seseorang: pencarian yang dilakukan tengah malam, lokasi yang dikunjungi, video yang ditonton sampai selesai, atau barang yang berkali-kali dimasukkan ke keranjang tanpa pernah dibeli.

Bagi pengguna, aktivitas tersebut mungkin tidak memiliki arti ekonomi yang besar. Bagi perusahaan yang mengumpulkan data dalam skala jutaan orang, pola-pola kecil dapat menjadi aset bernilai tinggi.

Zuboff tidak menganggap proses tersebut sebagai akibat yang tidak disengaja dari kemajuan teknologi. Ia melihatnya sebagai pilihan bisnis dan struktur kekuasaan yang berkembang ketika pengumpulan data menjadi sumber keuntungan. Perusahaan memiliki insentif untuk memperluas apa yang dapat diamati, memperpanjang waktu penggunaan layanan, dan meningkatkan kemampuan memprediksi perilaku. Pengalaman manusia pun perlahan diubah menjadi sumber daya komersial.

Argumen itu terasa mengganggu karena kita sendiri ikut menyediakan bahan bakunya. Kita mengunggah foto, memberi penilaian, mencari alamat, membaca berita, menonton video, dan menyampaikan pendapat. Sebagian besar kegiatan itu memang kita lakukan dengan sukarela. Persoalannya, persetujuan untuk menggunakan sebuah layanan tidak selalu berarti pemahaman yang utuh mengenai bagaimana data dikumpulkan, digabungkan, disimpan, dan dimanfaatkan di kemudian hari.

Kita menekan tombol setuju pada syarat penggunaan yang panjangnya berlembar-lembar. Layanan segera terbuka. Siapa yang sungguh-sungguh membaca semuanya?

Zuboff membawa persoalan itu melampaui privasi. Menurutnya, kapitalisme pengawasan berkembang menjadi bentuk kekuasaan yang mampu mempengaruhi perilaku manusia. Perusahaan tidak cukup puas dengan prediksi yang akurat; kemampuan untuk mempengaruhi tindakan pengguna juga memiliki nilai komersial. Jika sebuah platform dapat menentukan konten mana yang ditampilkan, notifikasi mana yang dikirim, dan produk mana yang terus muncul di hadapan seseorang, platform itu ikut membentuk lingkungan tempat keputusan dibuat. 

Kita masih memilih sendiri, tentu saja. Tidak setiap iklan mengubah keputusan, dan tidak setiap rekomendasi merupakan bentuk manipulasi. Persoalan yang dibahas Zuboff lebih struktural: pilihan individu berlangsung dalam lingkungan digital yang sebagian besar dirancang oleh perusahaan dengan tujuan ekonomi tertentu. Pengguna tidak selalu mengetahui mengapa sebuah konten muncul, mengapa perhatian mereka diarahkan ke sana, atau mengapa informasi tertentu lebih mudah ditemukan daripada informasi lainnya.

Perbedaan antara memprediksi perilaku dan mempengaruhinya jadi semakin penting ketika model bisnis bergantung pada keterlibatan pengguna. Sistem rekomendasi dapat membantu kita menemukan musik, film, atau informasi yang relevan. Sistem yang sama dapat mengoptimalkan perhatian, membuat kita terus menggulir layar, dan memprioritaskan materi yang memicu reaksi kuat. Efeknya tidak selalu sama bagi setiap orang, tetapi desain platform jelas bukan keputusan yang netral terhadap perilaku.

Zuboff menyebut perkembangan kekuasaan tersebut sebagai persoalan demokrasi dan otonomi manusia. Ketika perusahaan memiliki informasi yang jauh lebih luas tentang individu daripada yang dapat dipahami individu mengenai perusahaan, hubungan keduanya jadi timpang. Perusahaan dapat mempelajari pola kelompok pengguna, menguji perubahan desain, dan mengukur respons secara terus-menerus. Pengguna, sebaliknya, sering hanya melihat antarmuka yang sederhana.

Perbedaan pengetahuan itu sendiri merupakan sumber kekuasaan.

Buku ini juga memperlihatkan bahwa kapitalisme pengawasan tidak hanya bergantung pada teknologi canggih. Ia membutuhkan normalisasi. Orang terbiasa membagikan lokasi untuk mendapatkan petunjuk arah, memberikan akses kontak agar aplikasi bekerja lebih mudah, atau menerima pelacakan demi pengalaman yang dianggap lebih personal. Setiap langkah dapat memiliki alasan praktis. Akumulasi langkah-langkah tersebut menghasilkan infrastruktur pengumpulan data yang jauh lebih luas daripada yang biasanya disadari pengguna.

Bagi Indonesia, persoalan itu hadir dalam bentuk yang sangat sehari-hari. Kita menggunakan aplikasi belanja, layanan transportasi daring, dompet digital, media sosial, dan berbagai platform komunikasi untuk mengatur kehidupan. Data lokasi, transaksi, preferensi, dan interaksi dapat membantu penyedia layanan meningkatkan kualitas produk. Data yang sama juga menimbulkan persoalan mengenai akses, keamanan, kepemilikan, dan batas penggunaan.

Siapa yang memperoleh keuntungan ketika kebiasaan konsumen diubah menjadi profil prediktif? Seberapa jauh data transaksi boleh digunakan untuk menilai kemampuan ekonomi seseorang? Apa yang dapat dilakukan pengguna ketika informasi mereka dipakai di luar tujuan yang mereka pahami? Pertanyaan-pertanyaan itu jadi penting ketika layanan digital semakin sulit dipisahkan dari pekerjaan, pendidikan, perdagangan, dan hubungan sosial.

Zuboff menulis sebelum ledakan AI generatif yang kini kita kenal. Karena itu, bukunya tidak seharusnya dibaca sebagai penjelasan teknis tentang semua model AI mutakhir. Nilai utamanya terletak pada analisis mengenai ekonomi data dan ketimpangan kekuasaan. 

Perkembangan AI memperluas perdebatan tersebut: data dapat digunakan untuk melatih model, personalisasi dapat menjadi lebih canggih, dan kemampuan menghasilkan atau menyaring informasi dapat mempengaruhi cara orang bekerja serta mengambil keputusan. Hubungan antara AI dan kapitalisme pengawasan tidak selalu identik, tetapi keduanya dapat bertemu dalam kepentingan untuk mengumpulkan data dan mengoptimalkan perilaku.

Ada pula alasan untuk membaca Zuboff secara kritis. Analisisnya sangat luas, kadang berulang, dan cenderung menempatkan kapitalisme pengawasan sebagai kerangka utama untuk memahami perkembangan teknologi digital. Padahal, bisnis teknologi beragam; tidak semua pengumpulan data memiliki tujuan yang sama, dan layanan berbasis data dapat menghasilkan manfaat nyata. Persoalannya harus diperiksa melalui praktik konkret, struktur insentif, serta mekanisme pertanggungjawaban masing-masing perusahaan.

Kritik tersebut tidak menghapus sumbangan utama buku ini. Zuboff memberi bahasa untuk menjelaskan mengapa persoalan data tidak selesai dengan mengganti kata sandi atau mematikan pelacakan lokasi. Masalahnya juga menyangkut model bisnis yang menjadikan kemampuan mengamati dan memperkirakan manusia sebagai sumber keunggulan ekonomi.

Itulah alasan The Age of Surveillance Capitalism layak dibaca. Buku ini membantu kita memahami bahwa ekonomi digital tidak hanya menjual barang dan jasa. Ia juga membangun sistem yang mengamati perilaku, mengolah pengalaman, dan mencari keuntungan dari kemampuan memperkirakan tindakan manusia. Ketika data menjadi aset, kehidupan sehari-hari ikut masuk ke dalam perhitungan bisnis, bahkan pada saat kita tidak sedang berbelanja.

Saya kira bagian paling mengusik dari argumen Zuboff justru terletak pada sesuatu yang mudah kita anggap biasa: kemudahan. Kita menerima rekomendasi yang tepat, rute yang cepat, iklan yang relevan, dan layanan yang terasa semakin memahami kebutuhan. Kita menikmati hasilnya, sementara proses yang menghasilkan semua itu tetap tersembunyi. Kenyamanan membuat pertanyaan tentang biaya terasa tidak mendesak.

Sampai suatu hari, kita ingin mengetahui mengapa sebuah keputusan dibuat, mengapa harga yang kita lihat berbeda dari harga orang lain, atau mengapa informasi tertentu terus mengikuti kita. Jawabannya mungkin tersimpan dalam profil yang tidak pernah kita lihat, dibentuk dari aktivitas yang sudah lama kita lupakan.

Data itu tetap bekerja, bahkan ketika kita sudah menutup aplikasinya.


Related

Iptek 6994564575704320275

Posting Komentar

Jangan menyisipkan link ke dalam komentar, karena akan ditandai sebagai spam.

emo-but-icon

Terbaru

Banyak Dibaca

Ebook BSM

Mengapa Dunia Seperti Sekarang? 100 Peristiwa yang Membentuk Dunia Kita

Pernah bertanya-tanya, mengapa dunia seperti sekarang? Mengapa dunia terbagi-bagi dalam banyak negara? Mengapa ada orang-orang yang sangat k...

item