Pernahkah kamu merasa bingung saat mendengar janji-janji tentang kecerdasan buatan yang katanya bisa menyelesaikan semua masalah dunia, namun di saat yang sama ada peringatan bahwa teknologi ini bisa menghancurkan peradaban? Dalam buku The AI Con karya Emily M. Bender dan Alex Hanna, kebingungan ini dijawab dengan sebuah kenyataan yang mungkin tidak ingin kamu dengar dari perusahaan teknologi besar.
Buku ini membongkar bahwa apa yang kita sebut sebagai kecerdasan buatan sebenarnya adalah strategi pemasaran yang dirancang untuk menutupi berbagai masalah mendasar. Melalui artikel ini, kamu akan memahami mengapa istilah AI hanyalah sebuah label, bagaimana otomatisasi bisa merugikan kehidupan nyata, hingga cara agar kamu tidak mudah tertipu oleh klaim teknologi yang berlebihan.
AI Bukanlah Mesin yang Berpikir
Hal pertama yang perlu kamu pahami adalah bahwa istilah "kecerdasan buatan" sebenarnya bukanlah sebuah bentuk teknologi yang utuh atau tunggal. Bender dan Hanna menjelaskan bahwa istilah ini hanyalah label pemasaran yang sengaja digunakan agar sistem komputer biasa terkesan ajaib dan mampu berpikir seperti manusia.
Jika kita melihat lebih dalam, yang ada di balik label keren tersebut hanyalah berbagai jenis sistem otomatisasi yang bekerja secara terpisah. Misalnya, ada algoritma untuk menyaring rekomendasi tontonan, pengelompok data, atau pembuat teks dan gambar. Menyebut semua fungsi yang berbeda ini sebagai satu "kecerdasan umum" adalah upaya untuk memicu rasa takut ketinggalan zaman di masyarakat.
Secara teknis, model bahasa besar yang sering kamu gunakan saat ini bekerja sangat mirip dengan fitur saran kata otomatis di ponselmu. Sistem ini tidak memiliki pemikiran logis atau kesadaran. Ia hanya menghitung kemungkinan statistik dari miliaran data teks yang pernah dibacanya untuk menebak kata apa yang paling mungkin muncul berikutnya.
Emily M. Bender menggunakan istilah yang sangat menarik untuk menggambarkan hal ini, yaitu stochastic parrots atau beo stokastik. Sama seperti burung beo yang bisa menirukan suara manusia tanpa memahami maknanya, model komputasi ini hanya menyusun pola huruf dan kata tanpa memiliki niat untuk berkomunikasi atau memahami konteks pesan yang disampaikan.
Bahaya Nyata di Balik Janji Otomatisasi
Meskipun terlihat canggih, sistem otomatisasi yang rapuh ini bisa membawa dampak yang sangat fatal dalam kehidupan nyata. Kesalahan kecil pada susunan kata otomatis dapat berujung pada tragedi kemanusiaan. Contohnya, kesalahan terjemahan otomatis dapat menyebabkan seseorang yang tidak bersalah ditangkap oleh polisi karena salah tafsir makna kalimat.
Selain itu, sistem pengenalan wajah sering kali membawa prasangka rasial yang berbahaya. Karena data pelatihannya tidak seimbang, mesin ini cenderung lebih sering salah mengenali orang berkulit gelap dibandingkan orang berkulit putih, yang berujung pada penangkapan warga yang tidak melakukan kejahatan.
Di dunia kerja, otomatisasi sering kali disalahgunakan oleh perusahaan sebagai alat untuk menekan biaya gaji. Kamu bisa melihat polanya pada beberapa kasus berikut:
- Kasus NEDA: Lembaga bantuan ini memecat staf konseling manusia dan menggantinya dengan program percakapan otomatis yang justru memberikan saran diet berbahaya bagi pasien.
- Kasus Levi's: Penggunaan model virtual komputer yang diklaim untuk meningkatkan keberagaman, padahal sebenarnya hanya untuk menghemat biaya pemotretan model manusia.
Bahaya ini juga merambah ke sektor pemerintahan melalui praktik yang disebut automated austerity atau otomatisasi penghematan. Pemerintah menggunakan perangkat lunak untuk mengelola bantuan sosial dengan aturan yang sangat kaku. Akibatnya, banyak warga yang sebenarnya berhak menerima bantuan justru ditolak secara otomatis oleh sistem tanpa diberi kesempatan untuk menjelaskan situasi mereka.
Eksploitasi Manusia dan Kerusakan Lingkungan
Di balik layar teknologi yang tampak "bersih" dan canggih, terdapat eksploitasi manusia yang sangat nyata. Industri AI sangat bergantung pada apa yang disebut sebagai ghost work atau kerja hantu. Di Nairobi, Kenya, misalnya, banyak anak muda dibayar sangat murah untuk menyaring konten-konten mengerikan seperti kekerasan dan ujaran kebencian agar mesin bisa belajar menolaknya.
Selain eksploitasi tenaga kerja, ledakan penggunaan AI juga memberikan beban berat bagi lingkungan kita. Melatih model komputasi raksasa membutuhkan energi listrik yang sangat besar, yang memicu lonjakan emisi gas rumah kaca. Selain itu, server-server yang bekerja tanpa henti membutuhkan pendinginan air yang masif, sehingga menyedot cadangan air bersih di berbagai wilayah.
Bagi para pekerja kreatif, teknologi ini juga menjadi ancaman serius. Perusahaan teknologi menyedot jutaan karya seni, tulisan, dan buku dari internet tanpa izin untuk melatih mesin mereka. Akibatnya, seniman dan penulis kehilangan penghasilan karena karya mereka ditiru secara instan oleh mesin yang hanya memotong dan menempelkan kembali karya orang lain secara acak.
Cara Bersikap Kritis terhadap Klaim Teknologi
Agar kamu tidak terjebak dalam hype atau kehebohan teknologi, The AI Con menawarkan panduan praktis untuk menguji kebenaran klaim sebuah sistem otomatisasi. Kamu bisa menggunakan tujuh pertanyaan kritis, di antaranya:
- Apa tugas spesifik yang sebenarnya sedang diotomatisasi?
- Data apa yang dimasukkan ke dalam sistem tersebut?
- Apakah ada bukti nyata bahwa data tersebut berhubungan dengan hasil yang dijanjikan?
- Bagaimana sistem tersebut diuji?
- Siapa pihak yang mendapatkan keuntungan finansial dari teknologi ini?
- Siapa pihak yang menanggung risiko jika sistem ini gagal?
Selain itu, kamu harus waspada terhadap praktik antropomorfisme, yaitu kecenderungan pengembang untuk memberi nama manusia pada mesin (seperti memberi nama "Linda" pada asisten virtual). Hal ini dilakukan untuk menciptakan rasa percaya palsu agar kamu merasa sedang berinteraksi dengan makhluk yang memiliki empati, padahal itu hanyalah rangkaian kata statistik.
Poin terpenting yang harus kamu pegang adalah bahwa tanggung jawab etika dan hukum tidak boleh diserahkan kepada mesin. Komputer tidak memiliki kebijaksanaan atau pertimbangan moral. Tanggung jawab akhir harus selalu berada di tangan manusia, baik itu pejabat pemerintah maupun pimpinan perusahaan yang memutuskan untuk menggunakan teknologi tersebut.
Menghadapi Masa Depan Teknologi secara Bijak
Menghadapi arus otomatisasi yang semakin kencang, kita tidak boleh bersikap pasif. Kita memiliki hak penuh untuk menolak penggunaan teknologi yang terbukti diskriminatif, tidak adil, atau merugikan hak-hak dasar manusia. Penolakan terhadap teknologi yang merugikan publik adalah bagian dari perjuangan untuk menjaga martabat kemanusiaan.
Dukungan terhadap transparansi dan akuntabilitas sangatlah penting. Kita perlu mendorong agar setiap sistem otomatisasi yang digunakan dalam layanan publik memiliki catatan terbuka yang bisa diperiksa oleh warga. Dengan begitu, potensi bias dan penyalahgunaan dapat dideteksi lebih dini sebelum menimbulkan kerugian yang lebih besar.
Memahami realitas di balik kecerdasan buatan akan membantumu menjadi pengguna teknologi yang lebih cerdas dan kritis. Jika kamu ingin mendalami tujuh pertanyaan uji klaim teknologi secara lebih mendalam dan memahami seluruh fakta di balik janji manis korporasi teknologi, kamu bisa mempelajari ringkasan lengkap buku The AI Con di BacaApps.
Baca ringkasan lengkapnya di BacaApps: The AI Con karya Emily M. Bender & Alex Hanna
