Mengenal Sisi Gelap Industri dalam Buku The Empire of AI

Pernahkah kamu membayangkan apa yang sebenarnya terjadi di balik layar saat kamu menggunakan layanan kecerdasan buatan yang tampak begitu ajaib? Di balik jawaban cerdas dan gambar indah yang dihasilkan dalam hitungan detik, terdapat sebuah industri raksasa yang bekerja dengan cara yang sangat kompleks dan penuh intrik kekuasaan.

Melalui buku The Empire of AI karya Karen Hao, kamu akan diajak untuk melihat melampaui antarmuka digital yang bersih dan masuk ke dalam realitas industri yang sebenarnya. Buku ini membongkar bagaimana teknologi yang awalnya menjanjikan kemajuan bagi kemanusiaan kini telah bertransformasi menjadi sebuah struktur kekaisaran baru yang memusatkan kekayaan dan kekuasaan pada segelintir pihak.

Transformasi dari Misi Kemanusiaan ke Ambisi Komersial

Salah satu gagasan paling kuat dalam buku ini adalah bagaimana sebuah niat mulia bisa bergeser arah karena tekanan modal dan persaingan. Kamu akan melihat bagaimana OpenAI, yang didirikan pada akhir tahun 2015 sebagai lembaga nirlaba, perlahan-lahan berubah menjadi organisasi komersial yang mengejar keuntungan besar.

Awalnya, para pendiri berjanji akan mengembangkan kecerdasan umum buatan secara terbuka demi kebaikan seluruh umat manusia tanpa mengejar keuntungan materi. Namun, ambisi ini mulai terkikis oleh beberapa faktor utama:

• Dorongan Ego dan Persaingan: Berdirinya OpenAI sangat dipengaruhi oleh persaingan antar tokoh Silicon Valley, seperti keinginan Elon Musk untuk menyaingi laboratorium DeepMind milik Google.
• Kebutuhan Modal yang Masif: Ketika riset membutuhkan kapasitas komputer yang melonjak hingga tiga puluh juta persen, sumbangan sukarela tidak lagi cukup. Hal ini memaksa OpenAI membentuk struktur capped-profit untuk menarik investor raksasa seperti Microsoft.
• Perlombaan AGI: Terjadi pergeseran fokus dari keselamatan dunia menuju perlombaan menciptakan kecerdasan umum buatan (AGI) demi menguasai nilai ekonomi dunia. Siapa yang paling cepat menciptakan AGI, dialah yang akan menguasai ekonomi global.

Realitas Pekerja Hantu di Balik Kecanggihan AI

Buku ini juga mengungkap sisi gelap yang jarang dibicarakan: adanya eksploitasi tenaga kerja yang sangat masif. Di balik sistem chatbot yang tampak sopan dan pintar, terdapat ribuan "pekerja hantu" yang melakukan pekerjaan kasar dan berbahaya.

Pekerja-pekerja ini biasanya berada di negara berkembang dengan kondisi ekonomi yang rentan. Contoh konkretnya adalah para pekerja di Kenya yang disewa melalui perusahaan outsourcing untuk menyaring konten-konten paling mengerikan di internet. Mereka harus membaca ribuan deskripsi kekerasan ekstrem, pelecehan seksual, dan ujaran kebencian demi melatih filter keamanan sistem AI.

Dampaknya sangat nyata bagi manusia di balik layar tersebut:

• Beban Psikologis: Banyak pekerja mengalami trauma, mimpi buruk, dan gangguan mental akibat terus-menerus terpapar konten sadis.
• Upah Rendah: Di Kenya, pekerja hanya menerima bayaran antara 1,46 hingga 3,74 dolar per jam.
• Eksploitasi Wilayah Krisis: Perusahaan penyedia data sering kali sengaja mencari wilayah yang sedang mengalami krisis ekonomi atau pengangguran tinggi untuk menekan biaya kerja seminimal mungkin.

Dampak Fisik dan Kerusakan Lingkungan yang Tersembunyi

Seringkali kita menganggap teknologi digital sebagai sesuatu yang abstrak dan tidak berwujud, seolah-olah ia hanya ada di "awan" atau cloud. Namun, The Empire of AI mengingatkan kita bahwa AI memiliki harga fisik yang sangat mahal bagi bumi.

Pembangunan pusat data raksasa membutuhkan sumber daya alam dalam jumlah yang luar biasa besar. Hal ini menciptakan kontradiksi antara citra teknologi yang bersih dengan kenyataan kerusakan lingkungan di dunia nyata:

• Kebutuhan Air: Pusat data membutuhkan jutaan liter air sebagai pendingin mesin agar tidak kepanasan.
• Penambangan Mineral: Untuk membuat cip komputer, diperlukan pengerukan tambang besar-besaran. Di Gurun Atacama, Chile, penambangan tembaga dan litium telah menyedot air tanah secara terus-menerus, yang merusak ekosistem lokal dan mengancam sumber air bersih masyarakat adat.
• Konsumsi Energi: Proyek superkomputer skala besar membutuhkan pasokan energi listrik yang sangat masif dan stabil.

Bahaya Doktrin Penskalaan dan Ilusi Kecerdasan

Poin penting lainnya yang perlu kamu pahami adalah adanya keyakinan buta terhadap apa yang disebut sebagai "doktrin penskalaan" atau scaling. Di dalam industri, terdapat ajaran bahwa jika kita terus menambah data dan kapasitas komputasi, maka mesin otomatis akan menjadi semakin cerdas.

Namun, Karen Hao menunjukkan bahwa keyakinan ini memiliki risiko besar. Model bahasa besar sebenarnya hanyalah pencocok pola statistik, bukan entitas yang memahami kebenaran. Hal ini menyebabkan beberapa masalah serius:

• Halusinasi AI: Karena hanya menebak kata berikutnya berdasarkan statistik, sistem sering kali menciptakan informasi palsu yang terdengar sangat meyakinkan.
• Masalah Kotak Hitam: Metode deep learning bekerja layaknya kotak hitam, di mana cara mesin mengambil keputusan sulit dijelaskan secara nalar oleh pembuatnya sendiri.
• Kesalahan Fatal: Seperti pada kasus kecelakaan mobil otonom Uber tahun 2018, kegagalan sistem dalam mengenali situasi nyata bisa berakibat fatal.

Siasat Regulasi dan Pentingnya Tata Kelola yang Adil

Terakhir, buku ini memperingatkan kita tentang bagaimana para pemimpin teknologi melakukan lobi politik untuk mengendalikan narasi regulasi. Mereka sering kali menggunakan isu-isu teknis yang rumit untuk mengalihkan perhatian pemerintah dari masalah yang lebih mendesak.

Misalnya, ketika pemimpin teknologi menawarkan aturan yang berfokus pada batasan kapasitas komputasi, hal itu bisa menjadi siasat untuk menghindari pengawasan terhadap masalah nyata seperti hak cipta, upah rendah pekerja lepas, dan kerusakan lingkungan. Mereka mencoba memposisikan diri sebagai "penjaga keselamatan dunia" agar bisa menghindari regulasi yang lebih ketat terkait praktik bisnis mereka.

Oleh karena itu, sangat penting bagi kita untuk bersikap kritis dan memperjuangkan transparansi informasi serta tata kelola digital yang lebih adil bagi semua orang, bukan hanya bagi pemilik modal di Silicon Valley.

Memahami realitas teknologi secara mendalam akan membantumu menjadi pengguna yang lebih bijak di tengah euforia kecerdasan buatan saat ini. Jika kamu ingin menggali lebih dalam mengenai dinamika kekuasaan dan rahasia industri AI ini, kamu bisa membaca ringkasan lengkap buku The Empire of AI hanya di BacaApps.

Baca ringkasan lengkapnya di BacaApps: The Empire of AI karya Karen Hao