Belajar dari Supremacy: Siapa yang Sebenarnya Mengendalikan AI?

Pernahkah kamu membayangkan sebuah teknologi yang bisa menulis novel, menjawab pertanyaan medis, hingga membantu programmer menulis kode dalam hitungan detik? Teknologi itu bukan lagi fiksi ilmiah, melainkan kecerdasan buatan atau AI yang kini ada di genggaman kita. Namun, di balik kecanggihannya, muncul pertanyaan besar: siapa yang sebenarnya menentukan arah teknologi sekuat itu?

Melalui buku Supremacy karya Parmy Olson, kamu akan diajak menelusuri persaingan sengit antara dua tokoh besar, yaitu Sam Altman dari OpenAI dan Demis Hassabis dari DeepMind. Buku ini bukan sekadar cerita tentang teknologi, melainkan tentang bagaimana ambisi manusia, kekuatan modal, dan keputusan bisnis dapat mengubah masa depan umat manusia. Artikel ini akan merangkum pelajaran penting dari buku tersebut agar kamu bisa memahami dinamika dunia AI dengan lebih baik.

Pergeseran Idealisme Menjadi Kepentingan Korporasi

Salah satu poin paling menarik dalam buku ini adalah bagaimana visi mulia para pendiri AI perlahan berubah. Sam Altman dan Demis Hassabis awalnya datang dengan idealisme yang tulus; mereka bermimpi menciptakan AI yang bisa membawa kebaikan besar bagi manusia. Namun, realitas dunia teknologi ternyata sangat mahal.

Membangun kecerdasan buatan tingkat tinggi bukan sekadar soal kecerdasan otak manusia, melainkan soal kekuatan infrastruktur. Dibutuhkan daya komputasi yang sangat raksasa dan modal yang luar biasa besar untuk melatih model AI. Sayangnya, sumber daya sebesar itu hanya dimiliki oleh perusahaan-perusahaan teknologi raksasa.

Hal ini menciptakan sebuah pergeseran yang signifikan. Olson menunjukkan bahwa pilihan-pilihan bisnis yang tampak kecil, seperti menerima satu investasi besar atau menyetujui satu kemitraan strategis, dapat mengubah arah sebuah proyek besar. Sebagai contoh, keputusan OpenAI untuk bekerja sama dengan Microsoft demi mendapatkan daya komputasi akhirnya mengubah struktur organisasi mereka dari nirlaba menjadi bentuk capped-profit. Pelajaran bagi kita adalah bahwa ketika sebuah proyek membutuhkan modal besar, idealisme sering kali harus berhadapan dengan kepentingan korporasi.

Pentingnya Menyelaraskan Teknologi dengan Kebutuhan Manusia

Teknologi yang canggih tidak menjamin keberhasilan jika ia mengabaikan sisi kemanusiaan. Parmy Olson menceritakan kegagalan awal Sam Altman saat mendirikan Loopt, sebuah layanan pemetaan sosial. Meskipun teknologinya menarik, Loopt gagal karena banyak orang merasa tidak nyaman membagikan lokasi mereka karena masalah privasi.

Dari kegagalan ini, kita belajar bahwa sebuah produk, sehebat apa pun teknologinya, tetap harus sejalan dengan kebutuhan dan rasa nyaman orang yang memakainya. Kamu tidak bisa memaksa manusia melakukan sesuatu yang tidak ingin mereka lakukan secara alami.

Di sisi lain, kita bisa belajar dari pendekatan Demis Hassabis yang menggunakan strategi starting with the end in mind atau memulai dari akhir. Sebagai seorang pemain catur, Hassabis terbiasa membayangkan posisi akhir sebelum melangkah. Dalam membangun AI, ia memiliki visi jangka panjang yang jelas untuk memecahkan masalah besar seperti penyakit dan iklim. Menggunakan visi jangka panjang sebagai panduan dapat membantu kita memastikan bahwa setiap langkah teknis yang kita ambil tetap menuju pada tujuan manusiawi yang benar.

Risiko Bias dan Ketidakadilan dalam Algoritma

Satu hal yang sering luput dari perhatian adalah bagaimana AI bisa menjadi cermin dari prasangka manusia. Karena model AI dilatih menggunakan data dalam jumlah masif yang diambil dari internet, maka segala bentuk bias, prasangka, dan kebencian yang ada di internet ikut terserap ke dalam algoritma tersebut.

Olson memberikan contoh nyata yang sangat mengkhawatirkan tentang bagaimana bias ini bekerja di dunia nyata:

• Sistem Perekrutan Amazon: Pernah mengembangkan AI yang cenderung merekomendasikan kandidat pria lebih sering daripada wanita.
• Google Photos: Pernah melakukan kesalahan fatal dengan melabeli orang kulit hitam sebagai "gorillas".

Masalah ini muncul karena tim pengembang yang kurang beragam cenderung tidak sadar bagaimana sistem mereka bisa merugikan kelompok tertentu. Jika mayoritas pengembang berasal dari latar belakang yang serupa, mereka mungkin tidak melihat celah ketidakadilan yang ada. Oleh karena karena itu, keberagaman dalam tim pengembang sangat krusial agar teknologi yang dihasilkan bisa melayani semua orang secara adil, bukan hanya kelompok tertentu saja.

Dilema Etika di Tengah Ambisi Bisnis

Dalam perlombaan menuju kecerdasan umum buatan (AGI), etika sering kali menjadi korban dari ambisi bisnis. DeepMind, misalnya, mencoba mempertahankan prinsipnya dengan menuntut adanya dewan etika dan keamanan saat mereka bergabung dengan Google. Namun, tekanan untuk terus tumbuh dan bersaing di pasar global sering kali membuat pertimbangan etika menjadi nomor dua setelah target pertumbuhan dan angka penjualan.

Selain itu, ada risiko besar dalam cara perusahaan merilis teknologi baru. OpenAI menggunakan pendekatan iterative deployment, yaitu merilis produk ke publik lebih cepat untuk belajar dari umpan balik pengguna. Meskipun cara ini mempercepat inovasi, risikonya adalah masyarakat umum secara tidak langsung dijadikan "kelinci percobaan" yang harus menanggung dampak sosial dari teknologi yang belum sepenuhnya teruji.

Kita juga harus waspada terhadap ilusi kesadaran pada AI. Istilah stochastic parrots atau beo stokastik yang dikemukakan oleh para peneliti menggambarkan bahwa model bahasa sebenarnya hanya merangkai kata berdasarkan pola statistik. Mereka tidak memiliki kesadaran atau jiwa, meskipun jawaban yang diberikan terdengar sangat manusiawi dan mampu memicu ikatan emosional pada penggunanya.

Menjadi Pembaca Berita Teknologi yang Lebih Kritis

Melalui kisah dalam buku Supremacy, kita diajak untuk tidak hanya menjadi konsumen teknologi yang pasif. Kita perlu belajar mengajukan pertanyaan-pertanyaan kritis setiap kali mendengar berita tentang terobosan AI terbaru. Beberapa pertanyaan yang bisa kamu gunakan antara lain:

1. Siapa yang paling diuntungkan dari teknologi ini?
2. Siapa yang mungkin dirugikan atau terabaikan oleh sistem ini?
3. Apakah teknologi ini dikembangkan dengan mempertimbangkan privasi dan keadilan?

Penting untuk menyadari bahwa kendali atas teknologi bukan hanya urusan para insinyur di Silicon Valley, melainkan urusan kita semua. Skala besar dalam pengembangan AI membawa risiko yang juga semakin besar. Dengan memahami dinamika kekuasaan di balik layar, kamu akan memiliki perspektif yang lebih tajam dalam melihat bagaimana masa depan sedang dibentuk.

Ingin tahu lebih dalam tentang persaingan antara OpenAI dan Google serta drama di balik layar para tokoh teknologi dunia? Dapatkan pemahaman mendalam tentang persaingan OpenAI dan Google melalui ringkasan lengkap buku Supremacy. Temukan detail kisah inspiratif dan kontroversial para tokoh AI hanya di aplikasi BacaApps.

Baca ringkasan lengkapnya di BacaApps: Supremacy karya Parmy Olson