Memahami Peran Algoritma dalam Hidup Melalui Buku Hello World

Pernahkah kamu bertanya-tanya mengapa aplikasi navigasi memilihkan rute tertentu untukmu, atau mengapa produk yang sangat spesifik tiba-tiba muncul di layar belanjamu? Di balik layar ponselmu, ada baris-baris kode yang bekerja menentukan apa yang kamu lihat dan bagaimana kamu menjalani hari. Dalam buku Hello World, Hannah Fry mengajak kamu untuk melihat lebih dalam ke balik layar tersebut guna memahami bagaimana algoritma memengaruhi keputusan penting dalam hidup kita.

Buku ini bukan sekadar tentang teknologi, melainkan tentang bagaimana manusia berinteraksi dengan mesin yang semakin cerdas. Melalui Hello World, kamu akan belajar bahwa meskipun algoritma menawarkan efisiensi, mereka juga membawa risiko yang bisa berdampak besar pada keadilan, kesehatan, hingga keselamatan nyawa. Artikel ini akan merangkum pelajaran-pelajaran utama dari buku tersebut agar kamu bisa lebih kritis dalam menghadapi era digital.

Algoritma Bukan Sekadar Alat Netral

Banyak orang mengira algoritma adalah entitas yang objektif karena bekerja berdasarkan angka. Padahal, algoritma sebenarnya adalah serangkaian instruksi untuk menyelesaikan tugas dengan cara menentukan prioritas, mengelompokkan data, mencari kaitan antarinformasi, dan menyaring apa yang dianggap relevan. Karena instruksi ini dibuat oleh manusia, teknologi tidak pernah benar-benar netral.

Hannah Fry memberikan gambaran yang sangat kuat melalui analogi rancangan jembatan karya Robert Moses di New York. Moses membangun jembatan layang yang sangat rendah sehingga bus umum tidak bisa lewat di bawahnya. Akibatnya, masyarakat berpenghasilan rendah dan warga minoritas yang mengandalkan bus tidak bisa mencapai pantai. Hal ini membuktikan bahwa sebuah rancangan fisik bisa membawa aturan sosial yang diskriminatif, begitu pula dengan algoritma digital.

Selain bias dalam rancangan, kesalahan teknis yang sederhana pun bisa berakibat fatal. Kamu bisa melihat contoh nyata di negara bagian Idaho, di mana ribuan warga kehilangan bantuan kesehatan hanya karena sebuah lembar sebar atau spreadsheet Excel yang digunakan pemerintah ternyata rusak dan penuh dengan rumus yang keliru. Kesalahan pada data atau kode bisa menciptakan ketidakadilan yang nyata bagi banyak orang.

Bahaya Kepercayaan Berlebihan pada Mesin

Ada kecenderungan manusia untuk terjebak dalam dua kutub ekstrem: terlalu percaya pada mesin atau justru menolak mesin sama sekali. Ketika mesin memberikan jawaban berupa angka atau instruksi, kita sering kali menganggapnya sebagai kebenaran mutlak tanpa mempertanyakan logikanya.

Salah satu contoh yang dekat dengan keseharian adalah penggunaan alat navigasi. Buku ini menceritakan kisah Robert Jones yang terus mengikuti petunjuk arah di ponselnya menyusuri jalan sempit berbatu, meskipun ia sudah melihat rambu peringatan di pinggir jalan. Ia baru menyadari kesalahannya ketika mobilnya sudah tergantung di tepi jurang. Ini menunjukkan betapa berbahayanya jika kita mengabaikan realitas fisik demi mengikuti instruksi digital.

Bahaya ini juga merambah ke ranah opini publik. Melalui eksperimen mesin pencari tiruan bernama Kadoodle, peneliti Robert Epstein membuktikan bahwa manipulasi urutan hasil pencarian dapat mengubah pilihan politik orang-orang yang belum menentukan sikap hingga 12 persen. Hal ini terjadi secara halus tanpa disadari oleh pengguna, yang menunjukkan betapa kuatnya pengaruh algoritma dalam membentuk cara kita memandang dunia.

Pentingnya Pertimbangan Manusia dalam Keputusan Kritis

Meskipun mesin sangat cepat dalam memproses data, ada momen-momen di mana intuisi dan keberanian manusia menjadi satu-satunya penyelamat. Sejarah mencatat keberanian Letnan Kolonel Stanislav Petrov di Uni Soviet pada tahun 1983. Ketika komputer memberikan peringatan palsu tentang adanya peluncuran rudal nuklir dari Amerika Serikat, Petrov memilih untuk tidak langsung membalas serangan tersebut. Keputusannya untuk menahan diri terbukti benar, karena sistem radar tersebut hanya salah mengenali pantulan sinar matahari di awan.

Di bidang medis, buku ini menekankan bahwa mesin paling efektif jika bekerja sebagai mitra, bukan pengganti. Dalam kompetisi diagnosis kanker payudara, algoritma mampu bekerja sangat cepat, namun masih sering memicu alarm palsu pada sel yang sehat. Namun, ketika dokter manusia bekerja sama dengan mesin—di mana mesin menyisir gambar dan dokter melakukan pemeriksaan cermat—tingkat akurasi meningkat drastis hingga 99,5 persen.

Namun, kita harus waspada terhadap apa yang disebut sebagai paradoks otomatisasi. Semakin canggih sebuah sistem otomatis, manusia cenderung menjadi pengawas yang kurang waspada karena merasa sudah aman. Masalah besar muncul saat sistem tersebut tiba-tiba gagal, seperti pada kasus jatuhnya pesawat Air France 447, di mana pilot yang terlalu terbiasa dengan autopilot kesulitan mengambil alih kendali manual dalam situasi kritis.

Sisi Gelap Data dan Privasi Digital

Algoritma memiliki kemampuan yang menakutkan untuk membaca pola perilaku kita. Dalam dunia pemasaran, ada istilah creepy line atau garis menyeramkan, yaitu kondisi di mana promosi terasa terlalu pas menebak hal pribadi. Contohnya adalah ketika jaringan toko Target mampu menebak masa kehamilan seorang remaja hanya dari pola pembelian produk tertentu, bahkan sebelum sang remaja mengumumkannya kepada keluarganya.

Selain itu, klaim bahwa data kita bersifat anonim sering kali tidak sepenuhnya benar. Peneliti Svea Eckert dan Andreas Dewes membuktikan bahwa riwayat browsing internet seseorang sangatlah khas. Dengan menggabungkan berbagai potongan data, identitas asli pemilik data yang disamarkan bisa dilacak kembali dengan mudah. Hal ini membuka pintu bagi praktik micro-targeting, di mana data pribadi digunakan untuk memetakan kepribadian dan memanipulasi opini publik secara terarah.

Menghadapi Ketidakadilan dalam Sistem Otomatis

Salah satu isu paling krusial yang dibahas dalam Hello World adalah penggunaan algoritma dalam sistem peradilan, seperti perangkat lunak COMPAS. Sistem ini digunakan untuk menilai risiko kejahatan seseorang, namun temuan menunjukkan adanya bias rasial yang nyata. Terdakwa kulit hitam sering kali dicap memiliki risiko tinggi (false positive), sementara terdakwa kulit putih yang mengulangi kejahatan justru sering dinilai berisiko rendah (false negative).

Ketidakadilan ini terjadi karena algoritma belajar dari data sejarah kepolisian yang memang sudah bias. Hannah Fry menjelaskan sebuah fakta matematis yang sulit: keadilan yang sepenuhnya adil dalam matematika tidak mungkin diwujudkan secara bersamaan. Kamu bisa membuat tingkat akurasi yang sama untuk setiap ras, tetapi tingkat kesalahan positif palsunya akan otomatis berbeda antar kelompok.

Masalah serupa juga ditemukan pada sistem kepolisian prediktif. Algoritma cenderung mengirim petugas ke wilayah yang sama secara berulang karena data penangkapan masa lalu di sana memang tinggi. Hal ini menciptakan lingkaran umpan balik yang membuat mesin hanya mengulang prasangka lama kepolisian, alih-alih memberikan gambaran keamanan yang objektif.

Menjaga Kendali di Era Digital

Lalu, bagaimana kita harus bersikap? Pelajaran terbesar dari buku ini adalah bahwa kita tidak perlu menolak teknologi, tetapi kita harus menuntut transparansi. Kita membutuhkan sistem yang tidak tertutup dan selalu terbuka untuk dikoreksi oleh pertimbangan manusia, bukan sistem yang bersembunyi di balik alasan rahasia dagang.

Alih-alih membiarkan algoritma mengambil keputusan sepenuhnya, kita sebaiknya mengadopsi model kemitraan. Contohnya adalah konsep Catur Centaur, di mana manusia dan mesin bekerja sama untuk saling melengkapi kelebihan masing-masing. Dengan cara ini, kecepatan mesin dan kebijaksanaan manusia dapat bersinergi untuk menghasilkan keputusan yang lebih baik.

Ingin memahami lebih dalam tentang bagaimana kamu bisa tetap memegang kendali atas keputusan digital? Baca ringkasan lengkap buku Hello World di BacaApps sekarang.

Baca ringkasan lengkapnya di BacaApps: Hello World karya Hannah Fry