Memahami Batas Kemampuan Teknologi dalam Buku Rebooting AI

Pernahkah kamu merasa heran mengapa asisten virtual di ponselmu sering kali gagal menangkap kalimat sederhana, atau mengapa teknologi yang katanya sangat pintar masih sering melakukan kesalahan konyol? Di balik semua klaim hebat tentang kecerdasan buatan yang memenuhi media, ada kenyataan teknis yang sering kali jauh tertinggal. Buku Rebooting AI karya Gary Marcus dan Ernest Davis hadir untuk membongkar ilusi tersebut dan membantumu melihat batas kemampuan teknologi secara lebih jernih.

Melalui buku ini, kamu akan diajak memahami bahwa apa yang kita lihat sekarang bukanlah kecerdasan yang sesungguhnya, melainkan sekadar sistem yang sangat mahir dalam memproses data. Memahami perbedaan antara janji manis teknologi dan realitas di lapangan akan membuatmu lebih kritis dalam menyikapi perkembangan zaman.

Antara Janji Manis dan Realitas Teknologi

Salah satu poin paling krusial yang dijelaskan dalam Rebooting AI adalah perbedaan antara kecerdasan sempit (narrow AI) dan kecerdasan umum (general intelligence). Sistem yang kita gunakan saat ini, seperti chatbot atau pengenal wajah, adalah kecerdasan sempit. Mereka memang hebat dalam mengenali pola data tertentu, tetapi mereka tidak memiliki pemahaman nyata tentang dunia seperti yang dimiliki manusia.

Masalahnya, keberhasilan mesin dalam menyelesaikan tugas-tugas kecil sering kali disalahartikan sebagai langkah besar menuju kecerdasan umum. Penulis menyebut ini sebagai celah kemajuan semu. Sebagai contoh, sebuah sistem mungkin berhasil meraih skor tinggi dalam tes membaca seperti Stanford Question Answering Dataset (SQuAD). Namun, jika kamu teliti, mesin tersebut sebenarnya hanya memindai kata kunci dan mencocokkan kalimat, bukan benar-benar memahami isi teksnya. Begitu diberi pertanyaan yang membutuhkan penalaran tersirat, mesin tersebut akan langsung bingung.

Selain itu, ada kecenderungan manusia untuk cepat percaya bahwa mesin memiliki pikiran atau perasaan, yang disebut sebagai celah kenaifan (gullibility gap). Fenomena ini sudah terlihat sejak tahun 1960-an lewat program bernama Eliza. Meskipun cara kerjanya sangat kaku dan hanya mengulang kata kunci, banyak orang saat itu merasa seolah-olah mereka sedang berbicara dengan seorang psikoterapis yang benar-benar peduli.

Mengapa Sistem Pembelajaran Mendalam Masih Rapuh

Teknologi yang mendominasi saat ini adalah sistem pembelajaran mendalam (deep learning). Meskipun terlihat sangat canggih, sistem ini memiliki kelemahan mendasar karena hanya mengandalkan kekuatan statistik tanpa pemahaman konteks dunia nyata. Ada tiga kelemahan utama yang disoroti oleh Gary Marcus dan Ernest Davis:

• Kebutuhan data yang masif: Sistem ini membutuhkan jutaan contoh agar bisa bekerja dengan baik.
• Masalah kotak hitam (black box): Cara kerja sistem ini sangat tertutup, sehingga manusia sulit melacak alasan pasti di balik setiap keputusan yang diambil mesin.
• Ketidakmampuan menghadapi variasi: Mesin sangat rapuh saat menghadapi situasi di luar data latihan atau perubahan kecil di sekitarnya.

Contoh konkret dari kerapuhan ini bisa kamu lihat pada sistem kendali otomatis Tesla Autopilot. Meski bekerja baik di jalan raya dengan marka yang jelas, sistem ini bisa mengalami kecelakaan fatal saat menghadapi situasi tak terduga, seperti melihat truk putih yang melintang di bawah terik matahari sebagai bagian dari langit yang cerah. Sedikit saja perbedaan sudut atau pencahayaan bisa membuat tebakan komputer meleset jauh.

Bahaya Mengandalkan Data Tanpa Akal Sehat

Satu hal yang perlu kamu waspadai adalah bahwa algoritma tidak bisa membedakan antara fakta objektif dan prasangka manusia yang tertimbun dalam data. Jika data masa lalu mengandung ketimpangan, komputer akan menganggap ketimpangan itu sebagai aturan baku yang wajib ditiru. Hal ini bisa berdampak sangat buruk dalam kehidupan nyata, misalnya:

• Bias dalam perekrutan: Perangkat lunak perekrutan karyawan bisa secara otomatis menurunkan nilai lamaran yang memuat kata "wanita" jika data historis perusahaan tersebut cenderung lebih banyak mempekerjakan pria.
• Diskriminasi rasial: Sistem pengenalan wajah kerap gagal mengenali wajah perempuan berkulit gelap karena data pelatihannya didominasi oleh foto laki-laki berkulit putih.

Selain masalah bias, mesin juga sangat payah dalam memahami bahasa kiasan, makna tersembunyi, dan hubungan sebab-akibat. Mesin sering kali hanya mencocokkan kata secara mekanis. Contohnya, jika ada ulasan musik yang memuji suara penyanyi "seperti sebotol anggur berkualitas tinggi", perangkat lunak yang kaku mungkin akan menyimpulkan bahwa suara tersebut benar-benar disimpan di dalam botol kaca. Mesin juga belum memahami dimensi waktu; mereka bisa mencatat fakta tentang seorang atlet tanpa mengerti bahwa fakta tersebut terjadi di tahun yang berbeda atau setelah masa pensiun.

Membangun Masa Depan AI yang Lebih Aman

Lalu, bagaimana cara kita menuju masa depan teknologi yang benar-benar bisa diandalkan? Gary Marcus dan Ernest Davis menawarkan jalan keluar melalui pendekatan hibrida. Alih-alih hanya mengandalkan statistik dari data besar, kita perlu menggabungkan kekuatan pembelajaran mesin dengan logika, aturan terstruktur, dan penalaran yang tegas.

Ada beberapa langkah penting yang diusulkan untuk menciptakan sistem yang lebih cerdas dan aman:

1. Menanamkan bekal bawaan: Mesin tidak boleh memulai belajar dari nol seperti kertas putih. Kita perlu menanamkan pengetahuan dasar atau prinsip dunia nyata, seperti pemahaman bahwa benda padat tidak bisa menembus benda padat lainnya.
2. Menggunakan sistem modular: Seperti sistem navigasi Waymo yang membagi tugas menjadi modul pengenalan benda dan modul pengambilan keputusan, sistem ini jauh lebih fleksibel dan mudah diperbaiki daripada sistem satu jalur yang rumit.
3. Menerapkan standar rekayasa yang ketat: Kita tidak bisa menggunakan slogan "bergerak cepat dan menabrak aturan" untuk teknologi yang menyangkut keselamatan nyawa. Kita harus belajar dari industri penerbangan yang menggunakan verifikasi matematika yang sangat ketat untuk menjamin keandalan perangkat lunak mereka.

Dengan menggabungkan kemampuan belajar dari data dan kemampuan berpikir menggunakan aturan, kita bisa menciptakan teknologi yang tidak hanya pintar, tetapi juga memiliki akal sehat dan memahami nilai-nilai manusia.

Ingin tahu lebih dalam mengenai bagaimana arah masa depan komputasi dan solusi teknis lainnya yang ditawarkan oleh para pakar? Kamu bisa menemukan penjelasan mendalam mengenai seluruh gagasan Gary Marcus dan Ernest Davis dalam ringkasan lengkap buku Rebooting AI hanya di BacaApps.

Baca ringkasan lengkapnya di BacaApps: Rebooting AI karya Gary Marcus & Ernest Davis