AI banyak halusinasi. Ternyata, manusia juga.

AI banyak halusinasi. Ternyata, manusia juga.

Mungkin dari semua “magic” yang dimiliki AI hari ini, satu hal yang paling sering membuat orang merasa AI masih lemah adalah halusinasi. AI bisa menjawab dengan sangat meyakinkan, rapi, bahkan terdengar pintar—padahal jawabannya salah, mengarang, atau tidak sepenuhnya berdasar fakta.

Fenomena ini sering disebut sebagai AI hallucination. Dan biasanya langsung disimpulkan sebagai: “Nah kan, AI belum siap. AI belum bisa dipercaya.”

Menariknya, kalau kita mundur sedikit dan melihat cara kerja manusia, halusinasi dan kesalahan semacam ini bukan hal asing sama sekali.

Apa sebenarnya yang dimaksud dengan halusinasi AI?

Dalam konteks AI, halusinasi bukan berarti AI “melihat” atau “mendengar” sesuatu yang tidak ada, seperti pada manusia. AI tidak punya kesadaran, indra, atau pengalaman hidup.

Halusinasi AI terjadi ketika model bahasa menghasilkan jawaban yang terdengar masuk akal, tapi sebenarnya salah atau tidak punya dasar yang kuat. Penyebabnya sederhana tapi penting: AI bekerja dengan memprediksi kata berikutnya berdasarkan pola, bukan dengan memahami kebenaran.

Kalau datanya kurang, konteksnya ambigu, atau pertanyaannya mendorong asumsi yang salah, AI akan tetap mencoba “mengisi kekosongan” dengan pola paling mungkin.

Dan di sinilah kemiripannya dengan manusia mulai terasa.

Manusia juga sering “mengarang”, tanpa sadar

Kita cenderung menganggap ingatan manusia sebagai arsip: sesuatu terjadi, lalu disimpan, lalu diambil kembali apa adanya. Padahal kenyataannya, ingatan manusia bersifat rekonstruktif, bukan reproduktif.

Berbagai studi psikologi menunjukkan bahwa ketika manusia mengingat sesuatu, otak tidak memutar ulang rekaman, tapi menyusun ulang cerita berdasarkan potongan memori, emosi, konteks sosial, dan pengalaman setelahnya.

Itu sebabnya:

• Dua orang bisa mengingat kejadian yang sama dengan versi berbeda

• Seseorang bisa sangat yakin pada ingatan yang ternyata keliru

• Ingatan bisa berubah setiap kali diceritakan ulang

Penelitian tentang false memory menunjukkan bahwa sekitar 30% orang dapat membentuk ingatan palsu ketika diberikan sugesti tertentu. Dalam kondisi tertentu—misalnya dengan cerita yang dipersonalisasi atau visual pendukung—angka ini bisa meningkat jauh lebih tinggi.

Dengan kata lain, manusia juga sering “berhalusinasi”, tapi dalam bentuk kognitif, bukan sensorik.

Pola yang sama, mesin yang berbeda

Baik manusia maupun AI sebenarnya melakukan hal yang mirip di level abstrak:

• Keduanya tidak menarik fakta mentah, tapi merekonstruksi jawaban

• Keduanya mengisi celah informasi saat data tidak lengkap

• Keduanya bisa salah dengan penuh percaya diri

Bedanya ada di sumber dan mekanismenya.

Manusia mengandalkan pengalaman hidup, emosi, intuisi, dan bias. AI mengandalkan statistik, distribusi data, dan probabilitas token.

Manusia bisa salah karena kelelahan, emosi, trauma, atau sugesti. AI bisa salah karena data timpang, prompt ambigu, atau konteks yang tidak cukup.

Mirip secara perilaku, berbeda secara ontologi.

Jadi, apakah AI “sama saja” dengan manusia?

Jawabannya: mirip, tapi tidak sama.

AI tidak punya kesadaran. Ia tidak tahu bahwa ia salah. Ia juga tidak tahu bahwa ia benar. Semua output hanyalah hasil perhitungan probabilistik.

Namun justru karena itu, menyebut halusinasi AI sebagai “kelemahan fatal” sering kali tidak adil. Yang lebih tepat adalah melihatnya sebagai karakteristik sistem prediktif, sama seperti manusia adalah sistem biologis yang juga prediktif.

Masalahnya bukan pada fakta bahwa AI bisa salah.

Masalahnya adalah kita sering memperlakukannya seolah tidak boleh salah sama sekali, sementara kita mentoleransi kesalahan manusia setiap hari.

Implikasi penting: bukan menyingkirkan AI, tapi mendesain sistemnya

Kesadaran bahwa AI bisa berhalusinasi seharusnya tidak membuat kita menjauh, tapi justru mendorong desain yang lebih matang:

• Pisahkan AI untuk bahasa dan reasoning dari sistem perhitungan deterministik

• Tampilkan sumber, asumsi, dan batasan jawaban

• Gunakan AI sebagai thinking partner, bukan oracle

• Bangun workflow di mana AI diaudit, bukan dipercaya mentah-mentah

Di titik ini, pertanyaan besarnya bukan lagi:

“Apakah AI bisa salah?”

Tapi:

“Apakah kita cukup dewasa untuk menggunakan sistem yang bisa salah—seperti kita menggunakan manusia?”

Lalu, apakah tujuan AI harus meniru manusia sepenuhnya?

Di titik ini, pertanyaan yang lebih menarik muncul: apakah tujuan membangun AI memang harus membuatnya berkompetisi dan disamakan dengan manusia—termasuk kelemahannya?

Otak manusia, suka tidak suka, memang memiliki keterbatasan bawaan. Kita mudah bias, emosional, terpengaruh konteks sosial, dan sering terlalu percaya diri pada ingatan sendiri. Kelemahan-kelemahan ini bukan bug, tapi bagian dari evolusi biologis manusia yang mengutamakan kecepatan dan kelangsungan hidup, bukan akurasi absolut.

Kalau begitu, meniru manusia secara penuh mungkin bukan tujuan yang bijak.

Alih-alih bertanya “kapan AI akan sepintar manusia?”, pertanyaan yang lebih relevan adalah: kecerdasan seperti apa yang seharusnya dimiliki AI?

AI tidak perlu berpikir seperti manusia untuk berguna. Justru kekuatan terbesarnya ada pada kemampuannya menjadi counterweight bagi kelemahan manusia: konsisten saat manusia lelah, netral saat manusia bias, dan transparan saat manusia sering mengandalkan intuisi.

Di sinilah filosofi pembangunan AI menjadi penting. Bukan kecerdasan yang meniru manusia, tapi kecerdasan yang melengkapi manusia. Bukan sistem yang bersaing menggantikan, tapi sistem yang dirancang berbeda secara sadar: manusia tetap menjadi pengambil makna dan keputusan akhir, sementara AI menjadi mesin klarifikasi, verifikasi, dan eksplorasi kemungkinan.

Jika manusia adalah makhluk yang pandai membuat cerita, maka AI seharusnya menjadi sistem yang membantu menguji cerita tersebut—menunjukkan asumsi, batasan, dan alternatif yang mungkin terlewat.

Mungkin tujuan akhirnya bukan menciptakan AI yang “tidak pernah salah”, atau AI yang “persis seperti manusia”.

Melainkan menciptakan kecerdasan yang berbeda secara filosofi, tapi selaras secara fungsi.

Penutup

AI yang berhalusinasi bukan tanda bahwa AI gagal meniru manusia.

Justru sebaliknya.

Ia menunjukkan bahwa baik manusia maupun mesin sama-sama beroperasi dengan cara yang sangat manusiawi: menebak, menyusun, dan mengisi kekosongan ketika realitas tidak sepenuhnya tersedia.

Perbedaannya hanya satu.

Kesalahan manusia sering kita sebut pengalaman. Kesalahan AI kita sebut bug.

Dan mungkin, masa depan AI yang paling sehat bukanlah AI yang semakin mirip manusia—

melainkan AI yang cukup berbeda untuk membuat manusia menjadi lebih baik.