Apa itu halusinasi AI?

Halusinasi adalah jawaban yang masuk akal tapi kebetulan salah

Minta model bahasa memberi nomor halaman dari sebuah kutipan dalam buku yang pernah ia baca ulasannya tapi tidak pernah dilihat langsung, dan ia akan memberi nomor halaman. Ia tidak akan berkata "saya tidak bisa tahu itu". Nomornya diformat dengan benar, ditulis dalam kalimat yang terdengar seperti sitasi lain dalam data pelatihannya, dan dikarang.

Itulah halusinasi: pernyataan yang lancar dan percaya diri tanpa fakta di baliknya. Kata ini adalah metafora yang agak menyesatkan, karena sebenarnya tidak ada yang rusak. Model diminta untuk melanjutkan sitasi dengan cara yang paling mungkin, dan ia menghasilkannya. Pada pertanyaan di mana jawaban yang terdengar paling mungkin juga adalah jawaban yang benar, yang berlaku untuk sebagian besar pertanyaan, proses yang sama inilah yang membuat model berguna.

Bentuknya bisa ditebak: referensi dan URL yang dikarang, statistik tanpa sumber, kutipan yang diatribusikan ke orang nyata yang tidak pernah mengatakannya, fitur produk yang tidak ada, dan klaim hukum atau medis yang disampaikan seolah sudah pasti. Kenapa AI sering keliru membahas cara menangkap setiap jenisnya; halaman ini membahas kenapa halusinasi terjadi sejak awal.

Kenapa model yang sudah membaca seluruh internet masih mengarang

Dua mekanisme, dan keduanya bertumpuk.

Model memprediksi, bukan mengambil data. Model bahasa tidak punya indeks fakta. Semua yang dibacanya dikompresi ke dalam parameternya, dan saat menjawab, ia meregenerasi teks satu token pada satu waktu dari kompresi itu, memilih setiap token berdasarkan probabilitas. Ketika jawaban yang benar sering muncul di data pelatihan, kelanjutan yang paling mungkin adalah yang benar. Ketika jawaban itu jarang, tidak ada, atau bertentangan, model tetap harus memilih sebuah token, dan ia memilih yang masuk akal. Apa itu LLM menjelaskan arsitekturnya; singkatnya, tidak ada langkah di mana model bertanya pada dirinya sendiri apakah kalimat yang sedang ditulisnya itu nyata.

Pelatihan menghargai tebakan. Pada September 2025, OpenAI menerbitkan makalah berjudul "Why Language Models Hallucinate" yang berargumen bahwa tolok ukur yang digunakan untuk menilai model memberi skor sama, yaitu nol, untuk jawaban salah dan jawaban kosong, sementara tebakan yang beruntung mendapat nilai penuh. Model yang dioptimalkan berdasarkan penilaian itu belajar pelajaran yang sama seperti murid yang menghadapi ujian pilihan ganda tanpa penalti untuk jawaban salah: selalu tebak. Usulan makalah ini adalah mengubah cara penilaian sehingga "saya tidak tahu" bernilai lebih tinggi daripada tebakan salah yang percaya diri.

Dua kasus pengadilan yang memberi harga pada halusinasi

Mata v. Avianca, New York, 2023. Dua pengacara mengajukan berkas yang mengutip enam putusan pengadilan yang dihasilkan ChatGPT. Tidak satu pun dari keenamnya ada. Hakim menjatuhkan sanksi $5,000 kepada para pengacara pada Juni 2023 dan mewajibkan mereka menulis surat kepada para hakim yang namanya dicantumkan pada opini yang dikarang itu. Tangkapan layar yang dilampirkan dalam pernyataan sumpah sang pengacara menunjukkan dia bertanya kepada ChatGPT apakah kasus-kasus itu nyata, dan ChatGPT mengonfirmasi bahwa kasus-kasus itu memang nyata.

Moffatt v. Air Canada, British Columbia, 2024. Chatbot situs web Air Canada memberi tahu seorang pelanggan bahwa ia bisa memesan tiket harga penuh untuk pemakaman dan mengklaim diskon duka setelahnya. Kebijakan asli maskapai itu justru sebaliknya. Ketika Air Canada berargumen bahwa chatbot adalah entitas hukum terpisah yang bertanggung jawab atas kata-katanya sendiri, Civil Resolution Tribunal menolak argumen itu pada Februari 2024 dan memerintahkan maskapai membayar C$812.02.

Tidak ada model yang rusak. Masing-masing menghasilkan jawaban yang terdengar paling masuk akal untuk pertanyaan yang jawaban benarnya di luar jangkauannya. Biayanya jatuh pada orang yang tidak memeriksa.

Halusinasi adalah satu dari empat jenis kegagalan, dan solusinya berbeda

Orang menggunakan kata ini untuk setiap jawaban yang salah, dan itu menutupi fakta bahwa empat kegagalan umum punya empat penyebab yang berbeda.

Hanya baris pertama yang merupakan halusinasi dalam arti ketat. Baris kedua dan ketiga adalah masalah landasan fakta dan sebagian besar terpecahkan dengan memberi model sesuatu untuk dibaca. Baris keempat adalah masalah prompt. Menganggap keempatnya sebagai satu cacat misterius membuat orang mengambil solusi yang salah, biasanya "pakai model yang lebih besar", yang paling sedikit membantu baris pertama.

Cek dua model, dan berapa biayanya

Kebiasaan paling andal untuk jenis halusinasi yang ketat adalah menanyakan pertanyaan yang sama ke model kedua yang berbeda dan membandingkannya. Dua model dari lab berbeda, dilatih dengan data berbeda dengan pasca-pelatihan berbeda, jarang mengarang sitasi yang sama. Kesepakatan adalah bukti lemah bahwa fakta itu nyata. Ketidaksepakatan adalah sinyal kuat untuk memeriksa sebelum bertindak.

Alasan ini berhasil sementara "minta model yang sama untuk memeriksa ulang" tidak: putaran kedua dari model yang sama adalah prediktor yang sama menebak lagi dari kompresi yang sama. Model yang berbeda adalah kompresi yang berbeda.

Opini kedua tidak harus datang dari model yang mahal. Pada Artificial Analysis Intelligence Index, gabungan tolok ukur penalaran, pengkodean dan pengetahuan publik yang dibaca pada 2026-09-17, DeepSeek V4 Flash mendapat skor 40 dan berbiaya 1 kredit Whizi per pesan; Claude Sonnet 5 mendapat skor 38 dan berbiaya 10. Garis putus-putus adalah batas terbaik, skor terbaik pada tiap harga, dan setiap titik di atasnya berasal dari lab yang berbeda. Pemeriksaan silang dari dua lab pada 1 dan 10 kredit berjumlah 11 kredit, dan tampilan berdampingan mengirim satu pertanyaan ke keduanya di satu layar. Para pengacara dalam Mata v. Avianca membayar $5,000 untuk pemeriksaan yang tidak mereka lakukan.

Apa yang mengurangi halusinasi, diurutkan dari yang paling efektif

1. Landasan fakta. Pencarian web, dokumen yang diunggah, atau sumber yang ditempel mengubah tugas dari "mengingat" menjadi "membaca dan meringkas", yang jauh lebih andal dilakukan model. Ini adalah pengurangan terbesar dan merupakan pengaturan produk, bukan trik prompt.
2. Model kedua. Pelatihan berbeda, pola kegagalan berbeda. Menangkap sebagian besar hal spesifik yang dikarang.
3. Meminta sumber dan membukanya. Model yang diminta mengutip akan mengutip; pemeriksaannya adalah apakah sitasi itu ada dan mengatakan apa yang diklaim jawaban itu.
4. Izin untuk menolak menjawab. "Jika Anda tidak yakin, katakan begitu" mengubah kelanjutan yang paling mungkin, sehingga pada pertanyaan sulit model lebih sering menolak daripada mengarang.
5. Model yang lebih besar. Model unggulan berhalusinasi lebih sedikit pada pengetahuan umum dibanding model kecil, tapi celahnya paling sempit justru di tempat yang paling penting, pada fakta yang jarang dan spesifik.

Urutannya adalah intinya. Kebanyakan orang langsung mengambil poin lima, padahal itu tuas paling lemah dalam daftar ini.