Галюцинація це правдоподібна відповідь, яка виявляється хибною
Попросіть мовну модель назвати номер сторінки цитати з книги, про яку вона читала, але яку ніколи не бачила, і вона назве вам номер сторінки. Вона не скаже "я не можу цього знати". Номер оформлений правильно, стоїть у реченні, яке звучить так само, як будь-яке інше цитування в даних її навчання, і повністю вигаданий.
Це і є галюцинація: гладке, впевнене твердження без жодного факту за ним. Це слово є метафорою, і трохи оманливою, бо нічого насправді не ламається. Модель попросили дати найімовірніше продовження цитати, і вона його дала. У питанні, де найбільш правдоподібна на слух відповідь водночас є правдивою, а це більшість питань, той самий процес і робить модель корисною.
Форми, яких це набуває, передбачувані: вигадані посилання та URL, статистика без джерела, цитати, приписані реальним людям, які такого ніколи не казали, функції продукту, яких не існує, і юридичні або медичні твердження, подані як усталений факт. Чому ШІ помиляється детально розбирає, як ловити кожен тип; ця сторінка про те, чому вони взагалі трапляються.
Чому модель, яка прочитала весь інтернет, все одно вигадує
Два механізми, і вони накладаються.
Модель передбачає, а не шукає. У мовної моделі немає індексу фактів. Все, що вона прочитала, стиснуте в її параметрах, і під час відповіді вона заново генерує текст токен за токеном з цього стиснення, обираючи кожен токен за ймовірністю. Коли правильна відповідь часто траплялася в даних навчання, найімовірніше продовження і є правильним. Коли вона була рідкісною, відсутньою або суперечливою, модель все одно мусить обрати токен, і вона обирає правдоподібний. Що таке LLM пояснює архітектуру; коротко: немає жодного кроку, на якому модель питала б себе, чи речення, яке вона пише, є реальним.
Навчання винагороджує вгадування. У вересні 2025 року OpenAI опублікувала статтю "Why Language Models Hallucinate", яка стверджує, що бенчмарки, за якими оцінюють моделі, оцінюють неправильну відповідь і порожню відповідь однаково, нулем, тоді як вдалий здогад отримує повний бал. Модель, оптимізовану під таке оцінювання, вчить той самий урок, що й студент на тесті з вибором варіантів без штрафу за неправильну відповідь: завжди вгадуй. Пропозиція статті полягає в тому, щоб змінити оцінювання так, щоб "я не знаю" коштувало більше, ніж впевнений промах.
Дві судові справи, які поставили грошову суму на галюцинацію
Mata v. Avianca, Нью-Йорк, 2023 рік. Двоє адвокатів подали позовну заяву, посилаючись на шість судових рішень, які видав ChatGPT. Жодного з шести не існувало. Суддя оштрафував адвокатів на $5,000 у червні 2023 року і змусив їх написати листи суддям, яким приписали вигадані рішення. Скріншоти, подані з афідевітом адвоката, показують, як він питає ChatGPT, чи справи реальні, а ChatGPT підтверджує, що так.
Moffatt v. Air Canada, Британська Колумбія, 2024 рік. Чатбот на сайті Air Canada сказав клієнту, що він може купити квиток за повним тарифом на похорон, а потім оформити знижку у зв'язку з тяжкою втратою. Реальна політика авіакомпанії говорила протилежне. Коли Air Canada заявила, що чатбот є окремою юридичною особою, відповідальною за власні слова, Civil Resolution Tribunal відхилив цей аргумент у лютому 2024 року і зобов'язав авіакомпанію сплатити C$812.02.
Жодна модель не була несправною. Кожна дала найбільш правдоподібну на слух відповідь на питання, справжня відповідь на яке була їй недоступна. Ціну заплатив той, хто не перевірив.
Галюцинація це один із чотирьох типів помилок, і виправлення різні
Люди вживають це слово для будь-якої неправильної відповіді, і це приховує факт, що чотири поширені помилки мають чотири різні причини.
| Помилка | Що сталося | Як розпізнати | Виправлення |
|---|---|---|---|
| Галюцинація | Модель вигадала факт, щоб завершити правдоподібне речення | Конкретне, перевірюване, без джерела | Попросити джерело, потім відкрити його; запитати другу модель |
| Застарілі знання | Факт був правдивим на момент завершення навчання, а зараз ні | Ціни, версії, посадовці, все, що має дату | Увімкнути веб-пошук або вставити актуальну сторінку |
| Помилка пошуку | Пошук або завантажений файл повернули не той фрагмент | Відповідь посилається на ваш документ, але стосується іншого питання | Прочитати процитований фрагмент, а не лише саме цитування |
| Неправильне прочитання | Модель відповіла на трохи інше питання, ніж ви поставили | Відповідь правильна щодо чогось іншого | Переформулювати питання, чітко зазначивши обмеження |
Лише перший рядок є галюцинацією у строгому сенсі. Рядки два і три це проблеми з опорою на джерела, і їх здебільшого вирішує те, що моделі дають щось для читання. Рядок чотири це проблема запиту. Якщо ставитися до всіх чотирьох як до однієї загадкової вади, це веде людей до неправильного виправлення, зазвичай "використати більшу модель", яке найменше допомагає саме з рядком один.
Перевірка двома моделями, і скільки вона коштує
Найнадійніша звичка проти строгого типу галюцинацій це запитати другу, іншу модель те саме питання і порівняти. Дві моделі з різних лабораторій, навчені на різних даних з різним пост-навчанням, рідко вигадують те саме цитування. Збіг є слабким доказом того, що факт реальний. Розбіжність це сильний сигнал перевірити, перш ніж діяти.
Причина, чому це працює там, де "попросити ту саму модель перевірити себе" не працює: другий прохід тієї самої моделі це той самий предиктор, який знову вгадує з того самого стиснення. Інша модель це інше стиснення.
Друга думка не мусить надходити від дорогої моделі. За Artificial Analysis Intelligence Index, складеним показником публічних бенчмарків з міркування, кодування і знань, зчитаним 2026-09-17, DeepSeek V4 Flash отримує 40 балів і коштує 1 кредит Whizi за повідомлення; Claude Sonnet 5 отримує 38 балів і коштує 10. Пунктирна лінія це межа можливого, найкращий результат за кожною ціною, і кожна точка на ній це інша лабораторія. Перехресна перевірка двома лабораторіями за 1 і 10 кредитів коштує 11 кредитів, а вигляд поруч надсилає одне питання обом на одному екрані. Адвокати у справі Mata v. Avianca заплатили $5,000 за перевірку, яку не провели.
Що зменшує галюцинації, за силою впливу
- Опора на джерела. Веб-пошук, завантажений документ або вставлене джерело перетворює задачу з "пригадати" на "прочитати і підсумувати", а це моделі роблять набагато надійніше. Це найбільше зменшення з усіх, і це налаштування продукту, а не хитрість запиту.
- Друга модель. Інше навчання, інші типи помилок. Ловить більшість вигаданих деталей.
- Прохання назвати джерела і їх відкриття. Модель, яку попросили процитувати, процитує; перевірка полягає в тому, чи це цитування взагалі існує і чи каже воно те, що стверджує відповідь.
- Дозвіл сказати "ні". Фраза "якщо не впевнена, скажи про це" змінює те, яке продовження є найімовірнішим, тож на складних питаннях модель частіше відмовляється відповідати, замість того щоб вигадувати.
- Більша модель. Флагманські моделі галюцинують менше на загальновідомих фактах, ніж малі, але розрив найменший саме там, де це важливо, на рідкісних і конкретних фактах.
Порядок тут головний. Більшість людей одразу хапаються за пункт п'ять, а це найслабший важіль у списку.
- Ставтеся до будь-якого конкретного, перевірюваного твердження без джерела як до неперевіреного: цитування, статистика, цитата, функція продукту
- Вмикайте веб-пошук або додавайте документ щоразу, коли відповідь залежить від чогось нещодавнього, приватного або точного
- Запитайте другу модель з іншої лабораторії, перш ніж діяти на основі числа чи цитування; розбіжність означає перевірити
- Відкрийте процитоване джерело і переконайтеся, що воно каже саме те, що стверджує відповідь, а не просто що воно існує
- Додавайте "скажи, якщо не впевнена" до запитів на складних питаннях
Поширені запитання
Чому моделі ШІ галюцинують?
Тому що вони генерують найбільш правдоподібні наступні слова, а не шукають факти, і тому що їхнє навчання винагороджує впевнене вгадування більше, ніж визнання незнання. Стаття OpenAI вересня 2025 року "Why Language Models Hallucinate" показує, що бенчмарки оцінюють порожню відповідь і неправильну відповідь однаково, тож вгадування є переможною стратегією, якої вчиться модель.
Чи можна повністю запобігти галюцинаціям ШІ?
Не з нинішніми моделями, бо генерування правдоподібного тексту це той самий механізм, що дає і правильні відповіді, і вигадані. Їх можна суттєво скоротити: опора моделі на результати пошуку чи документ, запит другій моделі і вимога джерел, які потім відкриваєш, усувають велику частку. Залишається залишковий ризик на рідкісних, конкретних фактах.
Яка модель ШІ галюцинує найменше?
Флагманські моделі від OpenAI, Anthropic та Google галюцинують менше за малі моделі на загальновідомих фактах, але різниця звужується на рідкісних і конкретних фактах, а саме там і трапляється шкода. Мала модель з опорою на джерела і увімкненим веб-пошуком зазвичай перевершує флагманську модель без опори на джерела у фактичних питаннях, тож налаштування важливіше за бренд.
Чи галюцинація це те саме, що помилка?
Це один із видів. Галюцинація це вигаданий факт, поданий впевнено. Застарілі знання (правдиві на момент навчання, хибні тепер), помилка пошуку (витягнуто не той фрагмент) і неправильно зрозуміле питання це інші типи помилок з іншими виправленнями, і лише перший реагує на "попросити джерела".
Що сталося у справі з адвокатами і ChatGPT?
У справі Mata v. Avianca, поданій у Нью-Йорку, двоє адвокатів подали позовну заяву з посиланням на шість справ, які вигадав ChatGPT. Суд оштрафував їх на $5,000 у червні 2023 року. Через рік, у справі Moffatt v. Air Canada, трибунал зобов'язав авіакомпанію сплатити C$812.02 після того, як її чатбот вигадав політику знижок у зв'язку з тяжкою втратою, відхиливши аргумент, що чатбот сам відповідає за власні слова.
