Co to jest halucynacja AI?

Halucynacja to wiarygodna odpowiedź, która akurat jest fałszywa

Poproś model językowy o numer strony cytatu z książki, o której czytał, ale której nigdy nie widział, a poda ci numer strony. Nie powie "nie mogę tego wiedzieć". Numer jest sformatowany poprawnie, tkwi w zdaniu brzmiącym jak każde inne cytowanie w danych treningowych i jest zmyślony.

To właśnie halucynacja: płynne, pewne siebie stwierdzenie bez żadnego faktu za sobą. Samo słowo jest metaforą, i to nieco mylącą, bo nic tu nie działa źle. Model poproszono o najbardziej prawdopodobną kontynuację cytatu i taką wyprodukował. W pytaniu, gdzie najbardziej wiarygodnie brzmiąca odpowiedź jest zarazem prawdziwa, a to większość pytań, ten sam proces sprawia, że model jest użyteczny.

Formy, jakie przybiera, są przewidywalne: zmyślone odnośniki i adresy URL, statystyki bez źródła, cytaty przypisane realnym osobom, które nigdy ich nie wypowiedziały, funkcje produktu, które nie istnieją, oraz twierdzenia prawne lub medyczne podane jako ustalony fakt. Dlaczego AI się myli omawia wyłapywanie każdego z tych typów; ta strona zajmuje się tym, dlaczego w ogóle do nich dochodzi.

Dlaczego model, który przeczytał cały internet, wciąż coś zmyśla

Dwa mechanizmy, i się nakładają.

Model przewiduje, nie wyszukuje. Model językowy nie ma żadnego indeksu faktów. Wszystko, co przeczytał, zostało skompresowane w jego parametrach, a w momencie odpowiedzi regeneruje tekst token po tokenie z tej kompresji, wybierając każdy token na podstawie prawdopodobieństwa. Gdy prawdziwa odpowiedź była częsta w danych treningowych, najbardziej prawdopodobna kontynuacja jest tą prawdziwą. Gdy była rzadka, nieobecna lub sprzeczna, model i tak musi wybrać jakiś token, i wybiera wiarygodny. Czym jest LLM wyjaśnia tę architekturę; w skrócie nie ma żadnego etapu, w którym model zadaje sobie pytanie, czy zdanie, które pisze, jest prawdziwe.

Trening nagradza zgadywanie. We wrześniu 2025 roku OpenAI opublikowało pracę zatytułowaną "Why Language Models Hallucinate", argumentując, że benchmarki używane do oceny modeli punktują błędną odpowiedź i pustą odpowiedź tak samo, czyli zerem, podczas gdy szczęśliwe zgadnięcie dostaje pełną pulę. Model zoptymalizowany pod taką ocenę uczy się tej samej lekcji, którą uczy się student na teście wielokrotnego wyboru bez kary za błędną odpowiedź: zawsze zgaduj. Propozycja tej pracy to zmiana sposobu oceniania tak, żeby "nie wiem" było warte więcej niż pewny siebie błąd.

Dwie sprawy sądowe, które wyceniły halucynację w konkretnej kwocie

Mata v. Avianca, Nowy Jork, 2023. Dwóch prawników złożyło pismo procesowe powołujące się na sześć orzeczeń sądowych wygenerowanych przez ChatGPT. Żadne z tych sześciu nie istniało. Sędzia ukarał prawników grzywną $5,000 w czerwcu 2023 roku i kazał im napisać do sędziów, którym przypisano zmyślone opinie. Zrzuty ekranu dołączone do oświadczenia prawnika pokazują, jak pyta ChatGPT, czy sprawy są prawdziwe, a ChatGPT to potwierdza.

Moffatt v. Air Canada, Kolumbia Brytyjska, 2024. Chatbot na stronie Air Canada powiedział klientowi, że może zarezerwować bilet w pełnej cenie na pogrzeb, a potem ubiegać się o zniżkę żałobną. Rzeczywista polityka linii lotniczych mówiła coś odwrotnego. Gdy Air Canada argumentowała, że chatbot jest osobnym podmiotem prawnym odpowiedzialnym za własne słowa, Civil Resolution Tribunal odrzucił to w lutym 2024 roku i nakazał liniom lotniczym zapłacić $812.02.

Żaden model nie był zepsuty. Każdy z nich wyprodukował najbardziej wiarygodnie brzmiącą odpowiedź na pytanie, którego prawdziwa odpowiedź nie była w jego zasięgu. Koszt spadł na osobę, która tego nie sprawdziła.

Halucynacja to jeden z czterech typów błędów, a naprawy są różne

Ludzie używają tego słowa na każdą błędną odpowiedź, co ukrywa fakt, że cztery powszechne błędy mają cztery różne przyczyny.

Tylko pierwszy wiersz jest halucynacją w ścisłym sensie. Wiersze drugi i trzeci to problemy z uziemieniem w faktach i w dużej mierze rozwiązuje je danie modelowi czegoś do przeczytania. Wiersz czwarty to problem z promptem. Traktowanie wszystkich czterech jako jednej tajemniczej wady prowadzi ludzi do złej naprawy, zwykle "użyj większego modelu", co najmniej pomaga akurat w wierszu pierwszym.

Sprawdzenie dwoma modelami i ile to kosztuje

Najbardziej niezawodnym nawykiem na halucynację w ścisłym sensie jest zadanie tego samego pytania drugiemu, innemu modelowi i porównanie odpowiedzi. Dwa modele z różnych laboratoriów, trenowane na różnych danych z różnym post-treningiem, rzadko zmyślają to samo cytowanie. Zgodność jest słabym dowodem na to, że fakt jest prawdziwy. Rozbieżność to mocny sygnał, żeby to sprawdzić, zanim się zadziała.

Powód, dla którego to działa tam, gdzie "poproś ten sam model o ponowne sprawdzenie" nie działa: druga próba tego samego modelu to ten sam predyktor zgadujący ponownie z tej samej kompresji. Inny model to inna kompresja.

Druga opinia nie musi pochodzić z drogiego modelu. Według Artificial Analysis Intelligence Index, złożonego wskaźnika publicznych benchmarków rozumowania, kodowania i wiedzy odczytanego 2026-09-17, DeepSeek V4 Flash zdobywa 40 punktów i kosztuje 1 kredyt Whizi za wiadomość; Claude Sonnet 5 zdobywa 38 i kosztuje 10. Linia przerywana to granica opłacalności, najlepszy wynik przy każdej cenie, a każdy punkt na niej pochodzi z innego laboratorium. Podwójne sprawdzenie z dwóch laboratoriów przy 1 i 10 kredytach to 11 kredytów, a widok obok siebie wysyła jedno pytanie do obu na jednym ekranie. Prawnicy w sprawie Mata v. Avianca zapłacili $5,000 za sprawdzenie, którego nie wykonali.

Co zmniejsza liczbę halucynacji, uszeregowane według skuteczności

1. Uziemienie w faktach. Wyszukiwanie w sieci, przesłany dokument lub wklejone źródło zamienia zadanie z "przypomnij sobie" w "przeczytaj i streszcz", co modele robią dużo bardziej niezawodnie. To pojedynczo największa redukcja i jest to ustawienie produktu, nie sztuczka w promptcie.
2. Drugi model. Inny trening, inne rodzaje błędów. Wyłapuje większość zmyślonych szczegółów.
3. Proszenie o źródła i ich otwieranie. Model poproszony o cytowanie zacytuje; sprawdzeniem jest to, czy cytowanie istnieje i mówi to, co twierdzi odpowiedź.
4. Pozwolenie na odmowę. "Jeśli nie jesteś pewien, powiedz to" zmienia to, jaka kontynuacja jest najbardziej prawdopodobna, więc przy trudnych pytaniach model częściej odmawia zamiast zmyślać.
5. Większy model. Modele czołowe halucynują mniej niż małe przy powszechnej wiedzy, ale różnica jest najmniejsza dokładnie tam, gdzie to ma znaczenie, przy rzadkich i konkretnych faktach.

Kolejność jest tu kluczowa. Większość ludzi sięga po punkt piąty jako pierwszy, a to najsłabsza dźwignia na tej liście.