הזיה היא תשובה סבירה שבמקרה היא שקרית
בקשו ממודל שפה מספר עמוד של ציטוט מתוך ספר שהוא קרא עליו אך מעולם לא ראה בפועל, והוא ייתן לכם מספר עמוד. הוא לא יגיד לכם "אי אפשר לדעת את זה". המספר מנוסח בצורה תקינה, יושב במשפט שנשמע כמו כל ציטוט אחר בנתוני האימון שלו, והוא מומצא.
זו הזיה: אמירה שוטפת ובטוחה שאין מאחוריה שום עובדה. המילה היא מטאפורה, ומעט מטעה, כי שום דבר לא מקולקל בפועל. המודל התבקש לחזות את ההמשך הסביר ביותר לציטוט, וזה מה שהוא הפיק. בשאלה שבה התשובה שנשמעת הכי סבירה היא גם התשובה הנכונה, וזה המצב ברוב השאלות, אותו תהליך בדיוק הוא מה שהופך את המודל לשימושי.
הצורות שבהן זה בא לידי ביטוי צפויות: הפניות וכתובות URL מומצאות, נתונים סטטיסטיים ללא מקור, ציטוטים המיוחסים לאנשים אמיתיים שמעולם לא אמרו אותם, תכונות של מוצר שלא קיימות, וטענות משפטיות או רפואיות המוגשות כעובדה מוגמרת. למה AI טועה עובר על איך לזהות כל סוג כזה; העמוד הזה עוסק בשאלה למה זה קורה בכלל.
למה מודל שקרא את כל האינטרנט עדיין ממציא דברים
שני מנגנונים, וכל אחד מוסיף על השני.
המודל חוזה, הוא לא שולף מידע. למודל שפה אין אינדקס של עובדות. כל מה שהוא קרא נדחס לתוך הפרמטרים שלו, ובזמן התשובה הוא יוצר מחדש טקסט טוקן אחר טוקן מתוך אותה דחיסה, ובוחר כל טוקן לפי הסתברות. כשהתשובה הנכונה הייתה נפוצה בנתוני האימון, ההמשך הסביר ביותר הוא גם הנכון. כשהיא הייתה נדירה, נעדרת או סתרה נתונים אחרים, המודל עדיין חייב לבחור טוקן, והוא בוחר אחד סביר. מה זה LLM מסביר את הארכיטקטורה; הגרסה הקצרה היא שאין שלב שבו המודל שואל את עצמו אם המשפט שהוא כותב הוא אמיתי.
האימון מתגמל ניחוש. בספטמבר 2025 פרסמה OpenAI מאמר בשם "Why Language Models Hallucinate" שטוען שהמבחנים המשמשים לדירוג מודלים נותנים ציון זהה, אפס, לתשובה שגויה ולתשובה ריקה, בעוד שניחוש מוצלח מקבל ציון מלא. מודל שמותאם לפי ניקוד כזה לומד את אותו לקח שתלמיד לומד במבחן רב ברירה ללא קנס על תשובה שגויה: תמיד לנחש. ההצעה במאמר היא לשנות את הניקוד כך ש"אני לא יודע" יהיה שווה יותר מפספוס בטוח.
שני מקרים משפטיים שתמחרו הזיה בדולרים
Mata v. Avianca, ניו יורק, 2023. שני עורכי דין הגישו כתב טענות שציטט שישה פסקי דין ש-ChatGPT הפיק. אף אחד משישה הפסקים לא היה קיים במציאות. השופט קנס את עורכי הדין ב-$5,000 ביוני 2023 וחייב אותם לכתוב לשופטים שאליהם יוחסו חוות הדעת המומצאות. צילומי מסך שצורפו לתצהיר של עורך הדין מראים אותו שואל את ChatGPT אם המקרים אמיתיים, ו-ChatGPT מאשר שכן.
Moffatt v. Air Canada, קולומביה הבריטית, 2024. הצ'אטבוט באתר של Air Canada אמר ללקוח שהוא יכול להזמין כרטיס במחיר מלא לצורך הלוויה ולתבוע לאחר מכן הנחת אבל. המדיניות בפועל של החברה קבעה בדיוק ההפך. כאשר Air Canada טענה שהצ'אטבוט הוא ישות משפטית נפרדת האחראית לדבריה שלה, בית הדין ליישוב סכסוכים אזרחיים דחה את הטענה בפברואר 2024 וחייב את החברה לשלם C$812.02.
אף אחד מהמודלים לא היה מקולקל. כל אחד מהם הפיק את התשובה הנשמעת הכי סבירה לשאלה שהתשובה הנכונה לה לא הייתה בהישג ידו. העלות נפלה על מי שלא בדק.
הזיה היא אחד מארבעה סוגי כשלים, והפתרונות שונים
אנשים משתמשים במילה לכל תשובה שגויה, וזה מסתיר את העובדה שלארבעה הכשלים הנפוצים יש ארבע סיבות שונות.
| הכשל | מה קרה | איך לזהות | הפתרון |
|---|---|---|---|
| הזיה | המודל המציא עובדה כדי להשלים משפט סביר | ספציפי, ניתן לבדיקה, ללא מקור | לבקש מקור, ואז לפתוח אותו; לשאול מודל שני |
| ידע מיושן | העובדה הייתה נכונה כשהאימון הסתיים ואינה נכונה כעת | מחירים, גרסאות, בעלי תפקידים, כל דבר עם תאריך | להפעיל חיפוש באינטרנט או להדביק את העמוד העדכני |
| החטאת שליפה | החיפוש או הקובץ שהועלה החזירו את הקטע הלא נכון | התשובה מצטטת את המסמך שלכם אך מתייחסת לשאלה אחרת | לקרוא את הקטע המצוטט, לא רק את הציטוט |
| קריאה שגויה | המודל ענה על שאלה מעט שונה ממה ששאלתם | התשובה נכונה לגבי משהו אחר | לנסח מחדש את השאלה עם האילוץ באופן מפורש |
רק השורה הראשונה היא הזיה במובן המדויק. שורות שתיים ושלוש הן בעיות עיגון במידע, ורובן נפתרות פשוט על ידי מתן חומר לקריאה למודל. שורה ארבע היא בעיית ניסוח של השאלה. התייחסות לכל הארבעה כאל אותו פגם מסתורי אחד מובילה אנשים לפתרון הלא נכון, בדרך כלל "להשתמש במודל גדול יותר", שדווקא הכי פחות עוזר לשורה הראשונה.
בדיקת שני המודלים, ומה היא עולה
ההרגל המהימן ביותר להתמודדות עם הסוג המדויק של הזיה הוא לשאול מודל שני ושונה את אותה שאלה ולהשוות. שני מודלים ממעבדות שונות, שהתאמנו על נתונים שונים עם אימון המשך שונה, לעיתים רחוקות ימציאו את אותו ציטוט. הסכמה היא ראיה חלשה לכך שהעובדה אמיתית. אי הסכמה היא סימן חזק ללכת ולבדוק לפני שפועלים.
הסיבה שזה עובד במקום שבו "לבקש מהמודל עצמו לבדוק שוב" לא עובד: מעבר שני של אותו מודל הוא אותו חוזה מנחש שוב מתוך אותה דחיסה. מודל שונה הוא דחיסה שונה.
חוות הדעת השנייה לא חייבת להגיע ממודל יקר. במדד האינטליגנציה של Artificial Analysis, מדד מורכב של בנצ'מארקים ציבוריים בהיגיון, קוד וידע שנקרא ב-2026-09-17, DeepSeek V4 Flash מקבל 40 נקודות ועולה קרדיט אחד של Whizi להודעה; Claude Sonnet 5 מקבל 38 ועולה 10. הקו המקווקו הוא החזית, הציון הטוב ביותר בכל מחיר, וכל נקודה עליו היא ממעבדה אחרת. בדיקה צולבת משתי מעבדות ב-1 וב-10 קרדיטים עולה 11 קרדיטים, ותצוגת השוואה זו לצד זו שולחת שאלה אחת לשני המודלים על מסך אחד. עורכי הדין ב-Mata v. Avianca שילמו $5,000 עבור הבדיקה שהם לא ביצעו.
מה מפחית הזיות, מדורג לפי עוצמת ההשפעה
- עיגון במידע. חיפוש באינטרנט, מסמך שהועלה, או מקור שהודבק הופכים את המשימה מ"שליפה מהזיכרון" ל"קריאה וסיכום", וזה משהו שמודלים עושים הרבה יותר באופן אמין. זו ההפחתה המשמעותית ביותר, וזו הגדרה במוצר, לא טריק בניסוח.
- מודל שני. אימון שונה, דפוסי כשל שונים. תופס את רוב הפרטים המומצאים.
- בקשת מקורות ופתיחתם. מודל שמתבקש לצטט יצטט; הבדיקה היא האם הציטוט קיים ואומר את מה שהתשובה טוענת.
- רשות לומר "לא יודע". "אם אתה לא בטוח, תגיד את זה" משנה מה ההמשך הסביר ביותר, כך שבשאלות קשות המודל נמנע מלענות לעיתים קרובות יותר במקום להמציא.
- מודל גדול יותר. מודלים מובילים הוזים פחות בידע כללי ממודלים קטנים, אך הפער הוא הקטן ביותר בדיוק במקום שבו זה חשוב, בעובדות נדירות וספציפיות.
הסדר הוא העניין. רוב האנשים פונים קודם לאפשרות החמישית, וזו המנוף החלש ביותר ברשימה.
- להתייחס לכל טענה ספציפית וניתנת לבדיקה ללא מקור כלא מאומתת: ציטוט, נתון סטטיסטי, ציטוט דברים, תכונת מוצר
- להפעיל חיפוש באינטרנט או לצרף את המסמך בכל פעם שהתשובה תלויה במשהו עדכני, פרטי או מדויק
- לשאול מודל שני ממעבדה אחרת לפני שפועלים על סמך מספר או ציטוט; אי הסכמה אומרת לבדוק
- לפתוח את המקור המצוטט ולוודא שהוא אומר את מה שהתשובה טוענת, לא רק שהוא קיים
- להוסיף "תגיד אם אתה לא בטוח" להנחיות בשאלות קשות
שאלות נפוצות
למה מודלים של AI הוזים?
כי הם מייצרים את המילים הבאות הכי סבירות במקום לבדוק עובדות, ומפני שהאימון שלהם מתגמל ניחוש בטוח על פני הודאה בבורות. המאמר של OpenAI מספטמבר 2025, "Why Language Models Hallucinate", מראה שהבנצ'מארקים נותנים ציון זהה לתשובה ריקה ולתשובה שגויה, כך שניחוש הוא האסטרטגיה המנצחת שהמודל לומד.
האם ניתן למנוע לחלוטין הזיות של AI?
לא עם המודלים הנוכחיים, כי ייצור טקסט סביר הוא אותו מנגנון שמייצר גם תשובות נכונות וגם תשובות מומצאות. אפשר לצמצם משמעותית: עיגון המודל בתוצאות חיפוש או במסמך, שאילת מודל שני, ודרישת מקורות שבודקים בפועל מסלקים חלק גדול. מה שנשאר הוא הסיכון השיורי בעובדות נדירות וספציפיות.
איזה AI הוזה הכי פחות?
מודלים מובילים מבית OpenAI, Anthropic וגוגל הוזים פחות ממודלים קטנים בידע כללי, אך ההבדל מצטמצם בעובדות נדירות וספציפיות, בדיוק שם שבו הנזק נגרם. מודל קטן שמעוגן עם חיפוש באינטרנט מנצח בדרך כלל מודל מוביל שאינו מעוגן בשאלות עובדתיות, כך שההגדרה חשובה יותר מהתג.
האם הזיה זהה לטעות?
זהו סוג אחד. הזיה היא עובדה מומצאת המוצגת בביטחון. ידע מיושן (נכון בזמן האימון, שגוי כעת), החטאת שליפה (הובא הקטע הלא נכון) ושאלה שהובנה לא נכון הם כשלים שונים עם פתרונות שונים, ורק הראשון מגיב ל"בקשת מקורות".
מה קרה במקרה של עורך הדין ו-ChatGPT?
ב-Mata v. Avianca, שהוגש בניו יורק, שני עורכי דין הגישו כתב טענות שציטט שישה מקרים ש-ChatGPT המציא. בית המשפט קנס אותם ב-$5,000 ביוני 2023. שנה לאחר מכן, ב-Moffatt v. Air Canada, בית דין חייב את החברה לשלם C$812.02 לאחר שהצ'אטבוט שלה המציא מדיניות החזר לצורך אבל, ודחה את הטענה שהצ'אטבוט אחראי לדבריו שלו.
