המודל הפסיק לקרוא בתאריך מסוים, והוא לא יודע איזה תאריך
מודל שפה לומד מגוף טקסט קבוע שנאסף לפני תחילת האימון. מה זה LLM מסביר את שני שלבי האימון; הנקודה כאן היא ששניהם משתמשים בנתונים עם תאריך סיום. שום דבר שפורסם אחרי התאריך הזה לא נמצא במודל. לא הבחירות, לא שינוי המחיר, ולא החדשות על המודל עצמו.
ספקים מפרסמים את התאריך הזה בכרטיס המודל, ויותר ויותר הם מפרסמים שניים. Anthropic מציינת "training data cutoff", התאריך האחרון שבו נכלל מידע כלשהו, ו"reliable knowledge cutoff", תאריך מוקדם יותר שלפניו הכיסוי צפוף מספיק כדי לסמוך עליו. הפער ביניהם קיים כי לאינטרנט לוקח חודשים לכתוב על אירוע: השקה במרץ תזכה לכמה עמודים באפריל ולאלפים בספטמבר. מודל שאומן ביולי מכיר את מרץ היטב ואת יולי בקושי.
המודל עצמו לא יכול להגיד לך אף אחד מהתאריכים. אין לו לוח שנה ואין לו תיעוד של האימון שלו; כשנשאל "מה ה-knowledge cutoff שלך", הוא מייצר את התשובה הסבירה ביותר לשאלה הזו מתוך נתוני האימון שלו, וזו בדרך כלל תאריך שהוא קרא עליו ביחס למודל מוקדם יותר. ה-system prompts הרשמיים של Anthropic מוסרים ל-Claude את תאריך ה-cutoff שלו בטקסט מפורש, וזו למעשה הודאה שהמודל לא היה יודע אותו בעצמו. קחו את התאריך מהכרטיס, לעולם לא מהצ'אט.
כמה לא מעודכן מודל ביום שהוא יוצא לדרך, במספרים
האימון לוקח חודשים, וההערכה ועבודת הבטיחות לוקחות עוד יותר, כך שמודל יוצא לדרך כשהוא כבר מפגר. הגרף מציג שמונה כרטיסי מודל: ה-knowledge cutoff המדווח או האמין מול תאריך ההשקה הציבורי, בחודשים שלמים.
שני דפוסים בולטים. הדגלים של OpenAI יצאו לדרך עם הפער הגדול ביותר, עשרה חודשים גם ב-GPT-4.1 וגם ב-GPT-5, בעוד ש-Anthropic ו-Google נעו בטווח של שניים עד ארבעה חודשים. והפער רק גדל בזמן השירות: GPT-4o נשאר המודל ברירת המחדל של ChatGPT שנה שלמה אחרי ההשקה, ובאותה נקודה הידע שלו הסתיים 19 חודשים קודם לכן. מודל שנמצא בשימוש יומיומי הוא בדרך כלל שנה או יותר מאחורי היום שבו אתה שואל אותו משהו.
התאריכים למעלה הם אלה שהספקים עצמם פרסמו, נלקחו מכרטיסי המודל שמקושרים בסוף העמוד הזה. ציר הזמן של מודלי AI מציג תאריכי השקה לכל מודל שהאתר עוקב אחריו.
מה המודל עושה כשאתה שואל אחרי הקו
הוא עונה. זו הבעיה. למודל אין שלב חיפוש שמחזיר "לא נמצא"; הוא מייצר את ההמשך הסביר ביותר, ולשאלה על החודש האחרון ההמשך הזה נבנה מדפוסים של שאלות דומות בנתוני האימון. שאלו על מוצר שיצא אחרי ה-cutoff והמודל יתאר איך מוצר כזה היה נראה באופן סביר. בקשו את המחיר הנוכחי והוא ייתן את המחיר שהיה בזמן ה-cutoff, בלשון הווה.
מה זה הזיה של AI מסביר למה המודל בטוח בעצמו במקום להיות מסויג, אבל לגרסה של ה-cutoff יש סימן היכר שאפשר להשתמש בו: התשובה קוהרנטית וישנה במקצת. שם המודל הוא גרסה אחת אחורה, המחיר הוא של השנה שעברה, והפיצ'ר "החדש ביותר" הוא זה מחלון האימון. תשובה לא מעודכנת לא נראית שגויה; היא נראית כמו העבר.
| סוג השאלה | בטוח לשאול מודל בלי חיפוש? | למה |
|---|---|---|
| איך משהו עובד, עובדות מבוססות, היסטוריה שלפני ה-cutoff | כן | צפוף בנתוני האימון, לא סביר שהשתנה |
| מחירים, תוכניות, מגבלות, מספרי גרסה | לא | משתנים מדי חודש; המודל עונה מה-cutoff בלשון הווה |
| השקות אחרונות, חדשות, תוצאות, חוקים | לא | חסר או דליל; המודל ממלא את החסר בפרטים סבירים |
| כל דבר על המודל עצמו, כולל ה-cutoff שלו | לא | למודל אין תיעוד של האימון שלו |
| המסמכים שלך, הנתונים שלך | לא | אף פעם לא בנתוני האימון; העלה אותם |
הפתרון הוא חיפוש, והוא עובד גם על מודלים בלי חיפוש משלהם
אי אפשר להזיז את ה-cutoff, אז הפתרון הוא לתת למודל טקסט עדכני בזמן התשובה. שני מנגנונים עושים את זה. העלאת מסמך שמה את הטקסט שלך בפרומפט, והמודל עונה ממנו. חיפוש באינטרנט מביא עמודים ועושה את אותו הדבר עם האינטרנט הפתוח. שניהם grounding, ושניהם המנגנון שמה זה RAG מתאר: המודל עדיין חוזה, אבל מתוך חומר שמאוחר יותר מהאימון שלו.
ב-Whizi, חיפוש באינטרנט פעיל כברירת מחדל, יושב בתיבת הכתיבה ליד כפתור הצירוף, וחל על כל מודל שתבחרו. זה החלק השימושי. Claude או מודל Llama: כשהמתג פעיל, כל אחד מהם עונה על שאלה מהשבוע הזה ממקורות חיים. המתג נותן הרשאה ולא מוציא פקודה, כך שבקשה לשיר לא מפעילה חיפוש ושאלה עם תאריך כן. חיפוש לא עולה קרדיטים; ההודעה עולה כמו הדרגה של המודל שענה, בדיוק כמו בלי חיפוש.
מגבלה אחת כדאי לומר בכנות. חיפוש מתקן חוסר עדכניות; הוא לא מתקן אמינות. פוסט בלוג ישן נשלף באותה קלות כמו עמוד של ספק, אז למחיר או למפרט כדאי לפתוח את הקישור המצוטט לפני שפועלים לפיו, ולכל דבר שחשוב לשאול מודל שני עם חיפוש פעיל ולהשוות.
נניח שישה חודשים מאחור, ואז למיין את השאלה
נניח שכל מודל מפגר לפחות שישה חודשים, ומודל שאתם משתמשים בו כבר זמן מה מפגר שנה או יותר. אחר כך מיינו את השאלה. אם התשובה תלויה בעובדות על העולם אחרי הקו הזה, הפעילו חיפוש או העלו את המקור. אם התשובה תלויה בהיגיון על משהו שכבר נמצא בשיחה, ה-cutoff לא משנה וחיפוש יכול להיות כבוי.
בדקו את כרטיס המודל, לא את המודל, לגבי התאריך. וכשמודל אומר מיוזמתו "נכון לעדכון האחרון שלי", התייחסו לזה כמצוטט מנתוני האימון שלו ולא כדיווח עובדתי על עצמו, ותנו לכל מה שאחרי המשפט הזה את אותה מידה של חשד.
- קחו את תאריך ה-cutoff מכרטיס המודל של הספק, אף פעם לא משאלת המודל
- נניח שישה חודשים לא מעודכן בהשקה ושנה או יותר במודל שכבר נמצא בשירות זמן מה
- הפעילו חיפוש באינטרנט לכל דבר עם מחיר, מספר גרסה, תאריך או שם עדכני
- העלו את המסמך כשהתשובה תלויה בטקסט שלכם; הוא אף פעם לא היה בנתוני האימון
- פתחו את הקישור המצוטט לפני שפועלים לפי מחיר או מפרט שנמצא בחיפוש, או שאלו מודל שני עם חיפוש פעיל
שאלות נפוצות
מה זה cutoff date?
התאריך שאחריו שום טקסט לא נכלל בנתוני האימון של מודל. כל מה שהמודל יודע בלי עזרה מגיע מלפני התאריך הזה. ספקים מפרסמים את זה בכרטיס המודל, וחלקם מפרסמים שניים: training data cutoff ו-reliable knowledge cutoff מוקדם יותר, כי החודשים האחרונים מכוסים בדלילות באינטרנט בזמן האימון.
מה ה-cutoff date של ChatGPT?
זה תלוי במודל שמאחורי הצ'אט, ו-OpenAI מפרסמת כל אחד בדף המודל. GPT-4o נעצר באוקטובר 2023, GPT-4.1 ביוני 2024 ו-GPT-5 בספטמבר 2024, כל אחד יצא לדרך 7 עד 10 חודשים אחר כך. כשה-browsing פעיל, ChatGPT עונה מעמודים חיים בלי קשר ל-cutoff הבסיסי.
למה המודל לא יכול להגיד לי מה ה-cutoff שלו?
כי אין לו תיעוד של האימון שלו. כשנשאל, הוא מייצר את התשובה הסבירה ביותר מנתוני האימון שלו, שלרוב מתארת מודל מוקדם יותר. ה-system prompts הרשמיים של Anthropic מוסרים ל-Claude את תאריך ה-cutoff שלו בטקסט מפורש, כי המודל לא היה יודע אותו אחרת. כרטיס המודל הוא המקור האמין היחיד.
איך משיגים מידע עדכני ממודל AI?
תנו לו את הטקסט העדכני. חיפוש באינטרנט מביא עמודים חיים אל תוך הפרומפט; העלאת מסמך שמה את הטקסט שלכם שם. בכל מקרה המודל עונה ממה שנמסר לו ולא מנתוני האימון. Whizi מפעילה חיפוש באינטרנט כברירת מחדל לכל מודל בלי עלות בקרדיטים, כך שגם מודל בלי יכולת שליפה משלו עונה ממקורות של היום.
האם מודל חדש יותר פותר את בעיית ה-cutoff?
הוא מזיז את הקו, והקו עדיין מפגר חודשים ביום ההשקה: GPT-5 יצא לדרך עשרה חודשים אחרי ה-cutoff שלו, Claude 3.7 Sonnet ארבעה חודשים אחריו. כל מודל אז מזדקן בזמן השירות. חיפוש או העלאה הם הפתרון לחוסר עדכניות; מודל חדש יותר הוא הפתרון ליכולת.
