למה ChatGPT העביר אותי למודל mini, ומה לעשות בקשר לזה

הגעתם למכסה ועברתם למודל גיבוי

לא דמיינתם את זה. כשאתם מנצלים את המכסה שלכם על המודל החזק, ChatGPT בדרך כלל לא חוסם אתכם ומסרב לענות. הוא מעביר את השיחה למודל קטן וזול יותר וממשיך באותו צ'אט, עם אותה אנימציית הקלדה. שום דבר בתשובה לא מודיע שהמכונה שמאחוריה השתנתה. שמים לב לזה רק כי התשובות נהיות קצרות יותר, שטוחות יותר, שוכחות יותר ובטוחות בעצמן יותר כשהן טועות.

OpenAI מתעדת את זה כהתנהגות מכוונת. הערות השחרור של המודלים שלה מתארות מודל mini שאליו משתמשים מגיעים אחרי שהם נתקלים במגבלת קצב על המודל הראשי, ומציינות שמכיוון שהוא משמש כגיבוי הוא לא מופיע בבורר המודלים. בחירת עיצוב אחת הזאת מסבירה את רוב הבלבול: אי אפשר לבחור את הגיבוי, ולכן אף פעם לא עולה בראש לבדוק אם נמצאים עליו.

אז האבחנה הכנה היא: המודל כנראה באמת נהיה גרוע יותר, ואף אחד לא עשה כלום למודל שבחרתם. פשוט העבירו אתכם ממנו. שאר המאמר הזה עוסק בזה איך לוודא את זה תוך שלושים שניות ואיך להפסיק להיות מופתעים מזה.

קודם תבדקו שזאת באמת הבעיה שלכם ולא אחת משתי הבעיות הדומות לה. אם נחסמתם לגמרי על ידי הודעה שמציינת את התוכנית או המכסה שלכם, זו מגבלה שאפשר לראות, ובChatGPT אומר לי שהגעתי למגבלה שלי מוסבר הנושא. אם התשובות נכשלות עם שגיאות כלליות בכל שיחה, זו תקלה, ומה להשתמש בו כשChatGPT לא עובד הוא הקריאה המהירה יותר. המאמר הזה מיועד למקרה השלישי, זה שבו אין שום הודעת שגיאה: הכול עדיין עובד, פשוט פחות טוב.

מה קורה בפועל כשמגיעים למכסה

כל תוכנית AI לצרכנים מודדת שימוש בדרך כלשהי, כי הרצת מודל גדול עולה כסף אמיתי על כל הודעה. מה שמשתנה זה מה קורה בקצה, ואיזו משלוש האפשרויות האלה מקבלים היא זו שקובעת כמה מבולבלים תהיו.

ההתנהגות במגבלה	מה רואים	עד כמה זה מבלבל
עצירה מוחלטת	באנר אומר שנגמר לכם עד זמן מסוים, ושום דבר לא נשלח	מעצבן, אבל הוגן. יודעים בדיוק איפה עומדים
הורדה גלויה	הודעה אומרת שהועברתם למודל קטן יותר	קצת מעצבן, עדיין הוגן
גיבוי שקט	השיחה פשוט ממשיכה, נענית על ידי מודל אחר	זה שגורם לאנשים לחשוב שהמוצר התקלקל

ChatGPT נמצא בעיקר בשורה השלישית. לעיתים קרובות יש הודעה ברגע המעבר, אבל הודעות נגללות הלאה ולא נשארות ליד התשובות שבאות אחריהן. עמוק בתוך שיחה ארוכה, כשקוראים תשובות ולא את הממשק סביבן, לא שמים לב לזה. בהמשך המודל חוזר בשקט למצב רגיל כשהחלון שלכם מתאפס, וזו הסיבה שאנשים מסיקים שהאיכות אקראית ולא נמדדת.

הערה לגבי מספרים, כי כאן רוב המאמרים בנושא הזה טועים. ספקים משנים מכסות כל הזמן ובלי הודעה מראש, והמכסות משתנות לפי תוכנית, מודל, תכונה ולפעמים העומס הנוכחי, כך שכל מספר שמופיע במאמר יחזיק זמן קצר בלבד. המספר הזה השתנה פעמיים בחודשיים. OpenAI מדדה במשך שנים לפי חלון נע של כמה שעות, Engadget דיווח שבתוכנית החינמית החלון הזה כנראה הוחלף במכסה שבועית אחת סביב יולי 2026, ובתחילת אוגוסט 2026 OpenAI הודיעה שצ'אט טקסט רגיל הופך ללא מוגבל בכל הרמות, בזמן ששומרים על מגבלות נפרדות על קבצים, תמונות, קול ויצירת תמונות. תתייחסו לזה כאזהרה לגבי מספרים כתובים ולא כמצב הנוכחי, כולל המאמר הזה. בדקו את עמוד המגבלות של הספק שלכם מתוך החשבון שלכם ולא תסמכו על סיכום של צד שלישי. ChatGPT אומר לי שהגעתי למגבלה שלי עובר על שאלת האיפוס במלואה.

איך לדעת איזה מודל עונה לכם כרגע

אל תסמכו על התחושה, תבדקו. הממשקים מעוצבים מחדש כל כמה חודשים, אז במקום לתאר איפה כפתור נמצא היום, הנה מה שכדאי לחפש. הדברים האלה קשורים לתכונות ולא לפיקסלים, אז הם שורדים עיצוב מחדש.

1. שם המודל בראש השיחה. כל אפליקציית צ'אט מציגה את המודל שנבחר בכותרת או ליד תיבת הכתיבה. זה אומר לכם מה נבחר, מה שלא תמיד זהה למי שענה בפועל.
2. הבקרות מתחת לתשובה בודדת. רחפו מעל תשובה ספציפית או לחצו עליה לחיצה ארוכה. השורה הקטנה שם (העתקה, לייק, ניסיון חוזר) בדרך כלל כוללת אפשרות ליצירה מחדש או "נסה שוב", ובChatGPT התפריט הזה מאפשר לשלוח מחדש את השאלה למודל בשם מסוים. שימושי כדי לכפות מודל חזק יותר, אבל התייחסו לזה כדרך לשאול שוב ולא כקבלה: נכון לאוגוסט 2026 לא הצלחנו לאמת מהתיעוד הרשמי של OpenAI שChatGPT מסמן איזה מודל יצר את התשובה שכבר נמצאת מולכם. אל תתכננו את האבחון סביב מציאת תווית לכל הודעה.
3. עמוד השימוש או המגבלות בהגדרות החשבון. בדקו אותו, אבל אל תצפו להרבה: תוכניות לצרכנים לא בהכרח מציגות מונה שוטף, וזמן האיפוס מגיע לרוב בתוך הודעת המגבלה ולא בעמוד הגדרות.
4. ההודעה ברגע המעבר. כשמופיעה כזאת היא נמצאת בתוך השיחה ולא כחלון קופץ, אז אם גללתם מעליה, היא עדיין שם בתמלול.
5. אל תשאלו את הצ'אטבוט איזה מודל הוא. מודל לא תמיד יודע בוודאות מה השם או הגרסה שלו, והוא יגיד בביטחון מלא מה שהוזכר הכי הרבה בטקסטים שעליהם הוא אומן. התשובה הזאת שווה אפס. למה AI טועה עוסק בסוג הזה של שטויות בביטחון עצמי.

מכיוון שכל אחת מהדרכים האלה תלויה בממשק שמשתנה, הבדיקה שבאמת מחזיקה מים היא התנהגותית. שמרו איפשהו הנחיית בדיקה קצרה, משהו שאתם מזהים מיד תשובה טובה עליו. ניסוח מחדש מסובך, חידת היגיון קטנה מהעבודה שלכם. כשהאיכות מרגישה לא בסדר, שלחו אותה. תדעו תוך שניות אם אתם מדברים עם המודל שחשבתם שאתם מדברים איתו, ושום עיצוב מחדש לא יכול לקחת מכם את זה.

למה המודל הקטן מרגיש שונה

הגיבוי הוא לא גרסה מחוסלת של המודל הגדול. זהו מודל אחר, קטן יותר, שאומן בנפרד, ונבחר כי הוא עולה הרבה פחות להפעלה. מודלים קטנים באמת טובים ברוב הבקשות הפשוטות, וזו הסיבה שהם בכלל עובדים כגיבוי. הם נכשלים בדפוס מובחן, וברגע שמכירים את הדפוס אפשר לזהות את המעבר בלי שום ממשק בכלל.

• זיכרון עבודה קצר יותר בפועל. למודל הקטן יותר לרוב יש חלון הקשר קטן יותר, ואפילו כשהחלון המוצהר דומה, הוא שומר פחות טוב פרטים מוקדמים. הסימפטום הוא הסבר חוזר של משהו שסוכם עשרים הודעות קודם, או נטישה של אילוץ שהוגדר בהתחלה. מהו חלון הקשר מסביר למה האיכות לעיתים קרובות נחלשת עוד לפני שמגיעים למגבלה.
• מעקב חלש יותר אחרי הוראות, במיוחד הוראות בערימה. הוראה אחת הוא יעקוב אחריה. ארבע בבת אחת ("עד 200 מילים, בלי תבליטים, בגוף שני, בלי שם הלקוח") זה המקום שבו הוא מתחיל להשמיט אחת או שתיים בשקט. זה הסימן האמין ביותר.
• מבנה שטוח יותר. התשובות נוטות לצורה גנרית: פתיח קצר, שלוש כותרות, סיכום. המודל הגדול טוב יותר בלהחליט שהשאלה שלכם ראויה לצורה אחרת.
• שגיאות בטוחות יותר. אותו קול שוטף, קצת פחות יכולת מאחוריו, כך שהפער בין כמה הוא נשמע בטוח לכמה הוא צודק הולך וגדל.
• חשיבה רב שלבית חלשה יותר. כל דבר שדורש כמה תוצאות ביניים שמוחזקות בו זמנית (חישוב עם תנאים, תוכנית עם תלויות, איתור באגים) נפגע הרבה יותר מניסוח מחדש.

שימו לב מה חסר ברשימה הזאת: שיחת חולין, ניסוחים מחדש קצרים, הסברים מהירים, שינויי טון, סידור פסקה. בעבודה כזאת המודל הקטן כמעט ולא ניתן להבחין ומהיר יותר. זה העיצוב, לא תקלה. הגיבוי הוא בעיה רק כשהוא נופל על הבקשות שדרשו את המודל הגדול, ואי אפשר לראות איזה מהם קיבלתם.

דבר נוסף שכדאי לזכור לצד הגיבוי: עוזרים חכמים גם מנתבים אוטומטית, ומחליטים במקומכם אם שאלה ראויה למודל מהיר או למודל חשיבה איטי יותר. כשהניתוב הזה מכוונן מחדש, אותן הנחיות בדיוק חוזרות עם עומק שונה מהשבוע שעבר, מה שמבחוץ נראה בדיוק כמו מודל שנהיה גרוע יותר. בין הגיבוי לניתוב, אפליקציה אחת מקבלת את ההחלטה בלי לספר לכם, כך שאי אפשר להפריד בין "המודל השתנה" ל"העבירו אותי" ל"שאלתי שאלה גרועה יותר".

מה לעשות בקשר לזה

בסדר גס לפי כמות המאמץ. שלוש הראשונות חינמיות ולוקחות דקות.

1. תוודאו לפני שאתם מתלוננים. הריצו את הנחיית הבדיקה השמורה שלכם. אם התשובה חוזרת שטוחה יותר ממה שאתם יודעים שההנחיה הזאת ראויה לה, אתם על הגיבוי, ובדרך כלל תחזרו למצב רגיל כשהחלון מתאפס.
2. תקצבו את המודל החזק. עבודה חד פעמית (ניסוחים מחדש, סיעור מוחות, שאלות מהירות) עשו במקום זול. שיחות ארוכות ולא ממוקדות מנצלות את המכסה הכי מהר.
3. התחילו שיחה חדשה לכל משימה. שיחות ארוכות נושאות את כל ההיסטוריה לכל בקשה, מה שעולה יותר וגורם לגיבוי הקטן להתקשות מהר יותר.
4. פצלו את ההוראה כשאתם על המודל הקטן. הוא עוקב אחרי הוראה אחת בצורה אמינה וארבע לא, אז שלחו ארבע הודעות.
5. ודאו כל דבר שעליו אתם עומדים לפעול. בחלון גיבוי הביטחון נשאר גבוה בזמן שהדיוק יורד. זה בדיוק הרגע שבו מספר שגוי מצליח לחמוק.
6. שמרו נגיש מודל חזק שני. ההפתעה פוגעת רק כשאפליקציה אחת מחזיקה בהחלטת הניתוב ואין לכם לאן ללכת כשמעבירים אתכם. חשבון שני, או סביבת עבודה שמחזיקה כמה מודלים בבת אחת, הופכים הורדה שקטה לבחירה שאתם עושים.

שום דבר מזה לא גורם למגבלות הקצב להיעלם, ואף אחד לא צריך להגיד לכם אחרת. קיבולת עולה כסף בכל מקום. מה שמשתנה זה שהמגבלה הופכת לגלויה וניתנת להתאוששות, במקום שתגלו שבוע אחר כך שחצי מהעבודה שלכם נכתבה על ידי מודל שלא בחרתם מעולם. אם אתם לא בטוחים איזה מודל מתאים לאיזו עבודה, איך לבחור מודל AI הוא מסגרת חשיבה ולא טבלת דירוג.