reasoning model חושב בטוקנים לפני שהוא עונה בטוקנים
שאל מודל רגיל שאלה קשה, והוא מתחיל לכתוב את התשובה מיד. ה"חשיבה" היחידה שלו היא מה שקורה בתוך הרשת בין קריאת הפנייה שלך ליצירת המילה הראשונה.
reasoning model אומן לעשות משהו אחר: קודם לכתוב שרשרת עבודה, לעיתים אלפי טוקנים ממנה, ורק אז לכתוב את התשובה. העבודה היא טקסט שהמודל מייצר לעצמו. הוא מנסה גישה, שם לב לסתירה, חוזר אחורה, בודק חשבון, ובסוף מתחייב. רוב המוצרים מסתירים את השרשרת הזו או מציגים תקציר שלה, ומתייגים את כל העניין "חשיבה".
החשיבה היא אותה חיזוי הטוקן הבא שמתואר במה זה LLM, רק מכוון לבעיה לזמן ארוך יותר. reasoning model הוא מודל שפה שאומן, באמצעות למידת חיזוק על בעיות עם תשובות שניתן לבדוק, להוציא יותר טוקנים לפני שהוא מתחייב. זו הסיבה שהוא עוזר הכי הרבה בבעיות שבהן ניתן לבדוק את העבודה, והכי פחות בבעיות שאין בהן מה לעבור עליו.
מאיפה הרעיון הגיע, בשלושה תאריכים
בינואר 2022, Jason Wei ועמיתיו בגוגל הראו שהכנסת כמה דוגמאות עבודה שלב אחר שלב לתוך הפנייה העלתה את הציונים של מודל בבעיות מתמטיקה ולוגיקה. הם קראו לזה chain-of-thought prompting, וזה עבד כי כתיבת השלבים נתנה למודל יותר טוקנים, ולכן יותר חישוב, לכל בעיה.
בספטמבר 2024, OpenAI שחררה את o1, המודל הראשון הזמין באופן נרחב שאומן לעשות את זה כברירת מחדל ולא לפי בקשה. למידת החיזוק שמאחוריו תגמלה שרשראות שהובילו לתשובות נכונות במתמטיקה ובקוד, כך שהמודל למד להפיק בעצמו עבודה ארוכה ומתקנת את עצמה.
בינואר 2025, DeepSeek שחררה את R1 עם משקלים פתוחים ומאמר שמתאר את מתכון האימון, מה שאיפשר לכל מעבדה לשחזר את הגישה. תוך שנה, חשיבה הפכה למצב ולא למודל: מתג בתוך GPT, Claude ו-Gemini, ומשפחה של שורות ייעודיות כמו Kimi K2 Thinking בקטלוג הרחב יותר.
מתי חשיבה משתלמת, ומתי היא עלות טהורה
התבנית בכל benchmark ובכל משימה אמיתית זהה: חשיבה עוזרת ביחס למספר השלבים שיש לבעיה ולכמה שהתשובה ניתנת לבדיקה.
| משימה | מצב חשיבה | למה |
|---|---|---|
| מתמטיקה רב-שלבית, בעיות מילוליות, המרות יחידות | משתלם | ניתן לבדוק שלבים; שגיאות מצטברות בלי עבודה |
| דיבוג, מעקב אחרי כשל בקוד | משתלם | המודל בודק השערות מול הקוד לפני שהוא מתחייב |
| תכנון לוח זמנים, מעבר, תקציב עם אילוצים | משתלם | האילוצים משפיעים זה על זה; טיוטה ראשונה בדרך כלל מפרה אחד מהם |
| חידות לוגיקה, הוכחות, כללים עם חריגים | משתלם | כל העניין הוא השרשרת |
| חיפוש עובדתי ("באיזו שנה קרה X") | מבוזבז | אין שלבים; המודל יודע או שלא |
| שכתוב, תרגום, סיכום, שינוי טון | מבוזבז | מעבר אחד הוא המשימה; חשיבה מוסיפה עיכוב ולא איכות |
| שיחת מזדמנת, סיעור מוחות לרשימה | מבוזבז | אין מה לבדוק; יותר טוקנים לאותה תשובה |
שתי מגבלות כנות. חשיבה לא מתקנת הזיה על עובדות; מודל שלא יודע מהי בירת מדינה יגיע בהיגיון אל התשובה השגויה בביטחון רב יותר. ושרשראות ארוכות יכולות להשתבש בדרכים שתשובה קצרה לא יכולה: המודל משכנע את עצמו לוותר על תחושה ראשונית נכונה. בשאלות קלות, שרשרת ארוכה מסתיימת לפעמים במקום גרוע יותר מהתשובה הראשונה של המודל הפשוט.
כמה חשיבה עולה: הטוקנים, השניות והקרדיטים
שרשרת החשיבה היא טוקני פלט, הסוג היקר, ומה זה טוקן בבינה מלאכותית מראה שפלט עולה פי חמישה עד שישה מקלט בכל מודל מוביל. פנייה עם חשיבה שכותבת 3,000 טוקני עבודה לפני תשובה של 300 טוקנים ייצרה פי עשרה יותר פלט מהתשובה הרגילה. היא גם לוקחת בערך פי עשרה יותר זמן, כי פלט מיוצר טוקן אחד בכל פעם.
לוחות המובילים כיום מתמחרים את החוגה הזו ישירות. Artificial Analysis מדרגת כל מודל בכל רמת מאמץ שהספק חושף, כך שהמס ניתן למדידה: אותו מודל, ברמת החשיבה הנמוכה והגבוהה ביותר שלו, עם ציון Intelligence Index שלו מעל כל קצה. שלושת הסולמות למטה נקראו בתאריך 2026-09-17.
שרטט כל רמה, והעקומות נחתכות בצורה מלמדת. GPT-6 Astra מגיע ל-53 ב-$2.31 למיליון טוקנים; Claude Fable 5.1 מגיע לאותם 53 ב-$5.98. Claude Opus 5 במאמץ מרבי נוחת על 51, שתי נקודות מתחת לשניהם, ב-$5.86. מאמץ קונה נקודות בכל עקומה, ועל איזו עקומה אתה נמצא קובע כמה הנקודות האלה עולות.
הנתב Auto של Whizi הופך את זה למחיר קבוע שאתה יכול לראות. Auto קורא כל הודעה ושולח אותה לאחת משש שורות; השורה היא זו שקובעת את עלות הקרדיטים, וחשיבה רב-שלבית יושבת בראש ב-Powerhouse. Pro מגיע לשיא בשורת הקוד של 10 קרדיטים, ו-Starter נשאר על מודל הבית ב-1.
פנייה עם חשיבה היא 20 קרדיטים לעומת 1 לשאלה מהירה: פער של 20 ל-1 שמשקף את עלות הטוקנים שמתחת. Auto גם מסרב לבזבז אותה. הודעה חדשה שהוא מסווג כשכתוב או חיפוש הולכת לשורת ה-1 או 2 קרדיטים, והמשך בשרשור שכבר קיבל את שורת החשיבה נשאר שם, כי המודל של הפנייה הקודמת משמש כרצפה. לאיך Auto בוחר מודל יש את טבלת השורות עם המודל שמאחורי כל שורה.
איך להשתמש במצב חשיבה בלי לשלם עליו בכל מקום
התייחס לחשיבה ככלי שאתה שולף כשצריך, לא כהגדרה שאתה משאיר דלוקה.
- ברירת המחדל היא המודל המהיר. רוב ההודעות הן חיפושים, שכתובים ושאלות קצרות. חשיבה מוסיפה שניות וקרדיטים ולא משנה כלום.
- הפעל אותה לפנייה הקשה. כשלשאלה יש כמה שלבים ותשובה שניתן לבדוק, העבר את ההודעה הזו למודל חשיבה או הפעל מצב חשיבה, ואז חזור אחורה.
- תן לו את האילוצים בפנייה. reasoning model נמצא במיטבו כשיש לו כללים לבדוק את התוכנית שלו מולם. "חייב להיכנס ל-40 שעות, בלי פגישות בימי שישי, ההשקה היא ב-12" זה סוג הפנייה שמצדיק את ההמתנה.
- קרא את העבודה כשהיא מוצגת. השרשרת היא המקום שבו המודל חושף הנחה שגויה. אם השלב הראשון שגוי, התשובה שגויה לא משנה כמה זמן הוא חשב.
- אל תשתמש בזה כדי לבדוק עובדות. השתמש בחיפוש, במסמך, או במודל שני לשם כך; מה זה הזיה בבינה מלאכותית מסביר למה יותר חשיבה לא עוזרת שם.
כלל ההחלטה בשורה אחת: אם היית רוצה לראות את העבודה של מישהו לפני שאתה סומך על התשובה שלו, השתמש ב-reasoning model. אם לא, אל תשלם על זה.
- השאר את המודל המהיר כברירת מחדל, ושלוף מצב חשיבה לפנייה הקשה הספציפית
- השתמש בחשיבה למתמטיקה, לוגיקה, תכנון עם אילוצים ודיבוג
- דלג עליה בחיפושים, שכתובים, תרגום וסיכומים; היא איטית יותר ולא טובה יותר
- שים את האילוצים בפנייה כדי שלמודל יהיה מול מה לבדוק את התוכנית שלו
- אמת עובדות עם חיפוש או מודל שני, לא עם שרשרת מחשבה ארוכה יותר
שאלות נפוצות
מה reasoning model עושה אחרת בפועל?
הוא כותב שרשרת של שלבי ביניים לפני התשובה הסופית, מנסה גישות, בודק חשבון וחוזר אחורה, הכל כטקסט שנוצר. מודל רגיל מתחיל לכתוב את התשובה מיד. החשיבה היא אותו חיזוי הטוקן הבא, מושקע לזמן ארוך יותר על הבעיה, ולכן הוא עוזר במשימות רב-שלביות ולא בחיפושים.
האם מצב חשיבה תמיד עדיף?
לא. בחיפושים עובדתיים, שכתובים, תרגום ושאלות מזדמנות הוא איטי יותר, עולה יותר טוקנים ולא משפר את התשובה. בשאלות קלות, שרשרת ארוכה יכולה לשכנע את המודל לוותר על תחושה ראשונית נכונה. הוא עדיף במתמטיקה, לוגיקה, תכנון תחת אילוצים ודיבוג, שבהם לתשובה יש שלבים שניתן לבדוק.
למה מצב חשיבה איטי ויקר יותר?
כי החשיבה היא טוקני פלט, המיוצרים אחד בכל פעם, ופלט עולה פי חמישה עד שישה מקלט בכל מודל מוביל. פנייה שכותבת 3,000 טוקני עבודה לפני תשובה של 300 טוקנים מייצרת פי עשרה יותר פלט מהתשובה הרגילה ולוקחת בערך פי עשרה יותר זמן.
אילו מודלים הם reasoning models?
o1 של OpenAI בספטמבר 2024 היה הראשון הזמין באופן נרחב, ו-DeepSeek R1 בינואר 2025 פרסם את המתכון עם משקלים פתוחים. מאז, חשיבה היא בדרך כלל מצב בתוך GPT, Claude ו-Gemini ולא מוצר נפרד, לצד שורות ייעודיות כמו Kimi K2 Thinking. Whizi מנתב שאלות רב-שלביות לשורת החשיבה שלה אוטומטית.
האם reasoning model מזה פחות?
בבעיות רב-שלביות, כן, כי הוא תופס את שגיאות החשבון וההיגיון שלו בעצמו בתוך השרשרת. בעובדות, לא: מודל שלא יודע משהו יגיע בהיגיון לתשובה שגויה בביטחון רב יותר. לעובדות, ביסוס עם חיפוש או מסמך וחוות דעת של מודל שני עוזרים; שרשרת מחשבה ארוכה יותר לא.
