המודל אף פעם לא בוחר מילה. הוא בוחר מתוך רשימה
לאחר קריאת הפרומפט שלך, מודל שפה מייצר ציון לכל טוקן באוצר המילים שלו, בין 100,000 ל-200,000 במודלים הנוכחיים, והופך את הציונים הללו להסתברויות: "עלים" 45 אחוז, "מזג אוויר" 25, "צבעים" 15, וכן הלאה לאורך זנב ארוך. מה זה LLM מסביר למה זה עובד כך. אז הוא מגריל טוקן אחד מהרשימה הזו, מוסיף אותו, ועושה את כל התהליך שוב.
הטמפרטורה מוחלת בין הציונים לבין ההגרלה. כל ציון מחולק בטמפרטורה לפני שההסתברויות מחושבות. חלוקה במספר מתחת ל-1 מרחיבה את הפערים בין הציונים, כך שהמועדף מתרחק עוד יותר קדימה. חלוקה במספר מעל 1 מצמצמת את הפערים, כך שהזנב הארוך מקבל סיכוי אמיתי. בדיוק ב-0 המתמטיקה קורסת ל"תמיד קח את הציון הגבוה ביותר", וזו הסיבה ש-0 משווק כדטרמיניסטי.
השם שאול מהפיזיקה, שם לגז חם יותר יש חלקיקים שנעים באופן אקראי יותר. למודל חם יותר יש מילים שנבחרות באופן אקראי יותר. שום דבר בידע של המודל לא משתנה; רק ההגרלה משתנה.
מה המספר עושה לסיכויים, מפורט
קח פרומפט שבו המודל מדרג את המילה הבאה שלו כחמישה מועמדים ב-45, 25, 15, 10 ו-5 אחוז. זו ההתפלגות בטמפרטורה 1. הפעל את הנוסחה ב-0.5 וב-2 ואותם חמישה מועמדים יוצאים כמו למטה. האחוזים מחושבים מהנוסחה, לא נמדדים, והצורה היא מה שכל התפלגות אמיתית עושה.
קרא את המועמד החמישי לאורך שלושת הפאנלים: מתחת לאחוז אחד, אז 5, אז 11. על פני תשובה של 500 טוקנים, סיכוי של 11 אחוז לטוקן לקחת את המילה החמישית-הכי-טובה מצטבר לטקסט שנודד, ממציא ובסופו של דבר מפסיק להיות הגיוני, וזה מה שאנשים רואים כשהם דוחפים סליידר בפלייגראונד ל-2. וקרא את המועמד המוביל: אפילו ב-0.5 הוא מפסיד הגרלה אחת משלוש, כך שטמפרטורה נמוכה היא עקבית, לא קבועה.
הנקודה האחרונה הזו חשובה למילה "דטרמיניסטי". מסמך ה-API הרשמי של Anthropic אומר שאפילו ב-0 התוצאות "לא יהיו דטרמיניסטיות לחלוטין", וההסתייגות אמיתית: חשבון נקודה צפה על חומרה מקבילית ואצווה בצד הספק אומרים שאותו פרומפט ב-0 עדיין יכול לייצר שתי תשובות שונות. אם אתה צריך פלט זהה, שמור אותו; אל תסתמך על ההגדרה.
מה כל ספק מאפשר, ומה ברירות המחדל
| ספק | טווח | ברירת מחדל | הערות |
|---|---|---|---|
| OpenAI | 0 עד 2 | 1 | מודלי חשיבה (סדרת ה-o, GPT-5 עם חשיבה) לא מקבלים את הפרמטר |
| Anthropic | 0 עד 1 | 1 | דוחה בקשות שמגדירות את שניהם ב-Opus 4.1 ומעלה |
| Google Gemini | 0 עד 2 | 1 | חשוף כסליידר ב-AI Studio |
| OpenRouter | מעביר הלאה | ברירת המחדל של הספק | הנתיב ש-Whizi משתמש בו כדי להגיע לכל מודל |
שלושה דברים בולטים. כל ספק כברירת מחדל על 1, כלומר דגימה מתוך ההסתברויות של המודל עצמו, כך שהתשובות שאתה מקבל בצ'אט רגיל כבר הן הגרלה אחת מבין רבות. הסולם של Anthropic נעצר ב-1, כך שטמפרטורה 1 ב-Claude היא התקרה בעוד ש-1 ב-OpenAI היא האמצע; המספרים לא ניתנים להשוואה בין ספקים. ומודלי חשיבה דוחים את ההגדרה: OpenAI מציינת שהטמפרטורה לא נתמכת בסדרת ה-o וב-GPT-5 ומחזירה שגיאה אם שולחים אותה, ו-Anthropic דורשת 1 בכל פעם שחשיבה מורחבת פועלת.
איזו הגדרה לאיזו משימה
הכלל הוא שורה אחת: נמוך יותר למשימות עם תשובה נכונה אחת, גבוה יותר למשימות עם הרבה תשובות טובות.
| משימה | טמפרטורה | למה |
|---|---|---|
| חילוץ לטבלה או JSON, סיווג, קוד | 0 עד 0.3 | צורה נכונה אחת; שונות היא פגם |
| סיכומים, תרגום, שאלות עובדתיות | 0.3 עד 0.7 | קצת חופש בניסוח, בלי המצאות |
| טיוטות, שכתוב, סיעור מוחות | 0.7 עד 1 | ברירת המחדל של הספק; מגוון אך קוהרנטי |
| בדיה, שמות, סלוגנים, רעיונות מוזרים במכוון | 1 עד 1.3 | מילים מהזנב הארוך הן העניין |
| מעל 1.5 | לעיתים נדירות | הקוהרנטיות יורדת לפני שהחדשנות עולה |
שתי אזהרות. הטמפרטורה לא שולטת באמת. מודל ב-0 בוחר את התשובה הכי סבירה שלו, ואם התשובה הכי סבירה שגויה, היא שגויה בכל פעם בביטחון מלא, מה שמה זה הזיה ב-AI מסביר מהצד של האימון. והטמפרטורה היא לא המנוף לטון או אורך. אלה שייכים להוראות, והנדסת פרומפטים למתחילים מכסה אותם; המספר רק קובע באיזו תדירות המודל מהמר על מילה.
למה מעולם לא ראית את הסליידר באפליקציית צ'אט
ChatGPT, אפליקציית Claude, Gemini ו-Whizi לא חושפות שליטה בטמפרטורה. ההגדרה חיה בפלייגראונדים ו-API-ים למפתחים, ואף אחד משלושת הספקים לא מפרסם את הערך שהאפליקציה שלו עצמו משתמשת בו. Whizi לא שולחת כלום, כך שכל מודל כאן פועל בברירת המחדל של הספק, שהיא 1. הסיבה היא זו שלמעלה: ברירת המחדל היא כבר ההגדרה שרוב המשימות רוצות, וסליידר במקום הלא נכון הופך עוזר טוב לרע, בלי שום סימן איזה כפתור עשה את זה.
מה שסביבת עבודה מרובת מודלים נותנת לך במקום זאת הוא מנוף גדול יותר. שני מודלים שונים הם שתי רשימות הסתברות שונות, ומעבר ביניהם משנה את התשובה הרבה יותר מכל טמפרטורה. ההרגל שמחליף את הסליידר: למשימה עם תשובה נכונה אחת, שאל מודל שני ופעל רק במקום שהם מסכימים; למשימה עם הרבה תשובות טובות, שאל שני מודלים ובחר. ב-Whizi זה החלפת מודל באמצע השיחה, והחלפת מודלים באמצע השיחה מכסה מה עובר הלאה.
אם אתה כן צריך את הכפתור, הוא נמצא ב-API או בפלייגראונד של הספק עצמו, לכל בקשה, והטווחים בטבלה למעלה חלים.
- השתמש ב-0 עד 0.3 לכל דבר עם צורה נכונה אחת: חילוץ, סיווג, קוד
- השאר את ברירת המחדל 1 לטיוטות ושכתוב; זה מה שכל ספק כיוון עבורו
- לעולם אל תתייחס ל-0 כערבות לפלט זהה; שמור את התשובה שאתה רוצה לשמור
- אל תפנה לטמפרטורה כדי לתקן טון, אורך או דיוק; אלה בעיות של הוראות
- כשלאפליקציית צ'אט אין סליידר, החלף מודל במקום זאת, זה מזיז את התשובה יותר מכל טמפרטורה
שאלות נפוצות
מה זה טמפרטורה 0 ב-AI?
בטמפרטורה 0 המודל תמיד לוקח את הטוקן הבא הכי סביר שלו במקום לדגום, כך שאותו פרומפט נותן את אותה תשובה כמעט בכל פעם. מסמך ה-API הרשמי של Anthropic אומר שהתוצאות "לא יהיו דטרמיניסטיות לחלוטין" אפילו ב-0, כי חומרה ואצווה עדיין יכולות להכניס הבדלים זעירים. זו ההגדרה הנכונה לחילוץ, סיווג וקוד, והיא לא עושה כלום כדי להפוך את התשובה הכי סבירה לנכונה יותר.
מה הטמפרטורה הטובה ביותר ל-ChatGPT?
אפליקציית ChatGPT לא נותנת לך להגדיר אחת, ו-OpenAI לא מפרסמת את הערך שהאפליקציה משתמשת בו. דרך ה-API, השתמש ב-0 עד 0.3 לפלט מובנה וחילוץ עובדתי, 0.7 עד 1 לכתיבה, ומעל 1 רק לטקסט יצירתי מגוון במכוון. מודלי החשיבה של OpenAI מחזירים שגיאה אם שולחים את הפרמטר בכלל.
מה ההבדל בין טמפרטורה ל-top-p?
הטמפרטורה מעצבת מחדש את כל רשימת ההסתברות, מחדדת או משטחת אותה. Top-p חותך את הרשימה, שומר רק את הטוקנים הסבירים ביותר שההסתברויות שלהם מסתכמות ל-p, ומגריל מתוכם. שניהם מפחיתים או מגבירים אקראיות. OpenAI ממליצה לשנות אחד מהשניים, ו-Anthropic דוחה בקשה שמגדירה את שניהם ב-Opus 4.1 ומעלה.
האם טמפרטורה גבוהה יותר הופכת AI ליצירתי יותר?
זה גורם למודל לבחור מילים פחות סבירות לעיתים קרובות יותר, מה שנקרא יצירתי עד בערך 1.3 ולא קוהרנטי מעבר לבערך 1.5. בדוגמה מפורטת, העלאת הטמפרטורה מ-1 ל-2 מעלה את המועמד החמישי-הכי-טוב מסיכוי של 5 אחוז ל-11 אחוז בכל טוקן, וזה מצטבר לאורך תשובה ארוכה. יצירתיות במובן של רעיון טוב יותר מגיעה מהפרומפט והמודל, לא מהכפתור.
האם אני יכול לשנות את הטמפרטורה ב-Whizi?
לא. Whizi לא שולחת טמפרטורה, כך שכל מודל פועל בברירת המחדל של הספק שלו; ChatGPT, אפליקציית Claude ו-Gemini גם הן לא חושפות שליטה ולא מפרסמות ערך. המנוף המקביל בסביבת עבודה מרובת מודלים הוא בורר המודלים: שני מודלים הם שתי התפלגויות הסתברות שונות, ומעבר באמצע השיחה משנה תשובה יותר מכל הגדרת טמפרטורה.
