Modellen velger aldri et ord. Den velger fra en liste
Etter å ha lest prompten din, gir en språkmodell en poengsum til hvert token i vokabularet sitt, 100 000 til 200 000 på dagens modeller, og gjør om disse poengsummene til sannsynligheter: «løv» 45 prosent, «vær» 25, «farger» 15, og så videre nedover en lang hale. Hva er en LLM forklarer hvorfor det fungerer slik. Deretter trekker den ett token fra listen, legger det til, og gjør det hele på nytt.
Temperatur brukes mellom poengsummene og trekningen. Hver poengsum deles på temperaturen før sannsynlighetene regnes ut. Del på et tall under 1, og gapene mellom poengsummene øker, slik at favoritten trekker enda lenger fra. Del på et tall over 1, og gapene krymper, slik at den lange halen får en reell sjanse. Ved nøyaktig 0 kollapser matematikken til «ta alltid den høyeste poengsummen», som er grunnen til at 0 selges som deterministisk.
Navnet er lånt fra fysikken, der en varmere gass har flere partikler som beveger seg tilfeldig. En varmere modell har flere tilfeldig valgte ord. Ingenting i modellens kunnskap endres, bare trekningen gjør det.
Hva tallet gjør med oddsen, forklart steg for steg
Ta en prompt der modellen vurderer det neste ordet som fem kandidater på 45, 25, 15, 10 og 5 prosent. Det er fordelingen ved temperatur 1. Bruk formelen på 0,5 og på 2, og de samme fem kandidatene kommer ut som under. Prosentene er regnet ut fra formelen, ikke målt, og formen er det enhver reell fordeling gjør.
Se på den femte kandidaten gjennom de tre panelene: under 1 prosent, så 5, så 11. Over et svar på 500 token utgjør en sjanse på 11 prosent per token for å velge det femte beste ordet en effekt som forsterker seg, slik at teksten vandrer, dikter opp ting og til slutt slutter å gi mening, som er det folk ser når de skyver en glidebryter i en playground til 2. Og se på den beste kandidaten: selv ved 0,5 taper den ett trekk av tre, så en lav temperatur er konsekvent, ikke fast.
Det siste poenget er viktig for ordet «deterministisk». Anthropics API-referanse sier at selv ved 0 vil resultatene «ikke være fullstendig deterministiske», og forbeholdet er reelt: flyttallberegninger på parallell maskinvare og batching hos leverandøren gjør at den samme prompten ved 0 fortsatt kan gi to forskjellige svar. Hvis du trenger identisk resultat, lagre det: ikke stol på innstillingen.
Hva hver leverandør tillater, og hva standardverdiene er
| Leverandør | Område | Standard | Merknader |
|---|---|---|---|
| OpenAI | 0 til 2 | 1 | Resonnementmodeller (o-serien, GPT-5 med resonnering) godtar ikke parameteren |
| Anthropic | 0 til 1 | 1 | Avviser forespørsler som setter begge på Opus 4.1 og senere |
| Google Gemini | 0 til 2 | 1 | Vises som en glidebryter i AI Studio |
| OpenRouter | Sendes videre | Leverandørens standard | Ruten Whizi bruker for å nå hver modell |
Tre ting utmerker seg. Alle leverandørene bruker 1 som standard, som betyr å trekke fra modellens egne sannsynligheter, så svarene du får i en vanlig samtale er allerede ett trekk blant mange. Anthropics skala stopper ved 1, så en Claude-temperatur på 1 er taket, mens en OpenAI-verdi på 1 er midtpunktet: tallene kan ikke sammenlignes på tvers av leverandører. Og resonnementmodeller avviser innstillingen: OpenAI lister temperatur som ikke støttet for o-serien og GPT-5 og returnerer en feil hvis du sender den, og Anthropic krever 1 når utvidet tenkning er på.
Hvilken innstilling for hvilken oppgave
Regelen er én linje: lavere for oppgaver med ett riktig svar, høyere for oppgaver med mange gode svar.
| Oppgave | Temperatur | Hvorfor |
|---|---|---|
| Uttrekk til en tabell eller JSON, klassifisering, kode | 0 til 0,3 | Én riktig form, variasjon er en feil |
| Sammendrag, oversettelse, faktaspørsmål | 0,3 til 0,7 | Litt frihet i formulering, ingen dikting ønsket |
| Utkast, omskriving, idémyldring | 0,7 til 1 | Leverandørens standard, variert men sammenhengende |
| Fiksjon, navn, slagord, bevisst rare ideer | 1 til 1,3 | Sjeldne ord er hele poenget |
| Over 1,5 | Sjelden | Sammenheng faller før nyhet stiger |
To forbehold. Temperatur styrer ikke sannhet. En modell ved 0 velger sitt mest sannsynlige svar, og hvis det mest sannsynlige svaret er feil, er det feil hver eneste gang med total selvsikkerhet, noe hva er en AI-hallusinasjon forklarer fra treningssiden. Og temperatur er ikke spaken for tone eller lengde. Det hører hjemme i instruksjonene, og prompt engineering for nybegynnere dekker det: tallet avgjør bare hvor ofte modellen gambler på et ord.
Hvorfor du aldri har sett glidebryteren i en chat-app
ChatGPT, Claude-appen, Gemini og Whizi tilbyr ingen temperaturkontroll. Innstillingen finnes i utviklerplaygrounds og API-er, og ingen av de tre leverandørene offentliggjør verdien deres egen app bruker. Whizi sender ingen, så alle modeller her kjører på leverandørens standard på 1. Grunnen er den samme som over: standarden er allerede det de fleste oppgaver vil ha, og en glidebryter på feil sted gjør en god assistent til en dårlig en uten noe signal om hvilken bryter som gjorde det.
Det en multi-modell-arbeidsflate gir deg i stedet, er en større spak. To forskjellige modeller er to forskjellige sannsynlighetslister, og å bytte mellom dem endrer svaret langt mer enn noen temperatur ville gjort. Vanen som erstatter glidebryteren: for en oppgave med ett riktig svar, spør en andre modell og handle bare der de er enige, for en oppgave med mange gode svar, spør to modeller og velg. I Whizi er det et modellbytte midt i samtalen, og å bytte modell midt i en samtale dekker hva som følger med over.
Hvis du virkelig trenger bryteren, finnes den i leverandørens egen API eller playground, per forespørsel, og områdene i tabellen over gjelder.
- Bruk 0 til 0,3 for alt som har én riktig form: uttrekk, klassifisering, kode
- La standarden på 1 stå for utkast og omskriving: det er det alle leverandører har justert for
- Aldri behandle 0 som en garanti for identisk resultat: lagre svaret du vil beholde
- Ikke bruk temperatur for å fikse tone, lengde eller nøyaktighet: det er instruksjonsproblemer
- Når en chat-app ikke har en glidebryter, bytt modell i stedet, det endrer svaret mer enn noen temperatur
Vanlige spørsmål
Hva betyr temperatur 0 i AI?
Ved temperatur 0 velger modellen alltid det ene mest sannsynlige neste tokenet i stedet for å trekke, så den samme prompten gir nesten alltid det samme svaret. Anthropics API-referanse sier at resultatene «ikke vil være fullstendig deterministiske» selv ved 0, fordi maskinvare og batching fortsatt kan innføre små forskjeller. Det er riktig innstilling for uttrekk, klassifisering og kode, og det gjør ingenting for å gjøre det mest sannsynlige svaret mer korrekt.
Hva er den beste temperaturen for ChatGPT?
ChatGPT-appen lar deg ikke stille inn dette, og OpenAI offentliggjør ikke verdien appen bruker. Gjennom API-et bruker du 0 til 0,3 for strukturert output og faktauttrekk, 0,7 til 1 for skriving, og over 1 bare for bevisst variert kreativ tekst. OpenAIs resonnementmodeller returnerer en feil hvis du i det hele tatt sender parameteren.
Hva er forskjellen mellom temperatur og top-p?
Temperatur omformer hele sannsynlighetslisten, gjør den skarpere eller flatere. Top-p kutter listen av, og beholder bare de mest sannsynlige tokenene der sannsynlighetene summerer seg til p, og trekker fra dem. Begge reduserer eller øker tilfeldighet. OpenAI anbefaler å endre den ene eller den andre, og Anthropic avviser en forespørsel som setter begge på Opus 4.1 og senere.
Gjør en høyere temperatur AI mer kreativ?
Det gjør at modellen velger mindre sannsynlige ord oftere, noe som oppfattes som kreativt opp til rundt 1,3 og som usammenhengende forbi rundt 1,5. I et regneeksempel løfter en økning av temperatur fra 1 til 2 den femte beste kandidaten fra en sjanse på 5 prosent til 11 prosent på hvert token, og det forsterker seg over et langt svar. Kreativitet i betydningen en bedre idé kommer fra prompten og modellen, ikke fra bryteren.
Kan jeg endre temperaturen i Whizi?
Nei. Whizi sender ingen temperatur, så alle modeller kjører på leverandørens standard: ChatGPT, Claude-appen og Gemini tilbyr heller ingen kontroll og offentliggjør ingen verdi. Den tilsvarende spaken i en multi-modell-arbeidsflate er modellvelgeren: to modeller er to forskjellige sannsynlighetsfordelinger, og å bytte midt i samtalen endrer et svar mer enn noen temperaturinnstilling ville gjort.
