Modellen vælger aldrig et ord. Den vælger fra en liste
Efter at have læst din prompt beregner en sprogmodel en score for hvert token i sit ordforråd, 100.000 til 200.000 på nuværende modeller, og omdanner de scores til sandsynligheder: "blade" 45 procent, "vejr" 25, "farver" 15, og så videre ned ad en lang hale. Hvad er en LLM dækker, hvorfor det virker sådan. Derefter trækker den ét token fra listen, tilføjer det, og gør det hele igen.
Temperature bliver anvendt mellem scoren og trækningen. Hver score deles med temperaturen, før sandsynlighederne beregnes. Del med et tal under 1, og forskellene mellem scorerne bliver større, så favoritten trækker længere fra. Del med et tal over 1, og forskellene bliver mindre, så den lange hale får en reel chance. Ved præcis 0 kollapser matematikken til "tag altid topscoren", hvilket er derfor 0 sælges som deterministisk.
Navnet er lånt fra fysikken, hvor en varmere gas har flere tilfældigt bevægende partikler. En varmere model har flere tilfældigt valgte ord. Intet i modellens viden ændrer sig, kun trækningen gør.
Hvad tallet gør ved oddsene, regnet ud
Tag en prompt, hvor modellen vurderer det næste ord som fem kandidater på 45, 25, 15, 10 og 5 procent. Det er fordelingen ved temperature 1. Anvend formlen ved 0,5 og ved 2, og de samme fem kandidater kommer ud som nedenfor. Procenterne er beregnet ud fra formlen, ikke målt, og formen er den, enhver reel fordeling har.
Læs den femte kandidat på tværs af de tre paneler: under 1 procent, så 5, så 11. Over et svar på 500 tokens vokser en chance på 11 procent per token for at tage det femtebedste ord til en tekst, der vandrer, opfinder og til sidst holder op med at give mening, hvilket er det, folk ser, når de skubber en playground-skyder til 2. Og læs topkandidaten: selv ved 0,5 taber den ét træk ud af tre, så en lav temperature er konsekvent, ikke fast.
Det sidste punkt er vigtigt for ordet "deterministisk". Anthropics API-reference siger, at selv ved 0 vil resultaterne "ikke være fuldt deterministiske", og forbeholdet er reelt: flydende decimalberegning på parallel hardware og udbyderens batch-behandling betyder, at den samme prompt ved 0 stadig kan give to forskellige svar. Har du brug for identisk output, så gem det, stol ikke på indstillingen.
Hvad hver udbyder tillader, og hvad standarderne er
| Udbyder | Interval | Standard | Bemærkninger |
|---|---|---|---|
| OpenAI | 0 til 2 | 1 | Ræsonnerende modeller (o-serien, GPT-5 med ræsonnering) accepterer ikke parameteren |
| Anthropic | 0 til 1 | 1 | Afviser forespørgsler, der sætter begge dele på Opus 4.1 og nyere |
| Google Gemini | 0 til 2 | 1 | Eksponeret som en skyder i AI Studio |
| OpenRouter | Sender videre | Udbyderens standard | Ruten Whizi bruger til at nå enhver model |
Tre ting skiller sig ud. Alle udbydere har 1 som standard, hvilket betyder at trække fra modellens egne odds, så de svar, du får i en almindelig chat, er allerede ét træk blandt mange. Anthropics skala stopper ved 1, så en Claude-temperature på 1 er loftet, mens en OpenAI 1 er midtpunktet, tallene kan ikke sammenlignes på tværs af udbydere. Og ræsonnerende modeller afviser indstillingen: OpenAI lister temperature som ikke understøttet for o-serien og GPT-5 og returnerer en fejl, hvis du sender den, og Anthropic kræver 1, når udvidet tænkning er slået til.
Hvilken indstilling til hvilken opgave
Reglen er én linje: lavere til opgaver med ét rigtigt svar, højere til opgaver med mange gode svar.
| Opgave | Temperature | Hvorfor |
|---|---|---|
| Udtræk til en tabel eller JSON, klassificering, kode | 0 til 0,3 | Én rigtig form, variation er en fejl |
| Resuméer, oversættelse, faktuelle spørgsmål | 0,3 til 0,7 | Lidt formuleringsfrihed, ingen ønsket opfindsomhed |
| Udkast, omskrivning, brainstorming | 0,7 til 1 | Udbyderens standard, varieret men sammenhængende |
| Fiktion, navne, slogans, bevidst skæve idéer | 1 til 1,3 | Ord fra den lange hale er hele pointen |
| Over 1,5 | Sjældent | Sammenhæng falder, før nyskabelse stiger |
To advarsler. Temperature styrer ikke sandhed. En model ved 0 vælger sit mest sandsynlige svar, og hvis det mest sandsynlige svar er forkert, er det forkert hver gang med total selvsikkerhed, hvilket hvad er en AI-hallucination forklarer fra træningssiden. Og temperature er ikke knappen for tone eller længde. De hører hjemme i instruktionerne, og prompt engineering for begyndere dækker dem, tallet afgør kun, hvor ofte modellen gambler på et ord.
Hvorfor du aldrig har set skyderen i en chatapp
ChatGPT, Claude-appen, Gemini og Whizi eksponerer ingen temperature-kontrol. Indstillingen findes i udvikler-playgrounds og API'er, og ingen af de tre udbydere offentliggør den værdi, deres egen app bruger. Whizi sender ingen, så hver model her kører på udbyderens standard på 1. Grunden er den samme som ovenfor: standarden er allerede den indstilling, de fleste opgaver ønsker, og en skyder på det forkerte sted gør en god assistent til en dårlig uden noget signal om, hvilken knap der gjorde det.
Det, et multi-model-workspace giver dig i stedet, er en større håndtag. To forskellige modeller er to forskellige sandsynlighedslister, og at skifte mellem dem ændrer svaret langt mere, end nogen temperature ville gøre. Vanen, der erstatter skyderen: til en opgave med ét rigtigt svar, spørg en anden model og handl kun der, hvor de er enige; til en opgave med mange gode svar, spørg to modeller og vælg. I Whizi er det et modelskifte midt i samtalen, og skift mellem modeller midt i samtalen dækker, hvad der følger med over.
Har du virkelig brug for knappen, findes den i udbyderens egen API eller playground, per forespørgsel, og intervallerne i tabellen ovenfor gælder.
- Brug 0 til 0,3 til alt med én rigtig form: udtræk, klassificering, kode
- Behold standarden på 1 til udkast og omskrivning, det er det, hver udbyder har finjusteret til
- Betragt aldrig 0 som en garanti for identisk output, gem det svar, du vil beholde
- Grib ikke efter temperature for at rette tone, længde eller nøjagtighed, det er instruktionsproblemer
- Når en chatapp ikke har en skyder, skift modellen i stedet, det flytter svaret mere end nogen temperature
Ofte stillede spørgsmål
Hvad betyder temperature 0 i AI?
Ved temperature 0 tager modellen altid sit eneste mest sandsynlige næste token i stedet for at trække tilfældigt, så den samme prompt giver næsten altid det samme svar. Anthropics API-reference siger, at resultaterne "ikke vil være fuldt deterministiske" selv ved 0, fordi hardware og batch-behandling stadig kan indføre små forskelle. Det er den rigtige indstilling til udtræk, klassificering og kode, og den gør intet for at gøre det mest sandsynlige svar mere korrekt.
Hvad er den bedste temperature til ChatGPT?
ChatGPT-appen lader dig ikke indstille en, og OpenAI offentliggør ikke den værdi, appen bruger. Gennem API'en bruges 0 til 0,3 til struktureret output og faktuelt udtræk, 0,7 til 1 til skrivning, og over 1 kun til bevidst varieret kreativ tekst. OpenAIs ræsonnerende modeller returnerer en fejl, hvis du overhovedet sender parameteren.
Hvad er forskellen mellem temperature og top-p?
Temperature omformer hele sandsynlighedslisten, gør den skarpere eller fladere. Top-p skærer listen af og beholder kun de mest sandsynlige tokens, hvis sandsynligheder summerer til p, og trækker derfra. Begge øger eller mindsker tilfældighed. OpenAI anbefaler at ændre den ene eller den anden, og Anthropic afviser en forespørgsel, der sætter begge dele på Opus 4.1 og nyere.
Gør en højere temperature AI mere kreativ?
Det får modellen til at vælge mindre sandsynlige ord oftere, hvilket læses som kreativt op til cirka 1,3 og som usammenhængende efter cirka 1,5. I et regneeksempel løfter det at hæve temperature fra 1 til 2 den femtebedste kandidat fra en 5 procents chance til 11 procent på hvert token, og det lægger sig oveni over et langt svar. Kreativitet i betydningen en bedre idé kommer fra prompten og modellen, ikke fra knappen.
Kan jeg ændre temperature i Whizi?
Nej. Whizi sender ingen temperature, så hver model kører på udbyderens standard, ChatGPT, Claude-appen og Gemini eksponerer heller ingen kontrol og offentliggør ingen værdi. Det tilsvarende håndtag i et multi-model-workspace er modelvælgeren: to modeller er to forskellige sandsynlighedsfordelinger, og at skifte midt i samtalen ændrer et svar mere, end nogen temperature-indstilling ville gøre.
