Het model kiest nooit een woord. Het kiest uit een lijst
Nadat het je prompt heeft gelezen, produceert een taalmodel een score voor elk token in zijn vocabulaire, 100.000 tot 200.000 bij huidige modellen, en zet die scores om in kansen: "bladeren" 45 procent, "weer" 25, "kleuren" 15, enzovoort langs een lange staart. Wat is een LLM legt uit waarom dat zo werkt. Vervolgens trekt het model een token uit die lijst, voegt het toe en doet het geheel opnieuw.
Temperature wordt toegepast tussen de scores en de trekking. Elke score wordt gedeeld door de temperature voordat de kansen worden berekend. Deel door een getal onder 1 en de verschillen tussen scores worden groter, zodat de favoriet verder voorop komt te staan. Deel door een getal boven 1 en de verschillen krimpen, zodat de lange staart een echte kans krijgt. Bij exact 0 valt de wiskunde terug op "neem altijd de hoogste score", en daarom wordt 0 verkocht als deterministisch.
De naam komt uit de natuurkunde, waar een heter gas meer willekeurig bewegende deeltjes heeft. Een heter model kiest willekeuriger woorden. Er verandert niets aan de kennis van het model; alleen de trekking.
Wat het getal doet met de kansen, uitgewerkt
Neem een prompt waarvan het model het volgende woord beoordeelt als vijf kandidaten op 45, 25, 15, 10 en 5 procent. Dat is de verdeling bij temperature 1. Pas de formule toe op 0.5 en op 2 en dezelfde vijf kandidaten komen eruit zoals hieronder. De percentages zijn berekend met de formule, niet gemeten, en de vorm is wat elke echte verdeling doet.
Lees de vijfde kandidaat over de drie panelen: onder de 1 procent, dan 5, dan 11. Over een antwoord van 500 tokens stapelt een kans van 11 procent per token op het vijfde beste woord zich op tot tekst die afdwaalt, verzint en uiteindelijk geen zin meer maakt, wat je ziet als iemand een playground-schuifje naar 2 duwt. En kijk naar de topkandidaat: zelfs op 0.5 verliest hij een op de drie trekkingen, dus een lage temperature is consistent, niet vast.
Dat laatste punt is belangrijk voor het woord "deterministisch". Anthropic's API-documentatie zegt dat de resultaten zelfs op 0 "niet volledig deterministisch" zullen zijn, en dat voorbehoud is reëel: drijvendekommawiskunde op parallelle hardware en batchverwerking bij de aanbieder betekenen dat dezelfde prompt op 0 nog steeds twee verschillende antwoorden kan opleveren. Als je identieke output nodig hebt, sla het antwoord op; vertrouw niet op de instelling.
Wat elke aanbieder toestaat, en wat de standaardwaarden zijn
| Aanbieder | Bereik | Standaard | Opmerkingen |
|---|---|---|---|
| OpenAI | 0 tot 2 | 1 | Reasoning-modellen (de o-serie, GPT-5 met redeneren) accepteren deze parameter niet |
| Anthropic | 0 tot 1 | 1 | Weigert verzoeken die beide instellen op Opus 4.1 en later |
| Google Gemini | 0 tot 2 | 1 | Getoond als schuifje in AI Studio |
| OpenRouter | Geeft door | Standaard van de aanbieder | De route die Whizi gebruikt om elk model te bereiken |
Drie dingen vallen op. Elke aanbieder gebruikt standaard 1, wat betekent dat er wordt bemonsterd uit de eigen kansen van het model, dus de antwoorden die je krijgt in een gewone chat zijn al een trekking uit vele. Anthropic's schaal stopt bij 1, dus een Claude-temperature van 1 is het plafond terwijl een OpenAI-1 het midden is; de getallen zijn niet vergelijkbaar tussen aanbieders. En reasoning-modellen weigeren de instelling: OpenAI vermeldt temperature als niet-ondersteund voor de o-serie en GPT-5 en geeft een foutmelding als je het toch meestuurt, en Anthropic vereist 1 zodra extended thinking aanstaat.
Welke instelling voor welke taak
De regel is één zin: lager voor taken met één juist antwoord, hoger voor taken met meerdere goede antwoorden.
| Taak | Temperature | Waarom |
|---|---|---|
| Extractie naar een tabel of JSON, classificatie, code | 0 tot 0.3 | Eén juiste vorm; variatie is een defect |
| Samenvattingen, vertaling, feitelijke vragen | 0.3 tot 0.7 | Wat vrijheid in formulering, geen verzinsels gewenst |
| Opstellen, herschrijven, brainstormen | 0.7 tot 1 | De standaard van de aanbieder; gevarieerd maar samenhangend |
| Fictie, namen, slogans, bewust ongewone ideeën | 1 tot 1.3 | Woorden uit de lange staart zijn juist het doel |
| Boven 1.5 | Zelden | Samenhang daalt voordat originaliteit stijgt |
Twee waarschuwingen. Temperature bepaalt niet de waarheid. Een model op 0 kiest zijn meest waarschijnlijke antwoord, en als dat meest waarschijnlijke antwoord fout is, is het elke keer fout met volledig vertrouwen, wat wat is een AI-hallucinatie uitlegt vanuit het trainingsperspectief. En temperature is niet de hendel voor toon of lengte. Die horen thuis in de instructies, en prompt engineering voor beginners behandelt dat; het getal bepaalt alleen hoe vaak het model gokt op een woord.
Waarom je het schuifje nog nooit hebt gezien in een chatapp
ChatGPT, de Claude-app, Gemini en Whizi tonen geen temperature-instelling. De instelling zit in ontwikkelaars-playgrounds en API's, en geen van de drie aanbieders publiceert de waarde die hun eigen app gebruikt. Whizi stuurt er geen, dus elk model hier draait op de standaard van de aanbieder van 1. De reden is dezelfde als hierboven: de standaard is al de instelling die de meeste taken willen, en een schuifje op de verkeerde plek maakt van een goede assistent een slechte, zonder enig signaal over welke knop het deed.
Wat een multi-model werkruimte je in plaats daarvan geeft, is een grotere hendel. Twee verschillende modellen zijn twee verschillende kansenlijsten, en wisselen daartussen verandert het antwoord veel meer dan welke temperature dan ook. De gewoonte die het schuifje vervangt: voor een taak met één juist antwoord, vraag het een tweede model en handel alleen waar ze het eens zijn; voor een taak met meerdere goede antwoorden, vraag het twee modellen en kies. In Whizi is dat een modelwissel midden in een gesprek, en modellen wisselen tijdens een gesprek legt uit wat er meegaat.
Als je de knop echt nodig hebt, zit die in de eigen API of playground van de aanbieder, per verzoek, en gelden de bereiken uit de tabel hierboven.
- Gebruik 0 tot 0.3 voor alles met één juiste vorm: extractie, classificatie, code
- Laat de standaard van 1 staan voor opstellen en herschrijven; daar is elke aanbieder op afgesteld
- Behandel 0 nooit als garantie voor identieke output; sla het antwoord op dat je wilt bewaren
- Grijp niet naar temperature om toon, lengte of nauwkeurigheid te fixen; dat zijn instructieproblemen
- Als een chatapp geen schuifje heeft, wissel dan van model; dat verandert het antwoord meer dan welke temperature dan ook
Veelgestelde vragen
Wat betekent temperature 0 in AI?
Op temperature 0 kiest het model altijd zijn enige meest waarschijnlijke volgende token in plaats van te bemonsteren, dus dezelfde prompt geeft bijna altijd hetzelfde antwoord. Anthropic's API-documentatie zegt dat de resultaten zelfs op 0 "niet volledig deterministisch" zullen zijn, omdat hardware en batchverwerking nog steeds kleine verschillen kunnen veroorzaken. Het is de juiste instelling voor extractie, classificatie en code, en het doet niets om het meest waarschijnlijke antwoord juister te maken.
Wat is de beste temperature voor ChatGPT?
De ChatGPT-app laat je er geen instellen, en OpenAI publiceert niet welke waarde de app gebruikt. Via de API gebruik je 0 tot 0.3 voor gestructureerde output en feitelijke extractie, 0.7 tot 1 voor schrijven, en boven 1 alleen voor bewust gevarieerde creatieve tekst. OpenAI's reasoning-modellen geven een foutmelding als je de parameter überhaupt meestuurt.
Wat is het verschil tussen temperature en top-p?
Temperature herschikt de hele kansenlijst en maakt hem scherper of vlakker. Top-p snijdt de lijst af en behoudt alleen de meest waarschijnlijke tokens waarvan de kansen samen p vormen, en bemonstert daaruit. Beide verminderen of verhogen willekeur. OpenAI adviseert het een of het ander te veranderen, en Anthropic weigert een verzoek dat beide instelt op Opus 4.1 en later.
Maakt een hogere temperature AI creatiever?
Het zorgt ervoor dat het model vaker minder waarschijnlijke woorden kiest, wat overkomt als creatief tot ongeveer 1.3 en als incoherent na ongeveer 1.5. In een uitgewerkt voorbeeld tilt het verhogen van temperature van 1 naar 2 de kans van de vijfde beste kandidaat op van 5 procent naar 11 procent bij elk token, en dat stapelt zich op over een lang antwoord. Creativiteit in de zin van een beter idee komt van de prompt en het model, niet van de knop.
Kan ik de temperature aanpassen in Whizi?
Nee. Whizi stuurt geen temperature mee, dus elk model draait op de standaard van de aanbieder; ChatGPT, de Claude-app en Gemini tonen ook geen instelling en publiceren geen waarde. De vergelijkbare hendel in een multi-model werkruimte is de modelkiezer: twee modellen zijn twee verschillende kansverdelingen, en wisselen tijdens een gesprek verandert een antwoord meer dan welke temperature-instelling dan ook.
