Een reasoning model denkt in tokens voordat het antwoordt in tokens
Stel een standaardmodel een lastige vraag en het begint meteen het antwoord te schrijven. Het enige "denkwerk" is wat er intern in het netwerk gebeurt tussen het lezen van je prompt en het produceren van het eerste woord.
Een reasoning model is getraind om iets anders te doen: eerst een keten van redeneerstappen opschrijven, vaak duizenden tokens lang, en pas daarna het antwoord schrijven. Dat redeneerwerk is tekst die het model voor zichzelf genereert. Het probeert een aanpak, merkt een tegenstrijdigheid op, gaat terug, controleert een berekening, en committeert zich uiteindelijk. De meeste producten verbergen deze keten of tonen er een samenvatting van, en noemen het geheel "thinking".
Het denkwerk is dezelfde voorspelling van het volgende token die wat is een LLM beschrijft, alleen langer op het probleem gericht. Een reasoning model is een taalmodel dat via reinforcement learning op problemen met controleerbare antwoorden getraind is om meer tokens te besteden voordat het zich vastlegt. Daarom helpt het het meest bij problemen waarvan het werk gecontroleerd kan worden, en het minst bij problemen waar niets uit te werken valt.
Waar het idee vandaan komt, in drie data
In januari 2022 lieten Jason Wei en collega's bij Google zien dat het opnemen van een paar uitgewerkte, stapsgewijze voorbeelden in de prompt de scores van een model op wiskunde- en logicaproblemen verhoogde. Ze noemden het chain-of-thought prompting, en het werkte omdat het uitschrijven van de stappen het model meer tokens gaf, en dus meer rekenkracht, per probleem.
In september 2024 bracht OpenAI o1 uit, het eerste breed beschikbare model dat standaard, in plaats van op verzoek, zo getraind was. De reinforcement learning erachter beloonde ketens die tot correcte antwoorden op wiskunde en code leidden, waardoor het model leerde zelfstandig lange, zelfcorrigerende redeneringen te produceren.
In januari 2025 bracht DeepSeek R1 uit met open gewichten en een paper dat het trainingsrecept beschreef, waardoor elk lab de aanpak kon reproduceren. Binnen het jaar werd redeneren eerder een modus dan een model: een schakelaar binnen GPT, Claude en Gemini, en een familie van speciale rijen zoals Kimi K2 Thinking in de bredere catalogus.
Wanneer nadenken zichzelf terugverdient, en wanneer het pure kosten zijn
Het patroon in elke benchmark en elke praktijktaak is hetzelfde: redeneren helpt in verhouding tot het aantal stappen van het probleem en hoe controleerbaar het antwoord is.
| Taak | Thinking mode | Waarom |
|---|---|---|
| Meerstaps wiskunde, woordproblemen, eenheidsconversies | De moeite waard | Stappen zijn controleerbaar; fouten stapelen zich op zonder uitwerking |
| Debuggen, een fout traceren door code | De moeite waard | Het model toetst hypotheses aan de code voordat het zich vastlegt |
| Een planning, migratie of budget met beperkingen plannen | De moeite waard | Beperkingen interacteren; een eerste opzet schendt er meestal een |
| Logicapuzzels, bewijzen, regels met uitzonderingen | De moeite waard | De hele kern is de keten zelf |
| Feitelijk opzoekwerk ("in welk jaar gebeurde X") | Verspild | Geen stappen; het model weet het of niet |
| Herschrijven, vertalen, samenvatten, toon aanpassen | Verspild | Eén doorgang is de taak; nadenken voegt vertraging toe en geen kwaliteit |
| Losse conversatie, een lijst brainstormen | Verspild | Niets te controleren; meer tokens voor hetzelfde antwoord |
Twee eerlijke beperkingen. Nadenken lost hallucinatie op feiten niet op; een model dat de hoofdstad van een land niet weet, redeneert zich met meer zelfvertrouwen naar het verkeerde antwoord. En lange ketens kunnen op manieren misgaan die een kort antwoord niet kan: het model praat zichzelf een correcte eerste ingeving uit het hoofd. Bij makkelijke vragen komt een lange keten soms ergens slechter uit dan het eerste antwoord van het gewone model.
Wat nadenken kost: de tokens, de seconden en de credits
De redeneerketen bestaat uit outputtokens, de dure soort, en wat zijn tokens in AI laat zien dat output vijf tot zes keer zoveel kost als input bij elk toonaangevend model. Een redeneerbeurt die 3.000 tokens aan uitwerking schrijft voordat er een antwoord van 300 tokens komt, heeft tien keer zoveel output gegenereerd als het gewone antwoord. Het duurt ook ongeveer tien keer zo lang, omdat output token voor token wordt geproduceerd.
De ranglijsten beprijzen die knop nu direct. Artificial Analysis scoort elk model op elke effort-instelling die de aanbieder blootlegt, waardoor de belasting meetbaar is: hetzelfde model, op zijn laagste en hoogste redeneerinspanning, met zijn Intelligence Index-score boven elk uiteinde. De drie ladders hieronder zijn afgelezen op 2026-09-17.
Zet elke instelling uit en de curves kruisen elkaar op een leerzame manier. GPT-6 Astra bereikt 53 bij $2.31 per miljoen tokens; Claude Fable 5.1 bereikt diezelfde 53 bij $5.98. Claude Opus 5 komt bij maximale inspanning uit op 51, twee punten onder beide, voor $5.86. Inspanning levert punten op bij elke curve, en welke curve je op zit bepaalt wat die punten kosten.
Whizi's Auto-router maakt daar een vaste, zichtbare prijs van. Auto leest elk bericht en stuurt het naar een van zes tredes; die trede bepaalt de kosten in credits, en meerstaps redeneren zit bovenaan op Powerhouse. Pro stopt bij de coderij van 10 credits, en Starter blijft op het huismodel van 1 credit.
Een redeneerbeurt kost 20 credits tegenover 1 voor een snelle vraag: een spreiding van 20 op 1 die de onderliggende tokenkosten weerspiegelt. Auto weigert ook om ze te verspillen. Een nieuw bericht dat het als herschrijving of opzoekwerk classificeert, gaat naar de rij van 1 of 2 credits, en een vervolgbericht in een thread die al de redeneertrede heeft verdiend, blijft daar, omdat het model van de vorige beurt als ondergrens dient. Hoe Auto een model kiest bevat de tredetabel met het model achter elke rij.
Hoe je thinking mode gebruikt zonder er overal voor te betalen
Behandel nadenken als een gereedschap waar je naar grijpt, niet als een instelling die je aan laat staan.
- Kies standaard voor het snelle model. De meeste berichten zijn opzoekwerk, herschrijvingen en korte vragen. Nadenken voegt seconden en credits toe en verandert niets.
- Schakel het aan voor de lastige beurt. Als de vraag meerdere stappen en een controleerbaar antwoord heeft, verplaats dat ene bericht naar een reasoning model of schakel thinking in, en schakel daarna weer terug.
- Geef de beperkingen mee in de prompt. Een reasoning model is op zijn best als het regels heeft om zijn plan tegen af te toetsen. "Moet passen binnen 40 uur, geen vergaderingen op vrijdag, de lancering is op de 12e" is het soort prompt dat de wachttijd waard maakt.
- Lees het redeneerwerk als het getoond wordt. De keten is waar het model een verkeerde aanname onthult. Als de eerste stap fout is, is het antwoord fout, hoe lang het ook heeft nagedacht.
- Gebruik het niet om feiten te checken. Gebruik daarvoor zoeken, een document, of een tweede model; wat is een AI-hallucinatie legt uit waarom meer nadenken daar niet helpt.
De vuistregel in één zin: als je iemands uitwerking zou willen zien voordat je zijn antwoord vertrouwt, gebruik dan een reasoning model. Zo niet, betaal er dan niet voor.
- Houd het snelle model als standaard en grijp naar thinking mode bij de specifieke lastige beurt
- Gebruik redeneren voor wiskunde, logica, planning met beperkingen en debuggen
- Sla het over voor opzoekwerk, herschrijvingen, vertaling en samenvattingen; het is trager en niet beter
- Zet de beperkingen in de prompt zodat het model iets heeft om zijn plan tegen te toetsen
- Verifieer feiten met zoeken of een tweede model, niet met een langere keten van gedachten
Veelgestelde vragen
Wat doet een reasoning model precies anders?
Het schrijft een keten van tussenstappen op voordat het het uiteindelijke antwoord geeft, waarbij het aanpakken probeert, berekeningen controleert en teruggaat, allemaal als gegenereerde tekst. Een standaardmodel begint meteen het antwoord te schrijven. Het redeneren is dezelfde voorspelling van het volgende token, alleen langer op het probleem gericht, en daarom helpt het bij meerstapstaken en niet bij opzoekwerk.
Is thinking mode altijd beter?
Nee. Bij feitelijk opzoekwerk, herschrijvingen, vertaling en losse vragen is het trager, kost het meer tokens en verbetert het het antwoord niet. Bij makkelijke vragen kan een lange keten het model een correcte eerste ingeving uit het hoofd praten. Het is beter bij wiskunde, logica, planning met beperkingen en debuggen, waar het antwoord stappen heeft die gecontroleerd kunnen worden.
Waarom is thinking mode trager en duurder?
Omdat het denkwerk uit outputtokens bestaat, één voor één geproduceerd, en output kost vijf tot zes keer zoveel als input bij elk toonaangevend model. Een beurt die 3.000 tokens aan uitwerking schrijft voordat er een antwoord van 300 tokens komt, genereert tien keer zoveel output als het gewone antwoord en duurt ongeveer tien keer zo lang.
Welke modellen zijn reasoning models?
OpenAI's o1 in september 2024 was het eerste breed beschikbare, en DeepSeek R1 publiceerde in januari 2025 het recept met open gewichten. Sindsdien is redeneren meestal een modus binnen GPT, Claude en Gemini in plaats van een apart product, naast speciale rijen zoals Kimi K2 Thinking. Whizi stuurt meerstapsvragen automatisch naar zijn redeneertrede.
Hallucineert een reasoning model minder?
Bij meerstapsproblemen wel, omdat het zijn eigen reken- en logicafouten in de keten opvangt. Bij feiten niet: een model dat iets niet weet, redeneert met meer zelfvertrouwen naar een verkeerd antwoord. Voor feiten werken grounding met zoeken of een document en de mening van een tweede model wel; een langere keten van gedachten niet.