Model rozumowania myśli w tokenach, zanim odpowie w tokenach
Zadaj standardowemu modelowi trudne pytanie, a natychmiast zacznie pisać odpowiedź. Jego jedyne "myślenie" to to, co dzieje się wewnątrz sieci między odczytaniem promptu a wygenerowaniem pierwszego słowa.
Model rozumowania jest wytrenowany, by robić coś innego: najpierw zapisać cały ciąg obliczeń, często liczący tysiące tokenów, a dopiero potem napisać odpowiedź. Te obliczenia to tekst, który model generuje dla samego siebie. Próbuje podejścia, zauważa sprzeczność, cofa się, sprawdza działania arytmetyczne i w końcu podejmuje decyzję. Większość produktów ukrywa ten ciąg albo pokazuje jego streszczenie, nazywając całość "myśleniem".
To myślenie to to samo przewidywanie kolejnego tokenu, które opisuje czym jest LLM, tylko skierowane na problem na dłużej. Model rozumowania to model językowy, który dzięki uczeniu ze wzmocnieniem na zadaniach z możliwą do sprawdzenia odpowiedzią nauczono zużywać więcej tokenów, zanim podejmie decyzję. Dlatego pomaga najbardziej przy zadaniach, w których obliczenia można sprawdzić, a najmniej tam, gdzie nie ma nic do przeliczenia.
Skąd wziął się ten pomysł: trzy daty
W styczniu 2022 roku Jason Wei i jego współpracownicy z Google pokazali, że umieszczenie w promptcie kilku rozwiązanych krok po kroku przykładów podnosi wyniki modelu w zadaniach matematycznych i logicznych. Nazwali to chain-of-thought prompting, i działało to dlatego, że zapisanie kroków dawało modelowi więcej tokenów, a więc więcej obliczeń, na każde zadanie.
We wrześniu 2024 roku OpenAI wypuściło o1, pierwszy szeroko dostępny model wytrenowany, by robić to domyślnie, a nie na żądanie. Stojące za nim uczenie ze wzmocnieniem nagradzało ciągi rozumowania prowadzące do poprawnych odpowiedzi w matematyce i kodzie, więc model sam nauczył się tworzyć długie, samokorygujące się obliczenia.
W styczniu 2025 roku DeepSeek wypuścił R1 z otwartymi wagami oraz pracą opisującą przepis na trening, dzięki czemu każde laboratorium mogło odtworzyć to podejście. W ciągu roku rozumowanie stało się trybem, a nie osobnym modelem: przełącznikiem wewnątrz GPT, Claude i Gemini, oraz rodziną dedykowanych wierszy, takich jak Kimi K2 Thinking, w szerszym katalogu.
Kiedy myślenie się opłaca, a kiedy jest czystym kosztem
Wzorzec w każdym benchmarku i każdym realnym zadaniu jest ten sam: rozumowanie pomaga proporcjonalnie do liczby kroków w zadaniu i do tego, jak łatwo sprawdzić odpowiedź.
| Zadanie | Tryb myślenia | Dlaczego |
|---|---|---|
| Wieloetapowa matematyka, zadania tekstowe, konwersje jednostek | Warto | Kroki można sprawdzić; błędy się kumulują bez obliczeń |
| Debugowanie, śledzenie błędu w kodzie | Warto | Model testuje hipotezy na kodzie, zanim podejmie decyzję |
| Planowanie harmonogramu, migracji, budżetu z ograniczeniami | Warto | Ograniczenia wchodzą w interakcje; pierwszy szkic zwykle łamie jedno z nich |
| Zagadki logiczne, dowody, zasady z wyjątkami | Warto | Cały sens tkwi w ciągu rozumowania |
| Wyszukiwanie faktów ("w którym roku wydarzyło się X") | Strata | Brak kroków; model wie albo nie wie |
| Przepisywanie, tłumaczenie, streszczanie, zmiana tonu | Strata | Zadaniem jest jedno przejście; myślenie dodaje opóźnienie i nic nie poprawia |
| Swobodna rozmowa, burza mózgów z listą pomysłów | Strata | Nie ma czego sprawdzać; więcej tokenów na tę samą odpowiedź |
Dwa uczciwe ograniczenia. Myślenie nie naprawia halucynacji dotyczących faktów: model, który nie zna stolicy danego kraju, dorozumuje się do złej odpowiedzi z jeszcze większą pewnością siebie. A długie ciągi rozumowania mogą się psuć w sposób, w jaki krótka odpowiedź nie może: model sam siebie przekonuje, by odrzucić poprawny pierwszy instynkt. Przy łatwych pytaniach długi ciąg czasem kończy się gorzej niż pierwsza odpowiedź zwykłego modelu.
Ile kosztuje myślenie: tokeny, sekundy i kredyty
Ciąg myślenia to tokeny wyjściowe, czyli te drogie, a czym są tokeny w AI pokazuje, że wyjście kosztuje od pięciu do sześciu razy więcej niż wejście w każdym większym modelu. Odpowiedź w trybie rozumowania, która generuje 3000 tokenów obliczeń przed odpowiedzią liczącą 300 tokenów, wyprodukowała dziesięć razy więcej danych wyjściowych niż zwykła odpowiedź. Trwa to też mniej więcej dziesięć razy dłużej, bo wyjście powstaje token po tokenie.
Rankingi teraz wprost wyceniają ten regulator. Artificial Analysis ocenia każdy model przy każdym poziomie wysiłku udostępnionym przez dostawcę, więc ten "podatek" da się zmierzyć: ten sam model, przy najniższym i najwyższym poziomie rozumowania, z wynikiem Intelligence Index nad każdym z krańców. Trzy poniższe zestawienia odczytano 2026-09-17.
Nanieś na wykres każdy poziom, a krzywe przecinają się w pouczający sposób. GPT-6 Astra osiąga 53 przy $2.31 za milion tokenów; Claude Fable 5.1 osiąga to samo 53 przy $5.98. Claude Opus 5 przy maksymalnym wysiłku ląduje na 51, dwa punkty poniżej obu, przy $5.86. Wysiłek kupuje punkty na każdej krzywej, a to, na której krzywej jesteś, decyduje, ile te punkty kosztują.
Router Auto od Whizi zamienia to w stałą cenę, którą widzisz. Auto czyta każdą wiadomość i kieruje ją na jeden z sześciu szczebli; to szczebel ustala koszt w kredytach, a wieloetapowe rozumowanie znajduje się na samej górze w Powerhouse. Pro kończy się na szczeblu kodu za 10 kredytów, a Starter zostaje przy domyślnym modelu za 1.
Odpowiedź w trybie rozumowania to 20 kredytów wobec 1 za szybkie pytanie: różnica 20 do 1, która odzwierciedla leżący u podstaw koszt tokenów. Auto nie marnuje tego też bez potrzeby. Nowa wiadomość sklasyfikowana jako przepisanie tekstu lub wyszukanie faktu trafia na szczebel za 1 lub 2 kredyty, a kolejna wiadomość w wątku, który już zdobył szczebel rozumowania, tam zostaje, bo model z poprzedniej odpowiedzi działa jak dolny próg. Jak Auto wybiera model zawiera tabelę szczebli z modelem stojącym za każdym wierszem.
Jak korzystać z trybu myślenia, nie płacąc za niego wszędzie
Traktuj myślenie jako narzędzie, po które sięgasz, a nie ustawienie, które zostawiasz włączone.
- Domyślnie używaj szybkiego modelu. Większość wiadomości to wyszukiwanie faktów, przepisywanie tekstu i krótkie pytania. Myślenie dodaje sekundy i kredyty, a nic nie zmienia.
- Włącz je na trudną odpowiedź. Kiedy pytanie ma kilka kroków i odpowiedź da się sprawdzić, przełącz tę jedną wiadomość na model rozumowania albo włącz myślenie, a potem wróć do zwykłego trybu.
- Podaj ograniczenia w promptcie. Model rozumowania jest najlepszy, gdy ma reguły, względem których może sprawdzić swój plan. "Musi zmieścić się w 40 godzinach, żadnych spotkań w piątki, premiera jest 12." to typ promptu, który zasługuje na czekanie.
- Czytaj obliczenia, kiedy są pokazane. To w ciągu rozumowania model ujawnia błędne założenie. Jeśli pierwszy krok jest zły, odpowiedź też jest zła, bez względu na to, jak długo model myślał.
- Nie używaj go do sprawdzania faktów. Do tego służy wyszukiwanie, dokument albo drugi model; czym jest halucynacja AI wyjaśnia, dlaczego więcej myślenia w tym nie pomaga.
Reguła decyzyjna w jednym zdaniu: jeśli chciałbyś zobaczyć czyjeś obliczenia, zanim zaufasz jego odpowiedzi, użyj modelu rozumowania. Jeśli nie, nie płać za to.
- Zostaw szybki model jako domyślny i sięgaj po tryb myślenia tylko przy konkretnej trudnej odpowiedzi
- Używaj rozumowania do matematyki, logiki, planowania z ograniczeniami i debugowania
- Pomiń je przy wyszukiwaniu faktów, przepisywaniu, tłumaczeniu i streszczaniu; jest wolniejsze i wcale nie lepsze
- Umieść ograniczenia w promptcie, żeby model miał względem czego sprawdzić swój plan
- Sprawdzaj fakty wyszukiwarką albo drugim modelem, a nie dłuższym ciągiem rozumowania
Najczęstsze pytania
Co dokładnie robi inaczej model rozumowania?
Zapisuje ciąg kroków pośrednich przed ostateczną odpowiedzią: próbuje podejść, sprawdza działania arytmetyczne i cofa się, a wszystko to jako wygenerowany tekst. Standardowy model zaczyna pisać odpowiedź od razu. Rozumowanie to to samo przewidywanie kolejnego tokenu, tylko poświęcone problemowi na dłużej, dlatego pomaga w zadaniach wieloetapowych, a nie przy wyszukiwaniu faktów.
Czy tryb myślenia jest zawsze lepszy?
Nie. Przy wyszukiwaniu faktów, przepisywaniu, tłumaczeniu i swobodnych pytaniach jest wolniejszy, kosztuje więcej tokenów i nie poprawia odpowiedzi. Przy łatwych pytaniach długi ciąg rozumowania może przekonać model, by odrzucił poprawny pierwszy instynkt. Jest lepszy w matematyce, logice, planowaniu z ograniczeniami i debugowaniu, gdzie odpowiedź ma kroki, które można sprawdzić.
Dlaczego tryb myślenia jest wolniejszy i droższy?
Ponieważ myślenie to tokeny wyjściowe, generowane jeden po drugim, a wyjście kosztuje od pięciu do sześciu razy więcej niż wejście w każdym większym modelu. Odpowiedź, która zapisuje 3000 tokenów obliczeń przed odpowiedzią liczącą 300 tokenów, generuje dziesięć razy więcej danych wyjściowych niż zwykła odpowiedź i trwa mniej więcej dziesięć razy dłużej.
Które modele są modelami rozumowania?
o1 od OpenAI we wrześniu 2024 roku był pierwszym szeroko dostępnym modelem tego typu, a DeepSeek R1 w styczniu 2025 roku opublikował przepis z otwartymi wagami. Od tamtej pory rozumowanie to zwykle tryb wewnątrz GPT, Claude i Gemini, a nie osobny produkt, obok dedykowanych wierszy, takich jak Kimi K2 Thinking. Whizi automatycznie kieruje pytania wieloetapowe na swój szczebel rozumowania.
Czy model rozumowania rzadziej halucynuje?
Przy zadaniach wieloetapowych tak, bo w trakcie ciągu rozumowania wychwytuje własne błędy arytmetyczne i logiczne. Przy faktach nie: model, który czegoś nie wie, dorozumuje się do złej odpowiedzi z większą pewnością siebie. Przy faktach działa oparcie w wyszukiwarce lub dokumencie oraz opinia drugiego modelu; dłuższy ciąg rozumowania nie pomaga.
