Reasoning model suy nghĩ bằng token trước khi trả lời bằng token
Hỏi một model thông thường một câu hỏi khó và nó bắt đầu viết câu trả lời ngay lập tức. "Suy nghĩ" duy nhất của nó là những gì diễn ra bên trong mạng lưới, giữa lúc đọc prompt của bạn và tạo ra từ đầu tiên.
Một reasoning model được huấn luyện để làm điều khác: trước tiên viết ra một chuỗi lập luận, thường là hàng nghìn token, rồi mới viết câu trả lời. Phần lập luận này là văn bản mà model tự tạo ra cho chính nó. Nó thử một cách tiếp cận, phát hiện mâu thuẫn, quay lại, kiểm tra phép tính, và cuối cùng chốt câu trả lời. Hầu hết sản phẩm ẩn chuỗi này hoặc chỉ hiện một bản tóm tắt, và gọi toàn bộ là "thinking".
Việc suy nghĩ này chính là cùng một kiểu dự đoán token tiếp theo mà what is an LLM mô tả, chỉ là được áp dụng lâu hơn vào bài toán. Reasoning model là một mô hình ngôn ngữ đã được huấn luyện, thông qua học tăng cường trên các bài toán có đáp án kiểm chứng được, để dùng nhiều token hơn trước khi chốt câu trả lời. Đó là lý do nó giúp ích nhiều nhất ở những bài toán mà lập luận có thể kiểm tra được, và giúp ích ít nhất ở những bài không có gì để lập luận.
Ý tưởng này bắt đầu từ đâu, qua ba mốc thời gian
Vào tháng 1 năm 2022, Jason Wei và các cộng sự tại Google cho thấy rằng đưa vài ví dụ giải từng bước vào prompt giúp tăng điểm số của model ở các bài toán và logic. Họ gọi đó là chain-of-thought prompting, và nó hiệu quả vì việc viết ra từng bước cho model nhiều token hơn, tức nhiều phép tính hơn, cho mỗi bài toán.
Vào tháng 9 năm 2024, OpenAI phát hành o1, model được phổ biến rộng rãi đầu tiên được huấn luyện để làm điều này mặc định thay vì theo yêu cầu. Học tăng cường đứng sau nó thưởng cho các chuỗi lập luận dẫn đến đáp án đúng trong toán học và code, nên model học được cách tự tạo ra chuỗi lập luận dài, tự sửa lỗi.
Vào tháng 1 năm 2025, DeepSeek phát hành R1 với trọng số mở và một bài báo mô tả công thức huấn luyện, nghĩa là mọi phòng lab đều có thể tái tạo cách làm này. Trong vòng một năm, reasoning trở thành một chế độ chứ không còn là một model riêng: một công tắc bật tắt bên trong GPT, Claude và Gemini, cùng với một dòng model chuyên biệt như Kimi K2 Thinking trong danh mục rộng hơn.
Khi nào suy nghĩ đáng giá, và khi nào chỉ là chi phí thuần túy
Kiểu mẫu lặp lại trên mọi benchmark và mọi tác vụ thực tế đều giống nhau: reasoning giúp ích tỷ lệ thuận với số bước của bài toán và mức độ có thể kiểm chứng của câu trả lời.
| Tác vụ | Thinking mode | Vì sao |
|---|---|---|
| Toán nhiều bước, bài toán đố, đổi đơn vị | Đáng dùng | Các bước có thể kiểm tra được; lỗi sẽ cộng dồn nếu không lập luận |
| Gỡ lỗi, truy vết một lỗi qua code | Đáng dùng | Model kiểm tra các giả thuyết với code trước khi chốt |
| Lập kế hoạch cho lịch trình, một cuộc di dời, một ngân sách có ràng buộc | Đáng dùng | Các ràng buộc tương tác lẫn nhau; bản nháp đầu thường vi phạm một trong số đó |
| Câu đố logic, chứng minh, quy tắc có ngoại lệ | Đáng dùng | Cả vấn đề nằm ở chuỗi lập luận |
| Tra cứu sự kiện ("năm nào X xảy ra") | Lãng phí | Không có bước nào; model biết hoặc không biết |
| Viết lại, dịch thuật, tóm tắt, đổi giọng văn | Lãng phí | Một lượt là xong tác vụ; suy nghĩ chỉ thêm độ trễ mà không thêm chất lượng |
| Trò chuyện thường ngày, brainstorm một danh sách | Lãng phí | Không có gì để kiểm tra; nhiều token hơn cho cùng một câu trả lời |
Hai giới hạn cần nói thẳng. Suy nghĩ không sửa được ảo giác về sự kiện; một model không biết thủ đô của một quốc gia sẽ lập luận ra một đáp án sai với sự tự tin cao hơn. Và chuỗi lập luận dài có thể đi sai theo cách mà một câu trả lời ngắn không thể: model tự thuyết phục mình bỏ qua một phản xạ đúng ban đầu. Với các câu hỏi dễ, một chuỗi dài đôi khi kết thúc ở một chỗ tệ hơn cả câu trả lời đầu tiên của model thường.
Cái giá của việc suy nghĩ: token, thời gian và credit
Chuỗi lập luận là các token đầu ra, loại đắt hơn, và what are tokens in AI cho thấy đầu ra có giá gấp năm đến sáu lần đầu vào ở mọi model lớn. Một lượt reasoning viết ra 3.000 token lập luận trước khi đưa ra câu trả lời 300 token đã tạo ra lượng đầu ra gấp mười lần một câu trả lời thường. Nó cũng mất thời gian gấp khoảng mười lần, vì đầu ra được tạo ra từng token một.
Các bảng xếp hạng giờ đây định giá công tắc này một cách trực tiếp. Artificial Analysis chấm điểm mỗi model ở từng mức effort mà nhà cung cấp cho phép, nên khoản phụ phí này có thể đo được: cùng một model, ở mức reasoning effort thấp nhất và cao nhất, với điểm Intelligence Index ghi trên mỗi đầu. Ba bậc thang dưới đây được đọc vào ngày 2026-09-17.
Vẽ mọi mức effort ra và các đường cong cắt nhau theo cách rất đáng chú ý. GPT-6 Astra đạt 53 điểm ở mức $2.31 mỗi triệu token; Claude Fable 5.1 cũng đạt 53 điểm đó ở mức $5.98. Claude Opus 5 ở mức effort tối đa dừng ở 51 điểm, kém cả hai model kia 2 điểm, với giá $5.86. Effort giúp tăng điểm trên mọi đường cong, còn việc bạn ở đường cong nào sẽ quyết định số điểm đó tốn bao nhiêu.
Bộ định tuyến Auto của Whizi biến điều đó thành một mức giá cố định mà bạn có thể thấy được. Auto đọc từng tin nhắn và chuyển nó đến một trong sáu bậc; bậc này quyết định chi phí credit, và reasoning nhiều bước nằm ở bậc cao nhất trên Powerhouse. Pro dừng ở bậc code 10 credit, còn Starter luôn dùng model nhà ở mức 1.
Một lượt reasoning tốn 20 credit so với 1 credit cho một câu hỏi nhanh: mức chênh lệch 20 trên 1 phản ánh đúng chi phí token bên dưới. Auto cũng từ chối lãng phí nó. Một tin nhắn mới mà nó phân loại là viết lại hay tra cứu sẽ được chuyển đến bậc 1 hoặc 2 credit, và một lượt tiếp theo trong một cuộc trò chuyện đã đạt bậc reasoning sẽ giữ nguyên ở đó, vì model của lượt trước đóng vai trò mức sàn. How Auto picks a model có bảng các bậc kèm model đứng sau mỗi hàng.
Cách dùng thinking mode mà không phải trả tiền cho nó ở mọi nơi
Hãy xem suy nghĩ như một công cụ bạn dùng khi cần, chứ không phải một cài đặt để bật mãi.
- Mặc định dùng model nhanh. Hầu hết tin nhắn là tra cứu, viết lại và câu hỏi ngắn. Thinking chỉ thêm thời gian và credit mà không thay đổi gì.
- Bật lên cho lượt khó. Khi câu hỏi có nhiều bước và câu trả lời có thể kiểm chứng, chuyển riêng tin nhắn đó sang reasoning model hoặc bật thinking, rồi chuyển lại.
- Đưa ràng buộc vào trong prompt. Reasoning model phát huy tốt nhất khi có quy tắc để đối chiếu kế hoạch của nó. "Phải xong trong 40 giờ, không họp thứ Sáu, ra mắt vào ngày 12" là kiểu prompt đáng để chờ.
- Đọc phần lập luận khi nó được hiển thị. Chuỗi lập luận là nơi model để lộ một giả định sai. Nếu bước đầu tiên sai, câu trả lời sẽ sai dù nó suy nghĩ bao lâu.
- Đừng dùng nó để kiểm tra sự thật. Hãy dùng tìm kiếm, một tài liệu, hoặc một model thứ hai cho việc đó; what is an AI hallucination giải thích vì sao suy nghĩ nhiều hơn không giúp ích ở đây.
Quy tắc quyết định trong một câu: nếu bạn muốn xem lập luận của ai đó trước khi tin câu trả lời của họ, hãy dùng reasoning model. Nếu không, đừng trả tiền cho nó.
- Giữ model nhanh làm mặc định và chỉ bật thinking mode cho lượt khó cụ thể
- Dùng reasoning cho toán học, logic, lập kế hoạch có ràng buộc và gỡ lỗi
- Bỏ qua nó với tra cứu, viết lại, dịch thuật và tóm tắt; nó chậm hơn mà không tốt hơn
- Đưa ràng buộc vào prompt để model có thứ để đối chiếu kế hoạch của mình
- Kiểm chứng sự thật bằng tìm kiếm hoặc model thứ hai, không phải bằng chuỗi lập luận dài hơn
Câu hỏi thường gặp
Reasoning model thực sự làm gì khác biệt?
Nó viết ra một chuỗi các bước trung gian trước câu trả lời cuối cùng, thử các cách tiếp cận, kiểm tra phép tính và quay lại, tất cả đều là văn bản được tạo ra. Một model thường bắt đầu viết câu trả lời ngay lập tức. Reasoning là cùng một kiểu dự đoán token tiếp theo, chỉ được áp dụng lâu hơn vào bài toán, đó là lý do nó giúp ích cho tác vụ nhiều bước chứ không phải tra cứu.
Thinking mode có luôn tốt hơn không?
Không. Với tra cứu sự kiện, viết lại, dịch thuật và câu hỏi thường ngày, nó chậm hơn, tốn nhiều token hơn và không cải thiện câu trả lời. Với câu hỏi dễ, một chuỗi lập luận dài có thể khiến model bỏ qua một phản xạ đúng ban đầu. Nó tốt hơn với toán học, logic, lập kế hoạch có ràng buộc và gỡ lỗi, nơi câu trả lời có các bước có thể kiểm tra được.
Vì sao thinking mode chậm hơn và đắt hơn?
Vì phần suy nghĩ là các token đầu ra, được tạo ra từng token một, và đầu ra có giá gấp năm đến sáu lần đầu vào ở mọi model lớn. Một lượt viết ra 3.000 token lập luận trước khi đưa ra câu trả lời 300 token tạo ra lượng đầu ra gấp mười lần một câu trả lời thường và mất thời gian gấp khoảng mười lần.
Những model nào là reasoning model?
o1 của OpenAI vào tháng 9 năm 2024 là model được phổ biến rộng rãi đầu tiên, và DeepSeek R1 vào tháng 1 năm 2025 công bố công thức với trọng số mở. Kể từ đó, reasoning thường là một chế độ bên trong GPT, Claude và Gemini chứ không phải một sản phẩm riêng, cùng với các dòng chuyên biệt như Kimi K2 Thinking. Whizi tự động chuyển các câu hỏi nhiều bước đến bậc reasoning của mình.
Reasoning model có ảo giác ít hơn không?
Với bài toán nhiều bước, có, vì nó tự bắt được lỗi phép tính và logic của chính mình trong chuỗi lập luận. Với sự kiện thì không: một model không biết điều gì đó sẽ lập luận ra một đáp án sai với sự tự tin cao hơn. Với sự kiện, việc dựa vào tìm kiếm hoặc một tài liệu và ý kiến của một model thứ hai mới có tác dụng; một chuỗi lập luận dài hơn thì không.
