مدل استدلالی پیش از پاسخ دادن با توکن، با توکن فکر میکند
از یک مدل استاندارد سوال سختی بپرسید، بلافاصله نوشتن پاسخ را شروع میکند. تنها "فکر کردن" آن، هر چیزی است که در شبکه بین خواندن پرامپت شما و تولید اولین کلمه رخ میدهد.
مدل استدلالی برای انجام کار متفاوتی آموزش دیده: ابتدا زنجیرهای از مراحل کاری بنویسد، اغلب هزاران توکن از آن، و تنها پس از آن پاسخ را بنویسد. این مراحل کاری، متنی است که مدل برای خودش تولید میکند. یک روش را امتحان میکند، تناقضی را متوجه میشود، عقبگرد میکند، حساب را بررسی میکند و سرانجام متعهد میشود. اکثر محصولات این زنجیره را پنهان میکنند یا خلاصهای از آن را نشان میدهند و کل آن را "تفکر" مینامند.
این تفکر همان پیشبینی توکن بعدی است که مدل زبانی بزرگ چیست توضیح میدهد، با این تفاوت که مدت بیشتری روی مسئله متمرکز میشود. مدل استدلالی مدلی زبانی است که از طریق یادگیری تقویتی روی مسائل با پاسخ قابلبررسی آموزش دیده تا پیش از تعهد به پاسخ، توکنهای بیشتری صرف کند. به همین دلیل بیشترین کمک را در مسائلی میکند که مراحل کارش قابلبررسی است و کمترین کمک را در مسائلی که چیزی برای کار کردن روی آن وجود ندارد.
این ایده از کجا آمد، در سه تاریخ
در ژانویه 2022، جیسون وی و همکارانش در گوگل نشان دادند که گنجاندن چند مثال گامبهگام حلشده در پرامپت، امتیاز مدل را در مسائل ریاضی و منطقی بالا میبرد. آنها این را پرامپتنویسی زنجیره تفکر نامیدند، و این روش کار میکرد چون نوشتن مراحل، توکن بیشتر و در نتیجه محاسبات بیشتری به ازای هر مسئله به مدل میداد.
در سپتامبر 2024، OpenAI مدل o1 را منتشر کرد، اولین مدل بهطور گسترده در دسترس که بهطور پیشفرض، نه با درخواست، این کار را انجام میداد. یادگیری تقویتی پشت آن، زنجیرههایی را که به پاسخ درست در ریاضی و کد میرسیدند پاداش میداد، در نتیجه مدل یاد گرفت خودش مراحل طولانی و خودتصحیحگر تولید کند.
در ژانویه 2025، DeepSeek مدل R1 را با وزنهای باز و مقالهای توصیفکننده روش آموزش منتشر کرد، به این معنا که هر آزمایشگاهی میتوانست این روش را بازتولید کند. طی همان سال، استدلال بهجای یک مدل، به یک حالت تبدیل شد: یک دکمه در GPT، Claude و Gemini، و خانوادهای از ردیفهای اختصاصی مانند Kimi K2 Thinking در فهرست گستردهتر.
کی تفکر ارزشش را دارد و کی صرفاً هزینه است
الگو در تمام معیارها و تمام کارهای واقعی یکسان است: استدلال به همان اندازه که مسئله مرحله دارد و پاسخ قابلبررسی است، کمک میکند.
| کار | حالت تفکر | چرا |
|---|---|---|
| ریاضی چندمرحلهای، مسائل کلامی، تبدیل واحد | ارزشش را دارد | مراحل قابلبررسی است؛ خطاها بدون کار کردن روی آنها انباشته میشوند |
| رفع باگ، ردیابی خطا در کد | ارزشش را دارد | مدل پیش از تعهد، فرضیهها را در برابر کد میآزماید |
| برنامهریزی یک برنامه زمانی، یک مهاجرت، یک بودجه با محدودیت | ارزشش را دارد | محدودیتها با هم تعامل دارند؛ پیشنویس اول معمولاً یکی را نقض میکند |
| معماهای منطقی، اثباتها، قواعد با استثنا | ارزشش را دارد | کل هدف همان زنجیره است |
| جستوجوی واقعیت ("فلان اتفاق چه سالی افتاد") | هدر میرود | مرحلهای وجود ندارد؛ مدل یا میداند یا نمیداند |
| بازنویسی، ترجمه، خلاصهسازی، تغییر لحن | هدر میرود | یک بار انجام دادن همان کار است؛ تفکر فقط تاخیر میافزاید و کیفیتی اضافه نمیکند |
| گفتوگوی معمولی، طوفان فکری برای یک فهرست | هدر میرود | چیزی برای بررسی نیست؛ توکن بیشتر برای همان پاسخ |
دو محدودیت صادقانه. تفکر توهم را در واقعیتها رفع نمیکند؛ مدلی که پایتخت یک کشور را نمیداند، با اطمینان بیشتری به پاسخ اشتباه میرسد. و زنجیرههای طولانی میتوانند به شکلی خراب شوند که یک پاسخ کوتاه نمیشود: مدل خودش را از یک غریزه اول درست منصرف میکند. در سوالات آسان، گاهی زنجیره طولانی جایی بدتر از پاسخ اول مدل ساده تمام میشود.
تفکر چه هزینهای دارد: توکنها، ثانیهها و اعتبارها
زنجیره تفکر، توکنهای خروجی است، از نوع گران، و توکن در هوش مصنوعی چیست نشان میدهد که خروجی در هر مدل بزرگی پنج تا شش برابر ورودی هزینه دارد. یک نوبت استدلالی که 3000 توکن مرحله کاری پیش از یک پاسخ 300 توکنی مینویسد، ده برابر خروجی پاسخ ساده تولید کرده است. همچنین تقریباً ده برابر زمان میبرد، چون خروجی یک توکن در یک زمان تولید میشود.
جدولهای رتبهبندی اکنون مستقیماً این کنترل را قیمتگذاری میکنند. Artificial Analysis هر مدل را در هر سطح تلاشی که ارائهدهندهاش نشان میدهد امتیاز میدهد، پس این مالیات قابلسنجش است: همان مدل، در پایینترین و بالاترین سطح تلاش استدلالی، با امتیاز Intelligence Index بالای هر دو سر. سه نردبان زیر در تاریخ 2026-09-17 خوانده شدند.
هر تنظیم را رسم کنید، منحنیها به شکلی آموزنده یکدیگر را قطع میکنند. GPT-6 Astra با $2.31 به ازای هر میلیون توکن به 53 میرسد؛ Claude Fable 5.1 به همان 53 با $5.98 میرسد. Claude Opus 5 در بیشترین تلاش روی 51 مینشیند، دو امتیاز پایینتر از هر دو، با $5.86. تلاش در هر منحنی امتیاز میخرد، و اینکه روی کدام منحنی هستید تعیین میکند آن امتیازها چقدر هزینه دارند.
روتر Auto در Whizi این را به قیمتی ثابت و قابلمشاهده تبدیل میکند. Auto هر پیام را میخواند و به یکی از شش پله میفرستد؛ این پله است که هزینه اعتباری را تعیین میکند، و استدلال چندمرحلهای در Powerhouse بالاترین پله را میگیرد. Pro تا پله کد 10 اعتباری بالا میرود و Starter روی مدل خانه با 1 اعتبار میماند.
یک نوبت استدلالی 20 اعتبار در برابر 1 اعتبار برای یک سوال سریع است: فاصله 20 به 1 که هزینه توکن زیرین را بازتاب میدهد. Auto همچنین از هدر رفتن آن جلوگیری میکند. پیامی تازه که آن را بازنویسی یا جستوجو تشخیص دهد به پله 1 یا 2 اعتباری میرود، و ادامه یک رشته که قبلاً پله استدلال را کسب کرده همانجا میماند، چون مدل نوبت قبلی بهعنوان کف عمل میکند. Auto چگونه مدل را انتخاب میکند جدول پلهها با مدل پشت هر ردیف را دارد.
چگونه از حالت تفکر بدون پرداخت هزینهاش همهجا استفاده کنیم
با تفکر مثل ابزاری رفتار کنید که به سراغش میروید، نه تنظیمی که روشن نگه میدارید.
- بهطور پیشفرض روی مدل سریع بمانید. اکثر پیامها جستوجو، بازنویسی و سوالات کوتاه هستند. تفکر ثانیه و اعتبار اضافه میکند و چیزی را تغییر نمیدهد.
- برای نوبت سخت روشنش کنید. وقتی سوال چند مرحله و پاسخی قابلبررسی دارد، همان پیام را به مدل استدلالی ببرید یا تفکر را روشن کنید، بعد برگردید.
- محدودیتها را در پرامپت بدهید. مدل استدلالی وقتی بهترین عملکرد را دارد که قواعدی برای بررسی برنامهاش داشته باشد. "باید در 40 ساعت جا شود، جمعهها جلسهای نیست، عرضه روز دوازدهم است" نوع پرامپتی است که ارزش انتظار را دارد.
- مراحل کاری را وقتی نشان داده میشود بخوانید. زنجیره جایی است که مدل یک فرض اشتباه را آشکار میکند. اگر مرحله اول اشتباه باشد، پاسخ هرچقدر هم فکر کرده باشد اشتباه است.
- برای بررسی واقعیتها از آن استفاده نکنید. برای این کار از جستوجو، یک سند یا مدل دوم استفاده کنید؛ توهم هوش مصنوعی چیست توضیح میدهد چرا تفکر بیشتر آنجا کمک نمیکند.
قاعده تصمیم در یک خط: اگر میخواهید پیش از اعتماد به پاسخ کسی، کار او را ببینید، از مدل استدلالی استفاده کنید. اگر نمیخواهید، هزینهاش را نپردازید.
- مدل سریع را پیشفرض نگه دارید و حالت تفکر را برای نوبت سخت خاص به کار بگیرید
- از استدلال برای ریاضی، منطق، برنامهریزی با محدودیت و رفع باگ استفاده کنید
- برای جستوجو، بازنویسی، ترجمه و خلاصهسازی از آن صرفنظر کنید؛ کندتر است و بهتر نیست
- محدودیتها را در پرامپت بگذارید تا مدل چیزی برای بررسی برنامهاش داشته باشد
- واقعیتها را با جستوجو یا مدل دوم بررسی کنید، نه با زنجیره تفکر طولانیتر
پرسشهای متداول
یک مدل استدلالی واقعاً چه کار متفاوتی انجام میدهد؟
پیش از پاسخ نهایی، زنجیرهای از مراحل میانی مینویسد، روشها را امتحان میکند، حساب را بررسی میکند و عقبگرد میکند، همه بهصورت متن تولیدشده. مدل استاندارد بلافاصله نوشتن پاسخ را شروع میکند. استدلال همان پیشبینی توکن بعدی است، فقط مدت بیشتری روی مسئله صرف میشود، به همین دلیل در کارهای چندمرحلهای کمک میکند و در جستوجو نه.
آیا حالت تفکر همیشه بهتر است؟
نه. در جستوجوی واقعیت، بازنویسی، ترجمه و سوالات معمولی، کندتر است، توکن بیشتری هزینه دارد و پاسخ را بهتر نمیکند. در سوالات آسان، زنجیره طولانی میتواند مدل را از یک غریزه اول درست منصرف کند. در ریاضی، منطق، برنامهریزی با محدودیت و رفع باگ که پاسخ مراحل قابلبررسی دارد بهتر است.
چرا حالت تفکر کندتر و گرانتر است؟
چون تفکر، توکن خروجی است، یکییکی تولید میشود، و خروجی در هر مدل بزرگی پنج تا شش برابر ورودی هزینه دارد. نوبتی که 3000 توکن مرحله کاری پیش از یک پاسخ 300 توکنی مینویسد، ده برابر خروجی پاسخ ساده تولید میکند و حدود ده برابر زمان میبرد.
کدام مدلها مدلهای استدلالی هستند؟
o1 از OpenAI در سپتامبر 2024 اولین مدل بهطور گسترده در دسترس بود، و DeepSeek R1 در ژانویه 2025 روش آموزش را با وزنهای باز منتشر کرد. از آن پس استدلال معمولاً حالتی در GPT، Claude و Gemini است تا محصولی جدا، در کنار ردیفهای اختصاصی مانند Kimi K2 Thinking. Whizi سوالات چندمرحلهای را بهطور خودکار به پله استدلالی خود میفرستد.
آیا مدل استدلالی کمتر دچار توهم میشود؟
در مسائل چندمرحلهای، بله، چون خطاهای حساب و منطق خودش را در زنجیره تشخیص میدهد. در واقعیتها، نه: مدلی که چیزی را نمیداند با اطمینان بیشتری به پاسخ اشتباه استدلال میکند. برای واقعیتها، مستندسازی با جستوجو یا یک سند و نظر مدل دوم کار میکند؛ زنجیره تفکر طولانیتر کمکی نمیکند.