Model penaakulan berfikir dalam token sebelum menjawab dalam token
Tanya model biasa soalan sukar dan ia terus menulis jawapan. Satu-satunya "pemikiran" yang berlaku ialah apa sahaja yang terjadi dalam rangkaian antara membaca gesaan anda dan menghasilkan perkataan pertama.
Model penaakulan dilatih untuk melakukan sesuatu yang berbeza: ia menulis dahulu rantaian kerja, selalunya beribu-ribu token panjangnya, dan barulah menulis jawapan. Kerja itu adalah teks yang dijana model untuk dirinya sendiri. Ia mencuba satu pendekatan, menyedari percanggahan, berundur, menyemak pengiraan, dan akhirnya membuat keputusan. Kebanyakan produk menyembunyikan rantaian ini atau menunjukkan ringkasannya, dan melabelkan keseluruhannya sebagai "thinking".
Pemikiran ini adalah ramalan token seterusnya yang sama seperti yang diterangkan dalam apa itu LLM, cuma diarahkan pada masalah untuk tempoh yang lebih lama. Model penaakulan ialah model bahasa yang telah dilatih, melalui pembelajaran tetulang ke atas masalah yang jawapannya boleh disemak, untuk membelanjakan lebih token sebelum membuat keputusan. Itulah sebabnya ia paling membantu pada masalah yang kerjanya boleh disemak dan paling kurang membantu pada masalah yang tiada apa-apa untuk difikirkan.
Asal usul idea ini, dalam tiga tarikh
Pada Januari 2022, Jason Wei dan rakan-rakan di Google menunjukkan bahawa memasukkan beberapa contoh langkah demi langkah dalam gesaan meningkatkan skor model pada masalah matematik dan logik. Mereka menamakannya gesaan chain-of-thought, dan ia berkesan kerana menulis langkah-langkah itu memberikan model lebih banyak token, dan justeru lebih banyak pengiraan, bagi setiap masalah.
Pada September 2024, OpenAI melancarkan o1, model pertama yang tersedia secara meluas yang dilatih untuk melakukan ini secara lalai dan bukan atas permintaan. Pembelajaran tetulang di sebaliknya memberi ganjaran kepada rantaian yang membawa kepada jawapan betul dalam matematik dan kod, jadi model itu belajar menghasilkan kerja yang panjang dan membetulkan diri sendiri secara automatik.
Pada Januari 2025, DeepSeek melancarkan R1 dengan berat terbuka dan kertas kerja yang menerangkan resipi latihannya, bermakna setiap makmal boleh menirunya. Dalam tempoh setahun, penaakulan menjadi mod dan bukan model: suis dalam GPT, Claude dan Gemini, serta keluarga baris khusus seperti Kimi K2 Thinking dalam katalog yang lebih luas.
Bila pemikiran berbaloi, dan bila ia hanya kos
Corak yang sama muncul pada setiap penanda aras dan setiap tugas sebenar: penaakulan membantu berkadar dengan berapa banyak langkah yang ada pada masalah itu dan sejauh mana jawapannya boleh disemak.
| Tugas | Mod pemikiran | Sebab |
|---|---|---|
| Matematik pelbagai langkah, masalah cerita, penukaran unit | Berbaloi | Langkah boleh disemak; ralat berganda tanpa kerja |
| Penyahpepijatan, mengesan kegagalan dalam kod | Berbaloi | Model menguji hipotesis terhadap kod sebelum membuat keputusan |
| Merancang jadual, migrasi, bajet dengan kekangan | Berbaloi | Kekangan saling berinteraksi; draf pertama biasanya melanggar satu |
| Teka-teki logik, bukti, peraturan dengan pengecualian | Berbaloi | Keseluruhan intinya ialah rantaian itu |
| Carian fakta ("pada tahun berapa X berlaku") | Membazir | Tiada langkah; model tahu atau tidak tahu |
| Menulis semula, menterjemah, meringkaskan, menukar nada | Membazir | Satu pusingan sahaja tugasnya; pemikiran menambah kelewatan tanpa kualiti |
| Perbualan santai, sumbang saran senarai | Membazir | Tiada apa untuk disemak; lebih token untuk jawapan yang sama |
Dua had yang jujur. Pemikiran tidak membetulkan halusinasi pada fakta; model yang tidak tahu ibu negara sesebuah negara akan menaakul ke arah jawapan yang salah dengan lebih yakin. Dan rantaian panjang boleh tersasar dengan cara yang tidak berlaku pada jawapan pendek: model itu memujuk dirinya sendiri untuk meninggalkan gerak hati pertama yang betul. Pada soalan mudah, rantaian panjang kadangkala berakhir di tempat yang lebih teruk daripada jawapan pertama model biasa.
Kos pemikiran: token, saat dan kredit
Rantaian pemikiran itu adalah token output, jenis yang mahal, dan apa itu token dalam AI menunjukkan bahawa output berkos lima hingga enam kali ganda input pada setiap model utama. Giliran penaakulan yang menulis 3,000 token kerja sebelum jawapan 300 token telah menjana sepuluh kali ganda output berbanding balasan biasa. Ia juga mengambil masa kira-kira sepuluh kali ganda lebih lama, kerana output dihasilkan satu token pada satu masa.
Papan pendahulu kini menetapkan harga bagi dail ini secara langsung. Artificial Analysis menilai setiap model pada setiap tetapan usaha yang didedahkan oleh penyedianya, jadi cukai ini boleh diukur: model yang sama, pada usaha penaakulan paling rendah dan paling tinggi, dengan skor Intelligence Index di atas setiap hujung. Tiga tangga di bawah dibaca pada 2026-09-17.
Plotkan setiap tetapan dan lengkung itu bersilang dengan cara yang mendidik. GPT-6 Astra mencapai 53 pada $2.31 bagi setiap juta token; Claude Fable 5.1 mencapai 53 yang sama pada $5.98. Claude Opus 5 pada usaha maksimum mendarat pada 51, dua mata di bawah kedua-duanya, pada $5.86. Usaha membeli mata pada setiap lengkung, dan lengkung mana yang anda berada menentukan kos mata itu.
Penghala Auto milik Whizi menukarkan itu kepada harga tetap yang boleh anda lihat. Auto membaca setiap mesej dan menghantarnya ke salah satu daripada enam tangga; tangga itulah yang menetapkan kos kredit, dan penaakulan pelbagai langkah duduk di tangga teratas di Powerhouse. Pro paling tinggi hanya sampai tangga kod 10 kredit, dan Starter kekal pada model rumah pada 1.
Giliran penaakulan bernilai 20 kredit berbanding 1 untuk soalan pantas: jurang 20 lawan 1 yang mencerminkan kos token di sebaliknya. Auto juga enggan membazirkannya. Mesej baharu yang diklasifikasikan sebagai penulisan semula atau carian pergi ke tangga 1 atau 2 kredit, dan susulan dalam bebenang yang telah pun mendapat tangga penaakulan kekal di situ, kerana model giliran sebelumnya bertindak sebagai dasar. Cara Auto memilih model mempunyai jadual tangga dengan model di sebalik setiap baris.
Cara guna mod pemikiran tanpa membayar untuk semuanya
Anggap pemikiran sebagai alat yang anda capai bila perlu, bukan tetapan yang dibiarkan hidup.
- Jadikan model pantas sebagai lalai. Kebanyakan mesej adalah carian, penulisan semula dan soalan pendek. Pemikiran hanya menambah saat dan kredit tanpa mengubah apa-apa.
- Hidupkan untuk giliran yang sukar. Apabila soalan itu mempunyai beberapa langkah dan jawapan yang boleh disemak, alihkan mesej itu ke model penaakulan atau suiskan pemikiran, kemudian kembali semula.
- Berikan kekangan dalam gesaan. Model penaakulan berada pada tahap terbaiknya apabila ia mempunyai peraturan untuk menyemak pelannya. "Mesti muat dalam 40 jam, tiada mesyuarat pada hari Jumaat, pelancaran pada 12hb" ialah jenis gesaan yang berbaloi menunggu.
- Baca kerja itu apabila ia ditunjukkan. Rantaian itulah tempat model mendedahkan andaian yang salah. Jika langkah pertama salah, jawapan itu salah tidak kira berapa lama ia berfikir.
- Jangan guna untuk menyemak fakta. Guna carian, dokumen, atau model kedua untuk itu; apa itu halusinasi AI menerangkan sebab lebih banyak pemikiran tidak membantu di situ.
Peraturan keputusan dalam satu ayat: jika anda mahu melihat kerja seseorang sebelum mempercayai jawapan mereka, guna model penaakulan. Jika tidak, jangan bayar untuknya.
- Kekalkan model pantas sebagai lalai dan capai mod pemikiran hanya pada giliran sukar tertentu
- Guna penaakulan untuk matematik, logik, perancangan dengan kekangan dan penyahpepijatan
- Langkau untuk carian, penulisan semula, terjemahan dan ringkasan; ia lebih perlahan dan tidak lebih baik
- Letakkan kekangan dalam gesaan supaya model ada sesuatu untuk menyemak pelannya
- Sahkan fakta dengan carian atau model kedua, bukan dengan rantaian pemikiran yang lebih panjang
Soalan Lazim
Apa sebenarnya yang dilakukan model penaakulan secara berbeza?
Ia menulis rantaian langkah perantaraan sebelum jawapan akhir, mencuba pendekatan, menyemak pengiraan dan berundur, semuanya sebagai teks yang dijana. Model biasa terus menulis jawapan. Penaakulan itu adalah ramalan token seterusnya yang sama, cuma dibelanjakan lebih lama pada masalah itu, dan itulah sebabnya ia membantu pada tugas pelbagai langkah tetapi bukan pada carian.
Adakah mod pemikiran sentiasa lebih baik?
Tidak. Pada carian fakta, penulisan semula, terjemahan dan soalan santai, ia lebih perlahan, berkos lebih banyak token dan tidak menambah baik jawapan. Pada soalan mudah, rantaian panjang boleh memujuk model meninggalkan gerak hati pertama yang betul. Ia lebih baik pada matematik, logik, perancangan dengan kekangan dan penyahpepijatan, di mana jawapan mempunyai langkah yang boleh disemak.
Kenapa mod pemikiran lebih perlahan dan lebih mahal?
Kerana pemikiran itu adalah token output, dihasilkan satu pada satu masa, dan output berkos lima hingga enam kali ganda input pada setiap model utama. Giliran yang menulis 3,000 token kerja sebelum jawapan 300 token menjana sepuluh kali ganda output berbanding balasan biasa dan mengambil masa kira-kira sepuluh kali ganda lebih lama.
Model mana yang tergolong sebagai model penaakulan?
o1 milik OpenAI pada September 2024 adalah yang pertama tersedia secara meluas, dan DeepSeek R1 pada Januari 2025 menerbitkan resipinya dengan berat terbuka. Sejak itu, penaakulan biasanya adalah mod dalam GPT, Claude dan Gemini dan bukan produk berasingan, di samping baris khusus seperti Kimi K2 Thinking. Whizi menghalakan soalan pelbagai langkah ke tangga penaakulannya secara automatik.
Adakah model penaakulan kurang berhalusinasi?
Pada masalah pelbagai langkah, ya, kerana ia menangkap ralat pengiraan dan logiknya sendiri dalam rantaian itu. Pada fakta, tidak: model yang tidak tahu sesuatu akan menaakul ke arah jawapan yang salah dengan lebih yakin. Untuk fakta, mendasarkan jawapan dengan carian atau dokumen serta pendapat model kedua berkesan; rantaian pemikiran yang lebih panjang tidak.
