Apa itu LLM?

Tiga perkataan, mengikut susunan yang penting

Bongkar nama itu dari belakang.

Model. Model ialah fungsi yang menukar input kepada output, dengan peraturan yang dipelajari daripada data dan bukan ditulis oleh pengaturcara. Model cuaca mengambil bacaan hari ini dan menghasilkan ramalan esok. Model bahasa mengambil teks dan menghasilkan kebarangkalian bagi apa yang bakal muncul seterusnya.

Bahasa. Input dan output adalah teks, dicincang kepada token, iaitu serpihan perkataan. Apa itu token dalam AI membincangkan unit ini; versi ringkasnya, model membaca dan menulis dalam serpihan lebih kurang tiga suku perkataan.

Besar. Model mempunyai bilangan parameter yang sangat besar, iaitu nombor dalaman yang diselaraskan oleh latihan. GPT-2 pada 2019 mempunyai 1.5 bilion. GPT-3 pada 2020 mempunyai 175 bilion. Katalog yang laman ini harga pada 2026 termasuk model Qwen dengan 2.4 trilion parameter, dengan kira-kira 95 bilion daripadanya aktif pada mana-mana satu token. Perkataan "besar" memikul banyak makna dalam nama itu, dan bilangannya telah meningkat lebih seribu kali ganda dalam tujuh tahun.

Jadi LLM ialah peramal token seterusnya yang sangat besar. Setiap sifat lain yang orang kaitkan dengannya, iaitu penaakulan, nada, dan kesilapan yang yakin, berpunca daripada satu tugas itu.

LLM bukan chatbot, dan perbezaan itulah seluruh produknya

ChatGPT ialah aplikasi. GPT ialah model di dalamnya. Claude ialah kedua-dua keluarga model dan aplikasi yang Anthropic balut di sekelilingnya. Gemini kisah yang sama di Google. Apa itu chatbot AI membincangkan lapisan aplikasi; halaman ini membincangkan enjinnya.

Perbezaan itu berhenti menjadi teori sebaik anda tahu enjin itu boleh ditukar ganti. Tetingkap sembang yang sama boleh hantar mesej anda kepada GPT, Claude, Gemini, DeepSeek atau Llama, dan jawapannya berbeza dari segi nada, kos, kelajuan dan ketepatan. Ruang kerja pelbagai model seperti Whizi ialah contoh sebenarnya: satu tetingkap, 280+ model di sebaliknya, dan pemilih untuk menentukan yang mana menjawab. Aplikasi ialah stereng. LLM ialah enjin, dan ada berpuluh-puluh daripadanya.

Cara LLM dilatih, dalam dua peringkat

Peringkat satu, pralatihan. Model membaca korpus teks yang besar dan, untuk setiap kedudukan, cuba meneka token seterusnya. Setiap tekaan salah menolak parameter sedikit. Meta melaporkan bahawa Llama 3 dipralatih dengan lebih 15 trilion token, yang, pada kadar kira-kira 100,000 token bagi sebuah novel 75,000 perkataan (tiga suku perkataan bagi setiap token), bersamaan teks kira-kira 150 juta buku. Selepas peringkat ini model itu ialah autolengkap yang cemerlang tetapi pembantu yang lemah: tanya ia satu soalan dan ia mungkin sambung dengan tiga lagi soalan, kerana itulah lazimnya teks di internet.

Peringkat dua, pasca latihan. Model kemudian ditunjukkan contoh jawapan yang baik dan dinilai oleh manusia tentang jawapan mana antara dua yang lebih baik, satu proses yang dipanggil pembelajaran pengukuhan daripada maklum balas manusia, atau RLHF. Di sinilah gelagat pembantu itu datang: menjawab soalan dalam format yang anda minta, dan menolak sesetengah permintaan. Ia adalah latihan, bukan pengetahuan baharu. Fakta masih datang daripada peringkat satu.

Dua perkara berikutan daripada dua peringkat itu. Pengetahuan model berhenti pada tarikh data pralatihannya tamat, sebab itulah setiap model ada takat putus pengetahuan. Dan tiada apa dalam mana-mana peringkat memasang penyemak fakta: model belajar menghasilkan teks yang berkemungkinan dan kemudian menghasilkan teks yang disukai. Kebenaran hanyalah kesan sampingan yang kerap bagi kedua-duanya, bukan jaminan. Sebab AI membuat kesilapan menghuraikan ini dengan lebih lanjut.

Sebab LLM meramal berbanding mencari

Enjin carian mendapatkan semula. Ia mempunyai indeks halaman dan memulangkan yang sepadan. LLM tiada indeks. Segala yang dibacanya semasa pralatihan telah dimampatkan ke dalam parameternya, dan pada masa menjawab ia menjana semula teks daripada mampatan itu, satu token pada satu masa, memilih setiap token daripada taburan kebarangkalian.

Sebab itulah LLM boleh menulis resipi yang berfungsi bagi hidangan yang tidak pernah dinamakan sebelum ini, dan sebab itu jugalah ia boleh menghasilkan petikan mahkamah yang tidak wujud. Kedua-duanya adalah sambungan yang munasabah. Model tiada mekanisme berasingan yang menyemak sama ada sambungan yang munasabah itu sesuatu yang benar.

Penyelesaian yang digunakan oleh produk ialah menambah dapatan semula: cari web atau fail anda dahulu, kemudian serahkan petikan itu kepada model dan minta ia menjawab berdasarkannya. Teknik itu dipanggil RAG, dan apa itu RAG menerangkannya. Carian web dalam aplikasi sembang ialah RAG dengan internet sebagai sumber. Model masih meramal; cuma ia meramal daripada bahan yang lebih baik.

Apa yang harga beli dalam satu keluarga, diukur

Setiap keluarga menghantar satu tangga: model kecil, model pertengahan, model unggul. Indeks Kepintaran Artificial Analysis, satu skor gabungan merentasi penanda aras penaakulan, pengekodan dan pengetahuan awam, meletakkan nombor pada setiap anak tangga, dan papan pendahulu menyenaraikan harga campuran bagi setiap sejuta token di sebelahnya. Empat tangga di bawah dibaca pada 2026-09-17.

OpenAI membeli 15 mata pada 18 kali kadar, Anthropic 35 mata pada 36 kali, Qwen 19 mata pada 16 kali. DeepSeek memecahkan corak itu: V4 Flash mengatasi skor V4 Pro pada kurang separuh harga. Dua perkara berikutan. Dalam satu keluarga, beberapa mata terakhir itulah yang mahal, jadi bagi soalan fakta yang pendek, model kecil memberikan jawapan yang sama seperti model unggul. Dan merentasi keluarga, harga adalah panduan yang lemah bagi kualiti: DeepSeek V4 Flash pada $0.27 bagi setiap sejuta token mendapat dua mata lebih tinggi daripada Claude Sonnet 5 pada $5.09. Itulah perkara paling berguna untuk diketahui tentang LLM sebagai pembeli: model itu adalah alat pelaras, bukan kos tetap. Whizi mengenakan bayaran mengikut logik yang sama, satu kredit untuk satu mesej pada model rumah, 20 untuk Claude Opus 5, dan sehingga 100 untuk baris yang paling mahal, yang cara kredit Whizi berfungsi huraikan mengikut model.

Amaran yang jujur ialah indeks gabungan adalah purata merentasi tugas. Bagi rantaian penaakulan yang panjang, model unggul berbaloi dengan harganya; bagi penulisan semula, tidak. Untuk perbandingan tentang apa yang setiap keluarga sebenarnya mahir, model AI mana patut saya guna ialah halaman keputusan.

Apa yang LLM tidak boleh lakukan, dalam satu senarai

Segala di bawah ialah akibat seni bina, bukan pepijat yang akan diperbaiki keluaran seterusnya.

• Ia tidak boleh tahu apa-apa selepas takat putus latihannya melainkan dapatan semula menyerahkan teks itu kepadanya.
• Ia tidak boleh mengira dengan boleh dipercayai pada input yang panjang, kerana ia bekerja dalam token dan kebarangkalian, bukan dalam gelung merentasi item.
• Ia tidak boleh mengesahkan outputnya sendiri; laluan kedua oleh model yang sama ialah peramal yang sama meneka semula.
• Ia tidak boleh mengingati anda antara perbualan melainkan produk menyimpan nota dan menampalkannya semula; ingatan itu ialah ciri produk, bukan ciri model.
• Ia tidak boleh melihat seluruh perbualan selama-lamanya. Setiap model mempunyai tetingkap konteks, teks maksimum yang boleh dipertimbangkan sekali gus, dan apa itu tetingkap konteks menerangkan apa yang berlaku apabila anda mencapainya.

Akibat praktikalnya: layan LLM sebagai rakan sekerja yang lancar tetapi kadangkala silap, dan kekalkan pengesahan di pihak anda. Gelung yang mengubah model menjadi sesuatu yang bertindak sendiri ialah perkara berbeza, dan apa itu ejen AI menarik garisan itu. Bagi apa-apa yang membawa kos, tanya model kedua. Dua peramal berbeza yang bersetuju ialah bukti yang lemah; dua yang tidak bersetuju ialah isyarat kukuh untuk menyemak.