Fine-tuning är en liten justering ovanpå en enorm modell
En språkmodell kommer till dig redan tränad. Förträningen läste ett korpus på biljoner tokens; Meta rapporterade mer än 15 biljoner för Llama 3. Efterträningen coachade den sedan till en assistent. Vad är en LLM täcker båda stegen.
Fine-tuning är ett tredje, mycket mindre steg som du själv kör. Du ger modellen några hundra till några tusen exempel på exakt den indata och utdata du vill ha, och tränar den lite till på dem. OpenAIs guide för fine-tuning säger att tydliga förbättringar oftast syns från 50 till 100 exempel. Parametrarna förskjuts lätt mot att som standard producera din typ av svar.
Skillnaden i skala är hela poängen. Femton biljoner tokens mot några hundra exempel: fine-tunen kan inte lägga till meningsfull kunskap, för det finns inte tillräckligt av den för att rubba vad modellen vet. Det den kan göra är att rubba hur modellen svarar, eftersom ett konsekvent format som upprepas några hundra gånger är precis den typen av mönster en liten justering fångar.
Fine-tuning ändrar hur en modell svarar, aldrig vad den vet
Gränsen att dra går mellan beteende och kunskap.
| Du vill att modellen ska... | Fine-tuning | Vad som faktiskt fungerar |
|---|---|---|
| Alltid svara i din husstil eller ton | Ja, det här är kärnanvändningen | Fine-tune, eller en stark systemprompt med exempel |
| Alltid returnera ett specifikt format (JSON, en fast mall) | Ja | Fine-tune för tillförlitlighet i stor skala, en prompt för sällan bruk |
| Följa en lång regellista utan påminnelse | Ja | Fine-tune, reglerna flyttar från prompten in i vikterna |
| Kunna din produkt, dina priser, dina policyer | Nej | Sökning (retrieval): ge den dokumenten vid svarstillfället |
| Känna till något som ändrats efter träningen | Nej | Webbsökning eller retrieval |
| Resonera bättre kring svåra problem | Nej | En resonerande modell eller en större modell |
Misstaget folk gör är rad fyra. De finjusterar på sitt hjälpcenter och förväntar sig en modell som kan deras produkt. De får istället en modell som skriver i hjälpcentrets röst och flytande hittar på produktfakta, eftersom träningen lärde den svarens form, inte innehållet. Kunskapsjobbet hör till retrieval, och vad är RAG förklarar hur det fungerar.
Varför fine-tuning görs på billiga modeller med flit
Ingen finjusterar den dyraste modellen i en familj för ett smalt jobb. Poängen är att få en liten, billig modell att göra en sak lika bra som toppmodellen gör det med en lång prompt, och sedan köra den billiga miljontals gånger.
Siffrorna ovanför varje ände är Artificial Analysis Intelligence Index-poäng, avlästa 2026-09-17, och linjen är prisklyftan per miljon tokens. En generell Llama 4 Maverick får 9 poäng mot Claude Sonnet 5 på 38, och satsningen med en fine-tune är att de 29 poängen på en smal uppgift kan stängas för en besparing på 127 gånger. Med OpenRouters listpriser, hämtade 2026-08-20, kostar ett standardsvar på 1 000 tokens in och 500 ut $0.0006 på Maverick och $0.007 på Sonnet 5, enligt AI-kostnadsindexet för modeller, så en supportklassificerare som körs 100 000 gånger i månaden kostar $60 på den första och $700 på den andra. Om den finjusterade Maverick matchar Sonnet på just den uppgiften betalar finjusteringen sig själv redan första månaden. Det är den räkneuppgiften, inte modellkvalitet i allmänhet, som fine-tuning är till för.
Metoden som gjorde detta billigt är LoRA, publicerad 2021, som tränar en liten mängd tillagda parametrar istället för hela modellen. Med sin 4-bitars efterföljare QLoRA (Dettmers med flera, 2023) finjusteras en modell med 7 miljarder parametrar på ett enda konsumentgrafikkort med 24 GB. Full fine-tuning av samma modell innebär att uppdatera varje parameter över flera datacenter-GPU:er.
En prompt, retrieval eller en annan modell löser de flesta fallen innan någon träning
Fine-tuning är sista utvägen, inte den första, eftersom vart och ett av dessa löser de vanliga fallen för en bråkdel av ansträngningen och kan ändras på en minut.
- En bättre prompt med exempel. Tre exempel på önskad utdata inuti prompten ger det mesta av format- och tonvinsten från en fine-tune utan någon träning. Prompt engineering för nybörjare täcker mönstret.
- Retrieval. Om klyftan handlar om kunskap löser ingen mängd finjustering den. Ladda upp dokumenten eller slå på sökning.
- En annan modell. Modeller skiljer sig i sin standardröst. En modell som redan skriver som du vill slår att finjustera en som inte gör det, och en arbetsyta med flera modeller gör detta till ett test med ett klick.
Ta till fine-tuning när prompten har vuxit till en sida med regler modellen ändå glömmer, när jobbet körs i en volym där promptlängden är riktiga pengar, eller när du behöver ett format returnerat tillförlitligt tio tusen gånger utan en enda avvikelse. Det är riktiga behov. De är också ovanliga.
Kan man finjustera inne i en chattprodukt?
I regel nej, och Whizi är inget undantag. Konsumentchattprodukter, Whizi inräknat, erbjuder inte fine-tuning, det är en utvecklarfunktion på leverantörers API:er och öppna modeller. Det närmaste inne i en chattapp är stående instruktioner. I Whizi ligger de på ett projekt: projektspecifika anpassade instruktioner gäller för alla konversationer i det projektet, vilket är hur du får konsekvent ton och format över en mängd arbete utan att träna något. Hur du använder projekt förklarar upplägget.
Det är rätt avvägning för de flesta. En projektinstruktion är en prompt du skriver en gång och redigerar när reglerna ändras. En fine-tune är en modell du tränar om varje gång reglerna ändras. För alla som inte kör ett smalt jobb i stor skala vinner prompten på kostnad, ändringshastighet och att du faktiskt kan läsa den.
Tumregeln: finjustera när samma smala jobb körs i en volym där en billig modell som betalar för sig själv spelar roll. Överallt annars, skriv ner instruktionen.
- Avgör om klyftan handlar om beteende eller kunskap, fine-tuning löser bara det första
- Prova en prompt med tre exempel innan någon träning
- Använd retrieval eller webbsökning för fakta, priser och sådant som ändras
- Testa en annan modell först, en kan redan skriva som du vill
- Finjustera en billig modell för ett smalt, högvolymigt jobb, och mät den mot toppmodellen på det jobbet
Vanliga frågor
Vad betyder det att finjustera en AI-modell?
Det betyder att en redan tränad modell tränas lite till på dina egna exempel, oftast några hundra till några tusen indata-utdatapar, så att den som standard antar en stil, ett format eller en regeluppsättning. Det är en liten justering ovanpå förträningen som läste biljoner tokens, vilket är varför det formar beteende snarare än att lägga till kunskap.
Fine-tuning eller RAG: vilket ska jag använda?
Fine-tuning för hur modellen svarar: ton, format, att följa en lång regeluppsättning. RAG för vad den vet: dina dokument och sådant som ändras. De löser olika problem och produktionssystem använder ofta båda. Om din klyfta handlar om fakta löser fine-tuning den inte, modellen kommer att låta rätt och ha fel.
Hur många exempel behöver man för att finjustera en modell?
OpenAIs guide för fine-tuning säger att tydliga förbättringar oftast syns från 50 till 100 välgjorda exempel, och att kvalitet betyder mer än antal. Några hundra är en vanlig arbetsstorlek, tusentals hjälper för uppgifter med många distinkta fall.
Vad kostar fine-tuning?
Träningskörningen är oftast den lilla delen, poängen är besparingen per svar efteråt. Med OpenRouters listpriser, hämtade 2026-08-20, kostar ett standardsvar $0.0006 på Llama 4 Maverick och $0.007 på Claude Sonnet 5, så ett jobb som körs 100 000 gånger i månaden kostar $60 mot $700. En fine-tune som gör att den billiga modellen matchar den dyra på det jobbet betalar sig redan första månaden.
Kan jag finjustera ChatGPT eller Claude?
Inte konsumentapparna. Fine-tuning erbjuds på leverantörers API:er för vissa modeller och på öppna modeller du kör själv. Inne i en chattprodukt är motsvarigheten en stående instruktion: ChatGPTs anpassade instruktioner, eller en projektinstruktion i Whizi som gäller för alla konversationer i det projektet.
