Fine-tuning er et lite dytt oppå en enorm modell
En språkmodell kommer til deg allerede ferdigtrent. Pretrening leste et korpus på billioner av tokens; Meta rapporterte over 15 billioner for Llama 3. Post-trening coachet den så til å bli en assistent. Hva er en LLM dekker begge stegene.
Fine-tuning er et tredje, mye mindre steg som du selv kjører. Du gir modellen noen hundre til noen tusen eksempler på nøyaktig den inndata og utdata du ønsker, og trener den litt videre på dem. OpenAIs veiledning for fine-tuning sier at tydelige forbedringer typisk viser seg fra 50 til 100 eksempler. Parametrene forskyves litt mot å produsere din type svar som standard.
Skalaforskjellen er hele historien. Femten billioner tokens mot noen hundre eksempler: fine-tunen kan ikke tilføre nevneverdig kunnskap, fordi det ikke er nok av den til å flytte nålen på hva modellen vet. Det den kan gjøre, er å flytte nålen på hvordan modellen svarer, fordi et konsistent format gjentatt noen hundre ganger er nøyaktig det slags mønster et lite dytt fanger opp.
Fine-tuning endrer hvordan en modell svarer, aldri hva den vet
Skillelinjen som må trekkes, er oppførsel mot kunnskap.
| Du vil at modellen skal... | Fine-tuning | Det som faktisk fungerer |
|---|---|---|
| Alltid svare i din husstil eller tone | Ja, dette er kjernebruken | Fine-tune, eller en sterk systemprompt med eksempler |
| Alltid returnere et bestemt format (JSON, en fast mal) | Ja | Fine-tune for pålitelighet i stor skala; en prompt for sporadisk bruk |
| Følge en lang liste med regler uten å bli minnet på det | Ja | Fine-tune; reglene flytter fra prompten inn i vektene |
| Kjenne produktet, prisene, retningslinjene dine | Nei | Henting: gi den dokumentene ved svartidspunktet |
| Vite noe som endret seg etter trening | Nei | Nettsøk eller henting |
| Resonnere bedre på vanskelige problemer | Nei | En resonneringsmodell eller en større modell |
Feilen folk gjør, er den fjerde raden. De fine-tuner på hjelpesenteret sitt og forventer en modell som kjenner produktet deres. De får en modell som skriver i hjelpesenterets stemme og dikter opp produktfaktaene flytende, fordi treningen lærte den formen på svarene og ikke innholdet. Kunnskapsjobben tilhører henting, og hva er RAG forklarer hvordan det fungerer.
Hvorfor fine-tuning gjøres bevisst på billige modeller
Ingen fine-tuner den dyreste modellen i en familie for en smal jobb. Poenget er å få en liten, billig modell til å gjøre én ting like bra som frontier-modellen gjør det med en lang prompt, og deretter kjøre den billige millioner av ganger.
Tallene over hver ende er Artificial Analysis Intelligence Index-poeng, lest 2026-09-17, og linjen er prisgapet per million tokens. En generell Llama 4 Maverick scorer 9 mot Claude Sonnet 5 på 38; veddemålet med en fine-tune er at disse 29 poengene kan lukkes for én smal oppgave, til en 127 ganger lavere pris. Med OpenRouter-listepriser hentet 2026-08-20 koster et standardsvar på 1000 tokens inn og 500 ut $0.0006 på Maverick og $0.007 på Sonnet 5, ifølge AI-modellkostindeksen, så en supportklassifiserer som kjøres 100 000 ganger i måneden koster $60 på den første og $700 på den andre. Hvis den finjusterte Maverick matcher Sonnet på den ene oppgaven, tjener finjusteringen inn seg selv den første måneden. Det regnestykket, ikke modellkvalitet generelt, er hva fine-tuning er til for.
Metoden som gjorde dette billig, er LoRA, publisert i 2021, som trener et lite sett med tilførte parametre i stedet for hele modellen. Med den 4-bits etterfølgeren QLoRA (Dettmers et al., 2023) finjusteres en modell med 7 milliarder parametre på et enkelt forbruker-grafikkort med 24 GB. Full fine-tuning av samme modell betyr å oppdatere hver eneste parameter på tvers av flere datasenter-GPU-er.
En prompt, henting eller en annen modell løser de fleste tilfellene før noen trening
Fine-tuning er den siste utveien, ikke den første, fordi hver av disse løser de vanlige tilfellene for en brøkdel av innsatsen og kan endres på et minutt.
- En bedre prompt med eksempler. Tre eksempler på utdataen du ønsker inne i prompten gir det meste av format- og tonefordelen til en fine-tune uten noe av treningen. Prompt engineering for nybegynnere dekker mønsteret.
- Henting. Hvis gapet er kunnskap, lukker ingen mengde finjustering det. Last opp dokumentene eller slå på søk.
- En annen modell. Modeller er forskjellige i standardstemme. En modell som allerede skriver slik du vil, slår å finjustere en som ikke gjør det; en arbeidsflate med flere modeller gjør dette til en test med ett klikk.
Grip til fine-tuning når prompten har vokst til en side med regler modellen stadig glemmer, når jobben kjøres i et volum der promptlengde er reelle penger, eller når du trenger et format levert pålitelig ti tusen ganger uten et eneste avvik. Det er reelle behov. De er også sjeldne.
Kan du fine-tune inne i et chatprodukt?
Vanligvis nei, og Whizi er intet unntak. Chatprodukter for forbrukere, Whizi inkludert, tilbyr ikke fine-tuning; det er en utviklerfunksjon på leverandørenes API-er og åpne modeller. Det nærmeste inne i en chat-app er faste instruksjoner. I Whizi ligger disse på et prosjekt: egendefinerte instruksjoner per prosjekt gjelder for hver samtale i det prosjektet, som er hvordan du får konsistent tone og format på tvers av et stort arbeid uten å trene noe. Slik bruker du prosjekter forklarer oppsettet.
Det er det riktige valget for de fleste. En prosjektinstruksjon er en prompt du skriver én gang og redigerer når reglene endrer seg. En fine-tune er en modell du trener på nytt hver gang reglene endrer seg. For alle som ikke kjører en smal oppgave i stor skala, vinner prompten på kostnad, endringshastighet og det faktum at du kan lese den.
Regelen: fine-tune når den samme smale jobben kjøres i et volum der en billig modell som betaler for seg selv, betyr noe. Alle andre steder, skriv ned instruksjonen.
- Avgjør om gapet er oppførsel eller kunnskap; fine-tuning fikser bare det første
- Prøv en prompt med tre eksempler før noen trening
- Bruk henting eller nettsøk for fakta, priser og alt som endrer seg
- Test en annen modell først; en av dem skriver kanskje allerede slik du vil
- Fine-tune en billig modell for en smal jobb med høyt volum, og mål den mot frontier-modellen på den jobben
Vanlige spørsmål
Hva betyr det å fine-tune en AI-modell?
Det betyr å trene en allerede ferdigtrent modell litt videre på dine egne eksempler, typisk noen hundre til noen tusen inn-ut-par, slik at den tar i bruk en stil, et format eller et sett regler som standard. Det er en liten justering oppå pretrening som leste billioner av tokens, som er hvorfor det former oppførsel fremfor å tilføre kunnskap.
Fine-tuning vs RAG: hva bør jeg bruke?
Fine-tuning for hvordan modellen svarer: tone, format, følging av et langt regelsett. RAG for hva den vet: dokumentene dine og alt som endrer seg. De løser ulike problemer, og produksjonssystemer bruker ofte begge. Hvis gapet ditt er fakta, lukker ikke fine-tuning det; modellen vil høres riktig ut og ta feil.
Hvor mange eksempler trenger du for å fine-tune en modell?
OpenAIs veiledning for fine-tuning sier at tydelige forbedringer typisk viser seg fra 50 til 100 velformede eksempler, og at kvalitet betyr mer enn antall. Noen hundre er en vanlig arbeidsstørrelse; tusener hjelper for oppgaver med mange distinkte tilfeller.
Hvor mye koster fine-tuning?
Selve treningskjøringen er som regel den lille delen; poenget er besparelsen per svar etterpå. Med OpenRouter-listepriser hentet 2026-08-20 koster et standardsvar $0.0006 på Llama 4 Maverick og $0.007 på Claude Sonnet 5, så en jobb som kjøres 100 000 ganger i måneden koster $60 mot $700. En fine-tune som lar den billige modellen matche den dyre på den jobben, tjener seg inn den første måneden.
Kan jeg fine-tune ChatGPT eller Claude?
Ikke forbrukerappene. Fine-tuning tilbys på leverandørenes API-er for enkelte modeller og på åpne modeller du selv kjører. Inne i et chatprodukt er tilsvarende en fast instruksjon: ChatGPTs egendefinerte instruksjoner, eller en prosjektinstruksjon i Whizi som gjelder for hver samtale i det prosjektet.
