Ce este fine-tuning ai?

Fine-tuning-ul este un mic impuls peste un model uriaș

Un model de limbaj ajunge la tine deja antrenat. Preantrenarea a citit un corpus de trilioane de tokenuri; Meta a raportat peste 15 trilioane pentru Llama 3. Post-antrenarea l-a transformat apoi într-un asistent. Ce este un LLM acoperă ambele etape.

Fine-tuning-ul este o a treia etapă, mult mai mică, pe care o rulezi tu. Oferi modelului câteva sute până la câteva mii de exemple ale intrării și ieșirii exacte pe care le dorești și îl antrenezi puțin mai mult pe acestea. Ghidul de fine-tuning al OpenAI spune că îmbunătățirile clare apar de obicei de la 50 la 100 de exemple. Parametrii se deplasează ușor spre producerea implicită a răspunsului tău preferat.

Diferența de scară este toată povestea. Cincisprezece trilioane de tokenuri față de câteva sute de exemple: fine-tune-ul nu poate adăuga cunoștințe semnificative, pentru că nu sunt suficiente pentru a schimba ce știe modelul. Ce poate face este să schimbe modul în care răspunde modelul, pentru că un format consecvent repetat de câteva sute de ori este exact tipul de tipar pe care îl surprinde un mic impuls.

Fine-tuning-ul schimbă modul în care răspunde un model, niciodată ce știe

Linia de trasat este comportament versus cunoștințe.

Eșecul pe care îl întâlnesc oamenii este al patrulea rând. Fac fine-tuning pe centrul lor de ajutor, așteptând un model care le cunoaște produsul. Obțin un model care scrie în vocea centrului de ajutor și inventează faptele despre produs cu fluență, pentru că antrenarea i-a învățat forma răspunsurilor, nu substanța. Sarcina cunoștințelor aparține recuperării, iar ce este RAG explică cum funcționează asta.

De ce fine-tuning-ul se face intenționat pe modele ieftine

Nimeni nu face fine-tuning pe cel mai scump model dintr-o familie pentru o sarcină îngustă. Ideea este să pui un model mic și ieftin să facă un singur lucru la fel de bine cum îl face modelul de vârf cu un prompt lung, apoi să rulezi modelul ieftin de milioane de ori.

Numerele de deasupra fiecărui capăt sunt scorurile Artificial Analysis Intelligence Index, citite pe 2026-09-17, iar linia este decalajul de preț per milion de tokenuri. Un Llama 4 Maverick generalist obține 9 puncte față de Claude Sonnet 5 la 38; pariul unui fine-tune este că, pe o sarcină îngustă, acele 29 de puncte pot fi închise pentru o economie de 127 de ori. La prețurile de listă OpenRouter culese pe 2026-08-20, un răspuns standard de 1.000 de tokenuri la intrare și 500 la ieșire costă $0.0006 pe Maverick și $0.007 pe Sonnet 5, conform indicelui de cost al modelelor AI, deci un clasificator de suport care rulează de 100.000 de ori pe lună costă $60 pe primul și $700 pe al doilea. Dacă Maverick reglat fin egalează Sonnet pe acea sarcină, fine-tune-ul se amortizează în prima lună. Acea aritmetică, nu calitatea generală a modelului, este scopul fine-tuning-ului.

Metoda care a făcut asta ieftină este LoRA, publicată în 2021, care antrenează un set mic de parametri adăugați în loc de întregul model. Cu succesorul său pe 4 biți, QLoRA (Dettmers et al., 2023), un model cu 7 miliarde de parametri se reglează fin pe o singură placă grafică de consum de 24 GB. Fine-tuning-ul complet al aceluiași model înseamnă actualizarea fiecărui parametru pe mai multe GPU-uri de centru de date.

Un prompt, recuperarea sau un alt model rezolvă majoritatea cazurilor înainte de orice antrenare

Fine-tuning-ul este ultima opțiune, nu prima, pentru că fiecare dintre acestea rezolvă cazurile comune cu o fracțiune din efort și poate fi schimbat într-un minut.

1. Un prompt mai bun cu exemple. Trei exemple ale rezultatului dorit în interiorul promptului obțin majoritatea beneficiilor de format și ton ale unui fine-tune, fără antrenare. Ingineria promptului pentru începători acoperă acest tipar.
2. Recuperarea. Dacă decalajul este de cunoștințe, niciun fine-tuning nu îl închide. Încarcă documentele sau activează căutarea.
3. Un alt model. Modelele diferă în vocea implicită. Un model care scrie deja așa cum îți dorești bate reglarea fină a unuia care nu o face; un spațiu de lucru cu mai multe modele face acest test posibil cu un singur click.

Apelează la fine-tuning atunci când promptul a crescut la o pagină de reguli pe care modelul le uită mereu, când sarcina rulează la un volum unde lungimea promptului înseamnă bani reali sau când ai nevoie de un format returnat fiabil de zece mii de ori fără nicio abatere. Acestea sunt nevoi reale. Sunt și rare.

Poți face fine-tuning într-un produs de chat?

În general nu, iar Whizi nu face excepție. Produsele de chat pentru consumatori, inclusiv Whizi, nu oferă fine-tuning; este o funcție pentru dezvoltatori pe API-urile furnizorilor și pe modelele cu ponderi deschise. Cel mai apropiat lucru dintr-o aplicație de chat sunt instrucțiunile permanente. În Whizi, acestea trăiesc într-un proiect: instrucțiunile personalizate per proiect se aplică fiecărei conversații din acel proiect, ceea ce îți oferă ton și format consecvente pe un corp de lucru fără să antrenezi nimic. Cum se folosesc Proiectele explică pașii.

Acesta este schimbul corect pentru majoritatea oamenilor. O instrucțiune de proiect este un prompt pe care îl scrii o dată și îl editezi ori de câte ori se schimbă regulile. Un fine-tune este un model pe care îl reantrenezi ori de câte ori se schimbă regulile. Pentru oricine nu rulează o sarcină îngustă la scară, promptul câștigă la cost, viteza schimbării și faptul că îl poți citi.

Regula deciziei: fă fine-tuning atunci când aceeași sarcină îngustă rulează la un volum unde contează un model ieftin care se amortizează singur. Oriunde altundeva, scrie instrucțiunea.