Le fine-tuning est un petit ajustement au-dessus d'un modèle énorme
Un modèle de langage vous arrive déjà entraîné. Le préentraînement a lu un corpus de milliers de milliards de tokens ; Meta a annoncé plus de 15 000 milliards pour Llama 3. Le post-entraînement l'a ensuite coaché pour en faire un assistant. Qu'est-ce qu'un LLM couvre les deux étapes.
Le fine-tuning est une troisième étape, bien plus petite, que vous exécutez vous-même. Vous donnez au modèle quelques centaines à quelques milliers d'exemples précis de l'entrée et de la sortie voulues, et vous l'entraînez un peu plus dessus. Le guide de fine-tuning d'OpenAI indique que des améliorations nettes apparaissent généralement dès 50 à 100 exemples. Les paramètres se déplacent légèrement pour produire par défaut votre type de réponse.
L'écart d'échelle raconte toute l'histoire. Quinze mille milliards de tokens contre quelques centaines d'exemples : le fine-tuning ne peut pas ajouter de connaissances significatives, car il n'y en a pas assez pour faire bouger ce que le modèle sait. Ce qu'il peut faire, c'est faire bouger la façon dont le modèle répond, car un format cohérent répété quelques centaines de fois est exactement le genre de motif qu'un petit ajustement capture.
Le fine-tuning change la façon dont un modèle répond, jamais ce qu'il sait
La ligne à tracer est comportement contre connaissance.
| Vous voulez que le modèle... | Fine-tuning | Ce qui marche vraiment |
|---|---|---|
| Réponde toujours dans votre style ou ton maison | Oui, c'est l'usage central | Fine-tuning, ou un prompt système solide avec exemples |
| Renvoie toujours un format précis (JSON, un modèle fixe) | Oui | Fine-tuning pour la fiabilité à grande échelle ; un prompt pour un usage occasionnel |
| Suive une longue liste de règles sans qu'on le lui rappelle | Oui | Fine-tuning ; les règles passent du prompt vers les poids |
| Connaisse votre produit, vos prix, vos politiques | Non | Recherche documentaire : fournissez les documents au moment de répondre |
| Sache tout ce qui a changé après l'entraînement | Non | Recherche web ou recherche documentaire |
| Raisonne mieux sur des problèmes difficiles | Non | Un modèle de raisonnement ou un modèle plus grand |
L'échec sur lequel les gens butent est la quatrième ligne. Ils font du fine-tuning sur leur centre d'aide, en espérant un modèle qui connaît leur produit. Ils obtiennent un modèle qui écrit avec la voix du centre d'aide et invente les faits du produit avec aisance, car l'entraînement lui a enseigné la forme des réponses, pas leur substance. La tâche de connaissance revient à la recherche documentaire, et qu'est-ce que le RAG explique comment cela fonctionne.
Pourquoi le fine-tuning se fait volontairement sur des modèles peu coûteux
Personne ne fait de fine-tuning sur le modèle le plus cher d'une famille pour une tâche étroite. L'idée est d'amener un modèle petit et bon marché à faire une seule chose aussi bien que le modèle de pointe le fait avec un long prompt, puis de faire tourner le modèle bon marché des millions de fois.
Les chiffres au-dessus de chaque extrémité sont les scores Artificial Analysis Intelligence Index, relevés le 2026-09-17, et la ligne représente l'écart de prix par million de tokens. Un Llama 4 Maverick généraliste obtient 9 face à Claude Sonnet 5 à 38 ; le pari d'un fine-tuning est que sur une tâche étroite, ces 29 points peuvent être comblés pour une économie de 127 fois. Aux prix catalogue d'OpenRouter relevés le 2026-08-20, une réponse standard de 1 000 tokens en entrée et 500 en sortie coûte $0.0006 sur Maverick et $0.007 sur Sonnet 5, selon l'indice de coût des modèles IA, donc un classificateur de support qui tourne 100 000 fois par mois coûte $60 sur le premier et $700 sur le second. Si le Maverick affiné égale Sonnet sur cette seule tâche, le fine-tuning se rembourse dès le premier mois. C'est ce calcul, et non la qualité du modèle en général, qui justifie le fine-tuning.
La méthode qui a rendu cela bon marché est LoRA, publiée en 2021, qui entraîne un petit ensemble de paramètres ajoutés plutôt que le modèle entier. Avec son successeur en 4 bits QLoRA (Dettmers et al., 2023), un modèle de 7 milliards de paramètres se fine-tune sur une seule carte graphique grand public de 24 Go. Un fine-tuning complet du même modèle signifie mettre à jour chaque paramètre sur plusieurs GPU de datacenter.
Un prompt, la recherche documentaire ou un autre modèle résolvent la plupart des cas avant tout entraînement
Le fine-tuning est la dernière option, pas la première, car chacune de ces solutions règle les cas courants pour une fraction de l'effort et peut être modifiée en une minute.
- Un meilleur prompt avec des exemples. Trois exemples de la sortie voulue dans le prompt apportent l'essentiel du bénéfice de format et de ton d'un fine-tuning, sans aucun entraînement. Le prompt engineering pour débutants couvre le principe.
- La recherche documentaire. Si l'écart est une question de connaissance, aucun fine-tuning ne le comble. Chargez les documents ou activez la recherche.
- Un autre modèle. Les modèles diffèrent par leur voix par défaut. Un modèle qui écrit déjà comme vous le voulez bat celui qu'on affine sans succès ; un espace de travail multi-modèles rend ce test possible en un clic.
Passez au fine-tuning quand le prompt est devenu une page de règles que le modèle oublie sans cesse, quand la tâche tourne à un volume où la longueur du prompt représente de l'argent réel, ou quand vous avez besoin d'un format renvoyé de façon fiable dix mille fois sans la moindre déviation. Ce sont des besoins réels. Ils sont aussi rares.
Peut-on faire du fine-tuning dans un produit de chat ?
En général non, et Whizi ne fait pas exception. Les produits de chat grand public, Whizi compris, n'offrent pas le fine-tuning : c'est une fonctionnalité de développeur sur les API des fournisseurs et sur les modèles à poids ouverts. Ce qui s'en rapproche le plus dans une application de chat, ce sont les instructions permanentes. Chez Whizi, elles vivent dans un projet : les instructions personnalisées par projet s'appliquent à toutes les conversations de ce projet, ce qui permet un ton et un format cohérents sur un ensemble de travail sans entraîner quoi que ce soit. Comment utiliser les Projets explique la mise en place.
C'est le bon compromis pour la plupart des gens. Une instruction de projet est un prompt qu'on écrit une fois et qu'on modifie dès que les règles changent. Un fine-tuning est un modèle qu'on réentraîne dès que les règles changent. Pour tous ceux qui ne font pas tourner une tâche étroite à grande échelle, le prompt l'emporte sur le coût, la rapidité de modification et le fait qu'on peut le lire.
La règle de décision : fine-tunez quand la même tâche étroite tourne à un volume où un modèle bon marché rentable compte vraiment. Partout ailleurs, écrivez l'instruction.
- Déterminez si l'écart est une question de comportement ou de connaissance ; le fine-tuning ne corrige que le premier
- Essayez un prompt avec trois exemples avant tout entraînement
- Utilisez la recherche documentaire ou la recherche web pour les faits, les prix et tout ce qui change
- Testez d'abord un autre modèle ; l'un d'eux écrit peut-être déjà comme vous le voulez
- Affinez un modèle bon marché pour une tâche étroite et à volume élevé, et mesurez-le face au modèle de pointe sur cette même tâche
Questions fréquentes
Que signifie faire du fine-tuning sur un modèle d'IA ?
Cela signifie entraîner un peu plus un modèle déjà entraîné sur vos propres exemples, typiquement quelques centaines à quelques milliers de paires entrée-sortie, pour qu'il adopte par défaut un style, un format ou un ensemble de règles. C'est un petit ajustement au-dessus d'un préentraînement qui a lu des milliers de milliards de tokens, ce qui explique qu'il façonne le comportement plutôt que d'ajouter des connaissances.
Fine-tuning contre RAG : lequel utiliser ?
Le fine-tuning pour la façon dont le modèle répond : le ton, le format, le respect d'un long ensemble de règles. Le RAG pour ce qu'il sait : vos documents et tout ce qui change. Ils résolvent des problèmes différents et les systèmes en production utilisent souvent les deux. Si votre écart concerne des faits, le fine-tuning ne le comblera pas ; le modèle sonnera juste et se trompera.
Combien d'exemples faut-il pour fine-tuner un modèle ?
Le guide de fine-tuning d'OpenAI indique que des améliorations nettes apparaissent généralement dès 50 à 100 exemples bien construits, et que la qualité compte plus que le nombre. Quelques centaines est une taille de travail courante ; des milliers aident pour des tâches aux nombreux cas distincts.
Combien coûte le fine-tuning ?
L'entraînement en lui-même est en général la petite partie ; l'objectif, c'est l'économie par réponse par la suite. Aux prix catalogue d'OpenRouter relevés le 2026-08-20, une réponse standard coûte $0.0006 sur Llama 4 Maverick et $0.007 sur Claude Sonnet 5, donc une tâche qui tourne 100 000 fois par mois coûte $60 contre $700. Un fine-tuning qui permet au modèle bon marché d'égaler le modèle cher sur cette tâche se rembourse dès le premier mois.
Peut-on fine-tuner ChatGPT ou Claude ?
Pas les applications grand public. Le fine-tuning est proposé sur les API des fournisseurs pour certains modèles, et sur les modèles à poids ouverts qu'on héberge soi-même. Dans un produit de chat, l'équivalent est une instruction permanente : les instructions personnalisées de ChatGPT, ou une instruction au niveau projet chez Whizi qui s'applique à toutes les conversations de ce projet.
