Qu'est-ce que la température en IA ?

Le modèle ne choisit jamais un mot. Il pioche dans une liste

Après avoir lu votre prompt, un modèle de langage produit un score pour chaque jeton de son vocabulaire, de 100 000 à 200 000 sur les modèles actuels, et transforme ces scores en probabilités : « feuilles » 45 pour cent, « météo » 25, « couleurs » 15, et ainsi de suite le long d'une longue traîne. Qu'est-ce qu'un LLM explique pourquoi cela fonctionne ainsi. Puis il tire un jeton de cette liste, l'ajoute, et recommence.

La température s'applique entre les scores et le tirage. Chaque score est divisé par la température avant que les probabilités soient calculées. Diviser par un nombre inférieur à 1 élargit les écarts entre les scores, si bien que le favori prend encore plus d'avance. Diviser par un nombre supérieur à 1 réduit ces écarts, donnant une vraie chance à la longue traîne. À exactement 0, le calcul se réduit à « toujours prendre le score le plus élevé », ce qui explique pourquoi 0 est présenté comme déterministe.

Le nom vient de la physique, où un gaz plus chaud a des particules qui bougent plus aléatoirement. Un modèle plus « chaud » choisit ses mots de façon plus aléatoire. Rien ne change dans les connaissances du modèle : seul le tirage change.

Ce que ce nombre fait aux probabilités, en détail

Prenons un prompt dont le modèle évalue le mot suivant comme cinq candidats à 45, 25, 15, 10 et 5 pour cent. C'est la distribution à la température 1. Appliquez la formule à 0,5 et à 2, et les cinq mêmes candidats donnent le résultat ci-dessous. Les pourcentages sont calculés à partir de la formule, pas mesurés, et la forme obtenue est celle de toute distribution réelle.

Suivez le cinquième candidat sur les trois panneaux : moins de 1 pour cent, puis 5, puis 11. Sur une réponse de 500 jetons, une chance de 11 pour cent par jeton de tirer le cinquième meilleur mot finit par produire un texte qui dérive, invente et finit par ne plus tenir debout, exactement ce qu'on voit quand on pousse un curseur de playground à 2. Et regardez le candidat en tête : même à 0,5, il perd un tirage sur trois, donc une température basse est régulière, pas fixe.

Ce dernier point compte pour le mot « déterministe ». La documentation de l'API d'Anthropic indique que même à 0, les résultats « ne seront pas totalement déterministes », et cette réserve est réelle : l'arithmétique en virgule flottante sur du matériel parallèle et le traitement par lots côté fournisseur font qu'un même prompt à 0 peut encore produire deux réponses différentes. Si vous avez besoin d'une sortie identique, sauvegardez-la ; ne comptez pas sur ce réglage.

Ce que chaque fournisseur autorise, et quels sont les réglages par défaut

Trois points ressortent. Chaque fournisseur fixe 1 par défaut, ce qui signifie piocher selon les probabilités propres au modèle, donc les réponses obtenues dans un chat ordinaire sont déjà un tirage parmi d'autres. L'échelle d'Anthropic s'arrête à 1, donc une température Claude de 1 est le plafond alors qu'un 1 chez OpenAI est le milieu de l'échelle ; les chiffres ne sont pas comparables d'un fournisseur à l'autre. Et les modèles de raisonnement rejettent ce réglage : OpenAI indique que la température n'est pas prise en charge pour la série o et GPT-5 et renvoie une erreur si vous l'envoyez, et Anthropic impose 1 dès que la réflexion étendue est activée.

Quel réglage pour quelle tâche

La règle tient en une ligne : plus bas pour les tâches ayant une bonne réponse, plus haut pour les tâches ayant plusieurs bonnes réponses.

Deux mises en garde. La température ne contrôle pas la vérité. Un modèle à 0 choisit sa réponse la plus probable, et si cette réponse la plus probable est fausse, elle est fausse à chaque fois avec une confiance totale, ce que qu'est-ce qu'une hallucination de l'IA explique du côté de l'entraînement. Et la température n'est pas le levier du ton ou de la longueur. Cela relève des instructions, que couvre le prompt engineering pour débutants ; le nombre décide seulement à quelle fréquence le modèle parie sur un mot.

Pourquoi vous n'avez jamais vu ce curseur dans une application de chat

ChatGPT, l'application Claude, Gemini et Whizi n'exposent aucun contrôle de température. Ce réglage vit dans les playgrounds de développeurs et les API, et aucun des trois fournisseurs ne publie la valeur qu'utilise sa propre application. Whizi n'en envoie aucune, donc chaque modèle ici tourne au défaut de son fournisseur, soit 1. La raison est celle exposée plus haut : le défaut est déjà le réglage que la plupart des tâches veulent, et un curseur mal placé transforme un bon assistant en mauvais assistant sans aucun signal indiquant quel bouton en est la cause.

Ce que vous offre à la place un espace de travail multi-modèles, c'est un levier plus puissant. Deux modèles différents sont deux listes de probabilités différentes, et basculer entre eux change la réponse bien plus qu'aucune température. L'habitude qui remplace le curseur : pour une tâche ayant une seule bonne réponse, demandez à un second modèle et n'agissez que là où ils sont d'accord ; pour une tâche ayant plusieurs bonnes réponses, demandez à deux modèles et choisissez. Dans Whizi, cela consiste à changer de modèle en cours de conversation, et changer de modèle en cours de conversation explique ce qui est conservé.

Si vous avez vraiment besoin de ce réglage, il se trouve dans l'API ou le playground propre au fournisseur, par requête, et les plages du tableau ci-dessus s'appliquent.