Qué es la temperatura en IA

El modelo nunca elige una palabra: elige de una lista

Después de leer tu prompt, un modelo de lenguaje produce una puntuación para cada token de su vocabulario, entre 100.000 y 200.000 en los modelos actuales, y convierte esas puntuaciones en probabilidades: "hojas" 45 por ciento, "clima" 25, "colores" 15, y así hasta una larga cola. Qué es un LLM explica por qué funciona así. Luego saca un token de esa lista, lo añade y repite todo el proceso.

La temperatura se aplica entre las puntuaciones y el sorteo. Cada puntuación se divide entre la temperatura antes de calcular las probabilidades. Divide entre un número menor que 1 y las diferencias entre puntuaciones se agrandan, así que el favorito se adelanta aún más. Divide entre un número mayor que 1 y las diferencias se reducen, así que la larga cola tiene una oportunidad real. En exactamente 0 el cálculo se reduce a "toma siempre la puntuación más alta", por eso 0 se vende como determinista.

El nombre viene de la física, donde un gas más caliente tiene partículas que se mueven de forma más aleatoria. Un modelo más caliente elige palabras de forma más aleatoria. Nada del conocimiento del modelo cambia; solo cambia el sorteo.

Qué le hace el número a las probabilidades, paso a paso

Toma un prompt cuya siguiente palabra el modelo puntúa como cinco candidatos con 45, 25, 15, 10 y 5 por ciento. Esa es la distribución a temperatura 1. Aplica la fórmula a 0.5 y a 2 y los mismos cinco candidatos quedan como se muestra abajo. Los porcentajes están calculados con la fórmula, no medidos, y la forma es la que sigue cualquier distribución real.

Observa el quinto candidato a lo largo de los tres paneles: menos del 1 por ciento, luego 5, luego 11. En una respuesta de 500 tokens, una probabilidad del 11 por ciento por token de elegir la quinta mejor palabra se acumula hasta un texto que divaga, inventa y termina sin sentido, que es lo que se ve al llevar un control de un playground hasta 2. Y observa el candidato principal: incluso en 0.5 pierde un sorteo de cada tres, así que una temperatura baja es consistente, no fija.

Ese último punto importa para la palabra "determinista". La documentación de la API de Anthropic dice que incluso en 0 los resultados "no serán completamente deterministas", y la salvedad es real: la aritmética de coma flotante en hardware paralelo y el agrupamiento por lotes del lado del proveedor hacen que el mismo prompt en 0 pueda producir dos respuestas distintas. Si necesitas una salida idéntica, guárdala; no confíes en el ajuste.

Qué permite cada proveedor y cuáles son los valores por defecto

Destacan tres cosas. Todos los proveedores usan 1 por defecto, lo que significa muestrear según las propias probabilidades del modelo, así que las respuestas que recibes en un chat normal ya son un sorteo entre muchos. La escala de Anthropic termina en 1, así que una temperatura de Claude en 1 es el tope mientras que un 1 de OpenAI es el punto medio; los números no son comparables entre proveedores. Y los modelos de razonamiento rechazan el ajuste: OpenAI indica que la temperatura no es compatible con la serie o y con GPT-5, y devuelve un error si se envía, y Anthropic exige 1 siempre que el pensamiento extendido esté activado.

Qué ajuste conviene a cada tarea

La regla se resume en una línea: más baja para tareas con una respuesta correcta, más alta para tareas con muchas respuestas buenas.

Dos advertencias. La temperatura no controla la veracidad. Un modelo en 0 elige su respuesta más probable, y si esa respuesta más probable es incorrecta, será incorrecta siempre con total confianza, algo que qué es una alucinación de IA explica desde el lado del entrenamiento. Y la temperatura no es la palanca para el tono o la extensión. Eso pertenece a las instrucciones, y prompt engineering para principiantes lo cubre; el número solo decide con qué frecuencia el modelo apuesta por una palabra.

Por qué nunca has visto el control en una app de chat

ChatGPT, la app de Claude, Gemini y Whizi no exponen ningún control de temperatura. El ajuste vive en playgrounds de desarrollador y en las APIs, y ninguno de los tres proveedores publica el valor que usa su propia app. Whizi no envía ninguno, así que cada modelo aquí funciona con el valor por defecto de su proveedor, que es 1. La razón es la de antes: el valor por defecto ya es el ajuste que la mayoría de las tareas necesitan, y un control en el lugar equivocado convierte a un buen asistente en uno malo sin ninguna señal de qué botón lo causó.

Lo que un espacio de trabajo con varios modelos ofrece en su lugar es una palanca más grande. Dos modelos distintos son dos listas de probabilidades distintas, y cambiar entre ellos altera la respuesta mucho más de lo que lo haría cualquier temperatura. El hábito que reemplaza al control: para una tarea con una sola respuesta correcta, pregunta a un segundo modelo y actúa solo donde coincidan; para una tarea con muchas respuestas buenas, pregunta a dos modelos y elige. En Whizi eso es un cambio de modelo a mitad de la conversación, y cambiar de modelo a mitad de conversación explica qué se conserva.

Si de verdad necesitas el control, está en la propia API o playground del proveedor, por solicitud, y los rangos de la tabla anterior aplican.