Qué es la temperatura en un modelo de IA

El mismo modelo, la misma pregunta y tres respuestas distintas: por qué pasa

El primer roce serio de una empresa con un modelo de IA suele ser este. Alguien prueba una tarea repetible, extraer un dato de un documento, clasificar un correo, responder una consulta por política, y nota que el resultado no es idéntico cada vez. La misma pregunta devuelve dos redacciones distintas. El mismo pedido, un día resume en tres líneas y al siguiente en cinco. La reacción inmediata es de desconfianza: si no responde igual siempre, no se puede usar para un proceso donde el número tiene que cuadrar.

El malentendido de fondo es tratar al modelo como una calculadora, donde la misma entrada da siempre la misma salida. Un modelo de IA generativa no funciona así por defecto: en cada palabra elige entre varias opciones probables, y cuánto se atreve a apartarse de la más obvia es precisamente lo que regula la temperatura. Cuando nadie tocó esa perilla, la herramienta se comporta según un valor que eligió otro, casi siempre uno pensado para conversar de forma natural y no para un proceso de negocio que exige el mismo resultado dos veces seguidas.

Ese detalle, invisible para quien solo usa el chat, es lo que separa una prueba divertida de un proceso confiable. No es que el modelo esté roto ni que “alucine porque sí”. Es que está configurado para variar, y nadie decidió a conciencia cuánto debía variar para la tarea concreta que la empresa quiere automatizar.

Qué es la temperatura en criterio de negocio, no de matemática

La forma más útil de entenderla es como un dial entre dos extremos. En un extremo, el modelo responde siempre lo más seguro y probable, aunque suene repetitivo. En el otro, se permite explorar opciones menos evidentes, con lo que gana variedad y pierde previsibilidad. La temperatura es el número que ubica al modelo en algún punto de ese dial antes de responder.

Puesto en gente: temperatura baja es el empleado cauto que siempre contesta lo que dice el manual, palabra por palabra, sin arriesgar. Temperatura alta es el empleado de lluvia de ideas, que tira diez propuestas rápidas incluyendo algunas malas, porque su trabajo es abrir opciones, no cerrar una sola respuesta correcta. Ninguno es mejor en abstracto: depende de si la tarea pide exactitud repetible o pide variedad para elegir.

La consecuencia que importa al negocio es directa. Con el mismo prompt y los mismos datos, la consistencia de la respuesta cambia según un número que rara vez ves. Para un proceso que debe entregar la misma salida siempre, clasificar igual, extraer igual, responder por la misma regla, ese número pesa más en el resultado que la marca del modelo que elegiste. Y como no está a la vista, es fácil que gobierne tu operación sin que nadie lo haya decidido.

Cómo funciona el dial, de lo predecible a lo impredecible

La temperatura se expresa en un rango de números (en la mayoría de herramientas va de 0 a 1, y en algunas hasta 2). No hace falta saber la matemática para operar bien: basta entender qué pasa en el negocio a medida que subes ese valor.

Lo que cambia al mover el número

• Temperatura cerca de 0: el modelo repite la respuesta más probable y se vuelve casi determinista. Es lo que quieres para extraer datos, clasificar, calcular o responder por una regla fija, donde la variación es un defecto.
• Temperatura intermedia: aparece algo de variación controlada. Sirve para borradores que deben sonar naturales pero sin desviarse del encargo, con una persona que revisa antes de usar.
• Temperatura alta: más variedad, redacciones más sorprendentes y también más riesgo de que el modelo se vaya de tema o invente. Encaja en generar nombres, titulares o ángulos, donde el objetivo es abrir opciones.

El punto que más confusión evita es este: subir la temperatura no vuelve al modelo más inteligente ni le agrega conocimiento, solo afloja su elección para que se aparte de lo más probable. Da resultados distintos, no mejores. Confundir variedad con inteligencia es donde se pierde plata, porque una empresa termina subiendo la temperatura esperando “mejores respuestas” y lo que recibe son respuestas más dispares y menos confiables.

Cómo se decide la temperatura según la tarea del negocio

La pregunta correcta no es “¿qué temperatura es la mejor?”, es “¿qué necesita esta tarea: la misma respuesta cada vez, o muchas opciones distintas para elegir?”. Cuando respondes eso con honestidad, el valor se decide casi solo. Y en la mayoría de procesos de una empresa, la respuesta es que necesitas repetibilidad, no sorpresa.

Tareas que piden temperatura baja

• Extracción de datos de documentos (facturas, contratos, formularios): quieres el mismo campo, con el mismo formato, siempre.
• Clasificación de tickets, correos o leads: la categoría no puede cambiar según el ánimo del modelo, porque de esa categoría dependen decisiones posteriores.
• Respuestas por política: soporte o atención que responde según reglas, donde dos clientes con el mismo caso deben recibir exactamente lo mismo.
• Cálculos y cambios de formato: pasar datos de un molde a otro, normalizar fechas, ordenar. Aquí cualquier creatividad es un error.

Tareas que toleran o piden temperatura alta

• Lluvia de ideas: nombres, titulares, ángulos de campaña, donde quieres variedad para descartar y elegir.
• Borradores creativos que una persona va a editar antes de publicar, no salidas que se usan tal cual.
• Exploración de alternativas cuando el problema no tiene una única respuesta correcta y buscas ampliar el abanico.

La línea práctica que uso: si un sistema actúa solo, sin una persona revisando cada salida (un flujo automatizado que corre de noche, por ejemplo), la temperatura va baja casi siempre, porque necesitas repetibilidad y poder auditar por qué salió cada resultado. La temperatura alta pertenece al momento en que un humano está eligiendo entre opciones, no al momento en que un proceso decide y ejecuta por su cuenta.

Los errores que veo al tocar (o al no tocar) la temperatura

La temperatura genera dos tipos de error de dirección opuesta: el de quien nunca la mira y el de quien la usa para tapar cualquier problema. Los más comunes:

• Dejar el valor por defecto en un proceso serio. Ese valor suele estar pensado para conversar, no para extraer ni clasificar. Nadie lo decidió, simplemente se quedó, y sin embargo gobierna la consistencia de tu operación.
• Subir la temperatura para que “suene más natural” en un flujo que necesitaba exactitud, y después culpar al modelo por ser inconsistente. El modelo hizo lo que se le pidió: variar.
• Bajarla a cero esperando que eso elimine los errores. La vuelve consistente, no correcta. Si el modelo se equivoca, ahora se equivocará siempre igual, con más apariencia de seguridad.
• Mover la temperatura para arreglar un problema que era del prompt o de los datos. Si al modelo le falta la información, ninguna temperatura la inventa bien. Es tratar la fiebre tapando el termómetro.
• No fijar el valor y no documentarlo. Cada persona prueba el suyo, el resultado del proceso cambia de un día a otro y nadie sabe por qué. La trazabilidad se pierde en una perilla que nadie anotó.

El patrón detrás de todos es el mismo: la temperatura es una perilla de síntoma. Cambia cuánto varía la respuesta, no si la respuesta es verdadera ni si la tarea está bien planteada. Usarla para parchar un problema de datos o de instrucciones es esconder la causa, y el problema reaparece más caro.

Qué NO arregla la temperatura, por más que la muevas

El entusiasmo con este parámetro nace de que es fácil de tocar: un número, un cambio inmediato en la salida. El riesgo es creer que ahí vive la solución a la confiabilidad. Esto es lo que se le atribuye y no hace:

• No elimina las alucinaciones. Bajarla reduce la variación y con eso algunos inventos espontáneos, pero un modelo a temperatura 0 sigue afirmando con total seguridad cosas falsas si eso es lo más probable según lo que aprendió.
• No mejora el contenido de origen. Si el prompt es ambiguo o faltan datos, la temperatura solo decide con cuánta variedad te entrega una respuesta pobre. La pobreza sigue ahí.
• No reemplaza las fuentes ni la verificación humana. La confiabilidad de un proceso se construye conectando datos correctos y revisando en el punto crítico, no ajustando una perilla.
• No vuelve al modelo más listo ni más tonto. Cambia la dispersión de sus respuestas, no su conocimiento ni su capacidad de razonar.

La idea peligrosa es que existe un valor mágico que “hace confiable a la IA”. La confiabilidad viene del proceso alrededor del modelo (los datos, las instrucciones, la verificación), y la temperatura es apenas uno de los tornillos de esa máquina. Importante, pero de los pequeños.

Cuándo bajarla, cuándo subirla y por qué casi siempre gana la primera

No es una decisión de tamaño de empresa ni de presupuesto. Es una decisión sobre qué espera el negocio de esa tarea puntual: cerrar en una respuesta estable o abrir un abanico de opciones.

Bajarla tiene sentido cuando

• El proceso corre solo y necesita el mismo resultado ante la misma entrada.
• Hay que auditar o explicar cada salida, por compliance, riesgo legal o control financiero.
• Dos casos iguales deben recibir exactamente la misma respuesta, sin margen de interpretación.
• La tarea es extraer, clasificar o transformar, es decir, ejecutar y no crear.

Subirla tiene sentido cuando

• Una persona va a elegir entre varias opciones y a editar antes de usar el resultado.
• El objetivo es explorar y ampliar, no cerrar una única respuesta correcta.
• El costo de una salida rara es cercano a cero porque hay revisión humana antes de que llegue a un cliente o a un sistema.

En la práctica, la mayoría de los casos de uso que dan retorno en una empresa son procesos repetitivos, así que el valor por defecto honesto es bajo. La temperatura alta es la excepción para los momentos creativos con una persona al volante, no la regla para un sistema que actúa por su cuenta.

Mi criterio sobre la temperatura en proyectos reales

La temperatura es la última decisión, no la primera

Si hay algo que quiero que quede de esta entrada es el orden. Antes de preguntar qué temperatura usar, hay que responder lo de siempre: cuál es el dolor concreto, qué proceso lo genera, qué datos lo alimentan y cómo se ve una respuesta correcta para el negocio. La temperatura solo decide cuánto varía la salida una vez que todo lo anterior está definido. Decidirla primero es como calibrar un instrumento antes de saber qué vas a medir.

Para la enorme mayoría de procesos de una empresa, la recomendación práctica es simple: déjala baja, escríbelo en la documentación del proceso y pon la energía donde de verdad se juega la diferencia, en la calidad de los datos, en la claridad del prompt y en una persona que verifique en el punto crítico. La perilla importa, pero es el tornillo más chico de la máquina. El negocio no se gana afinando la temperatura, se gana ordenando lo que la rodea.