Por qué la IA se equivoca, y cómo detectarlo antes de que te cueste caro

El mecanismo, sin jerga

Cuando le haces una pregunta a un chatbot de IA, no está buscando nada. Está produciendo texto, unos pocos caracteres cada vez, que encaja con el patrón de cómo se suele escribir una respuesta correcta a esa pregunta. Ese es todo su trabajo. Encajar con el patrón y ser verdad son dos objetivos distintos, y nada en el proceso apunta al segundo.

La mayoría de las veces ni te enteras, porque los dos objetivos se solapan. El texto del que aprendieron estos sistemas lo escribieron sobre todo personas que en su mayoría acertaban, así que el texto con forma de respuesta suele ser también texto correcto. El solape se adelgaza en los bordes: datos raros, recientes, muy específicos o simplemente ausentes de lo que el modelo leyó. En esos bordes, producir la forma de una respuesta correcta sigue siendo fácil. Producir su contenido no. Lo que recibes es una frase construida como un hecho, con un número en la casilla que le toca y un nombre de aspecto creíble al lado, que describe algo que nunca ocurrió.

Esto también explica por qué falla la pregunta de seguimiento más obvia. Preguntar "¿estás seguro?" parece una auditoría. No lo es. Darte la razón encaja con el patrón de una respuesta servicial, así que la presión tiende a producir acuerdo, y el modelo a menudo se disculpará y sustituirá una respuesta correcta por otra peor. Compruébalo en dos minutos: pregunta algo que ya sepas, acepta la respuesta correcta y luego di "eso no me suena bien" y observa. Lo que vuelve es la misma maquinaria generando texto complaciente, no una segunda opinión. Para la versión de planta baja de cómo está construido todo esto, qué es realmente la IA lo explica sin matemáticas.

Los cinco sitios donde más se equivoca

Los errores no se reparten por igual entre todo lo que puedas preguntar. Se agrupan. Aprenderte los cinco grupos te da una pequeña alarma interna que suena en el momento adecuado, y eso vale más que una sensación general de cautela que se dispara todo el rato y luego deja de dispararse del todo.

Dónde falla	Qué aspecto tiene	Un ejemplo en una línea
Datos y cifras concretas	Una cifra precisa sin nada detrás	Te dice que una tienda del barrio abrió en 1987 cuando abrió en 1994
Citas, referencias y enlaces	Títulos que suenan reales, URL con pinta real, y nada detrás	Un estudio de dos investigadores reales, en una revista real, que nunca se escribió
Todo lo posterior a su fecha de corte	Respuestas seguras sobre un mundo que se detuvo hace meses	Cita el precio de suscripción del año pasado de un plan que cambió en marzo
Aritmética y conteo	Método correcto, total equivocado	Suma once líneas de una factura y se pasa por 40 dólares
Preguntas que llevan dentro su respuesta	Acuerdo disfrazado de análisis	"¿Por qué X es la mejor opción?" devuelve el alegato a favor de X y nunca lo cuestiona

Esa última fila la provocas tú, y es la más frecuente en el uso real. Preguntar "por qué X es mejor que Y" casi garantiza un alegato a favor de X, y una pregunta que contiene "seguramente" o "¿no es cierto que" suele recibir un sí. Pregunta esto en su lugar: "Compara X e Y para esta situación y luego dame el argumento más fuerte en contra de la que hayas elegido". Formular las preguntas para que no cuelen la respuesta dentro es la mitad de lo que la gente llama escribir prompts, y cómo hablar con la IA cubre la otra mitad. Una rareza más que conviene conocer pronto. En una conversación muy larga, o después de pegar un documento muy largo, los detalles del principio pueden salirse del campo de visión del modelo, y este rellenará el hueco en vez de decirte que perdió el hilo. Eso es un límite de capacidad más que un problema de veracidad, y qué es una ventana de contexto explica dónde está el techo.

El tono seguro no es un farol

Casi todo el mundo llega aquí con una suposición razonable: que la máquina sabe cuánta seguridad tiene y esconde la duda para parecer competente. Esa suposición es falsa, y importa, porque te manda a buscar una señal de confianza que nunca estuvo ahí.

No hay un medidor de confianza que te estén ocultando. El sistema no guarda un número privado que marca 62 por ciento mientras elige sonar como 100. Genera una respuesta equivocada con el mismo proceso, y con la misma fluidez, que una correcta. Justo por eso el tono no vale como señal aquí, a diferencia de lo que pasa con las personas. Una matización como "no estoy del todo seguro, pero" también es texto generado. Aparece porque esa formulación encaja con preguntas de esa forma, no porque algo dentro haya activado un aviso. Pídele a un modelo que puntúe su propia confianza sobre diez y te dará un número, con frecuencia alto, justo al lado de una referencia que se acaba de inventar. La puntuación salió del mismo proceso que la referencia.

Así que instrucciones como "responde solo si estás seguro" o "no te inventes nada" ayudan menos de lo que la gente espera. Añadir "di que no lo sabes si no lo sabes" a una pregunta importante sigue mereciendo la pena, porque los modelos nuevos se niegan con más facilidad que antes, pero trátalo como un empujón y no como una garantía. La versión fiable de esa idea apunta hacia fuera: haz que la respuesta te enseñe algo que puedas abrir. Cuando una app busca en la web y adjunta enlaces, puedes leer la página tú mismo y dejar de creerle nada bajo palabra. Cuando responde solo de memoria, su palabra es todo lo que tienes.

Cuatro comprobaciones, ordenadas por lo poco que cuestan

No vas a verificarlo todo, y si lo intentas acabarás sin verificar nada. Lo que quieres es una comprobación que cueste menos que el error. Estas cuatro van de casi gratis a levemente molesta, y para la mayoría de preguntas basta con la primera a la que llegues.

1. Pide fuentes y luego ábrelas. No "cita tus fuentes" como ritual. Haz clic en ellas. Un enlace muerto, o una página viva que no contiene la afirmación, zanja el asunto en unos diez segundos.
2. Vuelve a preguntar en un chat nuevo. La misma pregunta, otra conversación, sin nada del ida y vuelta anterior. Si las cifras, los nombres o las fechas vuelven distintos, el modelo estaba rellenando huecos en lugar de recordar algo. Esto no cuesta nada y caza una proporción sorprendente de datos inventados.
3. Pregúntale a otro modelo. La comprobación más valiosa que existe para preguntas factuales. Pega la misma pregunta en un segundo proveedor y compara los detalles concretos, no el tono.
4. Búscalo por la vía normal. Para cualquier cosa que vayas a enviar, firmar, publicar o pagar, dedícale noventa segundos en un buscador. La IA es una primera pasada excelente. Una primera pasada no es verificación.

El punto tres se gana su sitio. Dos modelos construidos por empresas distintas, entrenados con datos distintos y métodos distintos, pueden equivocarse los dos en la misma pregunta. Lo que casi nunca hacen es inventar el mismo detalle falso, porque un dato fabricado sale de los huecos concretos de un sistema concreto. Cuando Claude y ChatGPT te dan por separado la misma cifra, esa cifra probablemente sea real. Cuando discrepan, has localizado la frase exacta que merece una comprobación, y eso es mucho mejor que una vaga sensación de que algo en la respuesta no cuadra. Para una comprobación ocasional, los planes gratuitos de dos proveedores bastan y no cuestan nada. Deja de ser gratis en cuanto el contraste se te vuelve un hábito, porque el acceso de pago ronda los 20 dólares al mes por proveedor, y ese es el hueco que cierra una suscripción multimodelo como Whizi. Usar varios modelos juntos recorre ese flujo de trabajo paso a paso.

Dónde importa, y dónde de verdad no

Un hábito de verificación que se aplica a todo se derrumba en una semana. La mayoría de lo que preguntas es de bajo riesgo y se comprueba solo. Pide una versión más corta de tu propio correo y podrás ver si es más corta y si sigue diciendo lo que querías decir. Lo mismo vale para la lluvia de ideas, ponerle nombre a algo, hacer un esquema, redactar un borrador, traducir un mensaje que vas a leer antes de enviarlo o convertir notas desordenadas en una lista. Tú eres la comprobación, y el error aparece delante de ti al instante.

Dos preguntas colocan cualquier tarea en el grupo correcto, y hacértelas lleva unos tres segundos.

1. Si esto está mal, ¿quién se entera y cuándo? ¿Tú, dentro de diez segundos mientras lo lees, o un cliente, dentro de tres meses?
2. ¿Puedo deshacerlo? Borrar un párrafo malo es gratis. Rehacer una declaración de impuestos, cancelar un presupuesto ya enviado o revertir un pago no lo es.

Si alguna de las dos respuestas te hace dudar, verifica cada afirmación concreta antes de actuar. Los miembros claros de ese grupo: nombres y dosis de medicamentos, plazos legales y de presentación, cifras fiscales, cláusulas de contratos, cualquier cosa que toque la salud o la situación migratoria de alguien, y código que mueve dinero o maneja datos personales. Un sinónimo equivocado en un correo te hace quedar un poco raro durante un día. Una dosis equivocada o un plazo perdido no es algo de lo que la IA se ocupe después. Si es seguro usar la IA cubre ese lado con más profundidad, incluido lo que nunca deberías pegar. Empieza por un solo hábito: en cuanto una respuesta contenga un número, un nombre, una fecha o un enlace, trata esa parte por separado como no verificada y compruébala. El resto suele estar bien.