Por qué una IA alucina y cómo reducir respuestas incorrectas

Una alucinación de la inteligencia artificial es cuando un modelo de lenguaje genera información falsa, inexacta o completamente inventada y la presenta como si fuera cierta, con la misma seguridad y fluidez que usaría para exponer un dato verdadero. Ejemplos típicos son inventarse una cita que nadie pronunció, describir una función de un programa que no existe, dar una fecha o una cifra equivocada, o citar una fuente, un estudio o un autor que son ficticios. El término alucinación es una metáfora algo desafortunada, porque el modelo no percibe ni ve nada, pero captura bien la idea de que produce algo que no se corresponde con la realidad. Lo característico y peligroso de las alucinaciones es que resultan indistinguibles de las respuestas correctas: llegan con el mismo tono seguro, la misma coherencia y a menudo con detalles añadidos que las hacen incluso más creíbles, como una cita textual, un número concreto o un nombre propio, todos inventados. El modelo no dispone de un indicador interno que avise de que en ese momento está fabricando la información, por lo que no hay ninguna señal externa que distinga una alucinación de un dato real. Por ese motivo, el verdadero riesgo no reside tanto en que el modelo se equivoque, algo esperable en cualquier herramienta, sino en que el usuario se crea la respuesta precisamente porque suena impecable y convincente. Es importante entender que una alucinación no es un fallo puntual ni un error de programación que se pueda parchear del todo, sino una consecuencia del modo en que funcionan estos modelos, que se abordará al explicar por qué ocurre. La defensa fundamental frente a las alucinaciones no es principalmente técnica, sino de actitud: consiste en tratar cualquier afirmación de hechos que haga la inteligencia artificial como algo que hay que verificar, y no como un hecho establecido, especialmente cuando la información tiene consecuencias importantes.

La inteligencia artificial inventa datos con tanta seguridad debido a la naturaleza misma de cómo funciona un modelo de lenguaje, que no es una base de datos ni un buscador que consulta hechos almacenados, sino un sistema que predice cuál es el texto más probable que debe continuar a partir de lo que se le ha dado. Durante su entrenamiento, el modelo aprendió, a partir de cantidades enormes de texto, a estimar qué palabra o fragmento es el más plausible a continuación, y generar una respuesta consiste esencialmente en encadenar esas predicciones una tras otra. El punto crucial es que el objetivo del modelo es producir texto plausible, es decir, que suene bien y encaje, no necesariamente texto verdadero. La mayoría de las veces lo plausible coincide con lo real, y por eso estos modelos resultan tan útiles, pero plausible y verdadero son cosas distintas. Cuando el modelo no dispone de la información correcta, porque no estaba presente en los datos con los que se entrenó, era escasa, o es posterior a su entrenamiento, no existe un mecanismo interno que lo detenga o que le haga reconocer su ignorancia; simplemente sigue prediciendo el texto que encajaría en ese hueco, y ese texto puede ser una invención perfectamente formada y coherente. En cuanto a la seguridad con que lo expresa, se debe a que el modelo no tiene una noción real de su propia certeza ni un medidor de confianza que le indique cuándo está sobre terreno firme y cuándo está fabricando; genera todo su texto con el mismo registro fluido y seguro, tanto si acierta como si inventa. No se trata de una mentira en el sentido humano, porque no hay intención de engañar ni conciencia de estar faltando a la verdad; el modelo se limita a completar el patrón lingüístico de la forma que le parece más probable. Comprender esto es fundamental, porque explica que las alucinaciones no son un defecto que se pueda eliminar por completo, sino una característica inherente al funcionamiento de estos sistemas, y ayuda a anticipar en qué situaciones es más probable que el modelo invente y a mantener la prudencia necesaria.

La inteligencia artificial tiende a alucinar más en determinadas situaciones que conviene conocer para saber cuándo extremar la prudencia y la verificación. La primera situación de mayor riesgo es cuando se le pregunta por temas muy específicos, muy recientes o de nicho, es decir, información que apenas aparecía o no aparecía en absoluto en los datos con los que se entrenó el modelo. Como el modelo genera texto a partir de patrones aprendidos, cuando el asunto está poco representado en su entrenamiento carece de una base sólida sobre la que predecir y es más propenso a rellenar el vacío con invenciones plausibles; esto incluye acontecimientos posteriores a su fecha de entrenamiento, detalles muy concretos de temas poco frecuentes o información especializada y minoritaria. La segunda situación de riesgo es cuando se le pide precisión en detalles factuales como fechas exactas, cifras, estadísticas, citas textuales o referencias bibliográficas; precisamente en estos casos es donde inventar resulta más fácil para el modelo y, a la vez, más dañino, siendo especialmente frecuentes las citas atribuidas a personas que nunca las dijeron y las referencias a estudios, libros o fuentes que no existen pero que suenan verosímiles. La tercera situación es cuando la propia pregunta está formulada de manera que induce o da por supuesta una respuesta concreta, ya que el modelo, orientado a producir texto que encaje, tiende a seguir la dirección que sugiere la pregunta y a confirmar la premisa aunque sea incorrecta, en lugar de contradecirla. También aumentan el riesgo las preguntas ambiguas o mal formuladas, que dejan mucho margen para rellenar, y las peticiones que combinan varios de estos factores a la vez. Conocer estas situaciones permite ajustar la confianza que se deposita en cada respuesta: ante temas de nicho o recientes, ante peticiones de datos precisos y ante preguntas que inducen una respuesta, conviene desconfiar más, aportar fuentes al modelo, pedirle que cite y verificar externamente, mientras que en tareas más generales o creativas, donde no se busca precisión factual, el riesgo de que una alucinación cause daño es menor.

Reducir las alucinaciones de la inteligencia artificial es posible mediante varias técnicas, aunque conviene partir de una premisa realista: no se pueden eliminar por completo, sino disminuir su probabilidad y, sobre todo, evitar dejarse engañar por ellas. La técnica más efectiva es anclar las respuestas en fuentes reales, es decir, en lugar de pedirle al modelo que responda de memoria, entregarle en el propio contexto los documentos o la información relevante y pedirle que base su respuesta únicamente en ese material; este enfoque, conocido como generación aumentada por recuperación, cambia la tarea del modelo de recordar, que es donde inventa, a leer y resumir un material que se le proporciona, que es donde acierta con mucha más fiabilidad, y aunque no es infalible, porque el modelo aún podría malinterpretar la fuente, reduce enormemente las invenciones. Una segunda técnica muy útil es instruir al modelo de forma explícita para que cite las fuentes de las que extrae cada afirmación y para que reconozca cuando no está seguro o no dispone de la información, diciendo que no lo sabe en lugar de inventar; darle permiso y mandato para admitir ignorancia disminuye notablemente las respuestas fabricadas. Una tercera técnica consiste en escribir instrucciones o preguntas claras, concretas y bien delimitadas, ya que las peticiones ambiguas o excesivamente abiertas dejan más margen para que el modelo rellene huecos con invenciones, mientras que las bien acotadas reducen ese espacio. Y la cuarta técnica, imprescindible y no negociable para cualquier dato importante, es verificar de forma externa la información que proporciona el modelo, contrastándola con fuentes fiables antes de darla por buena o de actuar en consecuencia. Estas técnicas se pueden y se deben combinar: aportar buenas fuentes, pedir citas y admisión de incertidumbre, formular bien las preguntas y verificar los datos críticos. El resultado no es una inteligencia artificial infalible, sino un uso mucho más seguro y fiable, en el que el modelo se aprovecha como un asistente muy capaz para redactar, explicar, resumir o explorar, sin confiar ciegamente en él como si fuera una fuente de verdad indiscutible.

Los modelos más avanzados y de mayor tamaño alucinan con menos frecuencia y suelen ser más fiables que los modelos más antiguos o pequeños, pero no dejan de alucinar por completo, y es importante no caer en la creencia errónea de que basta con usar el modelo más potente para olvidarse del problema. La razón por la que los modelos más capaces alucinan menos es que, al haber sido entrenados con más datos y tener una mayor capacidad, disponen de una base más amplia y sólida sobre la que predecir, cometen menos errores en temas comunes y algunos incorporan mejoras y entrenamientos específicos orientados a reconocer sus límites o a expresar incertidumbre. Sin embargo, la causa de fondo de las alucinaciones no desaparece con el tamaño ni con la sofisticación, porque sigue siendo la misma: estos modelos predicen el texto más plausible en lugar de consultar hechos verificados, de modo que cuando carecen de la información correcta pueden seguir rellenando el hueco con invenciones convincentes. Por muy avanzado que sea un modelo, seguirá enfrentándose a preguntas sobre temas que no estaban en su entrenamiento, sobre hechos posteriores a su fecha de corte, o sobre asuntos tan específicos o de nicho que su conocimiento es insuficiente, y en esos casos el riesgo de alucinación persiste. Además, a veces los modelos más elocuentes producen alucinaciones aún más creíbles precisamente por su mayor fluidez y coherencia, lo que puede hacerlas más difíciles de detectar. Por tanto, aunque elegir un modelo capaz y actualizado es una buena práctica que ayuda a reducir errores, no sustituye a las demás medidas: seguir aportando fuentes cuando se busca precisión, pedir citas y admisión de incertidumbre, formular bien las preguntas y, sobre todo, verificar externamente cualquier dato con consecuencias. La conclusión práctica es que ningún modelo, por avanzado que sea, debe tratarse como una fuente de verdad infalible, y que la actitud de verificación prudente sigue siendo necesaria independientemente de la potencia del modelo utilizado.

Para información importante, es decir, aquella que tiene consecuencias reales, no se debe confiar ciegamente en la inteligencia artificial como si fuera una fuente de verdad definitiva, sino tratar sus respuestas como un punto de partida valioso que hay que verificar antes de darlo por bueno o de actuar en consecuencia. Esta cautela es especialmente necesaria en ámbitos donde un error puede causar daño, como la salud y las dosis de medicamentos, las cuestiones legales, las decisiones financieras, los datos que se van a publicar o difundir, o las instrucciones técnicas que pueden dañar sistemas o borrar información, ya que en todos estos casos una alucinación aceptada sin comprobar puede tener efectos serios. La razón es que, como se ha explicado, el modelo genera texto plausible y no consulta hechos verificados, por lo que puede equivocarse o inventar con total seguridad y sin ninguna señal de aviso, y esa posibilidad, aunque se reduzca con buenas prácticas, nunca desaparece del todo. Ahora bien, esto no significa que la inteligencia artificial sea inútil o poco fiable en general, sino que hay que situarla en su papel correcto: el de un asistente extraordinariamente capaz y versátil, muy valioso para redactar textos, explicar conceptos, resumir información, ayudar a programar, generar ideas, traducir o explorar un tema, pero que actúa como un colaborador competente y a la vez falible, no como un oráculo infalible. La forma sensata de trabajar con ella consiste en aprovechar todo su potencial para esas tareas y, al mismo tiempo, mantener el hábito de verificar de manera independiente cualquier afirmación factual que tenga peso, contrastándola con fuentes fiables. También ayuda a mejorar la fiabilidad aportar al modelo las fuentes relevantes en el contexto, pedirle que cite de dónde saca la información y que indique cuando no está seguro. En resumen, sí se puede confiar en la inteligencia artificial como asistente para una enorme variedad de tareas, pero no como fuente de verdad para información importante, donde la verificación externa sigue siendo imprescindible y donde el criterio humano debe tener siempre la última palabra.