Alucinaciones de la IA: qué son y cómo verificar a ChatGPT

Una alucinación de la IA es una respuesta segura y fluida de un chatbot como ChatGPT, Gemini o Claude que es falsa o carece de respaldo, por ejemplo una cita inventada, un enlace roto o una fecha errónea. Ocurre porque los modelos de lenguaje generan texto prediciendo las palabras más probables en lugar de consultar datos. Para verificar una respuesta de IA, comprueba cada fuente, enlace, cifra y cita textual con un original independiente antes de fiarte de ella.

Los chatbots son útiles para redactar, resumir y explicar, y la mayor parte de lo que dicen sobre temas comunes es correcto. El problema es que sus respuestas erróneas se ven exactamente igual que las acertadas. Esta guía explica de dónde vienen las alucinaciones, qué formas suelen adoptar y una rutina práctica para comprobar una respuesta.

Por qué alucinan los grandes modelos de lenguaje

Predicen el siguiente token

Un gran modelo de lenguaje (LLM) se entrena con una enorme cantidad de texto para predecir el siguiente fragmento pequeño de texto, llamado token, a partir de todo lo anterior. Cuando le haces una pregunta, produce la continuación que mejor encaja con los patrones que aprendió. Si los datos de entrenamiento contenían la respuesta muchas veces, lo más probable es que la continuación sea correcta. Si no la contenían, el modelo igualmente produce la continuación de apariencia más plausible, porque nada en el mecanismo básico dice «para, no lo sé».

Por eso las invenciones resultan tan convincentes. Una referencia inventada tiene la forma correcta: nombres de autor realistas, una revista que publica en ese campo, un año razonable y un DOI con el formato adecuado. El modelo ha aprendido mucho mejor cómo son las citas que cuáles existen de verdad.

El entrenamiento premia responder

Después del preentrenamiento, los modelos se ajustan para ser útiles, y tanto los evaluadores humanos como las pruebas automáticas han tendido a premiar una respuesta completa frente a un «no estoy seguro». Investigadores de OpenAI sostuvieron en un artículo de 2025, Why Language Models Hallucinate, que una evaluación que no da ningún punto por abstenerse anima a los modelos a adivinar. Los modelos más nuevos expresan mejor la incertidumbre, pero la tendencia no ha desaparecido.

Fecha de corte del entrenamiento

El conocimiento de un modelo se detiene en su fecha de corte del entrenamiento. Si le preguntas por hechos posteriores, leyes nuevas, precios actuales o la última versión de un programa, un modelo sin acceso a búsqueda puede describir como actual una situación antigua o rellenar el hueco con una conjetura.

Sin recuperación de información por defecto

Si un chatbot no está conectado a la búsqueda web ni a documentos que tú le des, responde solo de memoria. No puede abrir el artículo que cita ni comprobar que una URL funciona. Incluso cuando tiene búsqueda, puede leer mal una página, mezclar dos fuentes o asociar una cita correcta a una afirmación que la fuente no hace.

Tipos comunes de alucinación

Las citas falsas han tenido consecuencias reales. En el caso estadounidense de 2023 Mata v. Avianca, unos abogados fueron sancionados por presentar un escrito con sentencias que ChatGPT había inventado. Desde entonces se han notificado incidentes similares en otros tribunales y en artículos académicos publicados.

Cómo verificar una respuesta de IA paso a paso

No necesitas comprobar cada frase de cada respuesta. Ajusta el esfuerzo a lo que está en juego: una sugerencia de receta necesita menos escrutinio que una afirmación médica, legal o financiera, o que cualquier cosa que vayas a publicar con tu nombre.

1. Extrae las afirmaciones comprobables. Haz una lista de cada referencia, enlace, cifra, fecha, nombre y cita textual. Ahí se esconden la mayoría de las alucinaciones y es donde comprobar es más rápido.
2. Resuelve cada identificador. Abre cada URL, resuelve cada DOI en doi.org y busca cada ISBN e ID de arXiv. Un identificador que falla, o que lleva a otra obra, es una señal de alarma para toda la referencia.
3. Confirma que cada fuente dice lo que se afirma. Un artículo real puede no respaldar la frase a la que se asocia. Lee el resumen, la sección pertinente o el pasaje citado.
4. Contrasta las cifras con fuentes primarias. Ve a la oficina de estadística, al organismo regulador, al informe de la empresa o al estudio original, no a un blog que repite la cifra. Anota la fecha del dato.
5. Rastrea las citas hasta su origen. Busca las palabras exactas entre comillas. Si las únicas fuentes son recopilaciones de citas sin referencia original, considera la cita como no verificada.
6. Vuelve a deducir el razonamiento. Repite los cálculos, prueba el código en un entorno real y comprueba que cada paso se desprende del anterior.
7. Practica la lectura lateral. En las afirmaciones importantes, busca dos fuentes fiables e independientes que coincidan, en lugar de fiarte de una sola.
8. Elimina o señala lo que no puedas verificar. Si una afirmación no se puede confirmar, quítala o márcala claramente como no confirmada.

Nuestro Detector de alucinaciones de IA automatiza los primeros pasos. Pega una respuesta de IA y verificará los DOI en Crossref, comprobará si los enlaces funcionan, revisará los ID de arXiv y los ISBN, examinará las líneas de referencias y enumerará las estadísticas y afirmaciones factuales que aún necesitan una comprobación humana. Te dice qué identificadores son reales; leer la fuente para confirmar que respalda la afirmación sigue siendo cosa tuya.

Prompts que reducen las alucinaciones

La forma de preguntar influye en la frecuencia con la que un modelo se inventa cosas. Estas técnicas ayudan, aunque ninguna hace que una respuesta sea fiable por sí sola.

• Da permiso para no saber. Los modelos admiten con más probabilidad su incertidumbre si se les dice que es aceptable.
• Aporta el material de origen. Pega el documento, el informe o los datos y pide al modelo que responda solo a partir de ellos. Es el cambio más eficaz de todos.
• Pide citas textuales. Exigir una cita literal breve del texto aportado para cada afirmación facilita detectar las que no tienen respaldo.
• Separa los hechos de la inferencia. Pide al modelo que etiquete lo que dicen las fuentes y lo que es razonamiento propio.
• Evita las preguntas capciosas. «¿Qué estudio demostró X?» invita al modelo a producir un estudio. «¿Hay pruebas de X?» deja margen para un «no».
• Pide menos referencias, pero mejores. Las peticiones de listas de lectura largas producen más entradas inventadas.

Un ejemplo de prompt que combina varias de estas técnicas:

Responde usando únicamente el informe pegado abajo.
Para cada afirmación, incluye una cita textual breve del informe que la respalde.
Si el informe no contiene la respuesta, di «No consta en el informe».
No añadas referencias ni cifras que no estén en el informe.

[pega aquí el informe]

Pedirle a un modelo que revise su propia respuesta anterior puede detectar algunos errores, pero con la misma facilidad puede confirmar una invención. Autocomprobarse no sustituye a abrir la fuente.

Cuándo ayudan las herramientas con búsqueda y recuperación

Muchos asistentes pueden ahora buscar en la web o leer archivos que subas antes de responder. Este enfoque, llamado a menudo generación aumentada por recuperación (RAG), da al modelo texto relevante con el que trabajar en lugar de depender de la memoria. Ayuda sobre todo con:

• acontecimientos recientes, precios y versiones publicadas después de la fecha de corte del entrenamiento;
• preguntas sobre un documento, contrato, política o conjunto de datos concreto que tú aportes;
• temas de nicho que aparecieron pocas veces en los datos de entrenamiento.

Basar la respuesta en fuentes recuperadas reduce las fuentes inventadas porque las citas apuntan a páginas que realmente se recuperaron. No garantiza la exactitud. La búsqueda puede devolver una página mala o desactualizada, el modelo puede resumirla mal o puede citar una página real junto a una afirmación que esa página no hace. Trata las citas de una respuesta basada en búsquedas como una lista de lectura que hay que verificar, no como una prueba.

Cuándo hay que extremar el cuidado

• Salud, derecho y dinero. Los errores tienen costes reales, y las normas varían según el país y cambian con el tiempo. Usa la IA para entender las preguntas y confirma después con una guía oficial o un profesional cualificado.
• Todo lo que vayas a publicar o entregar. Tu nombre figura en ello, no el del modelo. Editores, profesores y tribunales consideran las referencias inventadas responsabilidad del autor.
• Temas de nicho o locales. Cuanto menos se haya escrito sobre un tema en internet, menos material tiene el modelo en el que apoyarse.
• Peticiones muy específicas. Los números de página exactos, las citas de sentencias, los artículos de leyes y las estadísticas precisas son especialmente propensos a la invención.

Si estás revisando un texto que ha producido otra persona y sospechas que lo generó una IA, nuestra guía sobre cómo saber si un texto lo ha escrito una IA trata la detección y sus límites, y el Detector de IA puede darte una señal más. Las referencias imposibles de verificar suelen ser una prueba más sólida que cualquier puntuación de un detector.

Preguntas frecuentes

¿Por qué ChatGPT se inventa las fuentes?

Porque genera texto que parece una respuesta probable. Ha aprendido muy bien el formato de las citas, así que cuando no tiene una referencia real puede producir una con autores, títulos e identificadores verosímiles que no corresponden a ninguna publicación real.

¿Cómo puedo comprobar si una referencia de una IA es real?

Busca el título exacto en Google Académico o en un catálogo de biblioteca, resuelve el DOI en doi.org y confirma que coinciden los autores, la revista y el año. Después lee lo suficiente de la fuente para confirmar que respalda la afirmación. Una herramienta como nuestro detector de alucinaciones puede comprobar DOI, ISBN, ID de arXiv y enlaces en bloque.

¿Los modelos de IA más nuevos siguen alucinando?

Sí. Los modelos más nuevos suelen alucinar menos en las preguntas comunes y saben decir mejor cuándo no están seguros, pero todos los modelos actuales pueden seguir produciendo afirmaciones falsas, sobre todo en temas de nicho, acontecimientos recientes y peticiones de detalles exactos.

¿La búsqueda web evita las alucinaciones de la IA?

Las reduce, en particular las fuentes inventadas y los datos desactualizados, pero no las evita. El modelo aún puede leer mal o tergiversar las páginas que encontró, así que abre las páginas citadas y compruébalas.

¿Una alucinación es lo mismo que una mentira?

No. Una mentira implica intención de engañar. Un modelo no tiene intención; produce texto fluido sin una comprobación interna fiable de si ese texto es cierto. El efecto sobre el lector puede ser el mismo, y por eso la verificación importa.