Alucinación
Cuando la IA se inventa algo —un dato, una función, una opción, un paquete— y lo presenta con la misma seguridad que si fuera cierto.
✦Apagada: responde bien la pregunta del final para encenderla
También lo verás como: alucinación · alucinaciones · la IA se inventa · invención · complacencia
Analogía
El invitado que nunca dice "no sé": si no conoce la respuesta, improvisa una que suena bien. No miente a propósito; produce lo más plausible.
Por qué pasa
Un modelo de lenguaje genera texto probable. Si no tiene el dato, lo más probable es un dato inventado con buena pinta.
Dónde aparece más
| Qué se inventa | Ejemplo | Cómo detectarlo |
|---|---|---|
| Datos del cliente | precios, platos, alérgenos, horarios, opiniones | todo dato del negocio tiene que estar en tu archivo de contenido |
| Funciones u opciones | un ajuste de configuración que no existe | buscarlo en la documentación oficial |
| Paquetes | una librería con un nombre perfecto que no existe | comprobarla antes de instalar → dependencia |
| Hechos que cambian | precios de servicios, versiones, límites de planes gratuitos | la web oficial del servicio, siempre |
| "Ya funciona" | da por terminado algo que no probó | probarlo tú |
Sus primos (también hay que vigilarlos)
- Complacencia: si insistes en algo equivocado, puede acabar dándote la razón. Si te la da muy rápido, desconfía.
- Hacer de más: cambios que no pediste, "para mejorar" → alcance
- Tapar síntomas: "arregla" un error escondiéndolo, en vez de resolver la causa.
La defensa
- Los datos del negocio, en un archivo. Y una regla en el CLAUDE.md: "no inventes datos; si falta algo, pregunta o deja
[FALTA: …]". - Lo verificable se verifica, en la fuente oficial.
- Pregúntale qué dio por supuesto: suele confesarlo.
Un paso más: cómo huele una invención
No hay una alarma, pero sí señales que deberían hacerte comprobar:
- Demasiado concreto para no haberlo mirado: una cifra exacta, una versión, un nombre de menú, sin haber buscado ni leído nada.
- Encaja demasiado bien: justo existe una opción que hace exactamente lo que pedías.
- Detalles de relleno plausibles: un teléfono, una dirección, una reseña con nombre y apellido.
- Cambia al repetir: preguntas lo mismo en una conversación nueva y el dato es otro.
La pregunta que más rinde: "¿De dónde sale ese dato? ¿Lo leíste en algún archivo, o lo estás suponiendo?". Suele responder con honestidad.
Y la defensa de fondo no es desconfiar de todo, sino quitarle la ocasión: si el dato está en un archivo que le diste, no necesita inventarlo.
En la carta que generó la IA aparece un plato que no estaba en tu CONTENIDO.md. ¿Qué es y qué haces?
Ver también
revisión de código · modelo de lenguaje · la checklist de revisión