Fase 2Lección 11 de 21
Cuando la IA se equivoca
Las alucinaciones son invenciones presentadas con total seguridad. Las más peligrosas en tu trabajo:
| Se inventa… | Por qué es grave | Defensa |
|---|---|---|
| datos del negocio: precios, platos, horarios | el cliente publica algo falso | todo dato sale de CONTENIDO.md; lo que falte, [FALTA: …] |
| alérgenos | alguien puede acabar en el hospital | nunca de la IA: los confirma el restaurante, plato por plato |
| opiniones de clientes | es engañoso, y puede ser ilegal | solo reseñas reales, con permiso |
| opciones, funciones, paquetes | código que no funciona, o paquetes maliciosos con nombres "perfectos" | documentación oficial; comprobar que el paquete existe → dependencia |
| "ya está, funciona" | no lo probó | lo pruebas tú |
Y tres parientes de la alucinación que también hay que vigilar:
- Hacer de más: cambios "de regalo" que no pediste.
- Complacencia: si insistes en algo equivocado, puede acabar dándote la razón.
- Tapar síntomas: "arregla" un problema escondiéndolo, en vez de resolver la causa.
La regla de los tres intentos → iteración. Si después de tres vueltas sobre lo mismo no sale, para. Vuelve al último commit bueno, piensa por qué falla (¿tarea grande? ¿faltaba contexto? ¿criterio ambiguo?), /clear, y pídelo mejor explicado o más pequeño. Insistir en la misma conversación casi nunca funciona.
Comprueba que lo entendiste