Etapa 04 · Gobernanza
Alucinación
Hallucination · Confabulación del Modelo
En una línea
El modelo genera contenido falso con el mismo tono de certeza que el correcto, y no avisa.
En qué etapa del proyecto de LCG aparece
- Análisis Exhaustivo: aplica
- Quick Wins: no aplica
- Estrategia & Estructura: no aplica
- Diseño: aplica
- Capacitación: aplica
- Implementación: aplica
- Documentación: aplica
Al dimensionar el control de cada caso según el costo del error.
La pregunta que habilita
¿Qué pasa en este proceso si la respuesta es falsa y nadie lo nota?
Cómo se controla
Se mide la tasa de error sobre casos reales de resultado conocido y se define el umbral de confianza por debajo del cual el caso escala a una persona en lugar de ejecutarse.
Cómo ayudamos en el proyecto
Cuantificamos el costo del error por proceso: no es el mismo control para redactar un borrador que para liberar un pago.
Origen
Uso en procesamiento de lenguaje desde ~2018; discusión pública masiva a partir de 2022.