Etapa 04 · Gobernanza
Explicabilidad
Explainability · XAI (Explainable AI) · IA Explicable
En una línea
Poder explicar por qué el sistema decidió lo que decidió: qué factores pesaron y qué evidencia usó.
En qué etapa del proyecto de LCG aparece
- Análisis Exhaustivo: aplica
- Quick Wins: no aplica
- Estrategia & Estructura: no aplica
- Diseño: aplica
- Capacitación: aplica
- Implementación: no aplica
- Documentación: aplica
En industrias reguladas es requisito normativo; en el resto, requisito de mejora continua.
La pregunta que habilita
¿Podemos defender esta decisión ante un cliente, un auditor o un regulador?
Cómo se controla
Las decisiones de alto impacto archivan junto con el resultado qué factores pesaron y qué evidencia se usó, en términos comprensibles para quien deba defenderla.
Cómo ayudamos en el proyecto
Sin entender la causa no hay contramedida posible: exigimos explicación donde la decisión pesa.
Origen
Programa XAI de DARPA (David Gunning, 2016); métodos de referencia como LIME (Ribeiro et al., 2016).