Etapa 04 · Gobernanza
Prompt Injection
Inyección de Instrucción
En una línea
Instrucciones hostiles escondidas en el contenido que el agente procesa: hace lo que le piden, pero quien pide es el atacante.
En qué etapa del proyecto de LCG aparece
- Análisis Exhaustivo: aplica
- Quick Wins: no aplica
- Estrategia & Estructura: no aplica
- Diseño: aplica
- Capacitación: aplica
- Implementación: aplica
- Documentación: aplica
Se controla validando la fuente antes de procesarla, con criterio de recepción.
La pregunta que habilita
¿Qué entradas externas procesa este agente y quién responde por su origen?
Cómo se controla
Se valida el origen de cada entrada externa antes de procesarla y se bloquean las acciones sensibles cuando el disparador viene de contenido externo.
Cómo ayudamos en el proyecto
Aplicamos el mismo criterio con que se valida materia prima antes de meterla al proceso.
Origen
Término acuñado por Simon Willison (2022); riesgo destacado en los principales marcos de seguridad de LLM.