Pides a un asistente que resuma una página. Dentro del texto encuentra una frase que intenta cambiar la tarea: ignorar la petición, abrir un enlace o enviar datos a otro sitio. La página debería ser material de consulta; el ataque busca que el sistema la trate como una autoridad.
Ese es el problema de la inyección de prompts. Puede alterar una respuesta sin herramientas externas. Si el sistema accede a archivos, credenciales o servicios, las consecuencias pueden alcanzar las acciones que esos permisos permiten.
Las instrucciones llegan junto al material de trabajo
OWASP distingue la inyección directa, introducida en la interacción con el modelo, de la indirecta, oculta en contenidos consultados. Una página, un adjunto, un comentario en el código o el resultado de una herramienta pueden servir de entrada. En sistemas multimodales, las imágenes y otros formatos también pueden transmitir contenido hostil.
Jailbreak suele describir intentos de saltarse las restricciones del modelo; las categorías pueden solaparse. Es más útil reconocer el riesgo operativo que trazar una separación absoluta entre nombres: material de una fuente menos fiable intenta dirigir el comportamiento del sistema.
Por qué no basta con pedir que ignore esas instrucciones
La jerarquía de mensajes, el entrenamiento, los delimitadores y los filtros pueden reducir algunos ataques. No convierten cada texto consultado en datos incapaces de influir en el modelo. La detección de instrucciones hostiles sigue siendo falible y debe evaluarse en las condiciones reales de uso.
La generación aumentada por recuperación, o RAG, tampoco hace fiable una fuente por definición. Un documento puede ser pertinente para la pregunta sin tener autoridad para cambiar destinatarios, permisos u objetivos. Citarlo no demuestra que sus instrucciones se hayan ignorado.
El daño depende de lo que el sistema puede hacer
Incluso un asistente de solo lectura puede generar un resumen manipulado o revelar datos confidenciales en su respuesta. Un agente con herramientas también puede intentar cambios o envíos no solicitados. Combinar datos privados, contenido no fiable y un canal de salida facilita la exfiltración, pero no todo daño necesita los tres: un permiso de escritura basta para dañar datos locales.
Las defensas deben llegar hasta el punto donde se ejecuta la acción:
- La autorización corresponde al servicio o código que ejecuta la operación, no a la promesa del modelo.
- Las herramientas aceptan operaciones y argumentos acotados; se verifican rutas y destinos.
- Los secretos y datos innecesarios quedan fuera del contexto y de las salidas accesibles.
- Se limita el acceso a red y archivos; un contenedor no protege automáticamente las carpetas sensibles montadas dentro.
En los agentes de IA , estos límites importan antes de aumentar la autonomía. La aprobación humana ayuda más si muestra la acción concreta y los datos afectados, aunque quien revisa también puede equivocarse o aprobar sin prestar atención.
Probar qué ocurre con una fuente hostil
En un entorno de pruebas, usa documentos inocuos que intenten desviar la tarea y observa llamadas a herramientas, destinos y cambios. Comprueba que las operaciones fuera de alcance se rechazan aunque el modelo las proponga. Superar un caso no cubre todas las posibles formulaciones del ataque.
Registra los eventos necesarios sin copiar indiscriminadamente información privada en los registros. Prevé cómo revocar credenciales, detener el proceso y recuperar datos mediante una copia verificada . La privacidad de aplicaciones locales sigue siendo parte del problema: ejecutar el modelo en tu ordenador no elimina la inyección de prompts. Lo decisivo es qué datos puede leer y qué acciones permite realmente el software que lo rodea.
Fuentes
- Prompt Injection ↗ — OWASP · consultado 2026-11-01
- Excessive Agency ↗ — OWASP · consultado 2026-11-01


