OWASP Top 10 para aplicaciones LLM, explicado
Los diez riesgos de seguridad más críticos en aplicaciones basadas en modelos de lenguaje según el OWASP GenAI Security Project, con el control principal para cada uno.
Inyección de instrucciones (Prompt Injection)
Entradas, directas o incluidas en contenido que lee el modelo, que alteran su comportamiento de forma no prevista.
Control: Separar las instrucciones confiables del contenido no confiable, aplicar mínimo privilegio y realizar pruebas adversariales.
Divulgación de información sensible
El modelo revela datos personales, credenciales o información confidencial.
Control: Minimizar los datos expuestos al modelo, filtrar salidas y aplicar control de acceso.
Cadena de suministro
Riesgos introducidos por modelos, conjuntos de datos, plugins y componentes de terceros.
Control: Mantener un inventario, verificar la procedencia y usar artefactos firmados.
Envenenamiento de datos y modelos
Datos de entrenamiento, ajuste o recuperación manipulados que alteran el comportamiento del modelo.
Control: Validar las fuentes de datos, registrar su procedencia y monitorear el comportamiento.
Manejo inadecuado de salidas
Salidas del modelo que se pasan a otros sistemas sin validación.
Control: Tratar la salida del modelo como no confiable y validarla o codificarla antes de usarla.
Agencia excesiva
El modelo tiene más permisos, herramientas o autonomía de lo que requiere su tarea.
Control: Limitar herramientas y permisos y exigir aprobación humana para acciones de alto impacto.
Filtración del system prompt
Exposición de system prompts que contienen lógica sensible o secretos.
Control: No incluir secretos en los prompts y aplicar los controles fuera del modelo.
Debilidades en vectores y embeddings
Debilidades en la generación aumentada por recuperación, como la falta de control de acceso en bases vectoriales.
Control: Aplicar recuperación sensible a permisos y proteger los almacenes de embeddings.
Desinformación
Salidas falsas o engañosas en las que confían usuarios o sistemas.
Control: Basar las respuestas en fuentes verificadas y mantener revisión humana donde importa.
Consumo sin límites
Uso descontrolado de recursos que genera costos, denegación de servicio o extracción del modelo.
Control: Aplicar límites de uso, cuotas y monitoreo.
Fuente: OWASP Top 10 for LLM Applications 2025. Descripciones resumidas por I-314.
Preguntas frecuentes
¿Qué es el OWASP Top 10 para aplicaciones LLM?
Es una lista mantenida por el OWASP GenAI Security Project con los diez riesgos de seguridad más críticos en aplicaciones basadas en modelos de lenguaje. La edición vigente es la de 2025.
¿Existe una versión para agentes de IA?
Sí. OWASP también publica un Top 10 para aplicaciones agénticas, que cubre los riesgos específicos de agentes autónomos y sistemas multiagente.
¿Cómo evaluamos nuestra aplicación frente a esta lista?
Mediante un pentesting o un ejercicio de red team de IA que mapee cada hallazgo a la categoría OWASP correspondiente. AI-Egis cubre el 100% del OWASP LLM y Agentic Top 10.
Evalúe su aplicación LLM frente al OWASP Top 10
I-314 puede evaluar sus sistemas de IA y mapear cada hallazgo a OWASP y MITRE ATLAS.