OWASP LLM02 Sensitive Information Disclosure: qué evaluar y cómo probar fugas

Sensitive Information Disclosure aparece cuando una aplicación con LLM expone datos que no debería revelar: información personal, secretos, credenciales, datos internos, contexto de otros usuarios o contenido recuperado sin autorización.

Qué se debe evaluar

• Qué datos entran al prompt y por qué.
• Si existen datos sensibles en memoria, historial, logs o trazas.
• Si el RAG respeta permisos por usuario, tenant y documento.
• Si el sistema redacciona o minimiza datos antes de enviarlos al modelo.
• Si proveedores externos reciben datos regulados o confidenciales.
• Si el prompt de sistema contiene secretos, tokens o información operativa sensible.

Cómo ponerlo a prueba

• Solicitar datos de otro usuario, otro cliente o documentos fuera del rol asignado.
• Probar extracción gradual: pedir resúmenes, ejemplos, fragmentos y luego detalles completos.
• Usar prompts de “debug”, “auditoría” o “modo administrador” para intentar revelar contexto.
• Revisar logs y trazas para confirmar que no almacenan secretos ni datos personales innecesarios.
• Probar documentos con datos sensibles y verificar si la respuesta aplica minimización.
• Validar que respuestas con datos personales tengan base funcional y autorización real.

Evidencia de control

Debe existir trazabilidad de qué fuentes fueron consultadas, qué filtros de autorización se aplicaron y qué datos fueron enviados al modelo. También debe haber pruebas negativas: usuarios sin permiso no pueden obtener datos aunque formulen preguntas indirectas.

Un buen cierre incluye clasificación de datos, redacción automática cuando aplique y políticas claras de retención de logs.

Fuente base: OWASP Top 10 for LLM Applications 2025, LLM02 Sensitive Information Disclosure.