OWASP LLM03 Supply Chain: qué evaluar en la cadena de IA

Supply Chain en aplicaciones con LLM no se limita a dependencias de código. Incluye modelos, proveedores, datasets, embeddings, plugins, conectores, prompts compartidos, herramientas, pipelines y servicios externos que influyen en la respuesta o en las acciones del sistema.

Qué se debe evaluar

• Inventario de modelos usados: proveedor, versión, región, términos y cambios automáticos.
• Dependencias de librerías, SDKs, plugins y agentes.
• Origen y gobierno de datasets de entrenamiento, fine-tuning o evaluación.
• Fuentes de documentos para RAG y quién puede modificarlas.
• Herramientas conectadas al modelo y permisos concedidos.
• Riesgo contractual y operativo de proveedores externos.

Cómo ponerlo a prueba

• Revisar si existen versiones fijadas o si el sistema consume modelos “latest” sin control.
• Simular compromiso de una fuente de documentos usada por RAG.
• Analizar permisos de plugins y conectores: qué pueden leer, escribir o ejecutar.
• Ejecutar SCA sobre dependencias del backend, frontend y pipelines de IA.
• Validar que cambios de modelo o proveedor requieran revisión antes de producción.
• Pedir evidencia de seguridad a proveedores críticos: reportes, certificaciones o controles.

Evidencia de control

Debe existir un inventario actualizado, responsables por componente, control de cambios y una ruta de rollback. Para RAG, la evidencia debe mostrar origen, integridad, permisos y fecha de actualización de cada fuente relevante.

La cadena de suministro de IA se controla con trazabilidad. Si el equipo no sabe qué alimenta o extiende al modelo, no puede defenderlo.

Fuente base: OWASP Top 10 for LLM Applications 2025, LLM03 Supply Chain.