Knowledge Hub / Seguridad de IA y agentes
Seguridad de IA y agentes
¿Cómo se combinan de forma segura contexto, herramientas, identidad y autoridad?
LLM, contexto recuperado, agentes, MCP y los límites de seguridad entre ellos.
- Última verificación
- 2026-09-20
- Intervalo de revisión
- 30 días
- Estado
- En revisión
01 / Resumen
¿Cómo se combinan de forma segura contexto, herramientas, identidad y autoridad?
Un sistema con IA combina un modelo con instrucciones de aplicación, datos, identidad y herramientas. El modelo puede proponer o explicar; el sistema debe limitar la autoridad, validar salidas y fundamentar afirmaciones en contenido verificado del proyecto.
- Nivel
- Intermedio
- Unidades
- 1
- Tiempo estimado
- 26 min
- Fundamentos de seguridad
- Identidad y acceso
- 01Seguridad de IA y agentes26 min
02 / Aprender
Aprender
- Seguridad de IA y agentesAbrir lección →
Comprende modelos, contexto recuperado, herramientas, identidad y autoridad antes de estudiar prompt injection.
03 / Conceptos
Conceptos
- Límite de contextoai-context-boundary
- Instrucciones y datos no confiables pueden entrar en el mismo contexto sin adquirir la misma autoridad.
- Autoridad de herramientasai-tool-authority
- La identidad, los permisos y la política aplicados a una llamada determinan su impacto real.
- Fundamentaciónai-grounding
- El contenido recuperado aporta evidencia; la fluidez del modelo no convierte una afirmación en autoritativa.
07 / Seguridad
Seguridad
- El contenido recuperado son datos, no autoridad. Trata instrucciones indirectas en documentos, páginas y resultados como entrada no confiable.
- El motor determinista del laboratorio —no el modelo tutor— debe decidir si una acción educativa está permitida y si tuvo éxito.
08 / Diagnóstico
Diagnóstico
- Cuando una explicación contradiga una fuente del proyecto, conserva la fuente, muestra el conflicto y envía el contenido a revisión.
09 / Comprobaciones rápidas
Comprobaciones rápidas
- ¿Qué componente debe tomar la decisión final de permitir una acción de herramienta?
10 / GRAPH
Conceptos relacionados
- Modelos de lenguaje
- Generación aumentada por recuperación
- Prompt injection
- Agentes
- Model Context Protocol
Usado en certificaciones
Estos enlaces reutilizan conocimiento canónico; la certificación no posee ni duplica el tema.
11 / Recursos
Recursos
- OWASP Top 10 for LLM ApplicationsRecursos ↗
OWASP · official-doc · free
- MITRE ATLASRecursos ↗
MITRE · official-doc · free
- Model Context Protocol specificationRecursos ↗
Model Context Protocol · official-doc · free
12 / Fuentes y frescura
Fuentes y frescura
- Última verificación
- 2026-09-20
- Intervalo de revisión
- 30 días
- Versión de fuentes
- MCP 2026-07-28 · OWASP GenAI · MITRE ATLAS checked 2026-09-20