Centro de conocimiento / Seguridad de IA y agentes

Seguridad de IA y agentes

¿Cómo se combinan de forma segura contexto, herramientas, identidad y autoridad?

LLM, contexto recuperado, agentes, MCP y los límites de seguridad entre ellos.

Nivel
Avanzado
Estado
Unidades de aprendizaje disponibles
Última verificación
2026-09-20
Intervalo de revisión
30 días

01 / Resumen

¿Cómo se combinan de forma segura contexto, herramientas, identidad y autoridad?

Un sistema con IA combina un modelo con instrucciones de aplicación, datos, identidad y herramientas. El modelo puede proponer o explicar; el sistema debe limitar la autoridad, validar salidas y fundamentar afirmaciones en contenido verificado del proyecto.

Nivel
Avanzado
Unidades
1
Tiempo estimado
26 min
Qué aprenderás
    Qué saber antes
    • Fundamentos de seguridad
    • Identidad y acceso
    Material de aprendizaje
    • Visuales: 1
    1. 01Seguridad de IA y agentes26 min
    Empezar tema →

    02 / Aprender

    Aprender

    03 / Conceptos

    Conceptos

    Límite de contextoai-context-boundary
    Instrucciones y datos no confiables pueden entrar en el mismo contexto sin adquirir la misma autoridad.
    Autoridad de herramientasai-tool-authority
    La identidad, los permisos y la política aplicados a una llamada determinan su impacto real.
    Fundamentaciónai-grounding
    El contenido recuperado aporta evidencia; la fluidez del modelo no convierte una afirmación en autoritativa.

    06 / Visuales

    Visuales

    07 / Seguridad

    Seguridad

    1. El contenido recuperado son datos, no autoridad. Trata instrucciones indirectas en documentos, páginas y resultados como entrada no confiable.
    2. El motor determinista del laboratorio —no el modelo tutor— debe decidir si una acción educativa está permitida y si tuvo éxito.

    08 / Diagnóstico

    Diagnóstico

    1. Cuando una explicación contradiga una fuente del proyecto, conserva la fuente, muestra el conflicto y envía el contenido a revisión.

    09 / Comprobaciones rápidas

    Comprobaciones rápidas

    1. ¿Qué componente debe tomar la decisión final de permitir una acción de herramienta?

    10 / Conexiones

    Conceptos relacionados

    • Modelos de lenguaje
    • Generación aumentada por recuperación
    • Prompt injection
    • Agentes
    • Model Context Protocol

    Usado en certificaciones

    Estos enlaces reutilizan conocimiento canónico; la certificación no posee ni duplica el tema.

    11 / Recursos

    Recursos

    12 / Fuentes y frescura

    Fuentes y frescura

    Última verificación
    2026-09-20
    Intervalo de revisión
    30 días
    Versión de fuentes
    MCP 2026-07-28 · OWASP GenAI · MITRE ATLAS checked 2026-09-20