Wissensbereich / KI- und Agentensicherheit

KI- und Agentensicherheit

Wie lassen sich Kontext, Werkzeuge, Identität und Befugnis sicher verbinden?

LLMs, abgerufener Kontext, Agenten, MCP und die Sicherheitsgrenzen dazwischen.

Niveau
Fortgeschritten
Status
Lerneinheiten verfügbar
Zuletzt geprüft
2026-09-20
Prüfintervall
30 Tage

01 / Überblick

Wie lassen sich Kontext, Werkzeuge, Identität und Befugnis sicher verbinden?

Ein KI-System verbindet ein Modell mit Anwendungsanweisungen, Daten, Identität und Werkzeugen. Das Modell kann vorschlagen oder erklären; das umgebende System muss Befugnisse begrenzen, Ausgaben prüfen und Aussagen auf verifizierte Projektinhalte stützen.

Niveau
Fortgeschritten
Einheiten
1
Geschätzte Zeit
26 min
Das lernst du
    Vorwissen
    • Sicherheitsgrundlagen
    • Identität und Zugriff
    Lernmaterial
    • Visualisierungen: 1
    1. 01Sicherheit von KI und Agenten26 min
    Thema beginnen →

    02 / Lernen

    Lernen

    03 / Konzepte

    Konzepte

    Kontextgrenzeai-context-boundary
    Anweisungen und nicht vertrauenswürdige Daten können denselben Modellkontext erreichen, ohne gleich autoritativ zu werden.
    Werkzeugbefugnisai-tool-authority
    Identität, Rechte und Richtlinie eines Werkzeugaufrufs bestimmen seine reale Wirkung.
    Quellenbindungai-grounding
    Abgerufene Projektinhalte liefern Nachweise; sprachliche Flüssigkeit macht eine Aussage nicht autoritativ.

    06 / Visualisierungen

    Visualisierungen

    07 / Sicherheit

    Sicherheit

    1. Abgerufener Inhalt ist Datenmaterial, keine Autorität. Indirekte Anweisungen in Dokumenten, Seiten und Ergebnissen sind nicht vertrauenswürdige Eingaben.
    2. Die deterministische Lab-Engine — nicht das Tutor-Modell — entscheidet, ob eine Lernaktion erlaubt ist und erfolgreich war.

    08 / Fehlersuche

    Fehlersuche

    1. Wenn eine Erklärung einer Projektquelle widerspricht, bewahre die Quelle, zeige den Konflikt und leite den Inhalt zur Prüfung weiter.

    09 / Kurzchecks

    Kurzchecks

    1. Welche Komponente sollte endgültig über einen Werkzeugaufruf entscheiden?

    10 / Verbindungen

    Verwandte Konzepte

    • Große Sprachmodelle
    • Retrieval-Augmented Generation
    • Prompt Injection
    • Agenten
    • Model Context Protocol

    In Zertifizierungen verwendet

    Diese Links verwenden kanonisches Wissen; die Zertifizierungsseite besitzt oder dupliziert das Thema nicht.

    11 / Ressourcen

    Ressourcen

    12 / Quellen und Aktualität

    Quellen und Aktualität

    Zuletzt geprüft
    2026-09-20
    Prüfintervall
    30 Tage
    Quellenstand
    MCP 2026-07-28 · OWASP GenAI · MITRE ATLAS checked 2026-09-20