Knowledge Hub / KI- und Agentensicherheit
KI- und Agentensicherheit
Wie lassen sich Kontext, Werkzeuge, Identität und Befugnis sicher verbinden?
LLMs, abgerufener Kontext, Agenten, MCP und die Sicherheitsgrenzen dazwischen.
- Zuletzt geprüft
- 2026-09-20
- Prüfintervall
- 30 Tage
- Status
- In Prüfung
01 / Überblick
Wie lassen sich Kontext, Werkzeuge, Identität und Befugnis sicher verbinden?
Ein KI-System verbindet ein Modell mit Anwendungsanweisungen, Daten, Identität und Werkzeugen. Das Modell kann vorschlagen oder erklären; das umgebende System muss Befugnisse begrenzen, Ausgaben prüfen und Aussagen auf verifizierte Projektinhalte stützen.
- Niveau
- Mittel
- Einheiten
- 1
- Geschätzte Zeit
- 26 min
- Sicherheitsgrundlagen
- Identität und Zugriff
- 01Sicherheit von KI und Agenten26 min
02 / Lernen
Lernen
- Sicherheit von KI und AgentenLektion öffnen →
Verstehe Modelle, abgerufenen Kontext, Werkzeuge, Identität und Befugnisse vor Prompt Injection.
03 / Konzepte
Konzepte
- Kontextgrenzeai-context-boundary
- Anweisungen und nicht vertrauenswürdige Daten können denselben Modellkontext erreichen, ohne gleich autoritativ zu werden.
- Werkzeugbefugnisai-tool-authority
- Identität, Rechte und Richtlinie eines Werkzeugaufrufs bestimmen seine reale Wirkung.
- Quellenbindungai-grounding
- Abgerufene Projektinhalte liefern Nachweise; sprachliche Flüssigkeit macht eine Aussage nicht autoritativ.
07 / Sicherheit
Sicherheit
- Abgerufener Inhalt ist Datenmaterial, keine Autorität. Indirekte Anweisungen in Dokumenten, Seiten und Ergebnissen sind nicht vertrauenswürdige Eingaben.
- Die deterministische Lab-Engine — nicht das Tutor-Modell — entscheidet, ob eine Lernaktion erlaubt ist und erfolgreich war.
08 / Fehlersuche
Fehlersuche
- Wenn eine Erklärung einer Projektquelle widerspricht, bewahre die Quelle, zeige den Konflikt und leite den Inhalt zur Prüfung weiter.
09 / Kurzchecks
Kurzchecks
- Welche Komponente sollte endgültig über einen Werkzeugaufruf entscheiden?
10 / GRAPH
Verwandte Konzepte
- Große Sprachmodelle
- Retrieval-Augmented Generation
- Prompt Injection
- Agenten
- Model Context Protocol
In Zertifizierungen verwendet
Diese Links verwenden kanonisches Wissen; die Zertifizierungsseite besitzt oder dupliziert das Thema nicht.
11 / Ressourcen
Ressourcen
- OWASP Top 10 for LLM ApplicationsRessourcen ↗
OWASP · official-doc · free
- MITRE ATLASRessourcen ↗
MITRE · official-doc · free
- Model Context Protocol specificationRessourcen ↗
Model Context Protocol · official-doc · free
12 / Quellen und Aktualität
Quellen und Aktualität
- Zuletzt geprüft
- 2026-09-20
- Prüfintervall
- 30 Tage
- Quellenstand
- MCP 2026-07-28 · OWASP GenAI · MITRE ATLAS checked 2026-09-20