Ein Dokument soll einer KI Informationen liefern. Es kann jedoch auch Text enthalten, der versucht, die Antwort zu beeinflussen. Ein denkbares Beispiel ist eine fremde Unterlage, die neben Sachinformationen eine Aufforderung enthält, bestimmte Angaben auszulassen.
Bei Prompt Injection im Unternehmenswissen geht es deshalb um mehr als fachliche Aktualität. Sie sollten prüfen, wer Inhalte beeinflussen kann und welche Folgen eine manipulierte Antwort hätte.
Fehlerhafte Information und eingeschleuste Anweisung unterscheiden
Eine veraltete Zahl kann zu einer falschen Antwort führen. Eine eingeschleuste Anweisung versucht dagegen, das Verhalten des Systems umzulenken.
Das britische National Cyber Security Centre erläuterte am 8. Dezember 2025, dass Sprachmodelle innerhalb eines Prompts keine verlässliche Sicherheitsgrenze zwischen Anweisungen und Daten erzwingen. Fremdinhalte können dadurch als Handlungsanweisung wirksam werden. Die Behörde empfiehlt, Wahrscheinlichkeit und Auswirkungen solcher Angriffe zu begrenzen und verbleibende Risiken zu berücksichtigen (NCSC: Prompt injection is not SQL injection).
Daraus folgt keine Aussage, dass jede Schutzmaßnahme wirkungslos wäre. Für die Freigabe zählt, welche Wirkung unter den vorgesehenen Bedingungen nachgewiesen und welche Unsicherheit noch offen ist.
Wissensquellen nach Herkunft bewerten
Erfassen Sie für relevante Quellen, woher die Inhalte stammen und wer sie verändern kann. Der Speicherort allein beantwortet diese Frage nicht: Eine interne Ablage kann beispielsweise externe Anhänge enthalten.
Eine Quellenübersicht kann festhalten:
- Herkunft und zuständige Stelle
- Bearbeitungs- und Importmöglichkeiten
- Enthaltene Fremdinhalte
- Vorgesehener Verwendungszweck
- Folgen einer verfälschten Antwort
Diese Angaben ergänzen die fachliche Prüfung auf Vollständigkeit und Aktualität. Weitere Grundlagen beschreibt der Beitrag Implizites Wissen und KI.
Manipulierte Inhalte in die Abnahme aufnehmen
Prüfen Sie zunächst typische Aufgaben mit unveränderten Dokumenten. Ergänzen Sie anschließend gezielt veränderte Testversionen, die beispielsweise zur Auslassung einer Information oder zur Übernahme einer unbelegten Aussage auffordern.
Halten Sie fest, welches Verhalten erwartet wird und was tatsächlich geschieht. Testen Sie mit der vorgesehenen Kombination aus Suche, Dokumentenverarbeitung und Modell. Ein isolierter Modelltest bildet nicht automatisch die spätere Anwendung ab.
Bewahren Sie solche Testunterlagen getrennt von produktiven Wissensbeständen auf. Sie dienen einer kontrollierten Prüfung.
Grenzen aus den Befunden ableiten
Wenn relevante Manipulationen wirksam werden, prüfen Sie Einschränkungen des Einsatzes. Mögliche Entscheidungen sind eine Begrenzung der Quellen, zusätzliche Prüfung vor Weiterverwendung oder der vorläufige Ausschluss bestimmter Aufgaben.
Eine bestandene Testreihe ist ebenfalls begrenzt aussagekräftig. Dokumentieren Sie, welche Quellen, Angriffsvarianten und Systemstände geprüft wurden. Legen Sie fest, welche Änderungen eine erneute Bewertung auslösen.
Die allgemeinen Maßstäbe für Abnahmekriterien erläutert der Beitrag KI-Anforderungen am Fachbedarf ausrichten.
Fazit
Die Eignung einer Wissensquelle hängt auch davon ab, wer ihre Inhalte beeinflussen kann. Berücksichtigen Sie diese Frage bei Quellenfreigabe und Abnahme.
Kontrollierte Tests helfen, konkrete Schwächen sichtbar zu machen. Die Einsatzentscheidung muss ihre Grenzen und verbleibende Risiken einbeziehen.
Häufig gestellte Fragen
Bereit für klare KI-Entscheidungen?
Lassen Sie uns gemeinsam herausfinden, wie klar | KI Sie bei Ihrem KI-Projekt unterstützen kann.
Erstgespräch anfragen
