Datenschutz bei KI-Agenten: Sicherheit durch Architektur statt Prompting

Tool Use als Angriffsvektor

Der Schutz sensibler Daten wie firmeninternem Wissen oder Kundendaten betrifft beim Einsatz von KI zum einen die Modelle und deren Anbieter, zum anderen aber auch die angebundenen Werkzeuge. Selbst ein sicher gehostetes Modell kann unter dem Einfluss ungeprüfter Informationen Aktionen ausführen, die sensible Informationen an die Außenwelt weitergeben. Das gilt insbesondere für Agentic Workflows.

Das beginnt bereits mit der Anbindung einer Websuche. Benötigt das Modell für eine Aufgabe zusätzliche Informationen, stellt es eine Suchanfrage und offenbart dabei über die Suchbegriffe vertrauliche Informationen. Erlaubt man Modellen zusätzlich, aktiv zu handeln, entstehen viele weitere Wege, auf denen sensible Informationen nach außen gelangen können. Suchergebnisse können das Modell sogar gezielt dazu bringen, Kontextinformationen an böswillige Akteure zu übermitteln.

Warum Prompting allein nicht reicht

Reines Prompting, zum Beispiel mit Abgrenzungsphrasen, kann bis zu einem gewissen Grad Abhilfe schaffen, bietet aber niemals garantierte Sicherheit.

Wirkliche Sicherheit schaffen Architekturen wie Google CaMeL oder Microsoft FIDES, die Informationssicherheit über das Agent Harness garantieren können. Statt auf Prompting setzen diese Systeme auf klare, programmatisch geprüfte Regeln. Diese legen fest, in welche Richtung und in welche Werkzeuge Informationen je nach Sensibilität und Vertrauenswürdigkeit fließen dürfen. Oder sie verhindern grundsätzlich, dass das Sprachmodell nicht vertrauenswürdige Daten überhaupt zu sehen bekommt.

Der Einsatz dieser Frameworks verhindert zwar eine ganze Reihe potenzieller Datenschutzprobleme, senkt aber auch die Erfolgsquote von Agenten deutlich. Den richtigen Weg finden wir deshalb anhand der Anforderungen Ihres Anwendungsfalls an Sicherheit und Aufgabenkomplexität.

Datenschutz beim Modellanbieter

Neben der Sicherheit der anwendungsspezifischen Agent Loop ist natürlich die Informationssicherheit beim Anbieter der KI-Modelle zu betrachten. Je nach Modell und Account-Einstellungen speichern Anbieter Daten nicht nur zur Gewinnung von Trainingsdaten, sondern auch zur Qualitätssicherung und zur Überwachung auf Missbrauch.

Einen Ausweg bieten sogenannte Zero-Data-Retention-Angebote, die zum Beispiel über Amazon Web Services, Microsoft Azure oder die Google Cloud Platform auch innerhalb Europas erhältlich sind. Mit Zero Data Retention garantieren diese Anbieter, dass nach der Bearbeitung einer Anfrage keine Daten gespeichert werden. Reicht selbst das für einen Anwendungsfall nicht aus, bleibt als letzte Option der Einsatz eigener Infrastruktur mit selbst gehosteten KI-Modellen.