Verbreitete KI-Chatbots verarbeiten täglich hochsensible Unternehmens- und Nutzerdaten, während wissenschaftliche Untersuchungen offenlegen, dass vertrauliche Eingaben keineswegs isoliert verbleiben. Die Untersuchung „Prompt like a Butterfly, Sting like a Tracker“ belegt, dass zahlreiche Chatbot-Anbieter verhaltens- und inhaltsbezogene Artefakte wie generierte Chat-Titel, Prompts oder Permalinks an Drittanbieter und Werbenetzwerke weiterleiten. Für die Praxis bedeutet das, dass Unternehmen die Vertraulichkeit von KI-Interaktionen grundlegend neu bewerten müssen.
Unsichtbarer Datenabfluss durch Drittanbieter und Tracking-Infrastrukturen
Die Einbindung traditioneller Web- und Mobile-Tracker führt dazu, dass Drittanbieter selbst bei Ablehnung nicht-essentieller Cookies teilweise aktiv bleiben und Daten empfangen. Übermittelt werden nicht nur technische Metadaten, sondern spezifische Konversationsartefakte wie automatisch erzeugte Themensequenzen oder direkte Chat-URLs. Werden diese Informationen mit persistenten Nutzer-Identifikatoren wie gehashten E-Mail-Adressen oder Tracking-Cookies zusammengeführt, entsteht ein detailliertes Bild des individuellen Nutzungsverhaltens. Das bloße Kappen von IP-Adressen und Metadaten über Proxy-Dienste schützt nicht vor einer reinen Text- und Fingerprint-Re-Identifikation.
Die technischen Befunde verdeutlichen damit, dass reine Browservorkehrungen keinen verlässlichen Schutz bieten, auch wenn für viele Unternehmen Anonymisierungs-Proxies bislang als ausreichende Lösung galten.
Memorisierung und die Grenzen der Anonymisierung in KI-Systemen
Neben dem direkten Abfluss über Schnittstellen besteht das Risiko, dass personenbezogene Daten in den Modellparametern generativer Sprachmodelle dauerhaft verbleiben. In der Vergangenheit haben Datenschutzbehörden klarstellt, dass ein Personenbezug in LLMs nicht pauschal ausgeschlossen werden kann. Dies stützen auch die EDSA-Leitlinien zur Pseudonymisierung, die betonen, dass pseudonymisierte Daten weiterhin dem vollen Schutzbereich der DSGVO unterliegen und strikte technische wie organisatorische Sicherungen erfordern. Für die Praxis bedeutet das, dass Unternehmen bereits vor der Eingabe von Daten in KI-Modelle strikte Filter- und Anonymisierungsstandards etablieren müssen.
Öffentlich zugängliche Chat-Links und Sicherheitsrisiken
Ein zusätzliches Gefährdungspotenzial entsteht durch die Generierung von Permalinks und Chat-Freigaben, die bei einzelnen Anbietern ohne ausreichende Zugriffskontrollen öffentlich aufrufbar sind. Sobald solche Links erstellt werden, erhalten eingebundene Drittanbieter-Skripte vollen Einblick in den Verlauf und die eingegebenen Sachverhalte. Zudem belegen wissenschaftliche Canary-Tests, dass frei zugängliche Konversations-Ressourcen im Netz systematisch durch automatisierte Scraper und externe Systeme abgefragt werden. Für Unternehmen schafft dies Handlungsbedarf bei den internen IT-Sicherheits- und Freigaberichtlinien für Chatbot-Anwendungen.
Schlussfolgerungen und Handlungsbedarf für Unternehmen
Verantwortliche Stellen dürfen sich nicht auf pauschale Anonymitätsversprechen von KI-Plattformen oder vorgeschalteten Tools verlassen. Zwingend erforderlich ist der Abschluss rechtssicherer Auftragsverarbeitungsverträge nach Art. 28 DSGVO, welche die Nutzung von Eingaben zu Trainingszwecken sowie die Weitergabe an Dritte vertraglich ausschließen. Ergänzend müssen Unternehmen verbindliche Richtlinien zur Datenminimierung durchsetzen und Mitarbeiter dahingehend schulen, keine geschäftsrelevanten oder personenbezogenen Details in Chat-Fenster einzugeben. Im Rahmen von Datenschutz-Folgenabschätzungen sind zudem semantische Verhaltensmuster als Risiko für Profilbildungen zu berücksichtigen. Für die organisatorische Praxis bedeutet das, dass technische Schutzmaßnahmen stets durch verbindliche Richtlinien und regelmäßige Audits ergänzt werden müssen.
Fazit
Die Praxis der Datenweitergabe zeigt eindringlich, dass KI-Chatbots nahtlos in das bestehende Online-Tracking-Ökosystem integriert sind. Da vorgeschaltete Anonymisierungs-Proxies keine verlässliche Vertraulichkeit garantieren, bleibt eine strukturierte KI-Governance die einzige tragfähige Schutzmaßnahme für Unternehmen. Das Thema erfordert von Unternehmen eine vorausschauende Absicherung, auch wenn für viele Betriebe die genaue Rechtsentwicklung noch Unwägbarkeiten birgt.
KI-Compliance aus einer Hand
Künstliche Intelligenz rechtssicher nutzen & entwickeln
- KINAST KI-Beratung
- KINAST externer KI-Beauftragter
- KINAST KI-Kompetenz-Schulungen
