AEPD warnt vor Datenabfluss ganzer Chats bei KI-Diensten

Die spanische Datenschutzbehörde AEPD hat den Europäischen Datenschutzausschuss über die Ergebnisse einer neuen Untersuchung des Forschungsinstituts Imdea Networks informiert. Die Studie legt offen, dass führende KI-Dienste wie ChatGPT, Claude, Grok und Perplexity strukturelle Schwachstellen aufweisen, die zu einem ungewollten Abfluss von Nutzergesprächen an Drittanbieter führen. Diese Entwicklung rückt die Frage der Vertraulichkeit bei der Nutzung generativer KI erneut in das Zentrum der privaten sowie unternehmerischen Risikobewertung.

Strukturelle Mängel bei der Zugriffskontrolle und Datenweitergabe

Die Untersuchung identifizierte als zentrales Problem die Einbindung von Trackern von Unternehmen wie Meta, Google und TikTok direkt in die Web-Interfaces der KI-Assistenten. Besonders kritisch bewerten die Forscher die Übermittlung von permanenten Gesprächslinks (Permalinks) an diese Drittanbieter. Da diese Links oft nur schwache Zugriffskontrollen besitzen oder teilweise sogar öffentlich ohne Login zugänglich sind, erhalten die Empfänger der Tracking-Daten technisch die Möglichkeit, auf die vollständigen Inhalte der Konversationen zuzugreifen. Bei dem Dienst Grok wurden zudem Metadaten und Screenshots entdeckt, welche die Textinhalte der Nachrichten direkt an externe Tracker exponieren.

Unsichtbare Überwachung durch Server-Side Tracking

Ein weiteres erhebliches Risiko stellt das sogenannte Server-Side Tracking dar, bei dem Daten nicht im Browser des Nutzers, sondern direkt zwischen den Servern der Anbieter ausgetauscht werden. Diese Methode wird unter anderem bei Claude und Grok eingesetzt, um Nutzerereignisse an eine Vielzahl von Werbeplattformen weiterzuleiten. Da diese Kommunikation im Hintergrund stattfindet, bleibt sie für herkömmliche Ad-Blocker oder Privatsphäre-Einstellungen im Browser unsichtbar. Somit kann sie von diesen auch nicht unterbunden werden. Durch Techniken wie das ID-Bridging werden zudem anonyme Interaktionen mit eindeutigen Nutzeridentitäten wie E-Mail-Hashes verknüpft, was eine umfassende Profilbildung ermöglicht.

Nutzer über Datennutzung unzureichend informiert

Die Autoren zeigen zudem, dass einige KI-Dienste Datenschutzmaßnahmen anbieten, deren tatsächliches Schutzniveau für Nutzer irreführend sein kann. „Datenschutzerklärungen erwähnen zwar den Einsatz von Werbetrackern und den Datenaustausch mit Geschäftspartnern, machen jedoch nicht deutlich, dass unter Umständen auch Inhalte von Nutzergesprächen Teil der übermittelten Informationen sein können“, erklärt Guillermo Suárez-Tangil.

Aus datenschutzrechtlicher Sicht stoßen insbesondere zwei Probleme auf:

• Einerseits das Fehlen einer klaren rechtlichen Grundlage für diesen Datenaustausch;
• andererseits die unzureichenden Informationen, die den Nutzern bereitgestellt werden.

Laut dem Anwalt und Datenschutzbeauftragten Jorge García Herrero, der an der Studie mitarbeitete, verdiene die Warnung, dass unsere sensibelsten Informationen möglicherweise die Werbebranche erreichen, die gleiche Aufmerksamkeit wie der allgegenwärtige Hinweis „KI kann Fehler machen, bitte überprüfen Sie Antworten“, der in jeder Schnittstelle zu finden ist, um die Haftung bei Problemen zu begrenzen.

Bedeutung für Unternehmen und private Nutzer

Für Unternehmen entsteht durch diese Praktiken ein unkalkulierbares Risiko für den Schutz von Geschäftsgeheimnissen und geistigem Eigentum. Wenn Mitarbeiter sensible Daten oder internen Quellcode in KI-Systeme eingeben, könnten diese Informationen über die beschriebenen Lecks in die Werbeökosysteme von Drittstaaten abfließen. Private Nutzer gefährden zudem ihre Privatsphäre in besonders sensiblen Bereichen, da sie KI-Tools oft als vertrauenswürdige Berater für gesundheitliche oder persönliche Probleme nutzen. Die Studie zeigt, dass selbst das Ablehnen von nicht-essenziellen Cookies bei einigen Anbietern nicht ausreicht, um den Abfluss von Gesprächs-Metadaten vollständig zu stoppen.

Fazit für die Praxis

Die Erkenntnisse der Studie verdeutlichen, dass die datengetriebenen Geschäftsmodelle des herkömmlichen Webs nahtlos in die Welt der KI-Assistenten übertragen wurden. Organisationen sollten daher dringend prüfen, ob die genutzten Web-Interfaces ihrer KI-Dienstleister den internen Compliance-Anforderungen entsprechen. Falls nicht müssen intern weitere technische Schutzschichten wie lokale Anonymisierungs-Tools eingesetzt werden. Eine bloße Berufung auf die Datenschutzerklärungen der Anbieter erscheint angesichts der nachgewiesenen, teils ungenau deklarierten Datenflüsse als nicht ausreichend für eine rechtssichere Nutzung.