Europarat veröffentlicht Entwurf zu Datenschutz bei LLMs

Der Europarat hat mit der Veröffentlichung eines Entwurfs der Richtlinien für Privatheit und Datenschutz im Kontext von LLM-basierten Systemen vorgelegt. Das Dokument adressiert die spezifischen Herausforderungen, die durch Large Language Models (LLMs) entstehen, und bietet Unternehmen eine methodische Grundlage, um regulatorische Anforderungen der Convention 108+ des Europarats mit technischer Innovation in Einklang zu bringen. In einer Zeit, in der KI-Systeme zunehmend in geschäftskritische Prozesse integriert werden, stellt dieser Entwurf eine notwendige Konkretisierung bestehender Grundsätze dar.

Die Convention 108+ des Councel of Europe

Um die Bedeutung dieser Veröffentlichung einzuordnen, ist ein Blick auf die Institution des Europarates unerlässlich. Als älteste zwischenstaatliche Organisation des europäischen Kontinents, der heute 46 Mitgliedstaaten angehören, widmet sich der Europarat primär dem Schutz der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit.

Er ist rechtlich strikt von der Europäischen Union zu trennen, wobei jedoch alle 27 EU-Mitgliedstaaten ebenfalls Teil des Europarates sind. Das zentrale Instrument im Bereich des Datenschutzes ist die sogenannte Konvention 108, die bereits 1981 als erster rechtlich bindender internationaler Vertrag in diesem Bereich verabschiedet wurde. Deren moderne Fassung, die Konvention 108+ (Convention for the protection of individuals with regard to automatic processing of personal data), dient als technologieneutraler Rahmen, der die Grundlage für viele Prinzipien bildet, die wir heute aus der DSGVO kennen. Während die DSGVO den unmittelbaren gesetzlichen Standard innerhalb der EU definiert, setzt die Konvention 108+ einen Maßstab, der über die EU-Grenzen hinaus die Interoperabilität von Datenschutzstandards fördert.

Die Notwendigkeit spezifischer Richtlinien für LLM-basierte Systeme

Trotz der bewährten Prinzipien der Konvention 108+ erfordern die technischen Besonderheiten von LLMs eine detailliertere Auslegung. Large Language Models zeichnen sich durch eine enorme Opazität, probabilistische statt deterministische Ausgaben sowie eine kontinuierliche Anpassungsfähigkeit aus, was herkömmliche Kontrollmechanismen oft an ihre Grenzen führt. Der Entwurf reagiert auf die Tatsache, dass LLMs nicht nur einfache Werkzeuge sind, sondern tief in komplexe digitale Infrastrukturen eingebettet werden, was neue Risiken für die menschliche Autonomie und die Identitätsbildung mit sich bringt. Insbesondere die Gefahr der unbeabsichtigten Reproduktion personenbezogener Daten aus den Trainingsdatensätzen sowie die Generierung täuschend echter, aber falscher Informationen – die sogenannten Halluzinationen – machen spezifische Leitplanken für Entwickler und Anwender erforderlich.

Auch die deutschen und europäischen Aufsichtsbehörden haben sich vielfältig mit der Frage beschäftigt, wann LLMs personenbezogene Daten verarbeiten. Zu den Veröffentlichungen aus Hamburg, Schleswig-Holstein, Baden-Württemberg, Bayern und der BfDI.

Systematische Risikobewertung durch die IAMM-Methodik

Das Herzstück des Entwurfs bildet die sogenannte IAMM-Methodik, die für „Identify, Assess, Mitigate und Monitor“ steht. Dieser Ansatz operationalisiert die Rechenschaftspflicht aus Artikel 10.2 der Konvention 108+, welcher Verantwortliche dazu verpflichtet, die Auswirkungen einer geplanten Datenverarbeitung bereits vor deren Beginn zu prüfen.

1. Identify: Der Prozess beginnt mit der Identifizierung von Risiken in jeder Phase des KI-Lebenszyklus, von der Datensammlung über das Training bis hin zur Interaktion mit dem Endnutzer.
2. Assess: Darauf folgt eine zweistufige Bewertung, die strikt zwischen Risiken auf der Modell-Ebene und der System-Ebene unterscheidet. Während Modellrisiken oft in der Architektur oder den Trainingsdaten wurzeln, entstehen Systemrisiken erst durch die Integration in Anwendungen, etwa durch APIs oder externe Plugins.
3. Mitigate: Im dritten Schritt müssen angemessene technische und organisatorische Maßnahmen zur Abmilderung ergriffen werden, wobei der Entwurf betont, dass eine Verarbeitung unterlassen oder abgebrochen werden muss, falls Risiken nicht ausreichend beherrschbar sind.
4. Monitor: Schließlich erfordert der probabilistische Charakter der KI eine kontinuierliche Überwachung im laufenden Betrieb, um auch nach der Bereitstellung neu auftretende Gefahren frühzeitig zu erkennen.

Neue Gefahren und agentische KI

Ein besonderes Augenmerk legt der Entwurf auf neuartige Bedrohungsszenarien wie das „Predictive Data-Caging“ und die Entwicklung autonomer Agenten. Unter Predictive Data-Caging versteht man die Fähigkeit von Systemen, das Verhalten und die Absichten von Nutzern durch die Aggregation verschiedenster Datenmodalitäten so präzise vorherzusagen und zu beeinflussen, dass eine subtile Manipulation der Entscheidungsfreiheit stattfindet. Zudem erweitern sogenannte agentische Architekturen, die eigenständig mit anderen Diensten und Datenbanken interagieren können, die Angriffsfläche für Datenlecks und unbefugte Zugriffe erheblich. Auch die zunehmende Verschmelzung von LLMs mit biometrischen Daten oder Neurotechnologien wird als kritisches Feld identifiziert, das eine besonders strenge Zweckbindung und verstärkte Transparenz erfordert.

Fazit

Der Entwurf des Europarates liefert keine abschließenden Antworten auf alle datenschutzrechtlichen und technischen Fragen rund um Large Language Models (LLMs) und agentische KI-Systeme. Sein Ziel ist vielmehr, die damit verbundenen Risiken systematisch zu identifizieren, zu strukturieren und in bestehende Datenschutz- und Governance-Konzepte einzuordnen.

Die dargestellten Anforderungen orientieren sich weitgehend an den bekannten Grundprinzipien der DSGVO und vergleichbarer Datenschutzrahmen. Neu ist insbesondere deren Konkretisierung für die besonderen technischen Eigenschaften von LLMs und agentischen Systemen. Zugleich geben die Leitlinien Hinweise darauf, welche Compliance-Erwartungen Aufsichtsbehörden künftig an Organisationen stellen könnten. Darüber hinaus bieten sie Orientierung für den Datenschutz in Europa auch außerhalb der EU, etwa in der Schweiz, Liechtenstein oder der Türkei.

Insgesamt stellt der Entwurf eine praxisnahe Orientierungshilfe für den datenschutzkonformen Einsatz von LLMs und agentischer KI dar. Er verdeutlicht, dass Datenschutz als kontinuierliche Governance-Aufgabe über den gesamten Lebenszyklus eines Systems verstanden werden muss. Unabhängig davon, ob die DSGVO, die Konvention 108+, das britische Datenschutzrecht oder andere internationale Datenschutzvorschriften Anwendung finden, bleibt eine strukturierte Risiko- und Governance-Strategie der zentrale Baustein für einen rechtskonformen KI-Einsatz. Wir unterstützen Sie bei der Bewertung regulatorischer Anforderungen und deren praktischer Umsetzung.