DSK: KI als zentrales Thema

Die Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK) haben sich erneut getroffen, um die Auswirkungen von Künstlicher Intelligenz (KI) auf die Rechte der betroffenen Personen zu diskutieren. Dabei sieht die DSK KI weiterhin als ein zentrales Thema an. Insbesondere im Hinblick auf große Sprachmodelle sehen die Datenschützer laut ihrer Pressemitteilung vom 02.09.2024 dringenden Handlungsbedarf.

Strategieklausur in Speyer

Infolge einer Einladung des Landesbeauftragten für den Datenschutz und die Informationsfreiheit Rheinland-Pfalz, Dieter Kugelmann, trafen sich die Vertreter der verschiedenen deutschen Datenschutzbehörden am vergangenen Wochenende zur „Erörterung strategischer Fragen“ in Speyer. Hierbei sollten Grundsatzfragen und „Impulse für die Fortentwicklung des Datenschutzes“ analysiert werden.

Neben dem Schwerpunkt des Einsatzes von KI beschäftigte sich die Tagung auch mit der vom Europäischen Gerichtshof vorgenommenen Unterscheidung zwischen anonymen und personenbezogenen Daten. Zudem thematisierte die Gruppe den Einsatz biometrischer Gesichtserkennung in der Strafverfolgung und die ersten Anpassungen der Landeskrankenhausgesetze zur Nutzung von Gesundheitsdaten zu Forschungszwecken.

Datenschutzrechtliche Probleme bei KI-Modellen

KI, insbesondere generative Modelle wie Large Language Models (LLMs), verarbeitet große Mengen an Daten, einschließlich personenbezogener Informationen. Dieser Umstand birgt erhebliche Risiken für den Datenschutz. Als konkretes und aktuelles Beispiel verwies die DSK in ihrer Pressemitteilung auf den Fall eines Gerichtsberichterstatters, der durch Microsofts Copilot fälschlicherweise als Krimineller dargestellt wurde. Solche Vorfälle verdeutlichen die potenziellen Gefahren einer unzureichenden Regulierung im Bereich der KI. Bereits im Mai hatte die Bürgerrechtsorganisation Noyb diesbezüglich eine Beschwerde erhoben, da ChatGPT falsche Informationen beinhalte und das Unternehmen diese nicht korrigiere, da dies technisch nicht möglich sei.

Fehlende spezifische Datenschutzanforderungen

Der Datenschutzbeauftragte Hessens und Vorsitzender der DSK, Alexander Rossnagel, betont, dass diesbezüglich konkrete und klare Vorgaben bislang fehlen. Gegenüber heise online habe er erklärt, dass man etwa konkrete Regelungen für Berichtigungs- und Löschungsansprüche brauche. Es müsse geklärt werden, wie „diese Rechte in einem LLM“ umgesetzt werden können, „wenn dieses nicht deterministisch gesteuert wird“. Zumindest müsse „funktional“ eine Korrektur erreicht werden.

Eingehende Analyse und konkretere Gesetze erforderlich

Besorgt zeigten sich die Aufsichtsbehörden darüber, dass in der neuen europäischen Legislaturperiode die Vernachlässigung des Datenschutzes erkennbar sei. Gerade jedoch mit der Zunahme des Einsatzes der neuen Technologie und der kürzlich In Kraft getretenen KI-VO, sei eine umfassende und sorgfältige Analyse der datenschutzrechtlichen Anforderungen im Zusammenhang mit der Nutzung von KI erforderlich. Diese Analyse solle als Grundlage für die Entwicklung spezifischer Vorschriften dienen, die den besonderen Herausforderungen durch KI-Modelle gerecht werden. Insbesondere solle geklärt werden, wie Betroffenenrechte in komplexen und dynamischen Systemen umgesetzt werden können.

Fazit

Um den Herausforderungen durch den Einsatz von KI besser begegnen zu können, planen die Datenschützer die Einrichtung eines speziellen Arbeitskreises bis Ende des Jahres. Dieser Arbeitskreis soll sich gezielt mit den datenschutzrechtlichen Fragen im Zusammenhang mit KI auseinandersetzen und die Arbeit der bereits existierenden Task Force verfestigen. Es liegt nun am Gesetzgeber die Forderungen der DSK aufzugreifen und einen rechtlichen Rahmen zu schaffen, der den datenschutzrechtlichen Herausforderungen, die die konkrete technische Ausgestaltung von KI-Systemen mit sich bringt, gerecht wird.

Benötigen Sie Unterstützung in Ihrem Unternehmen beim Thema Küsntlicher Intelligenz? Wir helfen Ihnen als KI-Beauftragter.