Hamburger Polizei: KI-Training mit personenbezogenen Daten
Die Hamburger Regierungsparteien SPD und Grüne haben einen kurzfristigen Änderungsantrag zum „Gesetz über die Datenverarbeitung der Polizei“ eingebracht, der am 15. Januar 2025 von der Bürgerschaft beraten wurde. Dieser soll es der Polizei ermöglichen, personenbezogene Daten für das Training und Testen von KI-Systemen zu verwenden und an Dritte weiterzugeben. Unter bestimmten Umständen könne dabei auf Anonymisierung oder Pseudonymisierung verzichtet werden, wenn dies als „unverhältnismäßiger Aufwand“ bewertet wird. Die Hamburger Datenschutzbehörde kritisiert die Verwendung des unbestimmten Rechtsbegriffs “unverhältnismäßiger Aufwand”.
Kurzfristiger Änderungsantrag der Regierung
Im Rahmen des „Dritten Gesetzes zur Änderung polizeirechtlicher Vorschriften“ soll auch das Gesetz über die Datenverarbeitung der Polizei (PolDVG, aktueller Gesetzestext hier abrufbar) ergänzt werden. Der ursprüngliche Entwurf des Gesetzes zielte hauptsächlich auf die Anpassung des Hamburgischen Polizeirechts an Vorgaben des Bundesverfassungsgerichtes ab. Zum anderen sollen auch Änderungsbedarfe der polizeilichen Praxis einer gesetzlichen Regelung zugeführt werden. Der neue Änderungsantrag vom 7. Januar 2025 würde es der Hamburger Polizei erlauben, KI-Systeme mit den ihr vorliegenden Daten zu trainieren.
KI-Training ohne Anonymisierung
Mit dem Änderungsantrag soll § 37a PolDVG eingefügt werden. Dieser erlaubt der Polizei, personenbezogene Daten für das Training und Testen lernender IT-Systeme zu verwenden. Grundsätzlich müssen die Daten anonymisiert werden. Wenn dies nicht möglich ist oder einen unverhältnismäßigen Aufwand bedeutet, kann auch eine Pseudonymisierung oder, im äußersten Fall, die Nutzung im Klartext erfolgen.
Besonders geschützte Daten wie die rassische oder ethnische Herkunft, politische Meinungen oder biometrische Informationen dürfen ebenfalls genutzt werden, jedoch nur unter weiteren Voraussetzungen. Daten aus verdeckten Ermittlungsmaßnahmen wie Telekommunikationsüberwachung dürfen jedoch nicht für KI-Training genutzt werden. Zudem muss die Entwicklung diskriminierender Algorithmen ist ausdrücklich verboten, und die Nachvollziehbarkeit der Verfahren gewährleistet sein.
Weitergabe an Dritte und Auftragsverarbeiter
Der Änderungsantrag sieht auch die Möglichkeit vor, Daten an Dritte oder Auftragsverarbeiter weiterzugeben, wenn eine Verarbeitung durch die Polizei selbst unverhältnismäßigen Aufwand bedeuten würde. Des Weiteren müssen die Empfänger der Daten Amtsträger, für den öffentlichen Dienst besonders Verpflichtete oder zur Geheimhaltung verpflichtet sein. Weiterverarbeitungen durch Dritte dürfen ebenfalls nur für die genehmigten Zwecke erfolgen, und die Daten müssen nach Abschluss gelöscht werden. Eine Weiternutzung trainierter Modelle ist nur mit Zustimmung der Polizei möglich, sofern daraus keine Rückschlüsse auf die Trainingsdaten gezogen werden können.
Kritik am Begriff „unverhältnismäßiger Aufwand“
Die Weitergabe von Daten an Dritte oder der Verzicht auf Anonymisierung hängt somit von einem etwaigen unverhältnismäßigen Aufwand ab. Die genaue Definition soll in einer noch zu erlassenden Verwaltungsvorschrift festgelegt werden. Warum die Regierung hier auf eine Begriffsdefinition verzichtet hat ist bislang unklar und wird auch von der Hamburgischen Datenschutzbehörde auf Anfrage von netzpolitik.org als kritisch gesehen. Damit nach der Datenschutz-Grundverordnung (DSGVO) die Weitergabe von personenbezogenen Daten an Dritte oder Auftragsverarbeiter zulässig ist, müsste dies auf einer rechtmäßige Grundlagen geschehen. Dafür kommen insbesondere Artikel 6 und Artikel 28 der DSGVO in Betracht. Fraglich ist hierbei, ob die Hamburger Polizei ein ausreichendes berechtigtes Interesse (Art. 6 Abs. 1 lit. f DSGVO) hat, dem auch kein überwiegendes Interesse, Grundrechte oder Grundfreiheiten der betroffenen Person entgegenstehen. Zur Wahrung der Transparenz ist die betroffene Person über die Weitergabe zu informieren.
Hintergrund: KI-gestützte Videoüberwachung
Ein möglicher Hintergrund des Änderungsantrags ist Hamburgs Ziel, die innere Sicherheit durch KI-gestützte Technologien zu stärken. Dazu zählt unter anderem auch durch eine intelligente Videoüberwachung Gefahrensituationen an Brennpunkten möglichst frühzeitig zu entschärfen. Dies teilte der strategischer IT-Leiter der Polizeibehörden Daniel Steinlandt in einem Interview mit.
Bereits 2023 wurde am Hansaplatz ein Pilotprojekt zur intelligenten Videoüberwachung durchgeführt. Dabei analysierten antrainierte (nicht selbstlernenden) Deep-Learning(DL)-Modelle Kameraaufnahmen hinsichtlich Gefahrensituationen wie Schubsen oder Schlägereien. Der Senat plant, das Projekt in Zusammenarbeit mit dem Fraunhofer-Institut weiterzuentwickeln. Ziel ist es, Gefahrensituationen frühzeitig zu erkennen und einzugreifen.
Fazit
Die geplanten Änderungen am PolDVG werfen viele Fragen auf, insbesondere im Hinblick auf den Datenschutz. Die genaue Definition von „unverhältnismäßigem Aufwand“ und die damit verbundenen Datenschutzmaßnahmen werden in einer gesonderten Verwaltungsvorschrift geregelt, die noch aussteht. Bis dahin bleibt unklar, wie umfassend und risikobehaftet die Nutzung personenbezogener Daten im polizeilichen KI-Training tatsächlich sein wird.
