Die spanische Datenschutzaufsichtsbehörde Agencia Española de Protección de Datos (AEPD) hat sich mit der Bedeutung von Datenqualität bei der Verarbeitung personenbezogener Daten unter Einsatz von Künstlicher Intelligenz befasst. Im Mittelpunkt stehen insbesondere das Verhältnis zwischen Datenqualität und den DSGVO-Grundsätzen der Richtigkeit und Datenminimierung sowie deren Bedeutung für die Entwicklung und den Einsatz von KI-Systemen.
Datenqualität und Richtigkeit sind nicht deckungsgleich
Nach den Erkenntnissen der AEPD sind Datenqualität und der Grundsatz der Richtigkeit nach Art. 5 Abs. 1 lit. d DSGVO eng miteinander verbunden, aber nicht deckungsgleich. Während die Datenqualität ein weitergehendes Konzept darstellt, das auch nicht personenbezogene Daten erfassen kann, bezieht sich der Grundsatz der Richtigkeit jedoch auf personenbezogene Daten im Anwendungsbereich der DSGVO.
Die Anforderungen an die Richtigkeit personenbezogener Daten sind im Zusammenhang mit dem jeweiligen Verarbeitungszweck zu bestimmen. Welche Eigenschaften Daten hierfür aufweisen müssen, kann daher je nach Anwendungsfall unterschiedlich sein. Neben Aktualität und sachlicher Richtigkeit können insbesondere die Präzision oder auch die Häufigkeit der Aktualisierung von Bedeutung sein.
Maßgeblich ist nach der AEPD, ob die verwendeten Daten für den konkret verfolgten Verarbeitungszweck geeignet sind. Anforderungen an die Datenqualität dürfen daher nicht abstrakt oder unabhängig vom jeweiligen Verarbeitungskontext bestimmt werden.
Datenminimierung begrenzt den Umfang der Verarbeitung
Besondere Bedeutung misst die AEPD dem Zusammenspiel von Richtigkeit und Datenminimierung bei. Nach Art. 5 Abs. 1 lit. c DSGVO dürfen personenbezogene Daten nur verarbeitet werden, soweit sie dem Zweck angemessen und auf das hierfür notwendige Maß beschränkt sind.
Für KI-Systeme bedeutet dies, dass die Verarbeitung personenbezogener Daten nicht mit dem Ziel einer möglichst umfassende Datengrundlage gerechtfertigt werden kann. Vielmehr ist zu bestimmen, welche Daten für den jeweiligen Entwicklungs- oder Einsatzzweck tatsächlich erforderlich sind. Auch besonders hohe Anforderungen an Genauigkeit oder Datenumfang können mit dem Grundsatz der Datenminimierung in Konflikt geraten, wenn sie für den konkreten Zweck nicht notwendig sind.
Qualität von Datensätzen und KI-Ergebnissen
Bei KI-Systemen darf die Beurteilung der Datenqualität nach Auffassung der AEPD nicht auf einzelne Datenfelder beschränkt bleiben. Insbesondere bei Machine-Learning-Modellen kann die Qualität des Datensatzes insgesamt für die Eignung des Systems entscheidend sein.
Soweit KI-Systeme Entscheidungen, Prognosen, Profile oder sonstige Informationen erzeugen, die einer identifizierten oder identifizierbaren Person zugeordnet werden können, handelt es sich ebenfalls um personenbezogene Daten. Auch für diese Ergebnisse gelten die Grundsätze der Richtigkeit und Datenminimierung.
Verantwortliche müssen daher nicht nur die Eignung der verwendeten Daten, sondern auch die Qualität der durch KI-Systeme erzeugten Ergebnisse in den Blick nehmen.
Fazit
Die AEPD verdeutlicht, dass die Anforderungen der DSGVO an Richtigkeit und Datenminimierung auch beim Einsatz von KI-Systemen gelten. Maßstab für die erforderliche Datenqualität ist stets der konkrete Verarbeitungszweck.
Für Verantwortliche folgt daraus, dass die erforderlichen Qualitätsanforderungen bei einem datenschutzkonformen Einsatz von KI-Systemen für den jeweiligen Anwendungsfall bestimmt, dokumentiert und während der Verarbeitung überprüft werden müssen.
KI-Compliance aus einer Hand
Künstliche Intelligenz rechtssicher nutzen & entwickeln
- KINAST KI-Beratung
- KINAST externer KI-Beauftragter
- KINAST KI-Kompetenz-Schulungen
