48. DAFTA: Schulungsbedarf bei der KI-Kompetenz
Unter dem Motto „Mut zum Datenschutz – KI mit Verantwortung!“ fanden im November das 43. RDV-Forum und die 48. Datenschutzfachtagung (DAFTA) in Köln statt. Die jährlich stattfindende Veranstaltung der Fachzeitschrift „Recht der Datenverarbeitung (RDV) fokussierte sich in diesem Jahr auf den Einsatz Künstlicher Intelligenz (KI) in Unternehmen, den Beschäftigtendatenschutz sowie die neue europäische KI-Verordnung (KI-VO). Ziel der Tagung war es, Maßnahmen herauszuarbeiten, um KI verantwortungsvoll einzusetzen, ohne die datenschutzrechtlichen Anforderungen zu vernachlässigen (KI-Kompetenz).
Die Rolle der KI-Kompetenz
Mit der zunehmenden Verbreitung von KI bis in den Arbeitsalltag rückt der verantwortungsvolle Umgang mit dieser Technologie immer stärker in den Fokus von Datenschutzbeauftragten und Unternehmen. Die neue KI-VO bietet in Verbindung mit der DSGVO einen rechtlichen Rahmen, der eine sichere Anwendung von KI gewährleisten soll.
Ein zentrales Thema der 48. DAFTA/43. RDV-Forum war die Notwendigkeit einer umfassenden KI-Kompetenz, die nach Artikel 4 der KI-VO von Anbietern und Betreibern von KI-Systemen verlangt wird. Demnach müssen Unternehmen sicherstellen, dass ihr Personal, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen.
Schatten-KI: Unerlaubte Nutzung von KI-Tools durch Mitarbeitende
Ein besonderes Problem, das auf der Tagung thematisiert wurde, ist die sogenannte „Schatten-KI“: Viele Mitarbeitende würden wie Andreas Jaspers, Geschäftsführer der Gesellschaft für Datenschutz und Datensicherheit (GDD) e.V., betont, private KI-Tools wie ChatGPT im beruflichen Kontext nutzen, oft ohne Zustimmung oder Wissen des Unternehmens. Kristin Benedikt, Richterin am VG Regensburg, gab in diesem Zusammenhang zu bedenken, dass – mit Ausnahme von Mitarbeiterexzessen – bei einer dienstlichen Verwendung privater KI-Accounts dennoch der Arbeitgeber hafte.
Bewerberdatenschutz: KI im Recruiting
Ein weiterer Schwerpunkt war der Einsatz von KI im Bewerbungsprozess. Johann Pieter Jauernig stellte das Positionspapier des Hamburgischen Beauftragten für Datenschutz und Informationsfreiheit (HmbBfDI) vor, das den Umgang mit KI-Tools wie Lebenslaufparsern und Emotionsanalysen im Recruiting beleuchtet. Emotionsanalysen sollen die emotionalen Zustände und Reaktionen von Bewerbern während des Bewerbungsprozesses erkennen und interpretieren. Lebenslaufparser filtern Informationen aus dem Lebenslauf eines Bewerbers heraus und importieren sie in eine Bewerbermanagement-Software.
Während Lebenslaufparser unter bestimmten Bedingungen zulässig sein können, stufte der HmbBfDI Emotionsanalysen grundsätzlich als unzulässig ein. Der Hintergrund: Lebenslaufparser dürfen nur verwendet werden, wenn die letztendliche Entscheidung durch eine menschliche Person erfolgt. Gemäß Art. 22 Abs. 1 DSGVO und einem Urteil des Europäischen Gerichtshofs (EuGH, C-34/21) vom 07.12.2023 dürfen Entscheidungen mit Rechtswirkung grundsätzlich nur von Menschen getroffen werden. Wie aus dem Positionspapier hervorgeht, müssten KI-Vorschläge, die Rechtswirkungen für Betroffene haben, so gestaltet sein, dass der verantwortlichen Person ein echter Entscheidungsspielraum bleibt. Eine bloß formelle menschliche Beteiligung sei nicht ausreichend.
KI-Kompetenz: Eine strategische Notwendigkeit
Ob im Bewerbungsprozess, bei der Nutzung von Recherchetools im Arbeitsalltag: Unternehmen müssen ihre Mitarbeitenden im Umgang mit KI umfassend qualifizieren. Wie Prof. Dr. Rolf Schwartmann, Vorstandsvorsitzender der GDD, hervorhob, geht KI-Kompetenz weit über technisches Know-how hinaus. Unternehmen müssen ihre Mitarbeitenden in rechtlichen, ethischen und datenschutzbezogenen Aspekten schulen, um die Anforderungen der KI-VO zu erfüllen. Gabriela Krader, Konzerndatenschutzbeauftragte der Deutschen Post DHL Group, unterstrich zudem die Bedeutung klarer Nutzungsrichtlinien.
Maßnahmen zu Steigerung der KI-Kompetenz
Um die datenschutzkonforme Nutzung von KI-Tools durch Arbeitnehmer zu fördern, können Unternehmen eine Vielzahl gezielter Maßnahmen ergreifen. Dazu zählen die Entwicklung umfassender KI-Leitfäden, die Durchführung gezielter Schulungen zur Steigerung der KI-Kompetenz und die Ernennung eines spezialisierten KI-Beauftragten.
Investitionen in die KI-Kompetenz der Mitarbeitenden sind angesichts der rasanten technologischen Entwicklung und den strengen regulatorischen Anforderungen eine strategische Notwendigkeit. Die Einführung eines Beschäftigtendatenschutzgesetzes ist angesichts der kommenden Neuwahlen im Februar noch unsicher. Dennoch bleibt die Qualifizierung des Personals eine essenzielle Grundlage für den erfolgreichen und rechtssicheren Einsatz von KI-Technologien. Wir als KI-Beauftragte helfen Ihnen hierbei gerne weiter.