KI-VO: Handlungsbedarf für Unternehmen ab Februar 2025
Die Europäische Verordnung zur Regulierung Künstlicher Intelligenz (KI-VO) tritt stufenweise in Kraft. Bereits ab dem 2. Februar 2025 gelten Kapitel I und II der KI-VO verbindlich. Dies betrifft insbesondere das Verbot bestimmter KI-Praktiken und die Verpflichtung zur Vermittlung von KI-Kompetenz. Für Unternehmen folgt daraus konkreter Handlungsbedarf.
Die KI-Verordnung
Die KI-VO soll zur Entwicklung sicherer und vertrauenswürdiger KI-Systeme beitragen. Dabei soll sie den Schutz der Grundrechte sicherstellen und gleichzeitig Investitionen sowie Innovationen fördern. Seit ihrer Veröffentlichung im Amtsblatt der Europäischen Union am 12. Juli 2024 gelten gestaffelte Umsetzungsfristen. Während die meisten Regelungen der Verordnung 24 Monate nach ihrem Inkrafttreten anwendbar sind, greifen bestimmte Regelungen, wie das Verbot spezifischer KI-Praktiken, bereits früher.
Verbotene KI-Praktiken
Ab dem 2. Februar 2025 sind die in Artikel 5 der KI-VO aufgeführten KI-Praktiken verboten. Untersagt sind KI-Systeme, die durch manipulative oder unterschwellige Techniken das Verhalten von Personen beeinflussen oder die Schwächen von Menschen, etwa durch Alter oder soziale Umstände, ausnutzen. Außerdem ist auch das Social Scoring gesetzwidrig. Also die KI-basierte Bewertung von Personen durch öffentliche Behörden auf Grundlage ihres sozialen Verhaltens oder ihrer persönlichen Merkmale. Davon ebenfalls umfasst ist der Ausschluss von öffentlichen Leistungen aufgrund solcher Bewertungen.
Weitere Verbote betreffen die Erstellung von Gesichtserkennungsdatenbanken aus ungezielten Quellen, den Einsatz von Emotionserkennungssystemen am Arbeitsplatz oder in Bildungseinrichtungen – außer aus medizinischen oder Sicherheitsgründen – sowie die biometrische Kategorisierung nach sensiblen Merkmalen wie Rasse oder politischer Überzeugung. Die biometrische Echtzeit-Fernüberwachung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken ist nur in klar definierten Ausnahmefällen zulässig, etwa bei der Suche nach vermissten Personen oder der Abwehr von Gefahren, und erfordert strenge Schutzmaßnahmen. Eine Missachtung der Verbote kann mit einer Geldstrafe von bis zu 35 000 000 Euro oder bis zu 7 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres sanktioniert werden.
KI-Kompetenz: Pflicht zur Schulung
Daneben verpflichtet die KI-VO Anbieter und Betreiber von KI-Systemen, Maßnahmen zur Herstellung von KI-Kompetenz bei den Personen zu ergreifen, die mit dem Betrieb und der Nutzung von KI-Systemen befasst sind. Die KI-Kompetenz umfasst dabei die Fähigkeiten, die Kenntnisse und das Verständnis. Ziel der KI-Kompetenz ist es, KI-Systeme sachkundig einzusetzen und ein Bewusstsein für die Chancen, Risiken und möglichen Schäden durch KI zu schaffen. Für Unternehmen bedeutet dies die Pflicht zur Schulung ihrer Mitarbeitenden.
Handlungsbedarf für Unternehmen
Mit weniger als zwei Wochen bis zur verbindlichen Einführung der ersten Regelungen der KI-VO ist schnelles Handeln gefragt. Unternehmen sollten mit einer umfassenden Bestandsaufnahme beginnen, um herauszufinden, welche KI-Systeme sie derzeit einsetzen oder planen. Bereits beim Einsatz von kleinen Anwendungen wie Microsoft Copilot oder Open AIs Chat GPT ist sicherzustellen, dass die damit betrauten Mitarbeitenden die notwendige KI-Kompetenz besitzen. Spezielle Recruiting-Software kann Mithilfe von KI zwar die Efiizienz steigern, doch ist hier besonders darauf zu achten, ob die Systeme die Verbote gemäß Artikel 5 tangieren. Ebenso sollte der Schulungsbedarf der Mitarbeitenden analysiert werden, um gezielte Maßnahmen zur Vermittlung von Wissen über die KI-Verordnung, Datenschutz, Urheberrecht und ethische Aspekte der KI zu ergreifen.
Maßnahmen zum Aufbau von KI-Kompetenz
Der Aufbau von KI-Kompetenz variiert je nach Unternehmen. Der Fokus sollte jedoch auf der Schulung und kontinuierlichen Fortbildung der Mitarbeitenden liegen. Aufgrund der dynamischen Entwicklung der KI-Technologien ist es wichtig, einen flexiblen und kontinuierlich aktualisierten Schulungsplan zu etablieren.
Darüber hinaus ist es ratsam, interne Richtlinien oder Leitfäden zu entwickeln, die klare Standards für den Einsatz von KI-Systemen definieren. Diese können als verbindlicher Rahmen dienen, um die Einhaltung der Verordnung zu gewährleisten. Die Ernennung eines internen oder externen KI-Beauftragten kann dazu beitragen, die Umsetzung der Maßnahmen zu koordinieren und als zentrale Anlaufstelle für alle KI-bezogenen Fragen zu fungieren. Unternehmen sollten jetzt mit der technischen und organisatorischen Implementierung beginnen – hierbei stehen wir Ihnen gerne beratend zur Seite.