EU-Parlament beschließt KI-Verordnung

Die Europäische Union hat sich endlich über die Entwicklung und Anwendung von Künstlicher Intelligenz (KI) geeignet. Hierdurch sie soll eine sichere und vertrauenswürdige Anwendung unter Beachtung der Grundrechte, der Demokratie und des Umweltschutzes garantiert werden, die gleichzeitig weiter Innovation fördert. Am 08.12.2023 beschließt hierzu das Europäische Parlament (EU-Parlament) und der Rat eine Einigung über den sogenannten AI Act (KI-Verordnung). Dies gab das EU-Parlament in einer Pressemitteilung am 09.12.2023 bekannt. Im Rahmen der Verordnung werden KI-Systeme in verschiedene Kategorien unterteilt, die jeweils unterschiedlichen Regulierungen unterliegen.

Verbotene Anwendungen

Aufgrund der Risiken, die die Anwendung von KI mit sich bringt, wird die Verwendung von bestimmten Systemen grundsätzlich untersagt. Darunter fallen zum Beispiel biometrische Kategorisierungssysteme, die besonders geschützte Kriterien, wie etwa politische oder religiöse Ansichten verwenden. Auch die Verwendung zur Emotionserkennung am Arbeitsplatz oder in schulischen Einrichtungen ist nicht erlaubt. Zudem stellt auch ein Scoring-System basierend auf sozialem Verhalten oder die Manipulierung menschlichen Verhalten zur Einschränkung des freien Willens eine unzulässige Anwendung dar.

Gleichzeitig gibt es jedoch Ausnahmen für den Einsatz biometrischer Identifikationssysteme durch Strafverfolgungsbehörden im öffentlichen Raum. Diese müssen einer vorherigen gerichtlichen Genehmigung unterliegen und sind auf spezifische Straftaten begrenzt.

Besondere Verpflichtungen für hochriskante KI-Systeme

Anwendungen, die ebenfalls als hochriskant eingestuft werden, aber einen unverzichtbaren Nutzen mit sich bringen, müssen klare Verpflichtungen befolgen. Dazu gehört eine Prüfung der Auswirkungen auf Grundrechte und ein Beschwerderecht der Bürger. Hochriskant sind etwa KI-Systemen aus dem Gesundheits- und Bankensektor und solche, die das Ergebnis von Wahlen beeinflussen können. Andererseits sind Anwendungen mit nur minimalen Risiken weitgehend von strengen Verpflichtungen ausgenommen.

Selbstregulierung für „general-purpose AI“?

Auch bezüglich den stark umstrittenen „general-purpose AI“ (GPAI) fand sich eine Einigung. GPAI sind KI-Systeme, die für einen weiten Anwendungsbereich vorgesehen sind und auf deren Grundlage weitere Anwendungen aufgebaut werden können. In den letzten Wochen wollten vor allem Deutschland und Frankreich für diese Systeme innovationsfreundliche Bestimmungen in Form von Selbstregulierung. Diese Ansicht hat heftige Kritik erfahren und die Ausarbeitung der KI-Verordnung ins Stocken gebracht.

Das Parlament hat sich nun dafür entschieden, dass für solche Anwendungen Transparenzanforderungen gelten, die Dokumentationspflichten, die Einhaltung von Urheberrecht und die Erfassung von Trainingsdaten beinhalten. Bergen GPAI systematische Risiken, müssen ihre Betreiber strengere Regeln beachten. Dazu gehört zum Beispiel eine Risikobewertung und -minderung, eine Meldepflicht von Sicherheitsvorfällen und Energieeffizienzreportings. Allerdings dürfen GPAI mit systematischen Risiken mittels Selbstregulierung für die Beachtung dieser Vorgaben sorgen, bis es harmonisierte EU-Standards gibt.

Innovationsförderung und Unterstützung von KMUs

Ein Augenmerk wurde auch darauf gelegt, dass insbesondere kleine und mittelständische Unternehmen (KMUs), innovative KI-Lösungen entwickeln können, ohne von marktbeherrschenden Unternehmen abhängig zu sein. Dafür wurden spezielle Testlösungen geschaffen, die einen Einstieg in den Markt erleichtern sollen.

Sanktionen

Die Nichteinhaltung der Regeln kann zu Geldstrafen führen, die je nach Verstoß und Unternehmensgröße zwischen 7 % des weltweiten Umsatzes oder 35 Millionen Euro und 1,5 % des Umsatzes oder 7,5 Millionen Euro variieren können.

Was passiert als nächstes?

Die Vereinbarung muss nun formell vom EU-Parlament und Rat angenommen werden, um EU-Recht zu werden. Das neue Gesetz tritt 20 Tage nach Verkündung im Amtsblatt der europäischen Union in Kraft. Im Anschluss wird die KI-Verordnung zwei Jahre nach Inkrafttreten anwendbar. Eine Ausnahme gilt für Verbote, die bereits nach sechs Monaten greifen und für Regeln zu GPAI, die nach 12 Monaten anwendbar sind. Für die Übergangsphase hat die Europäische Kommission in einer Pressemitteilung bekannt gegeben, dass es einen AI Pact geben soll, an den sich europäische und internationale Unternehmen freiwillig halten können. Global beschlossen die G7-Staaten zudem kürzlich Leitlinien für KI-Systeme.

Bewertung der KI-Verordnung

Die Vereinbarung wird in einer Pressemitteilung von Mitgliedern des EU-Parlaments als „weltweit erste robuste KI-Regelung“ bewertet. Falk Steiner meint zudem in einem Kommentar auf heise online, dass bereits viel, was der AI Act reguliert, bereits durch andere Gesetze, wie Datenschutz oder Urheberrecht, geregelt sei. Hingegen trage das neue Gesetz  eher zur Gestattung von vorherig Verbotenem bei und schaffe andererseits eine Innovationsbremse.

Fazit

Nach monatelangen Verhandlungen beschließt das EU-Parlament endlich die KI-Verordnung. Der AI Act markiert einen bedeutenden Schritt auf dem Weg zu einer verantwortungsbewussten und transparenten Nutzung von KI. Eine allumfassende und trotzdem offene und innovationsfreundliche Lösung für eine so hochkomplexe, neue und sich ständig wandelnde Technologie zu finden ist kaum möglich. Nichtsdestotrotz zeigen die umfassenden Verhandlungen in den letzten Wochen, dass sich das EU-Parlament intensiv unter Einbezug von Experten mit dem Thema auseinandergesetzt hat. Insbesondere ist zu begrüßen, dass gerade junge Unternehmen in der KI-Entwicklung bestärkt werden, während der Schutz fundamentaler Rechte gegenüber Tech-Giganten gewährleistet bleiben soll. Andererseits birgt gerade die Ausnahmeklausel zur biometrischen Überwachung ein gewisses Risiko der Ausdehnung zum diskriminierenden Gebrauch oder der Massenüberwachung. Jedenfalls ist Europas Beitrag zur Gestaltung der digitalen Zukunft mit diesem Gesetzesentwurf erneut deutlich erkennbar. Ob es sich hierbei um einen Schritt in die richtige oder falsche Richtung handelt, bleibt abzuwarten.