KI-Verordnung auf der Kippe

Nachdem das Europäische Parlament im Dezember 2023 die geplanten Verordnung zur Künstlichen Intelligenz (KI-Verordnung) beschlossen hat, schreitet ihre Fertigstellung weiter fort. In diesem Zusammenhang sind letzte Woche zwei inoffizielle Versionen des Entwurfs aufgetaucht. Die umfangreichen Dokumente gewähren einen detaillierten Einblick in den aktuellen Stand und Nuancen der vorgeschlagenen Gesetzgebung. Ob die für den 02.02.2024 geplanten Abstimmung allerdings zu einer Verabschiedung der KI-Verordnung führen wird, bleibt unsicher und steht somit auf der Kippe.

1. Leak: „finaler Text“

Am 22.01.2024 hat Luca Bertuzzi, der bei Euractive arbeitet, bei LinkedIn gepostet, dass er sich aufgrund des „massiven öffentlichen Interesses“ dazu entschieden hat, den „finalen Text“ für die KI-Verordnung zu veröffentlichen. Der umfangreiche Entwurf erstreckt sich über 892 Seiten und sei mit dem Europäischen Rat geteilt worden. Das Dokument ist unterteilt in 4 Spalten. Es enthält darin jeweils eine Version des ursprünglichen Vorschlags der Europäischen Kommission, die Mandate des Europäischen Parlaments und des Rates sowie den finalen Entwurf.

2. Leak: „konsolidierter Text“

Einen Tag später, am 23.01.2024, veröffentlichte Laura Caroli, laut eigenen Angaben eine „Senior Policy“ Beraterin beim Europäischen Parlament, einen auf 258 Seiten zusammengefassten Text.

Einblick in wichtige Aspekte

Schon der Aufbau des ersten Dokuments zeigt, die verschiedenen Streitpunkte, die der Entwurf mit sich bringt. Bereits zum Sinn der Verordnung (Recital 1) bestehen heftige Uneinigkeiten. In der „finalen“ Version heißt es nun, dass durch Regulierung des KI-Marktes den Marktteilnehmern mehr Sicherheit gewährt werden soll. Dabei soll das Wohl der Menschen im Mittelpunkt stehen. Was das genau bedeutet, zeigt aber ein genauerer Blick auf die verschiedenen Versionen. Während die Kommission zum Beispiel noch eine „high level protection of health“ fordert, heißt es beim Parlament nur „protection of health“.

Der inoffizielle Text enthält auch wichtige Informationen zu Governance- und Schulungsaspekten. Insbesondere wird auf “AI literacy” hingewiesen, damit allen Beteiligten in der Produktionskette die zur Befolgung der Regeln nötigen Einblicke erhalten. Zudem sollen hochriskante KI-Systeme so konzipiert sein, dass natürliche Personen entsprechende Kompetenzen erhalten, um sie überwachen zu können. Was “hochriskante KI-Systeme” sind, entscheiden die Unternehmer zunächst selbst. Im Übrigen werden KI-Hersteller dazu verpflichtet Risikomanagementsysteme einzuführen. Weiterhin gilt für „general purpose AI“, dass sie mit entsprechenden technischen Lösungen sicherstellen müssen, dass von ihnen erstellte Inhalte als KI-generiert gekennzeichnet werden.

Besonders umstritten sind zudem Bestimmungen zu Emotions-Erkennungssystemen mittels biometrischer Daten. Diese grundsätzlich verbotenen Systeme, sollen zum Beispiel in Fahrassistenzsystemen oder zur Suche von Straftätern und vermissten Kindern trotzdem einsetzbar sein. Insgesamt gibt es eine Vielzahl an Ausnahmen in diesem Bereich, die durchaus beunruhigend wirken können.

Verabschiedung der KI-Verordnung steht auf der Kippe

Die Verabschiedung der KI-Verordnung steht allerdings auf der Kippe. Laut Aussage von Bertuzzi spiegelt sich die bereits in dem Entwurf erkennbare Unstimmigkeit auch durch das Mitgliederverhalten wider. So prüfe Frankreich weiterhin, ob es mit anderen Ländern einen Zusammenschluss bilden kann, um die Abstimmung zu verschieben. Zwar ist dies Frankreich bislang noch nicht gelungen, im November hatten aber auch noch Deutschland und Italien in einer Weise Kritik geäußert, die manche dazu veranlasst hat, ein völliges Scheitern der Verordnung für möglich zu halten.

Hinzu kommt, dass nun auch die FDP nach einem Artikel des Handelsblatts vom 24.01.2024 die finale Verabschiedung verhindern wolle. Aus Regierungskreisen habe das Handelsblatt erfahren, dass vor allem Volker Wissing von der FDP, dafür sei „sich bei der Abstimmung zu enthalten“. Einerseits wünsche man sich weniger Regeln für Unternehmen und andererseits höhere Beschränkungen für die Verwendung biometrischer Daten. FDP-Europaabgeordnete Svenja Hahn meine sogar „Uns droht China light.“ auf Anfrage von heise online.

Wie geht es weiter?

Diese Woche am 02.02.2024 steht die formale Entscheidung über die Annahme des AI Acts durch die Mitgliedstaaten an. Die EU-Mitgliedstaaten haben bis dahin nur noch wenig Zeit, den Text zu analysieren. Allein können weder Deutschland noch Frankreich die Verabschiedung verhindern. Bei einem Zusammenschluss und der Unterstützung durch ein paar kleine Länder, wäre die zur Verabschiedung erforderliche qualifizierte Mehrheit allerdings nicht möglich. Das würde dann eine Verzögerung um mindestens ein Jahr bis zur neuen Legislaturperiode bedeuten.

Bei einer finalen Verabschiedung, die im April erfolgen könnte, würde das Gesetz hingegen 20 Tage nach der Veröffentlichung im EU-Amtsblatt in Kraft treten und abgesehen von einigen Spezialausnahmen 24 Monate hiernach vollständig anwendbar werden. Im Laufe der Übergangsphase würden Verbote für unvereinbare Risiken schon sechs Monate nach Inkrafttreten gültig. Andererseits besteht eine verlängerte Umsetzungsphase von 36 Monaten für Verpflichtungen für hochriskante KI-Systeme, unter die im Übrigen nicht zwangsläufig „general purpose AIs“ fallen. Ein Jahr nach Inkrafttreten gelten „general purpose AI“ Verpflichtungen und Bußgelder und es muss eine nationale Behörde eingerichtet werden.

Fazit

Die Veröffentlichung des inoffiziellen Texts verdeutlicht, wie nah wir einer potenziellen Verabschiedung der KI-Verordnung sind. Während die Mitgliedstaaten nun Zeit haben, den Text zu analysieren, bleibt der Zeitplan eng. Andererseits zeigt die Kritik von französischer und deutscher Seite, dass die KI-Verordnung auf der Kippe steht. Die Beanstandung, dass eine Überregulierung uns im Vergleich zu anderen Ländern, wie der USA und China, zurückwerfen könnte, ist nicht unberechtigt. Auch die Verwendung biometrischer Informationen wirft Bedenken auf. Deshalb ist durchaus fraglich, ob der Entwurf in seiner jetzigen Fassung einer Prüfung durch die Gerichte standhalten kann. Andererseits würde die Vertagung der Entscheidung zu mindestens einem zusätzlichem Jahr ohne KI-Regulierung führen. Das ist insofern problematisch, als dass jetzt schon viele Experten meinen, dass eine Regelung schon jetzt kaum noch mit der rasanten Entwicklung von KI-Technologien mithalten kann. Wie die Entscheidung am Ende ausfallen wird, erfahren Sie hier.