In einer aktuellen Episode des Podcasts der Bundesnetzagentur erläutert Patrick Aurin, Leiter der dortigen KI-Projektgruppe, die strategische Ausrichtung der europäischen KI-Verordnung. Der EU AI Act wird dabei als ein Instrument mit zwei zentralen Säulen präsentiert: der systematischen Risikoregulierung zum Schutz der Grundrechte und einer gezielten Innovationsförderung zur Stärkung der europäischen Wettbewerbsfähigkeit. Für Unternehmen bedeutet die KI-Verordnung einen rechtlichen Rahmen, der nicht nur Pflichten auferlegt, sondern durch Rechtssicherheit und Vertrauen den Einsatz von künstlicher Intelligenz in der Breite erst ermöglichen soll.
Systematische Risikoregulierung durch die KI-Pyramide
Die erste Säule der Verordnung basiert auf einem risikobasierten Ansatz, den Aurin anhand einer Pyramide verdeutlicht. An der Spitze stehen Anwendungen mit einem unannehmbaren Risiko, die in der EU gänzlich verboten sind, wie etwa manipulative Praktiken oder KI-gestütztes Social Scoring, das Bürger aufgrund ihres Verhaltens diskriminiert. Im Zentrum der Regulierung stehen die sogenannten Hochrisiko-Systeme. Diese betreffen sensible Bereiche wie kritische Infrastrukturen, das Bildungswesen, die Strafverfolgung oder das Recruiting. Für diese Systeme gelten strenge Auflagen, darunter ein robustes Risikomanagement, hohe Anforderungen an die Qualität der Trainingsdaten zur Vermeidung von Diskriminierung sowie eine lückenlose technische Dokumentation. Ein entscheidender Faktor ist hierbei die menschliche Aufsicht, die sicherstellt, dass eine Person stets die letztendliche Entscheidungsgewalt behält. Systeme mit minimalem Risiko, wie etwa Spam-Filter oder einfache Spiele-Anwendungen, bleiben hingegen weitgehend unreguliert, was den Großteil der derzeit genutzten KI-Anwendungen betrifft.
Innovationsförderung und die Rolle der Reallabore
Die zweite wesentliche Säule der Verordnung widmet sich der aktiven Förderung von Innovationen. Ein zentrales Instrument sind hierbei die sogenannten Reallabore, im Englischen als Regulatory Sandboxes bezeichnet. Diese bieten einen geschützten und zeitlich begrenzten Rahmen, in dem insbesondere kleine und mittlere Unternehmen ihre KI-Systeme in engem Austausch mit den Regulierungsbehörden testen können. In diesen Laboren lassen sich regulatorische Fragen bereits während der Entwicklungsphase klären, was die Marktreife beschleunigt und Rechtsunsicherheiten minimiert. Die Bundesnetzagentur hat als deutsche Marktüberwachungsbehörde bereits ein Pilotprojekt für ein solches Reallabor erfolgreich abgeschlossen und dabei wertvolle Erfahrungen in der Zusammenarbeit mit Entwicklern und anderen Behörden wie dem Bundesbeauftragten für den Datenschutz gesammelt.
Europa als Spitzenreiter bei industriellen Expertensystemen
Trotz der medialen Dominanz großer US-amerikanischer Sprachmodelle sieht Patrick Aurin Europa in einer vorteilhaften Position bei hochspezialisierten Expertensystemen. Während allgemeine KI-Modelle oft an Grenzen stoßen, wenn es um Kontext und Plausibilität geht, liegt die europäische Stärke in der Verknüpfung von tiefem Ingenieurs- und Fachwissen mit moderner KI-Technologie. Branchen wie der Maschinenbau, die Logistik und die Robotik verfügen über einen einzigartigen „Datenschatz“, der als Basis für Expertenmodelle dient, die in industriellen Anwendungen weltweit führend sind. Aurin betont, dass diese Fokussierung auf Qualität und Vertrauenswürdigkeit – vergleichbar mit Sicherheitsstandards bei Werkzeugen wie einer Tischkreissäge – langfristig die Akzeptanz und den Einsatz von KI steigern wird, da Anwender sich auf die Sicherheit der Systeme verlassen können.
Praktische Unterstützung der BNetzA
Um den Übergang in die regulierte KI-Landschaft zu erleichtern, bereitet die Bundesnetzagentur umfangreiche Unterstützungsangebote vor. Bereits jetzt bietet der KI-Service-Desk der Behörde Informationen an, um die komplexen gesetzlichen Anforderungen in verständliche Formate aufzubereiten. Ein praktisches Hilfsmittel ist der KI-Compliance-Kompass (KICK), ein Online-Tool, mit dem Unternehmen prüfen können, ob ihre Anwendung unter die Verordnung fällt und welche Risikostufe sie erreicht. Ab August 2026 wird zudem eine offizielle Beschwerdestelle eingerichtet, an die sich natürliche und juristische Personen bei mutmaßlichen Verstößen wenden können. Ziel dieser Maßnahmen ist es, die notwendige KI-Kompetenz in Unternehmen und Gesellschaft zu fördern, damit die Technologie produktiv und rechtssicher eingesetzt werden kann.
Fazit für die Unternehmenspraxis
Die EU KI-Verordnung zielt darauf ab, durch klare Regeln ein Umfeld der Vertrauenswürdigkeit zu schaffen, das als Motor für künftige Innovationen dient. Für europäische Unternehmen bietet die Ausrichtung auf spezialisierte Expertensysteme unter Ausnutzung der angebotenen Förderstrukturen wie Reallabore die Chance, europäische Qualitätsstandards als Wettbewerbsvorteil im globalen Markt zu etablieren. Die frühzeitige Auseinandersetzung mit den Compliance-Anforderungen und die Nutzung der behördlichen oder anwaltlicher Beratungsangebote sind dabei entscheidende Schritte für eine erfolgreiche Implementierung von KI-Lösungen.
Unsere KINAST Rechtsanwältinnen und Rechtsanwälte begleiten Unternehmen bei der rechtskonformen Entwicklung und Einführung von KI-Systemen – von der Risikobewertung über die KI-Compliance bis zur Gestaltung belastbarer Governance-Strukturen. Nehmen Sie gerne Kontakt mit uns auf.
KI-Compliance aus einer Hand
Künstliche Intelligenz rechtssicher nutzen & entwickeln
- KINAST KI-Beratung
- KINAST externer KI-Beauftragter
- KINAST KI-Kompetenz-Schulungen
