Die KI-Verordnung verankert mit Artikel 86 KI-VO ein neues Individualrecht auf Erläuterung bei Hochrisiko-KI-Entscheidungen – inklusive Nachweisbarkeit der menschlichen Aufsicht und Verursachungsbeiträge. Unternehmen müssen bis August 2026 Transparenzprozesse etablieren, um Bußgelder und Schadensersatzansprüche zu vermeiden.
Die fortschreitende Integration algorithmischer Systeme in die Arbeitswelt und Entscheidungsprozesse stand im Mittelpunkt der 3. Fachtagung „Automatisierung der Arbeit“, die am 9. März 2026 an der Wirtschaftsuniversität Wien stattfand. Im Rahmen dieser Tagung wurde verdeutlicht, dass die Intransparenz automatisierter Prozesse zunehmend Fragen nach effektivem Rechtsschutz aufwirft, worauf der europäische Gesetzgeber mit der KI-Verordnung reagiert hat. Den wissenschaftlichen Hintergrund bildeten dabei unter anderem die Projekte „AI Know“ und „Aufklärung 4.0“. Vor diesem Hintergrund gewinnt Artikel 86 der KI-Verordnung (KI-VO), der ein spezifisches Recht auf Erläuterung der Entscheidungsfindung im Einzelfall vorsieht, eine zentrale Bedeutung für Unternehmen. Das österreichische Bundesministerium für Arbeit, Soziales, Gesundheit, Pflege und Konsumentenschutz (BMASGPK) hat hierzu ein wissenschaftliches Rechtsgutachten veröffentlicht.
Anwendungsbereich und die Voraussetzungen des Erläuterungsanspruchs
Das Recht nach Artikel 86 KI-VO steht Personen zu, die von einer Entscheidung betroffen sind, die ein Betreiber auf der Grundlage der Ausgaben bestimmter Hochrisiko-KI-Systeme getroffen hat. Eine wesentliche Voraussetzung für die Geltendmachung dieses Rechts ist eine qualifizierte Betroffenheit. Dies bedeutet, dass die Entscheidung entweder rechtliche Auswirkungen entfalten oder die Person in ähnlicher Weise erheblich beeinträchtigen muss. Solche erheblichen Beeinträchtigungen liegen insbesondere dann vor, wenn nach Ansicht der betroffenen Person ihre Gesundheit, ihre Sicherheit oder ihre Grundrechte negativ beeinflusst werden. Der Anspruch richtet sich dabei direkt gegen den Betreiber des Systems. Er ist dann verpflichtet eine klare und aussagekräftige Erläuterung zu liefern.
Ausweitung der Transparenz über die DSGVO hinaus
Artikel 86 KI-VO nimmt im Gesamtgefüge der Verordnung eine Sonderstellung ein. Er stellt das einzige echte Individualrecht für betroffene Personen im engeren Sinne dar. Systematisch geht diese Bestimmung über die bereits bekannten Regelungen des Artikels 22 der Datenschutz-Grundverordnung (DSGVO) hinaus. Denn dieser bezieht sich primär auf rein automatisierte Entscheidungen ohne menschliches Eingreifen. Die KI-Verordnung erfasst hingegen auch solche Entscheidungen, die „auf der Grundlage von“ KI-Ausgaben getroffen wurden. Dies schließt im Prinzip jede Nutzung im Entscheidungsprozess ein, die geeignet ist, das Ergebnis wesentlich zu beeinflussen. Damit wird sichergestellt, dass auch bei einer zwischengeschalteten menschlichen Prüfung, die oft dem sogenannten „Automation Bias“ unterliegt, ein Erläuterungsanspruch besteht.
Inhaltliche Anforderungen an die Erläuterung
Unternehmen müssen im Falle eines Auskunftsverlangens Informationen über die spezifische Rolle des KI-Systems im gesamten Entscheidungsprozess bereitstellen. Die Erläuterung muss zudem die wichtigsten Elemente der getroffenen Entscheidung umfassen. Diese benötigt die betroffene Person, um die Grundlage der Entscheidung nachzuvollziehen und ihre Rechte effektiv wahrnehmen zu können. Diese Informationen müssen für den Adressaten klar und aussagekräftig aufbereitet sein. Eine bloße Bestätigung des KI-Einsatzes reicht hierfür nicht aus, vielmehr muss der materielle Kern der Entscheidungsgrundlage offengelegt werden.
Der „KI-Beauftragte“ -
Ihre Lösung für rechtssichere KI-Compliance
Wir bieten Unternehmen eine umfassende Lösung für die rechtlichen und regulatorischen Herausforderungen, die der Einsatz von KI mit sich bringt.
Menschliche Aufsicht als Voraussetzung
Damit ein Betreiber seiner Pflicht aus Artikel 86 überhaupt nachkommen kann, muss das System gemäß Artikel 14 KI-VO so konzipiert sein, dass eine wirksame menschliche Aufsicht möglich ist. Die Aufsicht dient dazu, Risiken für Grundrechte und Sicherheit zu minimieren. Dies erfordert, dass menschliche Bediener die Ausgaben des Systems verstehen, interpretieren und bei Bedarf übersteuern können.
Ein zentrales Ziel der menschlichen Aufsicht ist die Überwindung des sogenannten Automation Bias. Also der Tendenz von Menschen, Systemvorschlägen blind zu vertrauen. Artikel 86 wirkt hier als Kontrollmechanismus. Durch das Recht der Betroffenen, die Entscheidung zu hinterfragen, wird für den Betreiber ein Rechtfertigungsdruck erzeugt, die menschliche Aufsicht tatsächlich wirksam auszugestalten und nicht als bloße symbolische Geste zu behandeln. Die Erläuterung der Rolle des KI-Systems im Entscheidungsprozess ist oft die notwendige Prämisse, damit Betroffene prüfen können, ob eine sinnvolle menschliche Intervention stattgefunden hat oder ob sie einer unzulässigen, rein automatisierten Entscheidung unterworfen wurden.
Zusammenspiel mit Informationspflichten der Betreiber
Der Erläuterungsanspruch nach Artikel 86 KI-VO wird funktional durch die proaktive Informationspflicht gemäß Artikel 26 Absatz 11 KI-VO flankiert. Danach sind Betreiber von Hochrisiko-KI-Systemen verpflichtet, natürliche Personen vorab über den Einsatz zu informieren. Diese Informationspflicht ist in ihrem Anwendungsbereich weiter gefasst als der Erläuterungsanspruch, da sie bereits bei jeder Unterstützung einer Entscheidung durch KI greift, ohne dass eine qualifizierte Beeinträchtigung vorliegen muss. Für Unternehmen bedeutet dies, dass sie Transparenzprozesse etablieren müssen, die es Betroffenen erst ermöglichen, ihre weitergehenden Rechte auf Erläuterung überhaupt wahrzunehmen.
Sanktionen und Rechtsfolgen bei Nichterfüllung der Erläuterungspflicht
Obwohl Artikel 86 KI-VO in den spezifischen Bußgeldvorschriften des Artikels 99 nicht explizit unter den Höchstsanktionen aufgeführt ist, sind die Mitgliedstaaten dennoch verpflichtet, wirksame, verhältnismäßige und abschreckende Sanktionen für Verstöße vorzusehen. Ein Verstoß gegen die Erläuterungspflicht kann zudem Schadensersatzansprüche auslösen. Insbesondere wenn Betroffene dadurch an der effektiven Anfechtung der eigentlichen Entscheidung gehindert werden. Darüber hinaus bleibt die Verletzung der Informationspflicht nach Artikel 26 Absatz 11 KI-VO eigenständig sanktionsbewehrt.
Bedeutung für betroffene Unternehmen
Betroffen von diesen Pflichten sind alle Unternehmen, die als Betreiber Hochrisiko-KI-Systeme in eigener Verantwortung einsetzen. Als Hochrisiko-KI-Systeme gelten nach Anhang III der Verordnung insbesondere Anwendungen in den Bereichen Biometrie, Erziehung und Berufsbildung sowie im Personalmanagement. Letzteres gilt etwa bei der Sichtung von Bewerbungen oder Entscheidungen über Beförderungen und Kündigungen. Ebenfalls erfasst sind Systeme zur Kreditwürdigkeitsprüfung sowie zur Risikobewertung bei Kranken- und Lebensversicherungen. Unternehmen müssen sicherstellen, dass sie über funktionierende Kommunikationskanäle verfügen, um Erläuterungsanfragen zuverlässig und fristgerecht bearbeiten zu können. Der Einsatz von Hochrisiko-KI erfolgt oft bereits im vorvertraglichen Stadium. Die Dokumentation der KI-gestützten Entscheidungsprozesse sollte daher so aufbereitet werden, dass sie jederzeit für eine individuelle Erläuterung herangezogen werden kann.
Fazit
Das Recht auf Erläuterung nach Artikel 86 KI-VO legt Transparenz als zentrale Anforderung für den Einsatz von Hochrisiko-KI-Systemen fest. Unternehmen sollten den August 2026 als maßgeblichen Zeitpunkt für die Anwendbarkeit vieler dieser Bestimmungen im Blick behalten und ihre Governance-Strukturen frühzeitig anpassen. Die proaktive Umsetzung der Erläuterungspflicht minimiert nicht nur Haftungsrisiken, sondern stärkt auch das Vertrauen von Beschäftigten, Bewerbern und Kunden in den rechtssicheren Einsatz moderner Technologien. Bei der Umsetzung unterstützen wir praxisnah mit individueller Beratung.
KI-Compliance aus einer Hand
Künstliche Intelligenz rechtssicher nutzen & entwickeln
- KINAST KI-Beratung
- KINAST externer KI-Beauftragter
- KINAST KI-Kompetenz-Schulungen
