Wo liegen die Grenzen von KI in der Justiz?

KI hält zunehmend Einzug in Justiz und Anwaltschaft. Sie kann Verfahren strukturieren, Schriftsätze auswerten und Routineaufgaben erleichtern. Zugleich zeigen aktuelle Gerichtsentscheidungen, dass vermehrt ungeprüfte KI-Inhalte in Klageschriften übernommen werden.

Die zentrale Frage lautet daher: Wo endet zulässige Unterstützung und wo beginnt unzulässige Automatisierung? Antworten darauf geben die KI Arbeitsgruppe der Oberlandesgerichte sowie die Bundesregierung. Klar ist: KI darf entlasten, aber nicht menschliche Prüfung, richterliche Verantwortung und anwaltliche Sorgfalt ersetzen.

Die Fälle häufen sich: KI erfindet Rechtsprechung

In einem Beschluss (Az. 17 WF 144/25) rügte das Kammergericht Berlin, dass anwaltliche Schriftsätze offensichtlich mithilfe einer „fantasierenden“ KI verfasst worden waren. Die KI hatte nicht existierende Urteile des Bundesgerichtshofs (BGH) und des OLG Brandenburg erfunden, inklusive plausibel klingender, aber falscher Aktenzeichen und Fundstellen. Das Gericht stellte klar, dass Rechtsanwälte als Organe der Rechtspflege gemäß § 43 BRAO verpflichtet sind, KI-generierte Inhalte zwingend auf ihren Wahrheitsgehalt zu prüfen.

Leitsatz der Entscheidung

„Rechtsanwälte sind gehalten, mithilfe von KI verfasste Schriftsätze zu prüfen, insbesondere darauf, ob darin enthaltene Rechtsprechungszitate Ergebnis einer „fantasierenden“ KI sind.“

Bereits vor dem Beschluss des KG Berlin hatten deutsche Gerichte klare Grenzen für den Einsatz generativer KI gezogen.

• AG Köln (Az. 312 F 130/25): Ein Fachanwalt zitierte fiktive Monografien und postulierte inhaltlich falsche Rechtsregeln.
• LG Darmstadt (Az. 19 O 527/16): Einem Sachverständigen wurde die Vergütung vollständig versagt, da sein Gutachten erkennbare KI-Muster ohne ausreichende Eigenleistung aufwies und somit prozessual unverwertbar war.

Wie schätzen die Gerichte die Lage ein?

Um diesen Herausforderungen strukturiert zu begegnen, haben die Präsidentinnen und Präsidenten der Oberlandesgerichte sowie des Bundesgerichtshofs auf ihrer 78. Jahrestagung in Brandenburg an der Havel das aktualisierte „Grundlagenpapier 2026 zum Einsatz von KI in der Justiz“ verabschiedet. Stefanie Otte, Präsidentin des OLG Celle, betonte, dass seit der ersten Fassung von 2022 eine rasante Entwicklung stattgefunden hat.

Das neue Papier ist das Ergebnis der Arbeit von 55 Experten und dient als strategischer Kompass, um die Potenziale der Digitalisierung zu nutzen, ohne die Unabhängigkeit und Integrität der „dritten Gewalt“ zu gefährden. Es bildet die Basis für eine bundesweit einheitliche Governance und die Vermeidung von ineffizienten Insellösungen.

Support, not Substitute: Was darf KI leisten?

Ein zentraler Pfeiler der neuen Leitlinien ist das Prinzip „Support, not Substitute“. Mit anderen Worten: KI-Systeme dürfen die richterliche Arbeit zwar unterstützen und strukturieren, aber niemals ersetzen. Da die rechtsprechende Gewalt nach Art. 92 des Grundgesetzes zwingend an natürliche Personen gebunden ist, bleibt der Einsatz von Algorithmen zur abschließenden Entscheidungsfindung verfassungsrechtlich unzulässig. KI soll stattdessen dazu dienen, hochbelastete Beschäftigte von repetitiven Nebenaufgaben zu entlasten, damit diese sich auf die eigentlichen Kerntätigkeiten konzentrieren können. Die Letztverantwortung für jede Entscheidung muss beim Menschen verbleiben, da Maschinen weder über soziale Kompetenz verfügen noch im Sinne des Richtergesetzes „nach bestem Wissen und Gewissen“ urteilen können.

Wo verläuft die rote Linie bei KI in der Justiz?

Die Justiz zieht eine klare „rote Linie“ dort, wo algorithmische Systeme beginnen, wertende Abwägungen oder Ermessensentscheidungen vorzunehmen. Während die Informationsgewinnung, Aktenstrukturierung und administrative Vorbereitung als assistenzfähig gelten, bleiben die Beweiswürdigung und die normative Subsumtion dem menschlichen Richter vorbehalten. Besonders kritisch wird in diesem Zusammenhang der sogenannte Automation Bias gesehen. Dies meint die menschliche Neigung, automatisierten Vorschlägen blind zu vertrauen, was die richterliche Unabhängigkeit mittelbar untergraben könnte. Systeme, die als „Black-Box“ fungieren und deren Entscheidungsprozesse nicht mehr nachvollziehbar sind, dürfen daher allenfalls für vorbereitende Aufgaben eingesetzt werden. Sie müssen zudem durch technische Maßnahmen wie Rulemapping transparent gestaltet sein.

Wo ist KI schon praxistauglich?

Trotz der strengen Grenzen identifiziert die Justiz konkrete Bereiche, in denen KI bereits heute kurzfristig und risikoarm Entlastung schafft. Zu diesen „Quick Wins“ gehören Projekte wie ALeKS und JANO, die mithilfe von KI-Komponenten die automatisierte Anonymisierung und Pseudonymisierung von Urteilen übernehmen. Die erzielten Trefferquoten seien hier bereits höher als bei der manuellen Bearbeitung. Ebenso entlasten KI-Lösungen zur Transkription von Verhandlungen, wie etwa GoSpeech, die Serviceeinheiten erheblich, indem sie Sitzungsmitschnitte effizient verschriftlichen. In Massenverfahren unterstützen Tools wie MAKI oder OLGA die Richter bei der Durchdringung riesiger Datenmengen. Sie analysieren Schriftsätze und ordnen Fallgruppen zu, sodass es den Weg zu einer schnelleren Erledigung ebnet.

Aktuelle Positionierung der Bundesregierung

In einer aktuellen Antwort auf eine Kleine Anfrage (BT-Drs. 21/5985) hat die Bundesregierung ihre Erkenntnisse und Schlussfolgerungen zu Einsatz, Chancen und Risiken künstlicher Intelligenz in der Justiz mitgeteilt.

Während der Regierung eine Zunahme KI-generierter Schriftsätze bekannt ist, fehlen bislang systematische Erhebungen über das genaue Ausmaß. Um den sachgerechten Umgang zu fördern, plant die Regierung die Erstellung eines KI-Kompetenz-Frameworks, das ein gemeinsames Verständnis für den verantwortungsvollen Einsatz der Technologie unter Justizbediensteten schaffen soll. Eine Digitalisierungsinitiative für die Justiz läuft ebenfalls bis Ende 2026.

Auf die Frage nach den Voraussetzungen zur Gewährleistung von Transparenz, Nachvollziehbarkeit und Rechtssicherheit verwies die Regierung primär auf die europäische KI-Verordnung (KI-VO) als maßgebliches Regelwerk. KI-Systeme, die Justizbehörden bei der Auslegung von Sachverhalten oder Rechtsvorschriften unterstützen, können als Hochrisiko-KI eingestuft werden. Daraus folgen insbesondere:

• strenge Anforderungen an Risikomanagement und Datenqualität,
• technische Dokumentationspflichten,
• wirksame menschliche Aufsicht während des Betriebs.

Ergänzend verweist die Bundesregierung auf die gemeinsame KI-Strategie von Bund und Ländern aus Juni 2025. Sie soll eine bundesweit einheitliche, rechtssichere und praxistaugliche Nutzung von KI in der Justiz fördern. Zugleich bleibt die zentrale Grenze unverändert: KI darf richterliche Arbeit unterstützen, aber keine gerichtlichen Entscheidungen ersetzen. Die Letztverantwortung muss beim Menschen verbleiben.

Handlungsempfehlungen für Justiz und Anwaltschaft

Aus den aktuellen Entwicklungen ergeben sich dringende Handlungsempfehlungen für alle Akteure des Rechtssystems.

• Für die Justizverwaltung bedeutet dies, massiv in die technische Infrastruktur und das Fachpersonal zu investieren, um technologische Abhängigkeiten von externen Anbietern zu vermeiden und die Datenhoheit zu wahren.
• Für die Anwaltschaft ist eine konsequente redaktionelle Endkontrolle unverzichtbar. Jedes KI-generierte Zitat muss einzeln auf Existenz und Richtigkeit geprüft werden, um berufsrechtliche Sanktionen und Haftungsansprüche zu vermeiden.
• Zudem müssen alle Anwender gemäß Art. 4 der KI-VO über ausreichende KI-Kompetenz verfügen, um typische Fehlerbilder wie Halluzinationen frühzeitig zu erkennen und kritisch zu hinterfragen.

Fazit

KI in der Justiz ist im Jahr 2026 eine unumkehrbare Realität, die jedoch eine fundierte Governance und kontinuierliche Sensibilisierung erfordert. Die aktuelle Entscheidung des Kammergerichts Berlin und die Positionen der Gerichte sowie der Bundesregierung machen deutlich, dass technologische Entlastung niemals die persönliche Verantwortung für den Inhalt rechtlicher Argumentationen ersetzen darf. Nur wer KI als unterstützendes Werkzeug versteht und die menschliche Endkontrolle als zentralen Compliance-Faktor etabliert, wird die Effizienzvorteile rechtssicher nutzen können. Gerne beraten wir Sie umfassend zu den Anforderungen der KI-Verordnung. Wir unterstützen Sie bei der Implementierung einer datenschutzkonformen KI-Strategie in Ihrem Unternehmen oder Ihrer Kanzlei.