Wer haftet für KI-Halluzinationen? Zwei aktuelle Urteile des LG München I und des OLG Hamm

Die Frage, wer für KI-generierte Falschaussagen und sogenannte Halluzinationen haftet, beschäftigt Wissenschaft, Praxis und Aufsichtsbehörden seit Jahren. Nun konkretisiert auch die Rechtsprechung die Verantwortlichkeiten: Mit dem LG München I und dem OLG Hamm liegen nun zwei aktuelle Entscheidungen vor, die eine klare Richtung für die Haftung für KI-generierte Inhalte vorgeben.

Beide Gerichte stellen klar, dass sich Unternehmen nicht auf die vermeintliche Eigenständigkeit oder Unvorhersehbarkeit von KI-Systemen berufen können. Entscheidend ist nicht die einzelne fehlerhafte Antwort, sondern die Einbindung des Systems in die eigene Kommunikation oder Geschäftsorganisation. Die Verantwortung verlagert sich damit vom konkreten Output auf das Systemdesign, dessen Einsatz und Überwachung.

LG München I: KI-Generierte Inhalte als eigene Äußerung des Betreibers

Das Landgericht München I entschied am 28. Mai 2026 (Az. 26 O 869/26), dass Google für falsche und ehrverletzende Aussagen in seiner „KI-Übersicht“ haftet. In dem Fall hatte die KI einem Münchener Verlagshaus fälschlicherweise unseriöse Geschäftspraktiken und „Abo-Fallen“ unterstellt, obwohl diese Vorwürfe in den verlinkten Quellen gar nicht enthalten waren.

Das LG München I bejahte einen Unterlassungsanspruch aus §§ 1004, 823 Abs. 1 BGB i.V.m. Art. 2 Abs. 1, Art. 19 Abs. 3 GG wegen Verletzung des Unternehmenspersönlichkeitsrechts und untersagte die Verbreitung der konkreten Äußerungen. Es stufte Google als unmittelbare Störerin (Rn. 30 f.) ein. Maßgeblich war hierbei, dass die KI-Übersicht kein bloßes Auffinden fremder Suchergebnisse ist, sondern durch die eigenständige sprachliche Aufbereitung, Strukturierung und Bewertung einen neuen, eigenständigen Inhalt schafft. Da Google das System selbst anbietet und die Algorithmen beherrscht, müsse es sich die Ergebnisse wie eigene Erklärungen zurechnen lassen. Eine Privilegierung als reiner Intermediär nach dem Digital Services Act (DSA) lehnte das Gericht ab, da Google hier nicht lediglich als Hostprovider agiere. Bei der EU Kommission läuft jedoch ebenfalls eine DSA-Untersuchung, inwieweit die AI Overviews von Google auf Inhalten von Web-Publishern basieren, ohne dass eine angemessene Vergütung oder die Möglichkeit zum Widerspruch gegen diese Nutzung besteht.

OLG Hamm: Wettbewerbsrechtliche Haftung für „halluzinierte“ Facharzttitel

Parallel dazu befasste sich das Oberlandesgericht Hamm (Urt. v. 12.05.2026, Az. 4 UKl 3/25) mit einem Chatbot einer Schönheitsklinik. Dieser hatte den Geschäftsführern fiktive Facharzttitel zugeschrieben, die diese gar nicht führten. Das OLG Hamm wertete diese Antworten im Rahmen des Lauterkeitsrecht als eigene geschäftliche Handlung des Betreibers gemäß § 2 Abs. 1 Nr. 2 UWG.

Besonders relevant für die Praxis: Die Klinik konnte sich nicht damit verteidigen, das System sei mit korrekten Daten gefüttert worden und die Falschaussage sei eine unvorhersehbare „Halluzination“ der Technik gewesen. Das Gericht stellte klar, dass ein Chatbot ein integraler Bestandteil der geschäftlichen Organisation ist. Wer sich zur Interaktion mit Kunden eines automatisierten Systems bedient, trägt die volle Verantwortung für dessen Output, da Maschinen vom Verbraucher oft als besonders fehlerfrei und glaubwürdig wahrgenommen werden.

Systemarchitektur statt Einzelfallkontrolle

Der gemeinsame Nenner beider Urteile ist die Abkehr von der Vorstellung, dass die „Black Box“ der KI eine Haftung ausschließt. In der juristischen Bewertung rückt das Systemdesign in den Vordergrund. Das LG München I betont, dass der Anbieter die Algorithmen kontrolliert, während das OLG Hamm die Steuerungsgewalt über den Tätigkeitsrahmen des Bots hervorhebt.

Ein entscheidender Unterschied liegt in der Rolle der Akteure: Während Google als Anbieter des KI-Systems auftritt, ist die Klinik im Fall des OLG Hamm eine Betreiberin eines (fremden) Chatbots. Dennoch gelingt die Zurechnung auch bei Anwendern über die wettbewerbsrechtliche Verkehrspflicht und die Einbindung in die eigene Organisation. Unternehmen können sich also nicht hinter dem IT-Dienstleister verstecken, wenn sie das Tool gegenüber ihren Kunden einsetzen.

Was bedeutet das für Unternehmen?

Ob Anbieter wie Google oder Betreiber eines fremden Chatbots auf der eigenen Webseite: Die wachsende Anzahl an Rechtsprechung verdeutlicht den Bedarf an einer robusten KI-Governance.

Zu einer KI-Strategie sollten folgende Maßnahmen gehören:

• Implementierung technischer Filter: Nutzen Sie Prompt-Vorgaben und Keyword-Filter, um die Ausgabe kritischer oder rechtlich geschützter Begriffe aktiv zu unterbinden.
• Menschliche Aufsicht (Human-in-the-Loop): Trainieren Sie das System so, dass es sensible oder geschäftlich relevante Fragestellungen erkennt und diese an menschliche Mitarbeiter verweist.
• Belastbares Beschwerdemanagement: Etablieren Sie ein schnelles Verfahren, um auf Hinweise über Falschaussagen zu reagieren.
• Prüfung der Datenbasis und Compliance: Stellen Sie sicher, dass die für den Bot genutzten Daten aktuell sind und die Verarbeitung personenbezogener Daten im Einklang mit der DSGVO steht.
• Schulung der KI-Kompetenz: Gemäß Art. 4 der EU-KI-Verordnung müssen Mitarbeiter, die mit KI-Systemen arbeiten, über ausreichende Kompetenz verfügen, um die Grenzen und Risiken der Modelle einschätzen zu können.

Fazit

Die Rechtsprechung macht deutlich: KI-Systeme sind Werkzeuge, für deren ordnungsgemäße Funktion der Betreiber die volle rechtliche Haftung trägt – unabhängig davon, ob er das System selbst entwickelt oder nur lizenziert hat. Unternehmen müssen den Einsatz von KI daher nicht nur als technisches Projekt, sondern als zentrales Element ihrer Risiko- und Compliance-Strategie begreifen.