Das Landgericht Aachen hat Google im Wege einer einstweiligen Verfügung untersagt, rechtswidrige Falschbehauptungen im „KI-Modus“ der Google-Suche weiter zu verbreiten. Die Entscheidung stellt einen bedeutenden Baustein in der sich entwickelnden Rechtsprechung zur rechtlichen Verantwortlichkeit für KI-generierte Inhalte und sogenannte Halluzinationen dar. Für die Praxis bedeutet das, dass Unternehmen automatisierte KI-Ausgaben von Drittplattformen sowie eigenen Systemen fortlaufend überwachen müssen, um reputative und rechtliche Risiken frühzeitig zu minimieren.
Der Fall vor dem Landgericht Aachen
In dem Verfahren vor dem Landgericht Aachen ordnete die Google-KI einem Arzt und ehemaligen Klinikdirektor fälschlicherweise ein Strafverfahren wegen sexueller Nötigung sowie darauffolgende Kündigungen zu, die tatsächlich eine andere Person betrafen. Nachdem Google eine Aufforderung zur Löschung sowie eine förmliche Abmahnung erfolglos verstreichen ließ, erließ das Gericht ohne vorherige mündliche Verhandlung die begehrte einstweilige Verfügung.
Die Entscheidung des LG Aachen
Die Richter stellten klar, dass der „KI-Modus“ durch die Auswertung und Verknüpfung unterschiedlicher Quellen eigenständige neue Aussagen erzeugt und sich Google diese als Störer zurechnen lassen muss. Das Gericht knüpfte damit ausdrücklich an die Rechtsprechung des Landgerichts München I an, wonach generierte Antworten keine bloße Zusammenstellung fremder Inhalte darstellen, sondern eigene inhaltliche Äußerungen des Anbieters sind. Das Urteil schafft damit ein wirksames rechtliches Instrumentarium gegen KI-generierte Falschdarstellungen, auch wenn für viele Unternehmen die Durchsetzung gegenüber globalen Plattformbetreibern erhebliche Ressourcen erfordert.
Einordnung in die bisherige Rechtsprechung zu KI-Halluzinationen
Die Entscheidung reiht sich nahtlos in frühere richterliche Bewertungen von KI-Fehlleistungen ein. Während das Landgericht Hamburg bereits entschied, dass Betreiber wie X für ehrabträgliche Halluzinationen von Chatbots wie Grok haften, untersuchte das Landgericht Frankfurt kartellrechtliche Unterlassungsansprüche nach dem GWB im Zusammenhang mit Googles KI-Zusammenfassungen.
Auch im Bereich Berufs- und Vergütungsrecht zeichnet sich eine strenge Linie ab: Das Amtsgericht Köln rügte die ungeprüfte Übernahme halluzinierter Urteile in Schriftsätzen als Verstoß gegen das Sachlichkeitsgebot, während das Landgericht Darmstadt einem Sachverständigen wegen eines unbefugt KI-generierten Gutachtens den Vergütungsanspruch versagte. Zudem verdeutlichen Entscheidungen wie die des Landgerichts Kiel sowie internationale Urteile zu Chatbots, dass automatisierte Zusagen von Systemen rechtlich bindend für das betreibende Unternehmen sind. Für die Unternehmens-Compliance bedeutet dies, dass unkritisch genutzte KI-Ergebnisse in sämtlichen Geschäftsprozessen – von der externen Markenrepräsentation bis zur Schriftsatzerstellung – unmittelbare Haftungs- und Vergütungsrisiken auslösen.
Störerhaftung und Prüfpflichten im Licht der EU-KI-Verordnung
Das Landgericht Aachen stützte den Unterlassungsanspruch auf § 1004 BGB analog in Verbindung mit § 823 Abs. 1 BGB und dem allgemeinen Persönlichkeitsrecht, da Falschbehauptungen beweisbare Tatsachen betreffen und das berufliche Ansehen erheblich schädigen können. Dem Betreiber sei es zumutbar, die Richtigkeit nach einem konkreten Hinweis zu prüfen und die eigene KI mit den Einwänden zu konfrontieren. Diese Pflicht zur Risikominimierung korrespondiert mit den gesetzlichen Anforderungen der KI-Verordnung, insbesondere Artikel 4, der Unternehmen zur Sicherstellung einer ausreichenden KI-Kompetenz verpflichtet. Für die Praxis bedeutet das, dass betriebliche Compliance-Systeme verbindliche Freigabeprozesse und eine konsequente menschliche Kontrolle vorsehen müssen, um den rechtlichen Anforderungen an den Einsatz künstlicher Intelligenz nachhaltig zu genügen.
Fazit
Zusammenfassend markiert die Entscheidung des Landgerichts Aachen einen entscheidenden Schritt hin zu klar abgegrenzten Betreiberpflichten im Umgang mit generativer KI. Wer automatisierte Sprachmodelle öffentlich bereitstellt oder betrieblich nutzt, verbleibt in der rechtlichen Letztverantwortung für Halluzinationen und fehlerhafte Aussagen. Für Unternehmen bedeutet dies, dass KI-Systeme ohne lückenlose Kontrolle und verbindliche Governance nicht nur Reputationsschäden, sondern auch erhebliche Haftungsrisiken nach sich ziehen.
KI-Compliance aus einer Hand
Künstliche Intelligenz rechtssicher nutzen & entwickeln
- KINAST KI-Beratung
- KINAST externer KI-Beauftragter
- KINAST KI-Kompetenz-Schulungen
