Gedanken als Daten: Die neuen UNESCO-Leitlinien für KI-Neurotechnologien

Die fortschreitende technische Verschmelzung von Mensch und Maschine durch KI-gestützte Neurotechnologien markiert einen Wendepunkt für die unternehmerische Compliance. Im November 2025 haben 194 Mitgliedstaaten der UNESCO eine globale Empfehlung verabschiedet, die erstmals einen ethischen Ordnungsrahmen für Systeme schafft, die neuronale Signale messen oder das Nervensystem modulieren. Für Unternehmen resultiert daraus eine komplexe regulatorische Gemengelage, da diese Anwendungen regelmäßig an der Schnittstelle von Medizinprodukterecht, der europäischen KI-Verordnung (KI-VO) und der DSGVO operieren.

Was sind KI-Neurotechnologien?

KI-Neurotechnologien bezeichnen innovative Systeme, die mittels Hard- und Software direkt mit dem menschlichen Nervensystem interagieren, um dessen elektrische Signale zu messen, zu überwachen, zu analysieren oder gezielt zu beeinflussen. Künstliche Intelligenz fungiert dabei als entscheidender „Übersetzer“, der die enorme Komplexität neuronaler Muster dekodiert und in digitale Steuerbefehle für externe Geräte transformiert. Die Technologie wird grundlegend in messende Verfahren, wie das Auslesen von Hirnaktivität (z. B. EEG), und modulierende Verfahren unterteilt, die wie bei der Tiefenhirnstimulation aktiv in neuronale Prozesse eingreifen. Ein bekanntes Beispiel ist das Unternehmen Neuralink, das implantierbare Gehirn-Computer-Schnittstellen (BCI) entwickelt, um eine direkte Verbindung zwischen dem menschlichen Gehirn und digitaler Rechenpower herzustellen.

UNESCO-Studie zum regulatorischen Rahmen für Hersteller und Mediziner

Die technische Verknüpfung von Künstlicher Intelligenz mit dem menschlichen Nervensystem durch Neurotechnologien eröffnet bahnbrechende therapeutische Möglichkeiten, stellt jedoch Medizinprodukthersteller und Ärzte vor erhebliche rechtliche Herausforderungen. Im Mai 2026 veröffentlichte die Deutsche UNESCO-Kommission eine umfassende Studie von Dr. Christoph Bublitz, die den rechtlichen Rahmen für solche Systeme in Deutschland analysiert. Diese Untersuchung verdeutlicht das komplexe Zusammenspiel zwischen der Medizinprodukteverordnung (MDR), der europäischen KI-Verordnung (KI-VO) und der DSGVO bei der Entwicklung und Anwendung von Gehirn-Computer-Schnittstellen oder Neurostimulationsverfahren. Zuvor veröffentlichte UNESCO in 2025 Empfehlungen zur Ethik der Neurotechnologie.

Regulatorische Synergien und Hochrisiko-Einstufung für Hersteller

Für Hersteller von KI-basierten Neurotechnologien ist die Einordnung als Hochrisiko-KI-System von zentraler Bedeutung, da diese Geräte regelmäßig unter den Anhang II der KI-VO fallen und somit strengen Anforderungen an die Sicherheit und Qualität unterliegen. Da entsprechende Produkte meist ohnehin ein Konformitätsbewertungsverfahren durch eine Benannte Stelle unter der MDR durchlaufen müssen, treten die KI-spezifischen Auflagen an das Risikomanagement und die Daten-Governance ergänzend hinzu. Die Bundesnetzagentur hat hierzu Roadmaps bereitgestellt, die Unternehmen dabei unterstützen, KI-spezifische Inhalte wie Bias-Untersuchungen systematisch in die bestehende technische Dokumentation der MDR zu integrieren. Hersteller müssen dabei gewährleisten, dass die verwendeten Trainings- und Validierungsdatensätze den hohen Qualitätsstandards entsprechen, um algorithmische Verzerrungen und Fehlsteuerungen zu minimieren.

Schutz der mentalen Integrität und sensibler Neuraldaten

Aus Sicht der Neurochirurgen steht der Schutz der mentalen Integrität und Privatheit ihrer Patienten im Fokus, da Neurotechnologien einen beispiellosen Zugriff auf neuronale Signale und damit auf das menschliche Innenleben ermöglichen. Ein wesentliches Ergebnis der UNESCO-Leitlinien ist die Forderung, neuronale Daten sowie biometrische Daten, die Rückschlüsse auf mentale Zustände wie Stimmungen oder Konzentrationsniveaus erlauben, explizit als besondere Kategorien personenbezogener Daten in Artikel 9 der DSGVO zu verankern. Mediziner müssen bei der Anwendung dieser Systeme besonders auf die informierte Einwilligung achten und sicherstellen, dass die psychische Integrität als schützenswertes Gut gewahrt bleibt. Zudem bleibt der rechtliche Status des Off-Label-Einsatzes von Neurotechnologien außerhalb der vom Hersteller vorgegebenen Zweckbestimmung ein Bereich, der erhöhte Anforderungen an die ärztliche Aufklärung und die individuelle Nutzen-Risiko-Abwägung stellt.

Transparenz und die Rolle der menschlichen Aufsicht

Ein zentraler Pfeiler der Regulierung ist die Verpflichtung zur wirksamen Aufsicht durch natürliche Personen während der Verwendung von Hochrisiko-KI-Systemen. Ärzte müssen über die notwendige Kompetenz verfügen, um die Ausgaben der KI-gestützten Neurotechnologien kritisch zu hinterfragen und bei Fehlfunktionen eingreifen zu können, was eine hohe Transparenz und Erklärbarkeit der Systeme seitens der Hersteller voraussetzt. Hierbei ist zwischen der technischen Interpretierbarkeit für Experten und der praktischen Erklärbarkeit für Mediziner und Patienten zu unterscheiden, um ein stabiles Vertrauensverhältnis in der Versorgung zu schaffen. Unternehmen sollten daher bereits im Designprozess Mechanismen implementieren, die es dem Fachpersonal ermöglichen, die Logik hinter algorithmischen Entscheidungen nachzuvollziehen und potenzielle Risiken wie einen sogenannten Data Drift frühzeitig zu identifizieren.

Technische Compliance und Ethics-by-Design

Die Sicherheit von KI-Neurotechnologien erfordert laut UNESCO und den Leitlinien des Europäischen Datenschutzbeauftragten (EDSB) eine enge Verzahnung technischer Standards mit ethischen Prinzipien. Hierbei wird die Implementierung von Ethics-by-Design-Ansätzen empfohlen, um Risiken für die Autonomie der Nutzer bereits während der Produktentwicklung durch Datenminimierung und Verschlüsselung zu minimieren. Unternehmen sollten zudem den Unterschied zwischen Interpretierbarkeit und Erklärbarkeit ihrer KI-Modelle berücksichtigen, um sicherzustellen, dass Entscheidungen für Endnutzer nachvollziehbar bleiben. Da nationale Alleingänge aufgrund des weltweiten Datenverkehrs kaum effektiv sind, wird eine verstärkte internationale Harmonisierung technischer Normen und die Durchführung von Mental-Impact-Assessments angestrebt.

Handlungsbedarf für Unternehmen

Hersteller sollten zeitnah ihre Risikomanagementsysteme evaluieren und um spezifische Prüfschritte für algorithmische Biases sowie erweiterte Anforderungen an die Datenqualität ergänzen. Es ist für Unternehmen ratsam, die technische Dokumentation so zu konzipieren, dass sie die Anforderungen der MDR und der KI-VO in einem integrierten Prozess abbildet, um den bürokratischen Aufwand im Zulassungsverfahren zu reduzieren. Medizintechnikunternehmen und klinische Einrichtungen sollten zudem Ethics-by-Design-Ansätze verfolgen, um den Schutz der mentalen Privatheit bereits in der Architektur der Geräte durch Anonymisierungstechniken und sichere Speicherlösungen zu verankern. Schließlich empfiehlt es sich, die internen Compliance-Strukturen proaktiv auf die absehbare Verschärfung der datenschutzrechtlichen Einstufung von Neuraldaten als hochsensible Gesundheitsdaten vorzubereiten.

Fazit

Mit der UNESCO-Empfehlung und der begleitenden Bublitz-Studie liegt ein globaler Kompass vor, der den ethischen und rechtlichen Rahmen für die disruptive Kraft von KI in der Neurotechnologie definiert. Für innovative Marktteilnehmer bedeutet dies die Herausforderung, technische Exzellenz in der Medizin mit einem robusten Schutz der mentalen Selbstbestimmung und einer lückenlosen regulatorischen Konformität über die Grenzen von Medizinprodukte- und KI-Recht hinweg zu verbinden.