KI in der Medizin: Aktuelle Studien

4. Februar 2025

Künstliche Intelligenz (KI) revolutioniert das Gesundheitswesen und bietet großes Potenzial, die Genauigkeit und Effizienz in der Diagnostik und Behandlung zu steigern. Aktuelle Studien belegen eindrucksvoll die Fortschritte von KI in der Medizin, zeigen jedoch zugleich, dass der Einsatz von KI komplexe rechtliche und datenschutzrechtliche Herausforderungen mit sich bringt.

Aktuelle Studien zur KI in der Diagnostik

KI findet in der Medizin vielseitige Anwendung, von Large-Language-Modellen bis hin zur intelligenten Bilderkennung. Zwei aktuelle Studien beleuchten sowohl die Chancen als auch die Risiken ihres Einsatzes in der medizinischen Diagnostik.

Verbesserung der Brustkrebsfrüherkennung

Die PRAIM-Studie, eine prospektive Untersuchung der Universität zu Lübeck und des Universitätsklinikums Schleswig-Holstein (UKSH), veröffentlicht in Nature Medicine (2025), zeigt, dass KI die Entdeckungsrate von Brustkrebs im Mammographie-Screening um fast 18 % steigern könnte. Dies entspricht einem zusätzlichen Fall von Brustkrebs, der pro 1.000 untersuchten Frauen entdeckt würde. Besonders hervorzuheben ist, dass diese Verbesserung ohne eine Erhöhung der falsch-positiven Befunde erreicht wird. Grund dafür sei der „Decision Referral Approach“, bei dem die KI unauffällige oder auffällige Befunde zuverlässig klassifiziert und unklare Ergebnisse an Radiologen weiterleitet werden. Die Forscher sehen darin nicht nur die Möglichkeit die Diagnosesicherheit zu erhöhen, sondern auch die Arbeitsbelastung von Radiologen zu reduzieren.

Anfälligkeit für Data Poisoning

Eine Studie der New York University Langone Health hebt dagegen die Risiken von KI hervor. Sie zeigt, dass KI-Sprachmodelle anfällig für sogenanntes „Data Poisoning“ sind. Bereits winzige Mengen an manipulierten Trainingsdaten (0,001 %) könnten die Zuverlässigkeit der Modelle gefährden und zu Fehlinformationen führen. Besonders problematisch ist, dass solche Manipulationen allein durch die Verbreitung fehlerhafter Daten im Internet erfolgen können. Die Forscher entwickelten jedoch Ansätze, um solche Risiken zu minimieren, darunter einen Algorithmus, der medizinische Fachbegriffe mit biomedizinischen Wissensgraphen abgleicht, um Fehlinformationen zu erkennen.

Rechtliche Herausforderungen im Einsatz von KI

Die Fortschritte dieser Studien werfen grundlegende rechtliche Fragen auf. Ein zentraler Punkt ist die sogenannte „Black-Box-Problematik“, die die Transparenz und Nachvollziehbarkeit von KI-Entscheidungen erschwert. Dies macht es schwierig, Verantwortlichkeiten im Schadensfall zuzuordnen. Unklar bleibt, ob Ärzte, Softwarehersteller oder Programmierer bei einem Fehler haftbar gemacht werden können. Müssten Ärzte die Entscheidungen der KI stets überprüfen, würde dies die Effizienzsteigerung durch KI zunichtemachen. Andererseits könnten sie bei einer Fehldiagnose haftbar gemacht werden, obwohl sie die KI ordnungsgemäß eingesetzt haben.

Datenschutzrechtliche Anforderungen

Darüber hinaus steht KI im Spannungsverhältnis mit datenschutzrechtlichen Grundsätzen. KI-Systeme im Gesundheitswesen verarbeiten sensible Patientendaten, die gemäß DSGVO eines besonderen Schutzes bedürfen. Art. 9 Abs. 2 DSGVO erlaubt die Verarbeitung solcher Daten nur bei Vorliegen spezifischer Ausnahmen, wie etwa einer informierten Einwilligung der Betroffenen. Die Intransparenz vieler KI-Systeme erschwert es jedoch, Patienten über die Art und den Umfang der Datenverarbeitung angemessen zu informieren, was die Einholung einer gültigen Einwilligung problematisch macht.

Zusätzlich stellt die schiere Menge der verarbeiteten Daten („Big Data“) eine Herausforderung dar. Oft ist es praktisch unmöglich, Betroffene individuell zu informieren oder ihnen gemäß Art. 17 DSGVO eine Löschung oder Auskunft zu ermöglichen. Eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO ist bei der Nutzung von KI daher regelmäßig erforderlich, insbesondere wenn sensible Gesundheitsdaten verarbeitet werden. Sie kann dazu beitragen, Risiken frühzeitig zu identifizieren und die Verarbeitung rechtskonform zu gestalten.

KI-VO: Hochrisiko-KI-Systeme

Mit der Einführung der europäischen KI-Verordnung wurden erstmals klare Regeln für die Entwicklung, Bereitstellung und Nutzung von KI-Systemen in Europa geschaffen. Mit dem schrittweisen Inkrafttreten folgen auch für lernende Medizinprodukte in Zukunft strenge Vorschriften.  Da medizinische KI-Systeme nach der KI-VO meist als Hochrisiko-KI-Systeme einzustufen sind, bedürfen sie nach Artikel 9 der KI-VO ein Risikomanagementsystem. Auch wenn die Regelungen zu Hochrisikosystemen erst 2027 verbindlich werden, sollten diese bereits jetzt berücksichtigt werden.

Technische und organisatorische Maßnahmen

Abschließend ist darauf hinzuweisen, dass neben der Einhaltung der datenschutzrechtlichen Grundsätze auch technische und organisatorische Maßnahmen notwendig sind, um die Datensicherheit zu gewährleisten. So sollte insbesondere darauf geachtet werden, dass sensible Patientendaten vor unbefugtem Zugriff geschützt werden und die Verarbeitung transparent und nachvollziehbar gestaltet wird. Beispielsweise kann Meaningful Human Control (MHC) eingesetzt werden. Dies stellt sicher, dass der Mensch die Kontrolle behält und die Systeme ihre Entscheidungen und Vorschläge erklärbar machen müssen. Damit behält der Mensch die Möglichkeit, Rückfragen zu stellen oder die Vorschläge zu korrigieren. Gleichzeitig sollte der Einsatz von KI-Systemen durch Schulungen und regelmäßige Evaluationen begleitet werden. Dies ist entscheidend, um sowohl den Anforderungen der DSGVO zu genügen als auch das Vertrauen von Patienten und Anwendern in KI-Systeme zu stärken.

Fazit

Künstliche Intelligenz bietet in der Medizin erhebliche Chancen, wie die Verbesserung der Diagnostik und die Entlastung von medizinischem Personal. Gleichzeitig machen technische und rechtliche Herausforderungen deutlich, dass ein verantwortungsvoller Umgang mit der Technologie unerlässlich ist. Klare gesetzliche Regelungen, transparente Algorithmen und der Schutz sensibler Patientendaten sind entscheidend, um das Potenzial der KI voll auszuschöpfen, ohne die Rechte der Betroffenen zu gefährden.

Die Integration neuer KI-Tools in Ihr Unternehmen kann enorme Effizienzgewinne bringen. Doch gleichzeitig müssen auch rechtliche Vorgaben berücksichtigt werden. Wir unterstützen Sie als KI-Beauftragter, neue KI-Tools rechtssicher einzuführen und beraten Sie zur datenschutzkonformen Ausgestaltung von E-Health-Angeboten.