KI in der Medizin: Ehemaliger Ethikrat-Vorsitzender zu Gast bei acatech am Dienstag

München, 13. Oktober 2022

Wie lässt sich Künstliche Intelligenz (KI) in der Medizin verantwortungsvoll nutzen? Diese Frage stand im Mittelpunkt bei acatech am Dienstag am 4. Oktober, das wieder in Kooperation mit vhs.wissen live stattfand. acatech Mitglied Peter Dabrock, Professor für Systematische Theologie (Ethik) an der Friedrich-Alexander-Universität Erlangen-Nürnberg und ehemaliger Vorsitzender des Deutschen Ethikrates, verwies auf die Chancen der Technologie für den Gesundheitsbereich – machte aber auch die ethischen Grenzen deutlich.

Das Potenzial von KI für medizinische Anwendungen ist ohne Zweifel groß. KI-basierte Systeme können beispielsweise auf Basis von Patientendaten risikoreiche, aber auf den ersten Blick schwer zu erkennende Symptomkonstellationen schnell identifizieren. Der Einsatz von KI, aber auch der Verzicht darauf, müsse gerechtfertigt werden, stellte acatech Präsident Jan Wörner bei seiner Begrüßung heraus. KI habe einen Wandel im Arzt-Patienten-Verhältnis angestoßen, noch sei unklar, wie dieser Prozess ausgehe. Auch die Frage, wer die Verantwortung trage, wenn bei der Zusammenarbeit mit dem KI-System Fehler passieren, sei noch offen.

Am Beispiel von Anwendungen der KI im Gesundheitssystem stellte Peter Dabrock die Chancen sowie möglichen Probleme des Einsatzes der Technologie dar. KI sei ein Megatrend, sie zähle zu den bedeutendsten technischen Revolutionen in der Geschichte. KI und Lernende Systeme zeichneten sich dadurch aus, dass sie abstrakt beschriebene Aufgaben auf Basis von Daten, die ihnen als Lerngrundlage dienen, selbständig erledigen können – ohne, dass jeder Schritt spezifisch programmiert wird. Dies führe aber auch dazu, dass diese neue Technologie nicht nur Chancen, sondern auch Risiken berge.

Das Digitale-Zwillings-Modell

Digitale Zwillinge ermöglichten, dass in der virtuellen Welt eine möglichst genaue Simulation entscheidender gesundheitsrelevanter Daten aufgebaut werde, erläuterte Peter Dabrock. Aus der Testung dieses digitalen Zwillings könnten für den realen Menschen potenzielle Schwächen und drohende Krankheiten identifiziert und dann auch präventiv mögliche Therapien oder gar körperliche Verbesserungen vorgeschlagen werden. Andere KI-Anwendungen finden sich beispielsweise im Bereich der Krebsdiagnose – insbesondere bei Hautkrebs, wo die Maschinen teilweise bessere Diagnosen bereitstellen, als es erfahrene Ärzte derzeit können. Hier stelle sich die Herausforderung, wie Mensch und Maschine effektiv, aber auch verantwortungsvoll kooperieren können.

Der Einfluss von KI auf Gesundheitsdaten erschöpfe sich aber nicht allein auf klassische medizinische Daten, sagte Peter Dabrock weiter. So könnten bei Social Media aus den Posts, Likes und Kommentaren von Nutzerinnen und Nutzern Rückschlüsse gezogen werden, ob jemand typische Muster für Depression zeige oder gar zur Suizidalität neige. Dieser Schluss käme in diesem Fall aber nur durch einen Musterabgleich mit anderen Anzeichen, die für Suizidgefährdung sprächen, zustande – und nicht durch eine fachärztliche Diagnose. KI für diese Zwecke zu nutzen, sei ethisch ausgesprochen zweideutig, so Peter Dabrock. Denn zum einen sei dies ein meistens nicht ausdrücklich von den Betroffenen gewünschter massiver Eingriff in ihre Lebensführung; auf der anderen Seite stelle sich jedoch die Frage, ob der potenzielle Nutzen – die Rettung eines Lebens – die nicht genehmigte Datensammlung und den Musterabgleich vielleicht doch rechtfertigen könne. Über diese Zweideutigkeit müsse in der Gesellschaft noch viel stärker aufgeklärt und diskutiert werden; gegebenenfalls müsse noch stärker reguliert werden.

Je mehr Daten, desto größer der Nutzen von KI-Systemen, erklärte Peter Dabrock in seinem Vortrag. Um mehr Daten zu sammeln, sei es unverzichtbar, dass sich Akteure in Wissenschaft, Wirtschaft und Gesellschaft den ethischen Herausforderungen stellten. Dazu müssten die bekannten ethischen Kriterien wie Autonomie-Respekt, Nicht-Schädigung, Wohltat und Gerechtigkeit sowie die Erklärbarkeit von Lernenden Systemen besser auf den Bereich KI angewendet werden. Diese Prinzipien könnten nach Peter Dabrock allerdings nur dann in die medizinische und gesundheitsrelevante Praxis umgesetzt werden, wenn drei Pfade beachtet werden: Zum einen müsse dem Datensubjekt – dem Patienten – mehr Kontrollhoheit im Datenverarbeitungsprozess gesichert werden. Zum anderen müssten die Daten-nutzenden Organisationen fehlerfreundlich und die Systeme gleichzeitig transparent, partizipativ aufgestellt und möglichst robust sein. Zum dritten sichere eine Kultur der Solidarität bei der Krankenversorgung auch die Bereitschaft der Menschen, Daten für den medizinischen Fortschritt zu spenden.

Weiterführende Informationen:

Datensouveränität. Governance-Ansätze für den Gesundheitsbereich

Big Data und Gesundheit – Datensouveränität als informationelle Freiheitsgestaltung