Was passiert, wenn Algorithmen über Diagnosen mitentscheiden? Zwischen Innovation und Verantwortung entstehen heikle Fragen: Wer haftet, wer kontrolliert und wo liegen die ethischen Grenzen der Medizin 4.0?
Die fortschreitende Integration von KI im Gesundheitswesen gilt als bedeutender Strukturwandel der modernen Medizin. KI-Systeme werden zunehmend in Diagnostik, Prognostik und Therapie eingesetzt und ermöglichen eine präzisere, datenbasierte und individualisierte Versorgung (z. B. in Radiologie, Onkologie oder Pathologie). Gleichzeitig berührt diese Entwicklung zentrale Grundlagen medizinischen Handelns. Medizin ist nicht nur eine empirische Wissenschaft, sondern auch eine ethisch und rechtlich geprägte Praxis. Der Einsatz von KI verändert daher die Bedingungen von Verantwortung, Entscheidung und Vertrauen im Gesundheitswesen grundlegend. Ethik und Recht sind somit keine Zusatzaspekte, sondern zentrale Voraussetzungen für einen verantwortungsvollen Einsatz von KI.
Grenzen des Vertrauens.
Im Gesundheitswesen verändert der Einsatz von KI die Bedingungen von Verantwortung. Ethik und Recht sind daher zentrale Voraussetzungen für den Einsatz von Künstlicher Intelligenz.
Verschiebung klinischer Verantwortungsstrukturen
Man stelle sich eine akute Notfallsituation in einer Stroke Unit vor: Ein:e Patient:in wird mit Verdacht auf ischämischen Schlaganfall eingeliefert. Innerhalb weniger Minuten wird eine kraniale CT durchgeführt. Parallel analysiert ein KI-gestütztes Entscheidungssystem die Bilddaten und kommt zu dem Ergebnis, dass kein sicherer Hinweis auf akute Durchblutungsstörungen (Ischämie) vorliegt. Der behandelnde Radiologe bzw. die behandelnde Radiologin hingegen erkennt subtile, aber klinisch relevante Veränderungen, die in Zusammenschau mit dem neurologischen Status für einen frühen Infarkt sprechen. Trotz der zurückhaltenden algorithmischen Einschätzung wird eine Lysetherapie eingeleitet – mit positivem Verlauf.
Solche Konstellationen sind in der modernen Akutmedizin keine Ausnahme mehr, sondern Ausdruck eines strukturellen Wandels, da KI-Systeme sukzessive als zusätzliche Instanz in diagnostische und therapeutische Entscheidungsprozesse einfließen. Sie sind dabei nicht bloß technische Hilfsmittel, sondern faktisch in die klinische Urteilsbildung integriert. Genau an dieser Schnittstelle stellt sich die zentrale Frage dieses Beitrags: Wie verändert KI Verantwortung, Entscheidungslogik und ethische Anforderungen im Gesundheitswesen?
Mit Blick auf den Medizinsektor zeigt sich, dass der Einsatz von KI im klinischen Alltag primär im Rahmen der Entscheidungsunterstützung erfolgt. Algorithmen analysieren große Mengen an Patient:innendaten und generieren daraus Risikoprofile, Diagnosewahrscheinlichkeiten oder Therapieempfehlungen. In kontrollierten Studien konnten solche Systeme in spezifischen Anwendungsbereichen eine diagnostische Leistungsfähigkeit erreichen, die mit der von Ärzt:innen – speziell mit Nicht-Spezialist:innen – vergleichbar ist. Diese Entwicklung führt zu einer strukturellen Verschiebung innerhalb der ärztlichen Entscheidungsfindung. Während medizinische Entscheidungen traditionell auf einer Synthese aus evidenzbasierter Leitlinienmedizin, klinischer Erfahrung und individueller Fallbewertung beruhen, tritt nun ein datengetriebenes System hinzu, dessen Empfehlungen auf statistischen Korrelationen basieren. Diese Form der Wissensgenerierung unterscheidet sich grundlegend von kausalen medizinischen Erklärungsmodellen. Daraus ergibt sich ein Spannungsfeld zwischen technischer Präzision und professioneller Autonomie. Die normative Herausforderung besteht darin, die Rolle der Ärzt:innen so zu definieren, dass sie weiterhin als verantwortliche Entscheidungsträger:innen agieren, ohne die potenziellen Vorteile algorithmischer Unterstützung zu vernachlässigen.
Datenbasierte Verzerrungen: Medizinische und ethische Konsequenzen
Die Verlässlichkeit von KI-Systemen hängt wesentlich von der Qualität ihrer Trainingsdaten ab. In der medizinischen Forschung ist gut belegt, dass solche Daten häufig Verzerrungen enthalten, die aus einer ungleichen Repräsentation bestimmter Bevölkerungsgruppen resultieren. Werden diese Daten für das Training verwendet, können bestehende Ungleichheiten reproduziert oder verstärkt werden. Studien zeigen außerdem, dass KI-gestützte Diagnosesysteme bei unterrepräsentierten Gruppen (etwa hinsichtlich Geschlecht) teils geringere Genauigkeit aufweisen. Dies ist nicht nur ein Problem technischer Validität, sondern berührt das ethische Prinzip der Gerechtigkeit. Zugleich stellen sich rechtliche Fragen der Diskriminierung und Haftung – vor allem dann, wenn sich systematische Benachteiligungen auf die Zuordnung von Verantwortung auswirken.
Ein wesentliches Merkmal vieler KI-Systeme (speziell neuronaler Netzwerke) ist ihre begrenzte Erklärbarkeit. Ihre Entscheidungsprozesse sind oft nur eingeschränkt nachvollziehbar, was im medizinischen Kontext problematisch sein kann, weil insbesondere die ärztliche Aufklärungspflicht voraussetzt, dass diagnostische und therapeutische Entscheidungen verständlich begründet werden. Beruht daher eine Empfehlung auf einem intransparenten KI-Modell, ist diese Anforderung nur teilweise erfüllbar. Daraus ergeben sich sowohl ethische als auch rechtliche Fragen, vor allem im Hinblick auf die informierte Einwilligung. Die Entwicklung erklärbarer KI-Tools gilt daher als zentrales Forschungsfeld, um Nachvollziehbarkeit zu verbessern, ohne die Leistungsfähigkeit wesentlich zu beeinträchtigen.
Ass.-Prof. Dr. Marlon Possard, MSc, MA,
ist Rechts- und Verwaltungswissenschaftler. Er lehrt und forscht als Habilitand am Research Center Administrative Sciences der Hochschule für Angewandte Wissenschaften Campus Wien (HCW). Zudem ist er Leiter des Departments für Ethik der Künstlichen Intelligenz an der Rechtswissenschaftlichen Fakultät der Sigmund Freud PrivatUniversität Wien und Berlin (SFU).
Patient:innenautonomie im Kontext algorithmischer Empfehlungen
Die zunehmende Verfügbarkeit KI-gestützter Systeme verändert auch die Rolle der Patient:innen im medizinischen Entscheidungsprozess. Einerseits können digitale Technologien komplexe medizinische Informationen besser zugänglich machen und individuelle Risikoprofile visualisieren, andererseits besteht jedoch die Gefahr, dass algorithmische Empfehlungen als objektiv und überlegen wahrgenommen werden und dadurch die Entscheidungsfreiheit faktisch beeinflussen. Studien zeigen, dass Menschen algorithmischen Systemen oft besonderes Vertrauen entgegenbringen, auch wenn deren Grundlagen nicht (vollständig) verstanden werden. Die ethische Herausforderung besteht somit darin, Unterstützung und Selbstbestimmung auszubalancieren. Letztlich gilt, dass KI-Systeme so ausgestaltet sind, dass sie Transparenz fördern und Autonomie stärken und Entscheidungen eben nicht implizit steuern.
Mit der Implementierung von KI im Gesundheitswesen entsteht ein komplexes Netzwerk verschiedener Akteur:innen entlang der gesamten Wertschöpfungskette. Neben medizinischem Personal sind im speziellen Softwareentwickler:innen, Datenwissenschaftler:innen und institutionelle Betreiber:innen beteiligt. Diese Arbeitsteilung erschwert die eindeutige Zurechnung von Verantwortung im Schadensfall. Wenn eine fehlerhafte algorithmische Empfehlung zu einer falschen Diagnose oder Therapie führt, bleibt häufig unklar, ob die Ursache im Systemdesign, in den Trainingsdaten oder in der klinischen Anwendung liegt. Daraus ergibt sich juristisch ein Bedarf an klaren Haftungsregelungen, die der spezifischen Struktur algorithmischer Systeme gerecht werden – all das vor dem Hintergrund, dass die Letztentscheidung weiterhin immer bei den Ärzt:innen selbst liegen muss (vgl. Art. 14 KI-VO; „Human-in-the-loop“ bzw. „Human-on-the-loop“). Ethisch ist dabei entscheidend, dass Verantwortung nicht diffus wird, sondern eindeutig verortet bleibt. KI ist als Werkzeug innerhalb menschlicher Entscheidungs- und Verantwortungsstrukturen zu verstehen, darf aber nicht als eigenständiger Akteur klassifiziert werden. Ethik bildet dabei den normativen Rahmen, der die Grundlage für nachhaltiges Vertrauen und damit für eine erfolgreiche KI-Integration schafft. Konkret bedeutet dies: Ethische und rechtliche Aspekte sind keine externen Ergänzungen technologischer Innovation, sondern müssen integraler Bestandteil von Entwicklung und Implementierung sein (z. B. mittels „Ethics by Design“).
Normative Orientierung im technologischen Wandel
Was hat es schlussendlich mit Medizin 4.0 auf sich? Fest steht: Die Anwendung von KI im medizinischen Sektor eröffnet aktuell erhebliche Potenziale zur Verbesserung der Versorgungsleistungen. Gleichzeitig bringt sie neue Herausforderungen mit sich, die über rein technische Fragestellungen hinausgehen. Im Besonderen erfordern die Auswirkungen auf Entscheidungsprozesse, Verantwortungsstrukturen und die Wahrung grundlegender ethischer Prinzipien eine differenzierte Betrachtung. Die zentrale Erkenntnis lautet, dass technologischer Fortschritt im Gesundheitswesen untrennbar mit normativer Orientierung verbunden ist. Ethik und Recht bilden dabei keine Begrenzung, sondern eine Voraussetzung für verantwortungsvolle Innovation. In einer zunehmend datengetriebenen Medizin wird die Fähigkeit zur ethischen und rechtlichen Reflexion selbst zu einer Schlüsselkompetenz aller beteiligten Akteur:innen.
Quellen und Links:
Takita, H., Kabata, D., Walston, S.L. et al. A systematic review and meta-analysis of diagnostic performance comparison between generative AI and physicians. npj Digit. Med. 8, 175 (2025). www.nature.com/articles/s41746-025-01543-z
Seyyed-Kalantari, L., Zhang, H., McDermott, M.B.A. et al. Underdiagnosis bias of artificial intelligence algorithms applied to chest radiographs in under-served patient populations. Nat Med 27, 2176–2182 (2021). www.nature.com/articles/s41591-021-01595-0
Dzindolet, Mary T., Scott A. Peterson, Regina A. Pomranky, Linda G. Pierce & Beck P. Hall (2003). The role of trust in automation reliance. International Journal of Human-Computer Studies 58(6): 697-718.
