Grundlagen der biomedizinischen Ethik

Die Medizin als Disziplin wird seit langem mit hohen ethischen Standards und beruflicher Verantwortung in Verbindung gebracht, was sich in Normen wie dem Hippokratischen Eid (Miles, 2005) bis hin zu den Erklärungen von Genf und Helsinki (Tröhler, 2008) manifestiert. Die Geschichte der Medizin umfasst jedoch auch Praktiken, die schutzbedürftigen Menschen schweren Schaden zugefügt haben.  Bekannte Beispiele hierfür sind Eugenik, die Zwangssterilisation indigener und marginalisierter Bevölkerungsgruppen sowie Experimente an Menschen mit Behinderungen ohne deren Einwilligung. Diese historischen Verfehlungen spiegeln strukturelle Ungerechtigkeiten und Machtstrukturen wider, die die medizinische Forschung und Praxis über Jahrhunderte geprägt haben und deren Erbe sich noch heute in den verzerrten Daten und diskriminierenden Mustern zeigt, die KI-Systeme im Gesundheitswesen zu übernehmen drohen.

Die biomedizinische Ethik (oder Bioethik) ist ein Bereich der angewandten Ethik, der sich mit den moralischen Fragen befasst, die sich in der medizinischen Praxis und der biomedizinischen Forschung ergeben (Vevaina et al., 1993). Sie basiert auf vier Kernprinzipien, wie sie von Beauchamp und Childress definiert wurden (Beauchamp & Childress, 2019):

• Autonomie: Die Entscheidungsfähigkeit autonomer Personen respektieren. Zwei allgemeine Bedingungen sind für Autonomie unerlässlich: Freiheit, die sich als Unabhängigkeit von kontrollierenden Einflüssen manifestiert, und Handlungsfähigkeit, d. h. die Fähigkeit zu absichtlichem Handeln.

• Nichtschaden: Vermeidung der Verursachung von Schaden.

• Wohltun: Ergreifen positiver Maßnahmen, um anderen zu helfen, insbesondere das Verhindern von Übel oder Schaden, das Beseitigen von Übel oder Schaden und das Fördern des Guten.

• Gerechtigkeit: Faire Verteilung von Nutzen, Risiken und Kosten. Gerechtigkeit wird als faire, gerechte und angemessene Behandlung von Einzelpersonen und Gruppen interpretiert, angesichts der vielen Ungleichheiten im Healthcare-Bereich und in der Forschung aufgrund von Rasse, ethnischer Zugehörigkeit, Gender und sozialem Status

Diese Prinzipien sind nicht abstrakt, sie bilden die ethische Grundlage Ihrer beruflichen Praxis als medizinische Fachkraft, und sie stehen unmittelbar auf dem Spiel, wenn Tools mit Bias bei der klinischen Entscheidungsfindung eingesetzt werden.

KI-Ethik: Ausweitung biomedizinischer Prinzipien auf künstliche Intelligenz

Die rasante Entwicklung von KI-Anwendungen hat eine Vielzahl ethischer Fragen aufgeworfen, wobei Bias und Diskriminierung eine herausragende Rolle spielen (Christoforaki & Beyan, 2022). Als Reaktion darauf hat sich die KI-Ethik als ein Bereich der angewandten Ethik herausgebildet, der „eine Reihe von Werten, Prinzipien und Techniken umfasst, die allgemein akzeptierte Standards von Recht und Unrecht anwenden, um das moralische Verhalten bei der Entwicklung und Nutzung von KI-Technologien zu leiten“ (Leslie, 2019, S. 3).

Die KI-Ethik stützt sich sowohl auf die Bioethik als auch auf den Menschenrechtsdiskurs, wobei letzterer das Recht auf gleiche Freiheit und Würde vor dem Gesetz, den Schutz bürgerlicher, politischer und sozialer Rechte, die universelle Anerkennung der Persönlichkeit sowie das Recht auf freie Teilhabe am Gemeinschaftsleben umfasst (Leslie, 2019).

Die vier bioethischen Prinzipien wurden daraufhin für die KI angepasst, wobei ein fünftes hinzugefügt wurde – die Erklärbarkeit (Floridi et al., 2018):

1. 1Autonomie als die Fähigkeit des Menschen, selbst zu entscheiden, ob er eine Entscheidung treffen will, wobei das Risiko besteht, zu viel an Maschinen zu delegieren.

2. Nichtschaden als Verhinderung von Schäden, die entweder durch die Absicht von Menschen oder durch das unvorhersehbare Verhalten von Maschinen entstehen.

3. Wohltun, als Förderung des Wohlergehens, Wahrung der Würde und Erhaltung des Planeten.

4. Gerechtigkeit, verstanden als Verhinderung und Beseitigung bereits bestehender ungerechter Diskriminierungen sowie neuer Schäden und als Gewährleistung einer gerechten Verteilung der Vorteile der KI.

5. Erklärbarkeit, definiert als das Verstehen und Rechenschaftspflichtige Machen der Entscheidungsprozesse von KI.

Von der Ethik zur Policy

Im Vergleich zur Medizin mangelt es der KI-Entwicklung derzeit an: 

1. gemeinsame Ziele und treuhänderische Pflichten;

2. Eine berufliche Geschichte und etablierte Normen;

3. Bewährte Methoden zur Umsetzung von Prinzipien in die Praxis;

4. Robuste rechtliche und berufliche Mechanismen der Rechenschaftspflicht. 

Das bedeutet, dass ethische Prinzipien zwar notwendig, aber nicht ausreichend sind, um KI im Gesundheitswesen zu regeln.

Gender- und rassenspezifische Verzerrungen in der biomedizinischen KI sind keine zufälligen oder isolierten technischen Mängel, sondern systemische Risiken, die über den gesamten Lebenszyklus von KI-Systemen im Gesundheitswesen auftreten. Bei Herz-Kreislauf-Erkrankungen, Depressionen und Diabetes entstehen Verzerrungen durch historisch verzerrte klinische Datensätze, ungleiche Diagnosepraktiken, Ersatzvariablen, die strukturelle Ungleichheiten widerspiegeln, sowie Einsatzkontexte, in denen Nutzen und Schaden ungleich verteilt sind.

Diese Erkenntnisse bestätigen, dass biomedizinische KI unmittelbar mehrere durch die Charta der Grundrechte der Europäischen Union geschützte Rechte und Prinzipien berührt, insbesondere die Menschenwürde, die Gleichheit vor dem Gesetz und das Diskriminierungsverbot sowie das Recht auf die Unversehrtheit der Person, das Recht auf Gesundheitsversorgung, den Datenschutz und das Recht auf einen wirksamen Rechtsbehelf.

Policy-Rahmenwerke der EU und der Mitgliedstaaten zur Regulierung von KI im Gesundheitswesen müssen daher die Verringerung von Bias nicht als freiwilliges ethisches Zusatzelement betrachten, sondern als verbindlichen Bestandteil eines rechtmäßigen und rechtskonformen Einsatzes von KI.

Die Charta der Grundrechte der Europäischen Union und KI

Laut einem vom Europarat finanzierten Bericht aus dem Jahr 2018 (Committee of experts on internet intermediaries (MSI-NET, 2018)), gehören zu den Menschenrechten, die am stärksten von Algorithmen und automatisierter Datenverarbeitung betroffen sind:

• Das Recht auf ein faires Verfahren und einen ordnungsgemäßen Prozess

• Privatsphäre und Datenschutz

• Meinungsfreiheit

• Das Recht auf einen wirksamen Rechtsbehelf

• Versammlungs- und Vereinigungsfreiheit

• Diskriminierungsverbot

• Soziale Rechte und Zugang zu öffentlichen Dienstleistungen

• Das Recht auf freie Wahlen

Voreingenommene Algorithmen werden ausdrücklich als mögliche Diskriminierungsfaktoren gegenüber gesellschaftlichen Gruppen aufgrund von Alter, sexueller Orientierung, ethnischer Zugehörigkeit, Gender oder sozioökonomischem Status genannt (MSI-NET, 2018, S. 27). Darüber hinaus verlangt das Rahmenübereinkommen des Europarats über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit ausdrücklich, dass die Mitgliedstaaten „Maßnahmen erlassen oder beibehalten, um sicherzustellen, dass Aktivitäten im Lebenszyklus von Systemen der künstlichen Intelligenz die Gleichheit, einschließlich der Gleichstellung der Genderer, und das Diskriminierungsverbot gemäß geltendem internationalem und innerstaatlichem Recht achten“ (Übersetzung aus dem englischen Original, (Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law, 2024, p. 4)).

Wie in Modul 1 erörtert, sind die für biomedizinische KI unmittelbar relevanten Artikel der EU-Charta Artikel 21 (Nichtdiskriminierung), Artikel 23 (Gleichheit von Männern und Frauen) und Artikel 35 (Gesundheitsschutz). Wenn KI-Systeme, die in der klinischen Praxis eingesetzt werden, bei Patienten mit unterschiedlichen genderlichen oder rassebezogenen und ethnischen Merkmalen ungleiche Leistungen erbringen, stellen sie eine direkte Verletzung der durch diese Artikel geschützten Rechte dar.

Der EU-Rechtsrahmen für KI im Gesundheitswesen

Die EU hat ein mehrschichtiges Regulierungsumfeld für biomedizinische KI geschaffen, das auf vier sich ergänzenden Rechtsinstrumenten basiert:

Der EU AI Act

Der „AI Act“ schafft einen risikobasierten Rechtsrahmen für KI-Systeme. Viele Anwendungen im Gesundheitswesen, darunter klinische Entscheidungshilftools und Diagnosealgorithmen, werden als risikoreiche KI-Systeme eingestuft, die strengen Anforderungen in Bezug auf Risikomanagement, Datenverwaltung, Transparenz, menschliche Aufsicht und Genauigkeit unterliegen, einschließlich der Identifizierung und Minderung von Risiken diskriminierender Ergebnisse zwischen verschiedenen Bevölkerungsgruppen (EU AI Act, 2024).

Gesundheitseinrichtungen, die KI-Systeme einsetzen, haben gemäß dem „AI Act“ ebenfalls spezifische Verpflichtungen. Für medizinisches Fachpersonal und Kliniken sind die folgenden Bestimmungen von größter operativer Bedeutung:

1. Anforderungen an hochriskante Systeme: Anbieter müssen ein Risikomanagementsystem für den gesamten Lebenszyklus (Art. 9) sowie Datenverwaltungspraktiken mit folgenden Elementen implementieren: explizite Erwartungen hinsichtlich der Erkennung und Minderung von Bias (Art. 10), einschließlich der Bewertung der Repräsentativität der Daten und potenzieller Leistungsunterschiede zwischen Bevölkerungsgruppen, aufgeschlüsselt nach Gender und rassebezogener oder ethnischer Herkunft; Transparenzgarantien und Bereitstellung von Informationen für die Nutzer (Art. 13); menschlicher Aufsicht, die darauf ausgelegt ist, AutomatisierungsBias zu verhindern und Übersteuerungs- oder Stoppverfahren zu ermöglichen (Art. 14); sowie Kontrollen hinsichtlich Genauigkeit, Robustheit und Cybersicherheit mit ausdrücklicher Berücksichtigung von Rückkopplungsschleifen und KI-spezifischen Angriffen (Art. 15), die andernfalls bestehende Ungleichheiten verschärfen könnten, wenn sie nicht angegangen werden.. 

2. Pflichten der Betreiber: Kliniken und andere Betreiber müssen risikoreiche KI-Systeme gemäß den Anweisungen des Anbieters einsetzen (Art. 26); eine kompetente menschliche Aufsicht zu gewährleisten (Art. 26); sicherzustellen, dass die Eingabedaten relevant, repräsentativ und vollständig sind, sofern der Betreiber die Eingaben kontrolliert (Art. 26), sowie (soweit möglich) die demografische Vielfalt in klinischen Populationen zu berücksichtigen; den Systembetrieb zu überwachen (Art. 26); automatisch generierte Protokolle mindestens sechs Monate lang aufbewahren, sofern andere Rechtsvorschriften nichts anderes vorschreiben (Art. 26); und schwerwiegende Vorfälle oder Fehlfunktionen den Anbietern und den zuständigen Behörden unverzüglich melden (Art. 26, 73), insbesondere wenn das Risiko ungleicher klinischer Ergebnisse besteht.

3. Grundrechte-Folgenabschätzung (GRFA): Vor dem Einsatz bestimmter risikoreicher KI-Systeme müssen öffentlich-rechtliche Stellen (und private Einrichtungen, die öffentliche Dienstleistungen erbringen) eine GRFA durchführen, in der Prozesse, betroffene Gruppen, Risiken, Maßnahmen zur menschlichen Aufsicht sowie Mechanismen zur Risikominderung oder zur Beschwerdeabwicklung beschrieben werden, und anschließend die Marktüberwachungsbehörde anhand einer Vorlage benachrichtigen, die das KI-Büro voraussichtlich entwickeln wird (Art. 28). Diese Anforderung ist für öffentliche Kliniken in vielen Mitgliedstaaten unmittelbar relevant, da sie einen Mechanismus bereitstellt, um Risiken von Diskriminierung und ungleichen Auswirkungen auf Gendersspezifische sowie rassische/ethnische Gruppen vor der Einführung zu identifizieren und anzugehen.

Medizinprodukteverordnung (Medical Device Regulation-MDR) und In-vitro-Diagnostika-Verordnung (IVDR)

KI-Systeme, die im medizinischen Kontext eingesetzt werden, unterliegen ebenfalls dem Medizinprodukte-Recht und den damit verbundenen Leitlinien, einschließlich der Medizinprodukteverordnung (MDR)  (European Union, 2017a) und der In-vitro-Diagnostika-Verordnung (IVDR) (European Union, 2017b), die die Sicherheit und Leistungsfähigkeit von Medizinprodukten regeln und eine klinische Bewertung sowie eine Überwachung nach dem Inverkehrbringen (einschließlich KI-basierter Tools) vorschreiben, wobei auf eine gerechte Leistungsfähigkeit über alle Bevölkerungsgruppen hinweg geachtet wird. 

Das Verhältnis zwischen dem „AI Act“ und dem geltenden Medizinprodukte-Recht wird in den Leitlinien zum Zusammenspiel zwischen dem „AI Act“ und der MDR/IVDR (Medical Device Coordination Group & European AI Board, 2025) erläutert. Das Dokument erläutert, dass der „AI Act“ neben diesen beiden Verordnungen gilt und diese nicht ersetzt. In der Praxis bedeutet dies, dass viele medizinische KI-Systeme beide Rahmenwerke gleichzeitig erfüllen müssen. Der Leitfaden klärt auch, wann medizinische KI nach dem „AI Act“ als risikoreich gilt, was typischerweise der Fall ist, wenn das KI-System selbst ein Medizinprodukt (oder eine Sicherheitskomponente davon) ist und daher einer Konformitätsbewertung durch eine benannte Stelle unterliegt.

Für die Beschaffung durch Kliniken bedeutet dies, dass von Anbietern verlangt wird, den regulatorischen Status ihres Systems nachzuweisen, einschließlich der MDR/IVDR-Klassifizierung, der Einbeziehung einer benannten Stelle, sofern zutreffend, sowie der Dokumentation der Leistung in aufgeschlüsselten Bevölkerungsgruppen und der Maßnahmen zur Verringerung von Bias, sofern relevant. Beschaffungsverträge sollten zudem von Anbietern verlangen, die Dokumentation, Transparenzinformationen und Überwachungsmaßnahmen bereitzustellen, die von den Anwendern gemäß dem „AI Act“ benötigt werden, einschließlich Bestimmungen zur Gewährleistung gerechter Ergebnisse für alle Patienten.

Datenschutz-Grundverordnung (DSGVO)

Mehrere weitere EU-Instrumente sind in der Praxis ebenfalls für die Governance von KI im Gesundheitswesen von Bedeutung. Die DSGVO bleibt eine zentrale Einschränkung für biomedizinische KI, da Gesundheitsdaten zu den besonderen Kategorien personenbezogener Daten gehören (European Union, 2016). Der Einsatz in Kliniken erfordert häufig Datenschutz-Folgenabschätzungen (DPIAs), die der „AI Act“ (Art. 26 Abs. 9, Art. 27 Abs. 4) ausdrücklich mit den Pflichten der Anwender verknüpft (einschließlich der Berücksichtigung unterschiedlicher Auswirkungen auf Bevölkerungsgruppen, aufgeschlüsselt nach Gender und rassebezogener oder ethnischer Herkunft, soweit dies möglich ist).

Europäischer Gesundheitsdatenraum (EHDS)

Der EHDS zielt darauf ab, den sicheren Zugang zu Gesundheitsdaten für die Gesundheitsversorgung und Forschung zu erleichtern und gleichzeitig strenge Datenschutzgarantien aufrechtzuerhalten  (European Union, 2025). Es wird erwartet, dass er eine Schlüsselrolle dabei spielen wird, repräsentativere Datensätze für die Entwicklung biomedizinischer KI zu ermöglichen, einen Fokus auf Gerechtigkeit zu legen und das Risiko einer Unterrepräsentation bestimmter Bevölkerungsgruppen zu verringern  (European Commission, 2025).

Was dies für Sie als medizinische Fachkraft bedeutet

Die in diesem Modul beschriebene rechtliche und ethische Landschaft führt zu konkreten Verantwortlichkeiten für medizinisches Fachpersonal, das mit KI-Tools arbeitet. Dazu gehören:

• Menschliche Aufsicht: Klinische KI-Tools, die zur Diagnose, Risikostratifizierung, Vorsorgeuntersuchung oder Behandlungsunterstützung eingesetzt werden, dürfen niemals als de facto autonome Entscheidungsträger fungieren. Sie haben sowohl das Recht als auch die Verantwortung, KI-Ergebnisse kritisch zu hinterfragen, anstatt sich ihnen zu unterwerfen, und Ihre Einrichtung ist verpflichtet, Sie dabei zu unterstützen.

• Transparenz: Patienten müssen informiert werden, wenn KI-Systeme bei klinischen Entscheidungen eingesetzt werden, die sie betreffen, einschließlich bei Vorsorgeuntersuchungen, Priorisierung oder Risikobewertung. Wenn KI-generierte Ergebnisse in das öffentliche Gesundheitswesen einfließen, sollten diese Ergebnisse eindeutig als solche erkennbar sein und von verständlichen Erläuterungen zu ihrer Rolle, ihren Grenzen und bekannten Risiken des Bias begleitet werden. Patienten sollten auch informiert werden, wenn ihre personenbezogenen Daten für das Training, das Testen oder das kontinuierliche Lernen von KI verwendet werden, insbesondere wenn es sich um sensitive Daten handelt. Diese Transparenzmaßnahmen sind unerlässlich, um die in der Charta verankerten Rechte auf Datenschutz und wirksame Rechtsbehelfe zu wahren und es Einzelpersonen zu ermöglichen, Entscheidungen, die sich nachteilig auf sie auswirken könnten, sinnvoll anzufechten.

• Berichterstattung: Wenn Sie Ergebnisse beobachten, die inkonsistent, ungeklärt oder potenziell diskriminierend erscheinen, insbesondere zwischen Gender- oder ethnischen Gruppen, sind Sie verpflichtet, diese Bedenken über die Kontrollmechanismen Ihrer Einrichtung zu dokumentieren und zu melden.

• Beschaffung: Wenn Ihre Einrichtung KI-Systeme beschafft, sollten Grundrechte und Kriterien zur Vermeidung von Bias integraler Bestandteil dieser Entscheidung sein, wobei Lösungen bevorzugt werden sollten, die robuste, transparente und unabhängig überprüfte Verfahren zur Verringerung von Bias aufweisen.

Sie verfügen nun über eine solide Grundlage sowohl in Bezug auf die ethischen Prinzipien als auch auf die rechtlichen Instrumente, die die KI im Gesundheitswesen regeln. Das nächste Modul wird dies in die Praxis umsetzen: Modul 5 stellt das KI-Regulierungsmodell vor, ein in Übereinstimmung mit der EU-Charta entwickeltes Tool, das speziell darauf abzielt, Kliniken und zivilgesellschaftlichen Organisationen einen praktischen Governance-Rahmen zu bieten, der den gesamten Lebenszyklus von KI-Systemen abdeckt – von der Beschaffung und Validierung bis hin zum Einsatz, zur Überwachung und zur Rechenschaftspflicht.

Weiter: Modul 5

Literaturverzeichnis:

Beauchamp, T. L., & Childress, J. F. (2019). Principles of biomedical ethics (8th ed).

Christoforaki, M., & Beyan, O. (2022). AI Ethics—A Bird’s Eye View. AI Ethics—A Bird’s Eye View, 12(9), Article 9. https://doi.org/10.3390/app12094130

Committee of experts on internet intermediaries (MSI-NET). (2018). Algorithms and human rights—Study on the human rights dimensions of automated data processing techniques and possible regulatory implications [Study]. Council of Europe. https://rm.coe.int/algorithms-and-human-rights-en-rev/16807956b5

Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law, Council of Europe Treaty Series—No. 225 (2024). https://rm.coe.int/1680afae3c

European Commission, European Health Data Space (EHDS), Brussels: European Commission, 2025.

European Commission, Timeline for Implementation of the EU AI Act, Brussels: European Commission, 2024.

European Union, Regulation (EU) 2016/679 on General Data Protection Regulation (GDPR), Brussels: EU, 2016.

European Union, Regulation (EU) 2017/745 on Medical Devices (MDR), Official Journal of the European Union, L117, Brussels: European Union, 2017.

European Union, Regulation (EU) 2017/746 on In Vitro Diagnostic Medical Devices (IVDR), Official Journal of the European Union, L117, Brussels: European Union, 2017.

European Union, Regulation (EU) 2025/327 on the European Health Data Space (EHDS), Brussels: European Union, 2025.

Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., Luetge, C., Madelin, R., Pagallo, U., Rossi, F., Schafer, B., Valcke, P., & Vayena, E. (2018). AI4People—An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations. Minds and Machines, 28(4), 689–707. https://doi.org/10.1007/s11023-018-9482-5

Leslie, D. (2019). Understanding artificial intelligence ethics and safety: A guide for the responsible design and implementation of AI systems in the public sector. Zenodo. https://doi.org/10.5281/ZENODO.3240529

Medical Device Coordination Group & European AI Board, Guidance on MDR/IVDR and AI Act Interplay, Brussels: European Commission, 2025.

Miles, S. H. (2005). The Hippocratic Oath and the Ethics of Medicine. Oxford University Press, USA.

Regulation (EU) 2024/1689 of the European Parliament and of the Council, Laying Down Harmonised Rules on Artificial Intelligence (AI Act), PE/24/2024/REV/1, Official Journal of the European Union, 13 June 2024.

Tröhler, U. (2008). The Historical Development of International Codes of Ethics for Human Subjects Research. In R. B. Baker & L. B. McCullough (Eds), The Cambridge World History of Medical Ethics (1st edn, pp. 566–575). Cambridge University Press. https://doi.org/10.1017/CHOL9780521888790.052

Vevaina, J. R., Nora, L. M., & Bone, R. C. (1993). Issues in biomedical ethics. Disease-a-Month, 39(12), 874–925.