Bias in der KI als intersektionales Problem

Diskriminierung in der KI ist ein intersektionales Problem, das sich mit Dimensionen wie Alter, Geschlecht, ethnischer Zugehörigkeit, sexueller Orientierung und Gesundheitszustand überschneidet. Diese Bias und die daraus resultierende Diskriminierung bedrohen unmittelbar die durch die Charta der Grundrechte der Europäischen Union geschützten Grundrechte, insbesondere das Verbot der Diskriminierung aus jeglichem Grund gemäß Artikel 21, die Gewährleistung der Gleichheit von Männern und Frauen gemäß Artikel 23 und das Recht auf Zugang zur Gesundheitsversorgung gemäß Artikel 35.

Als medizinische Fachkraft ist es unerlässlich, diesen intersektionalen Charakter zu verstehen. Die PatientInnen, für die das Risiko am größten ist, durch voreingenommene KI-Tools zu Schaden zu kommen, sind oft diejenigen, die ohnehin schon mit vielfältigen Benachteiligungen beim Zugang zu und bei der Inanspruchnahme einer hochwertigen Versorgung konfrontiert sind.

Die Ursache des Problems: Bias in medizinischen Daten

Die in medizinischen KI-Anwendungen beobachteten Bias sind das Ergebnis voreingenommener medizinischer Daten, die über Jahrzehnte hinweg gesammelt wurden, und systemische Diskriminierung sowie strukturelle Ungleichheiten in der medizinischen Forschung und Praxis widerspiegeln  (Cirillo et al., 2020; Cross et al., 2024).

Ein wesentlicher Treiber dieses Problems ist die berüchtigte geschlechtsspezifische Gesundheitskluft: eine gut dokumentierte Ungleichheit in der Gesundheitsversorgung zwischen Männern und Frauen, die vom Zugang zur Gesundheitsversorgung bis hin zur Repräsentation in der Forschung reicht. Während eines Großteils der Medizingeschichte hatte der Fokus auf klinischen und experimentellen Studien überwiegend auf männlichen Teilnehmenden gelegen, wobei geschlechtsspezifische biologische Unterschiede vernachlässigt wurden. Im Jahr 2020 flossen nur 5 % der weltweiten Forschungs- und Entwicklungsmittel (F&E) in die Forschung zur Frauengesundheit. Davon entfielen 4 % auf Krebserkrankungen bei Frauen und 1 % auf alle anderen frauenspezifischen Gesundheitszustände, wobei 25 % davon wiederum auf die Fertilitätsforschung beschränkt waren  (Nature Reviews Bioengineering, 2024).

Wenn die Daten, die zum Trainieren von KI-Algorithmen verwendet werden, dieses Ungleichgewicht widerspiegeln, werden die daraus resultierenden Tools für unterrepräsentierte Gruppen zwangsläufig weniger genau sein. Wie Cirillo et al. (2020) hervorheben, ist der Mangel an fairen und gleichberechtigten Daten, die in KI-Systeme eingespeist werden, eine direkte Folge dieser historischen Ungleichheit. Es ist jedoch wichtig zu beachten, dass dies kein einseitiges Problem ist, da in einigen Fällen Männer die unterrepräsentierte Bevölkerungsgruppe bei der Datenerhebung sind. So wurde beispielsweise festgestellt, dass männliche Teilnehmende in klinischen Studien zu Erkrankungen des Bewegungsapparats und Traumata sowie in der Psychiatrie im Vergleich zu ihrer Krankheitslast unterrepräsentiert sind, was eine Form des Repräsentationsbiases darstellt (Steinberg et al., 2021). Speziell im Zusammenhang mit Depressionen sind Männer in klinischen Daten unterrepräsentiert, da sie seltener medizinische Hilfe in Anspruch nehmen, depressive Symptome melden und eine Diagnose erhalten, was sowohl einen Repräsentations- als auch einen Messungsbias widerspiegelt (Smith et al., 2018). 

Forschungsergebnisse deuten darauf hin, dass das Bewusstsein für die Unterschiede in der Ausprägung von Krankheiten bei Männern und Frauen dazu beitragen könnte, das Risiko von Fehldiagnosen aufgrund von Bias in den Daten zu senken  (Cirillo et al., 2020).

Die genderspezifische Gesundheitslücke

Genderspezifische Bias in der Medizin gehen über Einzelfälle hinaus; sie spiegeln ein systemisches Versagen wider, das Gender als relevante Variable in der klinischen Forschung und Praxis zu berücksichtigen. Diese Gendersblindheit, kombiniert mit stereotypen Vorurteilen über Männer und Frauen und einem allgemeinen Mangel an Wissen über den weiblichen Körper und seine biologischen Unterschiede zum männlichen Körper, hat das medizinische Wissen in einer Weise geprägt, die Frauen bis heute benachteiligt (Hamberg, 2008). So zeigte beispielsweise eine retrospektive Analyse von 450.948 erwachsenen Patient*innen mit neurologischen und kardiovaskulären Erkrankungen, die zwischen 2012 und 2016 in alle Kliniken der Schweiz aufgenommen wurden, dass Frauen insgesamt eine geringere Wahrscheinlichkeit hatten, auf eine Intensivstation verlegt zu werden als Männer, obwohl sie schwerer erkrankt waren (Todorov et al., 2021). Selbst auf Forschungsebene werden männliche Tiermodelle in der biomedizinischen Grundlagen-, präklinischen und chirurgischen Forschung nach wie vor häufiger verwendet als weibliche Modelle (Yoon et al., 2014), was bedeutet, dass die Grundlagen des medizinischen Wissens oft auf Daten basieren, die ausschließlich von Männern stammen.

 Rassebezogene Bias in der biomedizinischen KI

Rassebezogene Bias in der Medizin sind umfassend dokumentiert, insbesondere in den Vereinigten Staaten, wo nachweislich Afroamerikaner und andere Minderheiten im Vergleich zu weißen Patienten weniger medizinische Behandlungen, geringere Operationsraten und weniger Überweisungen an Fachärzte erhalten, unabhängig vom klinischen Bedarf (Bowser, 2001; Williams & Wyatt, 2015).

Wenn KI-Systeme mit Daten trainiert werden, die jahrzehntelange Ungleichheiten im Gesundheitswesen widerspiegeln, besteht die Gefahr, dass sie diese in größerem Maßstab verfestigen und weiterführen. Andererseits hat die Forschung, wie in Modul 2 untersucht, gezeigt, dass Maßnahmen zum Schutz der Privatsphäre unbeabsichtigt die Genauigkeit der Daten für nicht-hispanische schwarze und hispanische Bevölkerungsgruppen beeinträchtigen und bestehende Ungleichheiten weiter vertiefen können. So hat sich beispielsweise gezeigt, dass die Implementierung von Differential Privacy die Schätzungen der Sterblichkeitsrate für nicht-hispanische schwarze und hispanische Bevölkerungsgruppen stärker beeinflusst als für nicht-hispanische weiße Bevölkerungsgruppen (Santos-Lozada et al., 2020). Nicht-hispanische weiße Personen waren zudem die einzige rassische und ethnische Untergruppe, für die der Differential-Privacy-Algorithmus die Medicaid-Teilnahmequoten genau erfasste – eine Erkenntnis mit erheblichen Auswirkungen auf die Gesundheitspolitik und die Ressourcenverteilung (Kurz et al., 2022).

Zwar stammt ein Großteil der dokumentierten Belege aus den Vereinigten Staaten, doch sind die strukturellen Bedingungen, die zu Bias in Gesundheitsdaten führen – darunter Zugangsbarrieren, Unterrepräsentation in der klinischen Forschung und sozioökonomische Ungleichheiten –, auch in ganz Europa vorhanden, was dies zu einem direkt relevanten Anliegen für europäische Fachkräfte im Gesundheitswesen macht.

LGBTQIA+-Personen und KI im Gesundheitswesen

Es ist zudem wichtig anzuerkennen, dass LGBTQIA+-Personen beim Zugang zum Gesundheitsbereich Diskriminierung erfahren und Stereotypen ausgesetzt sind, von denen die heterosexuelle Bevölkerung nicht betroffen ist. Diese sozialen und kulturellen Faktoren zementieren Diskriminierung und haben messbare Auswirkungen auf Gesundheit und Gesundheitsbereich. Forschungen haben gezeigt, dass 16 % der LGBTQIA+-Personen von Diskriminierung bei Begegnungen im Healthcare-Bereich berichten und 18 % aus Angst vor schlechter Behandlung ganz darauf verzichten, medizinische Hilfe in Anspruch zu nehmen (Chang et al., 2025).

KI-Systeme, die auf Daten trainiert wurden, die diese Patienten nicht angemessen repräsentieren, bergen das Risiko, eine ohnehin schon schutzbedürftige Bevölkerungsgruppe weiter zu marginalisieren. Eine groß angelegte Studie zur Bewertung von KI-Bias in klinischen Szenarien der Notaufnahme ergab, dass Fälle mit LGBTQIA+-Patienten sechs- bis siebenmal häufiger Empfehlungen für psychische Gesundheitsmaßnahmen erhielten, als es klinisch angemessen war (Chang et al., 2025). 

Das Bewusstsein für die Unterschiede in der Ausprägung von Krankheiten bei verschiedenen Personen zu schärfen, ist daher nicht nur eine Frage der Fairness, sondern auch eine klinische Notwendigkeit, die dazu beitragen kann, das Risiko von Fehldiagnosen zu verringern und die Behandlungsergebnisse für alle Patienten zu verbessern

Beispiele im Bereich der Herz-Kreislauf-Erkrankungen

Genderspezifische Bias in der kardiovaskulären Versorgung gehören zu den am besten dokumentierten Beispielen dafür, wie sich eine ungleiche Repräsentation in der medizinischen Forschung in ungleiche Behandlungsergebnisse niederschlägt. Die kardiovaskulären Symptome von Frauen unterscheiden sich oft von dem in medizinischen Lehrbüchern beschriebenen „klassischen“ Krankheitsbild, das weitgehend auf Daten männlicher Patienten basiert (Fatunde et al., 2025). Laut einer systematischen Übersicht von Al Hamid et al. (2024) wurden Herz-Kreislauf-Erkrankungen bei Frauen seltener gemeldet, da sie entweder mildere Symptome als Männer zeigten oder ihre Symptome fälschlicherweise als gastrointestinale oder angstbedingte Symptome diagnostiziert wurden. Infolgedessen wurden Frauen weniger diagnostische Tests und Medikamente angeboten und sie wurden seltener an Kardiologen überwiesen und/oder stationär aufgenommen. Darüber hinaus erhielten Frauen im Falle eines Krankenhausaufenthalts seltener eine Koronarintervention. Daher wurden die Risikofaktoren von Frauen von Ärzten, insbesondere von männlichen Ärzten, nicht ausreichend berücksichtigt. Daraus lässt sich schließen, dass Frauen aufgrund bereits bestehender Bias seltener eine angemessene Versorgung im Healthcare-Bereich erhalten.

Die Folgen rassirassebezogener stischer Vorurteile in der kardiovaskulären Versorgung sind ebenso gravierend. Ein aufschlussreiches Beispiel, das sich jedoch nicht auf KI beschränkt, ist der Fall der Pulsoximeter, Geräte, die die Blutsauerstoffsättigung messen und routinemäßig bei Herzereignissen eingesetzt werden. Untersuchungen haben gezeigt, dass Pulsoximeter bei hellhäutigen Personen genauer arbeiten, was bedeutet, dass Patienten mit dunklerer Hautfarbe systematisch ungenauere Messwerte erhalten können (Sjoding et al., 2020). Dies verdeutlicht, wie tief Bias verwurzelt sein kann und sich über KI-Systeme hinaus auch auf die medizinischen Geräte erstreckt, die zusammen mit ihnen eingesetzt werden.

Wenn KI-Tools für die kardiovaskuläre Versorgung auf Datensätzen trainiert werden, in denen Frauen und ethnische Minderheiten unterrepräsentiert sind, wird das Risiko, diese Ungleichheiten in großem Maßstab zu reproduzieren und zu verstärken, signifikant.

Beispiele im Bereich Diabetes

Rassebezogene Bias in der Diabetesversorgung sind umfassend dokumentiert, insbesondere in den Vereinigten Staaten. Trotz ihres vergleichsweise geringeren Risikos sind nicht-hispanische weiße Gruppen in der Literatur zur Diabetes-Risikovorhersage nach wie vor überrepräsentiert (Cronjé et al., 2023). In einer Übersicht über ethnisch-rassische Gerechtigkeit in der künstlichen Intelligenz für das Diabetesmanagement betrug die durchschnittliche ethnische Verteilung in den untersuchten Artikeln 69,5 % Weiße, 17,1 % Schwarze und 3,7 % Asiaten, wobei nur zwei Artikel die Einbeziehung von indianischen Teilnehmenden angaben (Pham et al., 2021).

Es ist gut dokumentiert, dass die Ungleichheiten bei den Diabetes-Ergebnissen weitgehend durch komplexe, miteinander verflochtene soziale Gesundheitsdeterminanten (einschließlich des Zugangs zu gesunden Lebensmitteln, einer hochwertigen Gesundheitsversorgung, des Versicherungsstatus, bildungsbedingter Barrieren und unterschiedlicher Raten der Technologieakzeptanz) bedingt sind, die zu höheren Komplikationsraten und einer schlechteren Blutzuckerkontrolle bei minorisierten und einkommensschwachen Bevölkerungsgruppen führen (Alipour & Alipour, 2025).

Infolgedessen lässt sich ein auf solchen Datensätzen trainiertes KI-System nur schlecht auf verschiedene ethnische Gruppen übertragen, was zu Modellen mit Bias führt, die Personen bestimmter ethnischer Gruppen begünstigen und potenziell den am stärksten gefährdeten Patienten schaden können.

Ein weiteres Beispiel betrifft den A1C-Test, der den durchschnittlichen Glukosespiegel im Blut misst und typischerweise zur Erkennung von Prädiabetes oder zur Diagnose von Typ-2-Diabetes eingesetzt wird. Obwohl A1C nur ein indirekter Messwert ist und keinen kausalen Zusammenhang mit Gesundheitsergebnissen aufweist, gibt es erhebliche Schwankungen im Verhältnis zwischen Blutzucker und A1C zwischen verschiedenen Personen und sogar bei ein und derselben Person im Zeitverlauf. Darüber hinaus haben Studien bei afroamerikanischen Patienten einen signifikant höheren Hämoglobin-A1c-Wert (A1C) festgestellt als bei weißen Patienten mit demselben mittleren Glukosewert (Karter et al., 2023).

Wenn ein zur Diagnose von Diabetes entwickeltes KI-System darauf trainiert wird, HbA1c-Testergebnisse als Ersatz für den Blutzuckerspiegel zu verwenden, ohne andere Faktoren wie die ethnische Zugehörigkeit der Patienten zu berücksichtigen, kann dies zu verfrühten Diabetesdiagnosen und einer unangemessenen Behandlung führen, was wiederum einen Bias in der Healthcare-Qualität und gesundheitliche Ungleichheiten zur Folge hat. Wie jedoch in Alipour & Alipour (2025) festgestellt wurde, einer systematischen Übersicht über Biases, die die Gerechtigkeit von KI-/ML-Modellen bei Diabetes beeinträchtigen könnten, erwähnen die untersuchten Studien zwar ausdrücklich, dass sich Messungsbias durch KI-Modelle weiterverbreiten kann, wenn er nicht korrigiert wird, doch hat keine von ihnen solche Bias bei der Modellentwicklung berücksichtigt, sie ausdrücklich gemildert oder über die Korrektur von Unterschieden in der Messgenauigkeit berichtet.

Beispiele im Bereich Depression

Depressionen sind ein Bereich, in dem sowohl genderspezifische als auch rassistirassebezogene Bias erhebliche und gut dokumentierte Folgen für die KI-gestützte Versorgung haben, insbesondere bei Tools, die Natürlichsprachliche Systeme (NLP) für das Screening und die Diagnose nutzen.

KI-Modelle, die NLP zur Erfassung psychischer Gesundheit nutzen, sammeln große Datensätze mit Ausdruckssprache, die typischerweise aus sozialen Medien, Online-Foren, Blogs und Chatrooms stammen. Diese Daten sind jedoch bereits durch den persönlichen Hintergrund und den sozialen Kontext einer Person beeinflusst (Straw & Callison-Burch, 2020).

Insbesondere haben Untersuchungen gezeigt, dass Männer und Frauen psychische Belastungen unterschiedlich ausdrücken. Während Frauen eine weniger selbstbewusste Sprache verwenden, was sich in größerer Höflichkeit, weniger Fluchen, mehr Verstärkern (z. B. „wirklich“, „so“) und mehr Heckenausdrücken (d. h. Einschränkungen oder ungewisse Wörter wie „irgendwie“, „vielleicht“ oder „möglicherweise“) äußert, wird der Sprachgebrauch von Männern hingegen als direkt, präzise und weniger emotional beschrieben, gekennzeichnet durch Verweise auf Quantität, wertende Adjektive (z. B. „gut“, „dumm“), elliptische Sätze („Tolles Bild.“) und „Ich“-Bezugnahmen (Pennebaker et al., 2003). Diese Unterschiede stehen im Einklang mit einem soziologischen Rahmenmodell zu Gendersunterschieden.

Männer und Frauen drücken suizidale Not auch unterschiedlich aus; Frauen verinnerlichen negative Emotionen, während Männer zunehmende Wut zum Ausdruck bringen (Straw & Callison-Burch, 2020). Ein KI-System, das überwiegend auf Sprachdaten eines Genders trainiert wurde, könnte daher beim anderen Gender ungenaue Ergebnisse liefern. Diese Problematik wird zusätzlich dadurch erschwert, dass die meisten NLP-Modelle auf binären Gendererannahmen basieren und damit einen erheblichen Teil der Bevölkerung ausschließen, darunter nicht-binäre, transgender und gendersuntypische Personen, deren Erfahrungen mit Depressionen und suizidalem Leid sich erheblich von den Normen für Männer und Frauen unterscheiden können (Hafner et al., 2024). Die konkreten Auswirkungen dieser Ausgrenzungen auf LGBTQIA+-Bevölkerungsgruppen werden in Sektion 3.5 erörtert.

Obwohl epidemiologische Studien zeigen, dass bei Frauen häufiger eine Depression diagnostiziert wird als bei Männern, könnte dies teilweise darauf zurückzuführen sein, dass in der Forschung historisch gesehen Symptome gemessen wurden, die bei Frauen häufiger auftreten, wodurch möglicherweise übersehen wurde, wie sich Depressionen bei Männern äußern, und eine andere Art von Repräsentationslücke entstand (Cirillo et al., 2020).

Genderspezifische Biases bei Depressionen erstrecken sich auch auf den Einsatz digitaler Überwachungs Tools wie Sensoren in Wearables. Diese Daten wurden in Merkmale umgewandelt, die von den KI-Modellen für Vorhersagen verwendet wurden und sich auf Schlaf, körperliche Aktivität, zirkadianen Rhythmus, Geselligkeit, Standort und Handynutzung bezogen (De Angel et al., 2022).

Untersuchungen haben jedoch gezeigt, dass es Unterschiede in den Schlafmustern zwischen Männern und Frauen gibt, Frauen in der Schlafforschung jedoch häufig unterrepräsentiert sind. Darüber hinaus unterscheiden viele digitale Health-Tools nicht zwischen Gender als sozialem Konstrukt und biologischem Gender und berücksichtigen keine intersektionalen Identitäten, die durch Alter, ethnische Zugehörigkeit und sozioökonomische Klasse definiert sind (Lok et al., 2024) – allesamt relevante Faktoren bei der Überwachung und Behandlung von Depressionen.

Die in diesem Modul untersuchten gender- und rassenspezifischen Bias haben reale Konsequenzen für Patienten und reale Auswirkungen auf die Fachkräfte, die sie versorgen. Da KI immer stärker in die klinische Praxis eingebettet wird, haben medizinische Fachkräfte sowohl eine ethische Verantwortung als auch eine gesetzliche Verpflichtung, die von ihnen eingesetzten Tools zu verstehen, zu hinterfragen und, wo nötig, in Frage zu stellen. Modul 4 befasst sich mit den ethischen Rahmenbedingungen und rechtlichen Instrumenten, die den Einsatz von KI im Gesundheitswesen regeln, einschließlich des EU-Regulierungsumfelds und Ihrer Rechte und Pflichten als Kliniker, der mit diesen Tools arbeitet.

Weiter: Modul 4

Literaturverzeichnis

Al Hamid, A., Beckett, R., Wilson, M., Jalal, Z., Cheema, E., Al-Jumeily Obe, D., Coombs, T., Ralebitso-Senior, K., & Assi, S. (2024). Gender Bias in Diagnosis, Prevention, and Treatment of Cardiovascular Diseases: A Systematic Review. Cureus, 16(2). https://doi.org/10.7759/cureus.54264

Alipour, M., & Alipour, A. (2025). Algorithmic Bias in AI-Based Diabetes Care: Systematic Review of Model Performance, Equity Reporting, and Physiological Label Bias. InfoScience Trends, 2(5), 33–46. https://doi.org/10.61186/ist.202502.05.04

Bowser, R. (2001). Racial bias in medical treatment. Dick. L. Rev., 105(3), 365.

Chang, C.T., Srivathsa N., Bou-Khalil, C., Swaminathan, A., Lunn, M.R., Mishra, K., Koyejo, S,. Daneshjou, R. (2025). Evaluating anti-LGBTQIA+ medical bias in large language models. PLOS Digit Health 4(9): e0001001. https://doi.org/10.1371/journal.pdig.0001001

Cirillo, D., Catuara-Solarz, S., Morey, C., Guney, E., Subirats, L., Mellino, S., Gigante, A.A., Valencia, A., Rementeria, M.J., Chadha, A.S., & Mavridis, N. (2020). Sex and gender differences and biases in artificial intelligence for biomedicine and healthcare. npj Digit. Med. 3(81). https://doi.org/10.1038/s41746-020-0288-5

Cronjé, H. T., Katsiferis, A., Elsenburg, L. K., Andersen, T. O., Rod, N. H., Nguyen, T.-L., & Varga, T. V. (2023). Assessing racial bias in type 2 diabetes risk prediction algorithms. PLOS Global Public Health, 3(5), e0001556. https://doi.org/10.1371/journal.pgph.0001556

Cross, J. L., Choma, M. A., & Onofrey, J. A. (2024). Bias in medical AI: Implications for clinical decision-making. PLOS Digital Health, 3(11), e0000651. https://doi.org/10.1371/journal.pdig.0000651

De Angel, V., Lewis, S., White, K., Oetzmann, C., Leightley, D., Oprea, E., Lavelle, G., Matcham, F., Pace, A., Mohr, D. C., Dobson, R., & Hotopf, M. (2022). Digital health tools for the passive monitoring of depression: A systematic review of methods. Npj Digital Medicine, 5(1), 3. https://doi.org/10.1038/s41746-021-00548-8

Fatunde, O. A., Grant, J. K., Lara-Breitinger, K., Kizzee, O. P., Savic, J., LeMond, L., & Hayes, S. N. (2025). Gender Disparities in Cardiology. JACC: Advances, 4(4), 101642. https://doi.org/10.1016/j.jacadv.2025.101642

Funding research on women’s health. Nat Rev Bioeng 2, 797–798 (2024). https://doi.org/10.1038/s44222-024-00253-7

Hafner, F.S., Valdivia, A., Rocher, L. 2025. Gender Trouble in Language Models: An Empirical Audit Guided by Gender Performativity Theory. FAccT '25: Proceedings of the 2025 ACM Conference on Fairness, Accountability, and Transparency, 1677–1695. https://doi.org/10.1145/3715275.3732112

Hamberg, K. (2008). Gender Bias in Medicine. Women’s Health, 4(3), 237–243. https://doi.org/10.2217/17455057.4.3.237

Karter, A. J., Parker, M. M., Moffet, H. H., & Gilliam, L. K. (2023). Racial and Ethnic Differences in the Association Between Mean Glucose and Hemoglobin A1c. Diabetes Technology & Therapeutics, 25(10), 697–704. https://doi.org/10.1089/dia.2023.0153

Kurz, C. F., König, A. N., Emmert-Fees, K. M. F., & Allen, L. D. (2022). The effect of differential privacy on Medicaid participation among racial and ethnic minority groups. Health Services Research, 57(S2), 207–213. https://doi.org/10.1111/1475-6773.14000

Lok, R., Qian, J., & Chellappa, S. L. (2024). Sex differences in sleep, circadian rhythms, and metabolism: Implications for precision medicine. Sleep Medicine Reviews, 75, 101926. https://doi.org/10.1016/j.smrv.2024.101926

Pennebaker, J. W., Mehl, M. R., & Niederhoffer, K. G. (2003). Psychological Aspects of Natural Language Use: Our Words, Our Selves. Annual Review of Psychology, 54(1), 547–577. https://doi.org/10.1146/annurev.psych.54.101601.145041

Pham, Q., Gamble, A., Hearn, J., & Cafazzo, J. A. (2021). The Need for Ethnoracial Equity in Artificial Intelligence for Diabetes Management: Review and Recommendations. Journal of Medical Internet Research, 23(2), e22320. https://doi.org/10.2196/22320

Santos-Lozada, A. R., Howard, J. T., & Verdery, A. M. (2020). How differential privacy will affect our understanding of health disparities in the United States. Proceedings of the National Academy of Sciences of the United States of America, 117(24), 13405–13412. https://doi.org/10.1073/pnas.2003714117

Sjoding, M. W., Dickson, R. P., Iwashyna, T. J., Gay, S. E., & Valley, T. S. (2020). Racial Bias in Pulse Oximetry Measurement. New England Journal of Medicine, 383(25), 2477–2478. https://doi.org/10.1056/NEJMc2029240

Smith, D.T., Mouzon, D.M., & Elliott, M. (2018). Reviewing the assumptions about men's mental health: An exploration of the gender binary. American Journal of Men's Health, 12(1), 78–89. https://doi.org/10.1177/1557988316630953

Steinberg, J.R., Turner, B.E., Weeks, B.T., Magnani, C.J., Wong, B.O., Rodriguez, F., Roque, E.L., & Bhatt, D.L. (2021). Analysis of female enrollment and participant sex by burden of disease in US clinical trials between 2000 and 2020. JAMA Network Open, 4(6), e2113749. https://doi.org/10.1001/jamanetworkopen.2021.13749

Straw, I., & Callison-Burch, C. (2020). Artificial Intelligence in mental health and the biases of language based models. PLOS ONE, 15(12), e0240376. https://doi.org/10.1371/journal.pone.0240376

Todorov, A., Kaufmann, F., Arslani, K., Haider, A., Bengs, S., Goliasch, G., Zellweger, N., Tontsch, J., Sutter, R., Buddeberg, B., Hollinger, A., Zemp, E., Kaufmann, M., Siegemund, M., Gebhard, C., & Gebhard, C.E., on behalf of the Swiss Society of Intensive Care Medicine. (2021). Gender differences in the provision of intensive care: a Bayesian approach. Intensive Care Medicine, 47(5), 577–587. https://doi.org/10.1007/s00134-021-06393-3

Williams, D. R., & Wyatt, R. (2015). Racial Bias in Health Care and Health: Challenges and Opportunities. JAMA, 314(6), 555. https://doi.org/10.1001/jama.2015.9260

Yoon, D. Y., Mansukhani, N. A., Stubbs, V. C., Helenowski, I. B., Woodruff, T. K., & Kibbe, M. R. (2014). Sex bias exists in basic science and translational surgical research. Surgery, 156(3), 508–516. https://doi.org/10.1016/j.surg.2014.07.001