Diskriminacija, kurią gali lemti DI sistemos, yra kompleksinė problema, apimanti tarpusavyje susijusius ir vienas kitą sustiprinančius veiksnius, tokius kaip amžius, lytis, rasė, seksualinė orientacija ir sveikatos būklė. Dėl šios priežasties DI sistemų šališkumas ir jo lemiama diskriminacija gali pažeisti Europos Sąjungos pagrindinių teisių chartijoje įtvirtintas pagrindines teises, visų pirma 21 straipsnyje nustatytą diskriminacijos draudimą, 23 straipsnyje įtvirtintą moterų ir vyrų lygybės principą bei 35 straipsnyje įtvirtintą teisę į sveikatos priežiūrą.
Sveikatos priežiūros specialistams svarbu suprasti kompleksinį šios problemos pobūdį. Didžiausia rizika patirti DI sistemų šališkumo padarinius kyla pacientams, kurie ir taip susiduria su keliomis tarpusavyje susijusiomis kliūtimis gauti kokybiškas sveikatos priežiūros paslaugas.
Biomedicininio DI sistemose nustatomas šališkumas yra dešimtmečius kauptų šališkų medicininių duomenų pasekmė. Šie duomenys atspindi sisteminę diskriminaciją ir struktūrines nelygybes sveikatos priežiūros moksliniuose tyrimuose ir klinikinėje praktikoje (Cirillo ir kt., 2020; Cross ir kt., 2024).
Viena pagrindinių šios problemos priežasčių – lyčių atotrūkis sveikatos priežiūroje. Šis terminas apibūdina gerai dokumentuotą moterų ir vyrų nelygybę sveikatos priežiūros srityje – nuo galimybių gauti sveikatos priežiūros paslaugas iki atstovavimo moksliniuose tyrimuose. Didžiąją medicinos istorijos dalį klinikiniai ir eksperimentiniai tyrimai daugiausia buvo atliekami su vyrais, nepakankamai atsižvelgiant į biologinius lyčių skirtumus. 2020 m. moterų sveikatos tyrimams buvo skirta tik 5 proc. pasaulinio mokslinių tyrimų ir eksperimentinės plėtros finansavimo. Iš jų 4 proc. teko moterų onkologinių ligų tyrimams, o likęs 1 proc. – visoms kitoms moterims būdingoms sveikatos būklėms; ketvirtadalis šių lėšų buvo skirta vaisingumo tyrimams (Nature Reviews Bioengineering, 2024).
Kai DI algoritmams apmokyti naudojami tokį lyčių atotrūkį atspindintys duomenys, sukurtos DI sistemos neišvengiamai veikia mažiau tiksliai pacientų grupėms, kurios mokymo duomenyse yra nepakankamai reprezentuojamos. Kaip pažymi Cirillo ir kt. (2020), sąžiningų ir reprezentatyvių duomenų trūkumas yra tiesioginė istoriškai susiformavusios nelygybės pasekmė. Vis dėlto svarbu pabrėžti, kad ši problema nėra vienpusė – kai kuriose srityse nepakankamai reprezentuojami yra vyrai. Pavyzdžiui, vyrų dalyvavimas klinikiniuose raumenų ir kaulų sistemos ligų, traumų bei psichiatrijos tyrimuose yra mažesnis, nei būtų galima tikėtis atsižvelgiant į šių ligų paplitimą tarp vyrų. Tai irgi yra reprezentatyvumo šališkumo pavyzdys (Steinberg ir kt., 2021). Depresijos srityje vyrai taip pat nepakankamai reprezentuojami klinikiniuose duomenyse, nes jie rečiau kreipiasi pagalbos, rečiau praneša apie depresijos simptomus ir rečiau gauna depresijos diagnozę. Ši situacija atspindi tiek reprezentatyvumo, tiek matavimo šališkumą (Smith ir kt., 2018).
Tyrimai rodo, kad geresnis supratimas apie tai, kaip ligos pasireiškia moterims ir vyrams, galėtų padėti sumažinti dėl šališkų duomenų kylančią klaidingos diagnozės riziką (Cirillo ir kt., 2020).
Lyčių šališkumas medicinoje neapsiriboja pavieniais atvejais – jis atspindi sisteminį negebėjimą laikyti lytį reikšmingu kintamuoju klinikiniuose tyrimuose ir klinikinėje praktikoje. Toks lyčių aspektui nejautrus požiūris, kartu su stereotipinėmis nuostatomis apie moteris ir vyrus bei nepakankamomis žiniomis apie moters organizmą ir jo biologinius skirtumus nuo vyro organizmo, lėmė medicinos žinių formavimąsi taip, kad jų pasekmes moterys jaučia iki šiol (Hamberg, 2008). Vienas iš pavyzdžių - 2012-2016 m. vykdyta retrospektyvioji analizė, kurioje dalyvavo 450 948 suaugusiųjų pacientų, gydytų dėl neurologinių ir širdies ir kraujagyslių ligų visose Šveicarijos ligoninėse. Ji parodė, kad moterys, nepaisant sunkesnės sveikatos būklės, rečiau nei vyrai buvo guldomos į intensyviosios terapijos skyrius (Todorov ir kt., 2021). Lyčių atotrūkis pastebimas ir biomedicininiuose tyrimuose. Ikiklinikiniuose, fundamentiniuose ir chirurginiuose biomedicininiuose tyrimuose vis dar dažniau naudojami gyvūnų patinų modeliai nei patelių modeliai (Yoon ir kt., 2014). Tai reiškia, kad medicinos žinių pagrindas neretai kuriamas remiantis duomenimis, gautais tiriant tik vyriškosios lyties organizmus.
Rasinis šališkumas medicinoje yra plačiai dokumentuotas, ypač Jungtinėse Amerikos Valstijose. Tyrimai rodo, kad afroamerikiečiams ir kitoms etninėms mažumoms priklausantiems pacientams, nepriklausomai nuo jų klinikinės būklės, rečiau atliekamos medicininės procedūros, rečiau taikomas chirurginis gydymas ir rečiau išduodami siuntimai gydytojų specialistų konsultacijoms nei baltaodžiams pacientams (Bowser, 2001; Williams ir Wyatt, 2015).
Kai DI sistemos apmokomos naudojant duomenis, atspindinčius dešimtmečius brendusias nelygybes sveikatos priežiūros srityje, kyla rizika, kad jos šį šališkumą ne tik perims, bet ir sustiprins. Kaip aptarta Modulyje II, tyrimai taip pat rodo, kad privatumą apsaugančios priemonės gali netyčia sumažinti duomenų tikslumą ne ispanų kilmės juodaodžių ir ispanų kilmės gyventojų grupėse, dar labiau didindamos esamus netolygumus. Pavyzdžiui, nustatyta, kad taikant diferencinį privatumą mirtingumo rodiklių įverčiai ne ispanų kilmės juodaodžių ir ispanų kilmės gyventojų grupėse iškraipomi labiau nei ne ispanų kilmės baltaodžių populiacijoje (Santos-Lozada ir kt., 2020). Be to, ne ispanų kilmės baltaodžiai buvo vienintelė rasinė ir etninė grupė, kurios dalyvavimą Medicaid programoje diferencinio privatumo algoritmas įvertino tiksliai. Ši išvada turi reikšmingų pasekmių sveikatos politikos formavimui ir sveikatos priežiūros išteklių paskirstymui (Kurz ir kt., 2022).
Nors didžioji dalis šių tyrimų atlikta Jungtinėse Amerikos Valstijose, rasinį šališkumą sveikatos priežiūros duomenyse lemiančios struktūrinės priežastys – ribotos galimybės gauti sveikatos priežiūros paslaugas, nepakankamas įvairių gyventojų grupių atstovavimas klinikiniuose tyrimuose ir socialinė bei ekonominė nelygybė – būdingos ir Europai. Todėl ši problema yra tiesiogiai aktuali ir Europos sveikatos priežiūros specialistams.
Taip pat svarbu pripažinti, kad LGBTQIA+ asmenys susiduria su diskriminacija sveikatos priežiūros srityje ir stereotipais, kurie nėra būdingi heteroseksualiems asmenims. Šie socialiniai ir kultūriniai veiksniai palaiko diskriminaciją ir daro išmatuojamą poveikį tiek sveikatai, tiek sveikatos priežiūros paslaugų kokybei. Tyrimai rodo, kad 16 proc. LGBTQIA+ asmenų yra patyrę diskriminaciją naudodamiesi sveikatos priežiūros paslaugomis, o 18 proc. dėl baimės patirti netinkamą elgesį apskritai vengia kreiptis sveikatos priežiūros paslaugų (Chang ir kt., 2025).
DI sistemos, apmokytos naudojant duomenis, kurie nepakankamai atspindi šią pacientų grupę, gali dar labiau didinti jau ir taip pažeidžiamos visuomenės grupės atskirtį. Didelės apimties tyrimas, vertinęs DI sistemų šališkumą skubiosios pagalbos skyrių klinikiniuose scenarijuose, parodė, kad atvejais, kai pacientai buvo LGBTQIA+ asmenys, DI sistemos psichikos sveikatos intervencijas rekomendavo šešis–septynis kartus dažniau, nei tai buvo kliniškai pagrįsta (Chang ir kt., 2025).
📌 Svarbu: Šiuo metu dauguma sveikatos priežiūroje taikomų DI sistemų remiasi dvinarės lyties samprata, todėl nebinariniai, translyčiai ir lyties normų neatitinkantys asmenys sistemingai neįtraukiami nei į šių sistemų apmokymui naudojamus duomenis, nei į pacientų grupes, kurioms šios sistemos yra kuriamos (Hafner ir kt., 2025). Tai kelia vis didesnį susirūpinimą, nes DI sistemos tampa vis plačiau integruojamos į klinikinius darbo procesus.
Supratimas, kad visiems asmenims ligos gali pasireikšti nevienodai, yra ne tik teisingumo, bet ir klinikinės būtinybės klausimas. Toks supratimas padeda mažinti klaidingos diagnozės riziką ir gerinti visų pacientų gydymo rezultatus.
Lyčių šališkumas širdies ir kraujagyslių ligų srityje yra vienas geriausiai dokumentuotų pavyzdžių, kaip nepakankamas skirtingų pacientų grupių atstovavimas medicininiuose tyrimuose lemia netolygius sveikatos priežiūros rezultatus. Moterims širdies ir kraujagyslių ligų simptomai dažnai pasireiškia kitaip nei „klasikiniai“ simptomai, aprašomi medicinos vadovėliuose, kurie daugiausia grindžiami duomenimis apie pacientus vyrus (Fatunde ir kt., 2025). Al Hamid ir kt. (2024) atlikta sisteminė literatūros apžvalga parodė, kad moterims širdies ir kraujagyslių ligos diagnozuojamos rečiau, nes jų simptomai dažnai būna silpnesni nei vyrų arba klaidingai priskiriami virškinimo sistemos ar nerimo sutrikimų simptomams. Dėl to moterims rečiau skiriami diagnostiniai tyrimai ir vaistai, jos rečiau siunčiamos gydytojo kardiologo konsultacijai ar hospitalizuojamos. Net ir patekusios į ligoninę, moterys rečiau sulaukia vainikinių arterijų intervencinių procedūrų. Tyrimai taip pat rodo, kad gydytojai, ypač vyrai, nepakankamai įvertina moterų širdies ir kraujagyslių ligų rizikos veiksnius. Visa tai leidžia daryti išvadą, kad dėl jau egzistuojančio šališkumo moterys rečiau gauna jų sveikatos būklę atitinkančią sveikatos priežiūrą.
Rasinio šališkumo pasekmės širdies ir kraujagyslių ligų srityje taip pat yra reikšmingos. Vienas iš gerai žinomų pavyzdžių, nors ir nesusijęs tiesiogiai su DI, yra pulsoksimetrai – prietaisai, naudojami kraujo įsotinimui deguonimi matuoti ir plačiai taikomi vertinant pacientų būklę, įskaitant širdies ir kraujagyslių ligas. Tyrimai parodė, kad pulsoksimetrai tiksliau veikia pacientams, kurių oda yra šviesesnė, todėl tamsesnės odos pacientų kraujo įsotinimas deguonimi gali būti sistemingai įvertinamas ne taip tiksliai (Sjoding ir kt., 2020). Šis pavyzdys rodo, kad šališkumas gali būti įtvirtintas ne tik DI sistemose, bet ir medicinos prietaisuose, naudojamuose kasdienėje klinikinėje praktikoje.
Kai DI sistemos, skirtos širdies ir kraujagyslių ligų diagnostikai ar gydymui, apmokomos naudojant duomenų rinkinius, kuriuose nepakankamai reprezentuojamos moterys ir etninėms mažumoms priklausančios pacientų grupės, kyla didelė rizika, kad jos ne tik perims esamus netolygumus, bet ir juos sustiprins bei pritaikys platesniu mastu.
Rasinis šališkumas diabeto diagnostikos ir gydymo srityje yra plačiai dokumentuotas, ypač Jungtinėse Amerikos Valstijose. Nepaisant santykinai mažesnės rizikos susirgti diabetu, ne ispanų kilmės baltaodžiai pacientai vis dar sudaro didžiąją dalį diabeto rizikos prognozavimo tyrimų dalyvių (Cronjé ir kt., 2023). Apžvalgoje, skirtoje rasiniam ir etniniam teisingumui dirbtinio intelekto taikymo diabeto valdymui srityje, nustatyta, kad vidutiniškai 69,5 proc. tiriamųjų sudarė baltaodžiai, 17,1 proc. – juodaodžiai, 3,7 proc. – azijiečiai, o tik dviejuose tyrimuose buvo įtraukti Amerikos čiabuvių kilmės dalyviai (Pham ir kt., 2021).
Gerai žinoma, kad diabeto gydymo rezultatų netolygumus daugiausia lemia tarpusavyje susiję socialiniai sveikatą lemiantys veiksniai. Tai apima galimybes gauti sveiką maistą, kokybiškas sveikatos priežiūros paslaugas, sveikatos draudimą, švietimo prieinamumą ir nevienodas galimybes naudotis sveikatos technologijomis. Dėl šių priežasčių etninėms mažumoms priklausantys ir mažesnes pajamas gaunantys gyventojai dažniau patiria diabeto komplikacijas, o jų glikemijos kontrolė paprastai yra prastesnė (Alipour ir Alipour, 2025). Todėl DI sistema, apmokyta naudojant tokius duomenų rinkinius, gali prasčiau veikti skirtingose rasinėse ir etninėse pacientų grupėse. Dėl to sukuriami šališki prognozavimo modeliai, kurie gali būti tikslesni vienoms pacientų grupėms, tačiau mažiau tikslūs kitoms ir taip didinti pažeidžiamiausių pacientų riziką.
Papildomas matavimo šališkumo pavyzdys susijęs su glikuoto hemoglobino (HbA1c) tyrimu, kuris parodo vidutinę gliukozės koncentraciją kraujyje per pastaruosius kelis mėnesius ir dažniausiai naudojamas prediabetui nustatyti arba 2 tipo cukriniam diabetui diagnozuoti. Tačiau HbA1c yra tik netiesioginis glikemijos rodiklis ir nėra tiesiogiai susijęs su sveikatos būkle. Be to, ryšys tarp glikemijos ir HbA1c reikšmės skiriasi ne tik tarp skirtingų žmonių, bet gali kisti ir tam pačiam asmeniui laikui bėgant. Tyrimai taip pat parodė, kad esant tai pačiai vidutinei gliukozės koncentracijai kraujyje, afroamerikiečių HbA1c rodikliai yra reikšmingai didesni nei baltaodžių pacientų (Karter ir kt., 2023). Jeigu diabetui diagnozuoti skirta DI sistema remiasi HbA1c rodikliais kaip pakaitiniu glikemijos rodikliu, tačiau neatsižvelgia į kitus svarbius veiksnius, pavyzdžiui, paciento rasę, gali būti nustatoma klaidinga diabeto diagnozė arba skiriamas netinkamas gydymas. Dėl to didėja sveikatos priežiūros kokybės netolygumai ir sveikatos nelygybė.
Vis dėlto Alipour ir Alipour (2025) sisteminė apžvalga, kurioje nagrinėti šališkumo tipai, galintys paveikti dirbtinio intelekto ir mašininio mokymosi modelių teisingumą diabeto srityje, parodė, kad nors daugumoje tyrimų pripažįstama, jog matavimo šališkumas gali persiduoti į DI modelius, nė viename iš jų į šį šališkumą nebuvo atsižvelgta kuriant modelius, nebuvo taikytos jo mažinimo priemonės ir nebuvo koreguojami matavimo tikslumo skirtumai.
Depresija yra viena iš sričių, kurioje tiek lyčių, tiek rasinis šališkumas turi reikšmingų ir gerai dokumentuotų pasekmių DI sistemoms, naudojamoms atrankai ir diagnostikai, ypač toms, kurios remiasi natūralios kalbos apdorojimu.
DI modeliai, taikantys natūralios kalbos apdorojimą psichikos sveikatos būklei vertinti, mokomi naudojant didelius kalbos duomenų rinkinius, kurie dažniausiai surenkami iš socialinių tinklų, interneto forumų, tinklaraščių ir pokalbių platformų. Tačiau šie duomenys jau savaime atspindi asmens individualią patirtį, socialinę aplinką ir kultūrinį kontekstą (Straw ir Callison-Burch, 2020).
Tyrimai rodo, kad moterys ir vyrai psichologinį distresą reiškia skirtingai. Moterų kalbai dažniau būdingas mažesnis kategoriškumas – jos dažniau vartoja mandagumo formas, rečiau keikiasi, dažniau naudoja stiprinamuosius žodžius (pvz., tikrai, labai) ir neapibrėžtumą reiškiančias kalbos konstrukcijas (pvz., galbūt, tarsi, lyg). Tuo tarpu vyrų kalba dažniau apibūdinama kaip tiesmuka, tiksli ir mažiau emocionali – joje dažniau vartojami kiekybiniai apibūdinimai, vertinamieji būdvardžiai (pvz., geras, kvailas), trumpi, nepilni sakiniai (pvz., „Puiki nuotrauka.“) ir pirmojo asmens įvardis „aš“ (Pennebaker ir kt., 2003). Šie skirtumai atitinka sociologijoje aprašomus lyčių komunikacijos ypatumus.
Vyrai ir moterys taip pat skirtingai išreiškia su savižudybės rizika susijusį psichologinį distresą. Moterys dažniau nukreipia neigiamas emocijas į save, o vyrams dažniau būdingas stiprėjantis pyktis (Straw ir Callison-Burch, 2020). Todėl DI sistema, apmokyta daugiausia vienos lyties kalbos duomenimis, gali nepakankamai tiksliai atpažinti depresijos ar savižudybės rizikos požymius kitos lyties asmenims. Šią problemą dar labiau apsunkina tai, kad dauguma natūralios kalbos apdorojimo modelių remiasi dvinarės lyties samprata. Dėl to iš duomenų ir modelių sistemingai eliminuojama dalis visuomenės, įskaitant nebinarinius, translyčius ir lyties normų neatitinkančius asmenis, kurių depresijos ir su savižudybės rizika susijusio psichologinio distreso raiška gali reikšmingai skirtis nuo moterims ir vyrams būdingų modelių (Hafner ir kt., 2024). Išsamiau šių grupių patiriami iššūkiai aptariami 3.5 skyriuje.
Nors epidemiologiniai tyrimai rodo, kad moterims depresija diagnozuojama dažniau nei vyrams, tai iš dalies gali būti susiję su tuo, kad istoriškai depresijos tyrimuose daugiausia buvo vertinami simptomai, dažniau pasireiškiantys moterims. Dėl to vyrams būdingi depresijos požymiai gali likti neatpažinti, o tai lemia kitokią reprezentatyvumo šališkumo formą (Cirillo ir kt., 2020).
Lyčių šališkumas depresijos srityje pasireiškia ir naudojant skaitmenines stebėsenos priemones, pavyzdžiui, dėvimuosius išmaniuosius įrenginius. Jų renkami duomenys paverčiami požymiais, kuriuos DI modeliai naudoja prognozėms sudaryti. Šie požymiai apima miego trukmę ir kokybę, fizinį aktyvumą, cirkadinį ritmą, socialinį aktyvumą, buvimo vietą ir naudojimąsi mobiliuoju telefonu (De Angel ir kt., 2022).
Tačiau tyrimai rodo, kad vyrų ir moterų miego įpročiai skiriasi, nors moterys miego tyrimuose vis dar yra nepakankamai reprezentuojamos. Be to, daugelis skaitmeninių sveikatos priežiūros priemonių neatskiria lyties kaip socialinio konstrukto nuo biologinės lyties ir neatsižvelgia į kompleksinę įvairių tapatybės aspektų – amžiaus, rasės ar etninės kilmės ir socialinės bei ekonominės padėties – sąveiką (Lok ir kt., 2024). Visi šie veiksniai yra svarbūs stebint depresiją ir planuojant jos gydymą.
📌 Svarbiausia žinutė: Šiame modulyje aptartas lyčių ir rasinis šališkumas nėra teorinė problema – jis kasdien lemia pavėluotas diagnozes, netinkamą gydymą ir netolygią sveikatos priežiūrą realiems pacientams. Kaip sveikatos priežiūros specialistas (-ė), galite prisidėti prie šių netolygumų mažinimo. Jūsų gebėjimas atpažinti šiuos šališkumo modelius daro įtaką klausimams, kuriuos užduodate, prielaidoms, kurias kritiškai įvertinate, ir pagalbai, kurią galite suteikti didžiausią riziką patiriantiems pacientams.
Šiame modulyje aptartas lyčių ir rasinis šališkumas turi realių pasekmių pacientams ir yra tiesiogiai svarbus sveikatos priežiūros specialistų kasdienei praktikai. DI sistemoms tampant neatsiejama klinikinės praktikos dalimi, sveikatos priežiūros specialistai turi ne tik etinę atsakomybę, bet ir teisinę pareigą suprasti, kritiškai vertinti ir, prireikus, kvestionuoti jų naudojamas DI sistemas. IV modulyje nagrinėsime etinius principus ir teisinį reguliavimą, taikomus dirbtinio intelekto naudojimui sveikatos priežiūroje. Taip pat aptarsime Europos Sąjungos teisinę sistemą bei sveikatos priežiūros specialistų teises ir pareigas naudojant DI sistemas klinikinėje praktikoje.
Toliau: Modulis IV
Al Hamid, A., Beckett, R., Wilson, M., Jalal, Z., Cheema, E., Al-Jumeily Obe, D., Coombs, T., Ralebitso-Senior, K., & Assi, S. (2024). Gender Bias in Diagnosis, Prevention, and Treatment of Cardiovascular Diseases: A Systematic Review. Cureus, 16(2). https://doi.org/10.7759/cureus.54264
Alipour, M., & Alipour, A. (2025). Algorithmic Bias in AI-Based Diabetes Care: Systematic Review of Model Performance, Equity Reporting, and Physiological Label Bias. InfoScience Trends, 2(5), 33–46. https://doi.org/10.61186/ist.202502.05.04
Bowser, R. (2001). Racial bias in medical treatment. Dick. L. Rev., 105(3), 365.
Chang, C.T., Srivathsa N., Bou-Khalil, C., Swaminathan, A., Lunn, M.R., Mishra, K., Koyejo, S,. Daneshjou, R. (2025). Evaluating anti-LGBTQIA+ medical bias in large language models. PLOS Digit Health 4(9): e0001001. https://doi.org/10.1371/journal.pdig.0001001
Cirillo, D., Catuara-Solarz, S., Morey, C., Guney, E., Subirats, L., Mellino, S., Gigante, A.A., Valencia, A., Rementeria, M.J., Chadha, A.S., & Mavridis, N. (2020). Sex and gender differences and biases in artificial intelligence for biomedicine and healthcare. npj Digit. Med. 3(81). https://doi.org/10.1038/s41746-020-0288-5
Cronjé, H. T., Katsiferis, A., Elsenburg, L. K., Andersen, T. O., Rod, N. H., Nguyen, T.-L., & Varga, T. V. (2023). Assessing racial bias in type 2 diabetes risk prediction algorithms. PLOS Global Public Health, 3(5), e0001556. https://doi.org/10.1371/journal.pgph.0001556
Cross, J. L., Choma, M. A., & Onofrey, J. A. (2024). Bias in medical AI: Implications for clinical decision-making. PLOS Digital Health, 3(11), e0000651. https://doi.org/10.1371/journal.pdig.0000651
De Angel, V., Lewis, S., White, K., Oetzmann, C., Leightley, D., Oprea, E., Lavelle, G., Matcham, F., Pace, A., Mohr, D. C., Dobson, R., & Hotopf, M. (2022). Digital health tools for the passive monitoring of depression: A systematic review of methods. Npj Digital Medicine, 5(1), 3. https://doi.org/10.1038/s41746-021-00548-8
Fatunde, O. A., Grant, J. K., Lara-Breitinger, K., Kizzee, O. P., Savic, J., LeMond, L., & Hayes, S. N. (2025). Gender Disparities in Cardiology. JACC: Advances, 4(4), 101642. https://doi.org/10.1016/j.jacadv.2025.101642
Funding research on women’s health. Nat Rev Bioeng 2, 797–798 (2024). https://doi.org/10.1038/s44222-024-00253-7
Hafner, F.S., Valdivia, A., Rocher, L. 2025. Gender Trouble in Language Models: An Empirical Audit Guided by Gender Performativity Theory. FAccT '25: Proceedings of the 2025 ACM Conference on Fairness, Accountability, and Transparency, 1677–1695. https://doi.org/10.1145/3715275.3732112
Hamberg, K. (2008). Gender Bias in Medicine. Women’s Health, 4(3), 237–243. https://doi.org/10.2217/17455057.4.3.237
Karter, A. J., Parker, M. M., Moffet, H. H., & Gilliam, L. K. (2023). Racial and Ethnic Differences in the Association Between Mean Glucose and Hemoglobin A1c. Diabetes Technology & Therapeutics, 25(10), 697–704. https://doi.org/10.1089/dia.2023.0153
Kurz, C. F., König, A. N., Emmert-Fees, K. M. F., & Allen, L. D. (2022). The effect of differential privacy on Medicaid participation among racial and ethnic minority groups. Health Services Research, 57(S2), 207–213. https://doi.org/10.1111/1475-6773.14000
Lok, R., Qian, J., & Chellappa, S. L. (2024). Sex differences in sleep, circadian rhythms, and metabolism: Implications for precision medicine. Sleep Medicine Reviews, 75, 101926. https://doi.org/10.1016/j.smrv.2024.101926
Pennebaker, J. W., Mehl, M. R., & Niederhoffer, K. G. (2003). Psychological Aspects of Natural Language Use: Our Words, Our Selves. Annual Review of Psychology, 54(1), 547–577. https://doi.org/10.1146/annurev.psych.54.101601.145041
Pham, Q., Gamble, A., Hearn, J., & Cafazzo, J. A. (2021). The Need for Ethnoracial Equity in Artificial Intelligence for Diabetes Management: Review and Recommendations. Journal of Medical Internet Research, 23(2), e22320. https://doi.org/10.2196/22320
Santos-Lozada, A. R., Howard, J. T., & Verdery, A. M. (2020). How differential privacy will affect our understanding of health disparities in the United States. Proceedings of the National Academy of Sciences of the United States of America, 117(24), 13405–13412. https://doi.org/10.1073/pnas.2003714117
Sjoding, M. W., Dickson, R. P., Iwashyna, T. J., Gay, S. E., & Valley, T. S. (2020). Racial Bias in Pulse Oximetry Measurement. New England Journal of Medicine, 383(25), 2477–2478. https://doi.org/10.1056/NEJMc2029240
Smith, D.T., Mouzon, D.M., & Elliott, M. (2018). Reviewing the assumptions about men's mental health: An exploration of the gender binary. American Journal of Men's Health, 12(1), 78–89. https://doi.org/10.1177/1557988316630953
Steinberg, J.R., Turner, B.E., Weeks, B.T., Magnani, C.J., Wong, B.O., Rodriguez, F., Roque, E.L., & Bhatt, D.L. (2021). Analysis of female enrollment and participant sex by burden of disease in US clinical trials between 2000 and 2020. JAMA Network Open, 4(6), e2113749. https://doi.org/10.1001/jamanetworkopen.2021.13749
Straw, I., & Callison-Burch, C. (2020). Artificial Intelligence in mental health and the biases of language based models. PLOS ONE, 15(12), e0240376. https://doi.org/10.1371/journal.pone.0240376
Todorov, A., Kaufmann, F., Arslani, K., Haider, A., Bengs, S., Goliasch, G., Zellweger, N., Tontsch, J., Sutter, R., Buddeberg, B., Hollinger, A., Zemp, E., Kaufmann, M., Siegemund, M., Gebhard, C., & Gebhard, C.E., on behalf of the Swiss Society of Intensive Care Medicine. (2021). Gender differences in the provision of intensive care: a Bayesian approach. Intensive Care Medicine, 47(5), 577–587. https://doi.org/10.1007/s00134-021-06393-3
Williams, D. R., & Wyatt, R. (2015). Racial Bias in Health Care and Health: Challenges and Opportunities. JAMA, 314(6), 555. https://doi.org/10.1001/jama.2015.9260
Yoon, D. Y., Mansukhani, N. A., Stubbs, V. C., Helenowski, I. B., Woodruff, T. K., & Kibbe, M. R. (2014). Sex bias exists in basic science and translational surgical research. Surgery, 156(3), 508–516. https://doi.org/10.1016/j.surg.2014.07.001