BIAS nell’IA come questione intersezionale

La discriminazione nell’IA è una questione intersezionale, che si sovrappone a dimensioni quali l’età, il genere, la razza, l’orientamento sessuale e lo stato di salute, tra le altre. Questi pregiudizi e la discriminazione che ne deriva minacciano direttamente i diritti fondamentali tutelati dalla Carta dei diritti fondamentali dell’Unione europea, in particolare il divieto di discriminazione per qualsiasi motivo ai sensi dell’articolo 21, la garanzia di uguaglianza tra uomini e donne ai sensi dell’articolo 23 e il diritto all’accesso all’assistenza sanitaria ai sensi dell’articolo 35.

In qualità di professionisti sanitari, è essenziale comprendere questa natura intersezionale. I pazienti più a rischio di subire danni a causa di strumenti di IA distorti sono spesso proprio quelli che già devono affrontare molteplici livelli di svantaggio nell’accesso e nella fruizione di cure di qualità.

La radice del problema: dati medici distorti

I pregiudizi osservati nelle applicazioni mediche basate sull’intelligenza artificiale sono il risultato di dati medici distorti raccolti nel corso di decenni, che riflettono una discriminazione sistematica e disuguaglianze strutturali nella ricerca e nella pratica sanitaria (Cirillo et al., 2020; Cross et al., 2024).

Un fattore chiave di questo problema è il famigerato divario di genere in ambito sanitario: una ben documentata mancanza di equità nell’assistenza sanitaria tra uomini e donne, che spazia dall’accesso alle cure alla rappresentanza nella ricerca. Per gran parte della storia della medicina, gli studi clinici e sperimentali si sono concentrati prevalentemente su partecipanti di sesso maschile, trascurando le differenze biologiche specifiche di genere. Nel 2020, solo il 5% dei finanziamenti globali per la ricerca e lo sviluppo (R&S) è stato destinato alla ricerca sulla salute delle donne. Tale percentuale era suddivisa in un 4% per i tumori femminili e un 1% per tutte le altre patologie specifiche delle donne, con il 25% di quest’ultimo ulteriormente limitato alla ricerca sulla fertilità (Nature Reviews Bioengineering, 2024).

Quando i dati utilizzati per addestrare gli algoritmi di IA riflettono questo squilibrio, gli strumenti risultanti saranno inevitabilmente meno accurati per i gruppi sottorappresentati. Come sottolineano Cirillo et al. (2020), la mancanza di dati equi e paritari immessi nei sistemi di IA è una conseguenza diretta di questa disuguaglianza storica. Tuttavia, è importante notare che non si tratta di un problema unidirezionale, poiché in alcuni casi sono gli uomini a costituire la popolazione sottorappresentata nella raccolta dei dati. Ad esempio, è stato riscontrato che i partecipanti di sesso maschile sono sottorappresentati nelle sperimentazioni cliniche relative alle patologie muscoloscheletriche, ai traumi e alla psichiatria rispetto al loro carico di malattia, il che costituisce una forma di distorsione di rappresentazione (Steinberg et al., 2021). Nel contesto specifico della depressione, gli uomini sono sottorappresentati nei dati clinici a causa della loro minore propensione a cercare assistenza, a segnalare sintomi depressivi e a ricevere una diagnosi, il che riflette sia un bias di rappresentazione che un bias di misurazione (Smith et al., 2018). 

La ricerca suggerisce che la consapevolezza delle differenze nella manifestazione delle malattie tra uomini e donne potrebbe contribuire a ridurre i rischi di diagnosi errate dovute a dati distorti (Cirillo et al., 2020).

Il divario di salute di genere

Il pregiudizio di genere in medicina va oltre i singoli casi: riflette un fallimento sistemico nel considerare il genere come una variabile rilevante nella ricerca e nella pratica clinica. Questa «cecità di genere», unita a preconcetti stereotipati su uomini e donne e a una generale mancanza di conoscenza del corpo femminile e delle sue differenze biologiche rispetto a quello maschile, ha plasmato il sapere medico in modi che continuano a svantaggiare le donne ancora oggi (Hamberg, 2008). Ad esempio, un’analisi retrospettiva su 450.948 pazienti adulti affetti da malattie neurologiche e cardiovascolari ricoverati in tutti gli ospedali svizzeri tra il 2012 e il 2016 ha dimostrato che, nel complesso, le donne avevano una probabilità inferiore rispetto agli uomini di essere ricoverate in un’unità di terapia intensiva, nonostante presentassero condizioni cliniche più gravi (Todorov et al., 2021). Anche a livello di ricerca, i modelli animali maschi sono ancora più ampiamente utilizzati rispetto a quelli femminili nella ricerca biomedica di base, preclinica e chirurgica (Yoon et al., 2014), il che significa che le fondamenta del sapere medico sono spesso costruite su dati relativi esclusivamente ai maschi.

Pregiudizi razziali nell’IA biomedica

Il pregiudizio razziale in medicina è ampiamente documentato, in particolare negli Stati Uniti, dove è stato dimostrato che gli afroamericani e altri gruppi minoritari ricevono un minor numero di procedure mediche, presentano tassi più bassi di interventi chirurgici e ricevono meno invii a specialisti rispetto ai pazienti bianchi, indipendentemente dalle necessità cliniche (Bowser, 2001; Williams & Wyatt, 2015).

Quando i sistemi di IA vengono addestrati su dati che riflettono decenni di disuguaglianze esistenti nell’assistenza sanitaria, rischiano di codificarle e perpetuarle su scala più ampia. D’altra parte, come approfondito nel Modulo 2, la ricerca ha dimostrato che le misure di tutela della privacy possono influire inavvertitamente sull’accuratezza dei dati relativi alle popolazioni di neri non ispanici e ispanici, aggravando ulteriormente le disparità esistenti. È stato dimostrato, ad esempio, che l’implementazione della privacy differenziale influisce in modo più marcato sulle stime dei tassi di mortalità delle popolazioni di afroamericani non ispanici e ispanici rispetto a quelle delle popolazioni di bianchi non ispanici (Santos-Lozada et al., 2020). Gli individui bianchi non ispanici sono stati inoltre l’unico sottogruppo razziale ed etnico per il quale l’algoritmo di privacy differenziale ha rilevato con precisione i tassi di partecipazione a Medicaid, un risultato con implicazioni significative per la politica sanitaria e l’allocazione delle risorse (Kurz et al., 2022).

Sebbene gran parte delle prove documentate provenga dagli Stati Uniti, le condizioni strutturali che generano pregiudizi razziali nei dati sanitari, tra cui le barriere all’accesso, la sottorappresentazione nella ricerca clinica e le disuguaglianze socioeconomiche, sono presenti anche in Europa, rendendo questa questione di diretta rilevanza per gli operatori sanitari europei.

Le persone LGBTQIA+ e l’IA nell’assistenza sanitaria

È inoltre importante riconoscere che le persone LGBTQIA+ subiscono discriminazioni nell’accesso all’assistenza sanitaria e sono soggette a stereotipi che non riguardano la popolazione eterosessuale. Questi fattori sociali e culturali perpetuano la discriminazione e hanno un impatto misurabile sulla salute e sull’assistenza sanitaria. La ricerca ha dimostrato che il 16% delle persone LGBTQIA+ riferisce di aver subito discriminazioni nei contesti sanitari e che il 18% evita del tutto di ricorrere alle cure per paura di maltrattamenti (Chang et al., 2025).

I sistemi di IA addestrati su dati che non rappresentano adeguatamente questi pazienti rischiano di emarginare ulteriormente una popolazione già vulnerabile. Uno studio su larga scala che ha valutato i pregiudizi dell’IA in scenari clinici del pronto soccorso ha rilevato che i casi riguardanti pazienti LGBTQIA+ ricevevano raccomandazioni per interventi di salute mentale da sei a sette volte più spesso di quanto fosse clinicamente appropriato (Chang et al., 2025). 

Sensibilizzare sulle differenze nel modo in cui le malattie si manifestano nei diversi individui non è quindi solo una questione di equità, ma anche una necessità clinica che può contribuire a ridurre il rischio di diagnosi errate e a migliorare gli esiti per tutti i pazienti.

Esempi nelle malattie cardiovascolari

Il pregiudizio di genere nell’assistenza cardiovascolare è tra gli esempi meglio documentati di come una rappresentanza diseguale nella ricerca medica si traduca in esiti diseguali per i pazienti. I sintomi cardiovascolari delle donne spesso differiscono dal quadro clinico “classico” descritto nei libri di testo di medicina, un quadro che si basa in gran parte sui dati relativi a pazienti di sesso maschile (Fatunde et al., 2025). Secondo una revisione sistematica condotta da Al Hamid et al. (2024), le malattie cardiovascolari venivano segnalate meno frequentemente tra le donne che presentavano sintomi più lievi rispetto agli uomini o i cui sintomi venivano erroneamente diagnosticati come sintomi gastrointestinali o legati all’ansia. Di conseguenza, alle donne venivano prescritti meno esami diagnostici e farmaci, e venivano indirizzate a cardiologi e/o ricoverate in ospedale con minore frequenza. Inoltre, in caso di ricovero, le donne avevano meno probabilità di sottoporsi a un intervento coronarico. Di conseguenza, i fattori di rischio delle donne venivano sottovalutati dai medici, in particolare da quelli di sesso maschile. Si può quindi concludere che le donne abbiano meno probabilità di ricevere un’assistenza sanitaria adeguata a causa di pregiudizi già esistenti.

Le conseguenze dei pregiudizi razziali nell’assistenza cardiovascolare sono altrettanto gravi. Un esempio significativo, sebbene non limitato all’intelligenza artificiale, è il caso dei pulsossimetri, dispositivi che misurano la saturazione di ossigeno nel sangue e vengono utilizzati di routine in caso di eventi cardiaci. La ricerca ha dimostrato che i pulsossimetri funzionano in modo più accurato sulla pelle chiara, il che significa che i pazienti con carnagione più scura potrebbero ricevere sistematicamente letture meno accurate (Sjoding et al., 2020). Ciò illustra quanto possano essere profondamente radicati i pregiudizi, che si estendono oltre i sistemi di IA fino agli stessi dispositivi medici utilizzati insieme ad essi. Quando gli strumenti di IA per la cura cardiovascolare vengono addestrati su set di dati in cui le donne e i gruppi etnici minoritari sono sottorappresentati, il rischio di replicare e amplificare queste disparità su larga scala diventa significativo.

Esempi nel diabete

Il pregiudizio razziale nella cura del diabete è ampiamente documentato, in particolare negli Stati Uniti. Nonostante il loro rischio relativamente inferiore, i gruppi di bianchi non ispanici rimangono sovrarappresentati nella letteratura sulla previsione del rischio di diabete (Cronjé et al., 2023). In una revisione sull’equità etnico-razziale nell’intelligenza artificiale per la gestione del diabete, la distribuzione razziale media negli articoli esaminati era del 69,5% di bianchi, del 17,1% di neri e del 3,7% di asiatici, con solo due articoli che riportavano l’inclusione di partecipanti nativi americani (Pham et al., 2021).

È ben documentato che le disuguaglianze negli esiti del diabete sono in gran parte determinate da determinanti sociali della salute complessi e interconnessi (tra cui l’accesso a cibo sano, un’assistenza sanitaria di qualità, la copertura assicurativa, le barriere educative e i diversi tassi di adozione delle tecnologie), che determinano tassi più elevati di complicanze e un peggior controllo glicemico tra le popolazioni minoritarie e a basso reddito (Alipour & Alipour, 2025).

Di conseguenza, un sistema di IA addestrato su tali set di dati generalizza male tra i diversi gruppi razziali, producendo modelli predittivi distorti che potrebbero favorire individui di determinati gruppi razziali e potenzialmente danneggiare i pazienti più vulnerabili.

Un ulteriore esempio riguarda il test dell’A1C, che misura la quantità media di glucosio nel sangue ed è tipicamente utilizzato per individuare il prediabete o per aiutare a diagnosticare il diabete di tipo 2. Nonostante l’A1C sia solo una misura indiretta e non sia causalmente collegata agli esiti di salute, esiste una variazione sostanziale nella relazione tra glicemia e A1C tra i diversi individui e persino all’interno dello stesso individuo nel corso del tempo. Inoltre, alcuni studi hanno riportato livelli significativamente più elevati di emoglobina A1c (A1C) nei pazienti afroamericani rispetto ai pazienti bianchi con lo stesso livello medio di glucosio (Karter et al., 2023).

Se un sistema di intelligenza artificiale progettato per diagnosticare il diabete viene addestrato a utilizzare i risultati del test A1C come indicatore della glicemia senza tenere conto di altri fattori, quali l’etnia del paziente, ciò potrebbe portare a diagnosi premature di diabete e a trattamenti inappropriati, con conseguenti distorsioni nella qualità dell’assistenza sanitaria e disuguaglianze sanitarie. Tuttavia, come osservato in Alipour & Alipour (2025), una revisione sistematica dei bias che potrebbero influenzare l’equità dei modelli di IA/ML nel diabete, sebbene gli studi esaminati menzionino esplicitamente che il bias di misurazione possa propagarsi attraverso i modelli di IA se non corretto, nessuno di essi ha tenuto conto di tali bias durante lo sviluppo del modello, li ha mitigati in modo esplicito o ha riportato di aver corretto le differenze nell’accuratezza della misurazione.

Esempi nella depressione

La depressione è un ambito in cui sia i pregiudizi di genere che quelli razziali hanno conseguenze significative e ben documentate sull’assistenza assistita dall’IA, in particolare negli strumenti che utilizzano l’elaborazione del linguaggio naturale (NLP) per lo screening e la diagnosi.

I modelli di IA che utilizzano l’NLP per profilare la salute mentale raccolgono grandi set di dati di linguaggio espressivo, tipicamente acquisiti dai social media, dai forum online, dai blog e dalle chat room. Tuttavia, questi dati sono già influenzati dal background personale e dal contesto sociale dell’individuo (Straw & Callison-Burch, 2020).

In particolare, la ricerca ha dimostrato che uomini e donne esprimono il disagio mentale in modo diverso. Mentre le donne utilizzano un linguaggio meno assertivo, che si manifesta in una maggiore cortesia, un minor uso di parolacce, un maggior ricorso a intensificatori (ad es. «davvero», «così») e a espressioni di riserva (ovvero qualificativi o parole che denotano incertezza come «più o meno», «forse» o «magari»), gli uomini, d’altra parte, sono stati descritti come direttivi, precisi e anche meno emotivi nell’uso del linguaggio, caratterizzato da riferimenti alla quantità, aggettivi giudicanti (ad es. «buono», «stupido»), frasi ellittiche («Bella foto.») e riferimenti in prima persona («io») (Pennebaker et al., 2003). Queste differenze sono coerenti con un quadro sociologico delle differenze di genere.

Uomini e donne esprimono inoltre il disagio suicidario in modo diverso; le donne interiorizzano le emozioni negative, mentre gli uomini manifestano una rabbia crescente (Straw & Callison-Burch, 2020). Un sistema di IA addestrato prevalentemente su dati linguistici di un solo genere potrebbe quindi effettuare uno screening impreciso per l’altro. Questa preoccupazione è ulteriormente complicata dal fatto che la maggior parte dei modelli di NLP si basa su presupposti di genere binari, escludendo una parte significativa della popolazione, tra cui le persone non binarie, transgender e gender non-conforming, le cui esperienze di depressione e disagio suicidario possono differire sostanzialmente dalle norme sia maschili che femminili (Hafner et al., 2024). Le implicazioni specifiche di queste esclusioni per le popolazioni LGBTQIA+ sono discusse nella sezione 3.5.

Sebbene gli studi epidemiologici dimostrino che alle donne viene diagnosticata la depressione più frequentemente rispetto agli uomini, ciò potrebbe in parte riflettere il fatto che la ricerca ha storicamente misurato sintomi più comuni nelle donne, trascurando potenzialmente il modo in cui la depressione si manifesta negli uomini e creando un diverso tipo di divario rappresentativo (Cirillo et al., 2020).

Il pregiudizio di genere nella depressione si estende anche all’uso di strumenti di monitoraggio digitale come i sensori dei dispositivi indossabili. Questi dati sono stati mappati in caratteristiche utilizzate dai modelli di IA per effettuare previsioni, relative al sonno, all’attività fisica, al ritmo circadiano, alla socialità, alla posizione geografica e all’uso del telefono (De Angel et al., 2022).

Tuttavia, la ricerca ha dimostrato che esistono differenze nei modelli di sonno tra uomini e donne, eppure le donne sono spesso sottorappresentate nella ricerca sul sonno. Inoltre, molti strumenti di salute digitale non riescono a distinguere tra genere come costrutto sociale e sesso biologico, e non tengono conto delle identità intersezionali definite da età, razza e classe socioeconomica (Lok et al., 2024), tutti fattori rilevanti nel monitoraggio e nel trattamento della depressione.

I pregiudizi di genere e razziali esaminati in questo modulo hanno conseguenze concrete per i pazienti e implicazioni reali per i professionisti che se ne prendono cura. Man mano che l’IA diventa sempre più integrata nella pratica clinica, gli operatori sanitari hanno sia la responsabilità etica che l’obbligo legale di comprendere, mettere in discussione e, se necessario, contestare gli strumenti che utilizzano. Il Modulo 4 esaminerà i quadri etici e gli strumenti giuridici che regolano l’uso dell’IA in ambito sanitario, compreso il panorama normativo dell’UE e i vostri diritti e responsabilità in qualità di medici che lavorano con questi strumenti.

Successivo: Modulo 4

Riferimenti bibliografici

Al Hamid, A., Beckett, R., Wilson, M., Jalal, Z., Cheema, E., Al-Jumeily Obe, D., Coombs, T., Ralebitso-Senior, K., & Assi, S. (2024). Gender Bias in Diagnosis, Prevention, and Treatment of Cardiovascular Diseases: A Systematic Review. Cureus, 16(2). https://doi.org/10.7759/cureus.54264

Alipour, M., & Alipour, A. (2025). Algorithmic Bias in AI-Based Diabetes Care: Systematic Review of Model Performance, Equity Reporting, and Physiological Label Bias. InfoScience Trends, 2(5), 33–46. https://doi.org/10.61186/ist.202502.05.04

Bowser, R. (2001). Racial bias in medical treatment. Dick. L. Rev., 105(3), 365.

Chang, C.T., Srivathsa N., Bou-Khalil, C., Swaminathan, A., Lunn, M.R., Mishra, K., Koyejo, S,. Daneshjou, R. (2025). Evaluating anti-LGBTQIA+ medical bias in large language models. PLOS Digit Health 4(9): e0001001. https://doi.org/10.1371/journal.pdig.0001001

Cirillo, D., Catuara-Solarz, S., Morey, C., Guney, E., Subirats, L., Mellino, S., Gigante, A.A., Valencia, A., Rementeria, M.J., Chadha, A.S., & Mavridis, N. (2020). Sex and gender differences and biases in artificial intelligence for biomedicine and healthcare. npj Digit. Med. 3(81). https://doi.org/10.1038/s41746-020-0288-5

Cronjé, H. T., Katsiferis, A., Elsenburg, L. K., Andersen, T. O., Rod, N. H., Nguyen, T.-L., & Varga, T. V. (2023). Assessing racial bias in type 2 diabetes risk prediction algorithms. PLOS Global Public Health, 3(5), e0001556. https://doi.org/10.1371/journal.pgph.0001556

Cross, J. L., Choma, M. A., & Onofrey, J. A. (2024). Bias in medical AI: Implications for clinical decision-making. PLOS Digital Health, 3(11), e0000651. https://doi.org/10.1371/journal.pdig.0000651

De Angel, V., Lewis, S., White, K., Oetzmann, C., Leightley, D., Oprea, E., Lavelle, G., Matcham, F., Pace, A., Mohr, D. C., Dobson, R., & Hotopf, M. (2022). Digital health tools for the passive monitoring of depression: A systematic review of methods. Npj Digital Medicine, 5(1), 3. https://doi.org/10.1038/s41746-021-00548-8

Fatunde, O. A., Grant, J. K., Lara-Breitinger, K., Kizzee, O. P., Savic, J., LeMond, L., & Hayes, S. N. (2025). Gender Disparities in Cardiology. JACC: Advances, 4(4), 101642. https://doi.org/10.1016/j.jacadv.2025.101642

Funding research on women’s health. Nat Rev Bioeng 2, 797–798 (2024). https://doi.org/10.1038/s44222-024-00253-7

Hafner, F.S., Valdivia, A., Rocher, L. 2025. Gender Trouble in Language Models: An Empirical Audit Guided by Gender Performativity Theory. FAccT '25: Proceedings of the 2025 ACM Conference on Fairness, Accountability, and Transparency, 1677–1695. https://doi.org/10.1145/3715275.3732112

Hamberg, K. (2008). Gender Bias in Medicine. Women’s Health, 4(3), 237–243. https://doi.org/10.2217/17455057.4.3.237

Karter, A. J., Parker, M. M., Moffet, H. H., & Gilliam, L. K. (2023). Racial and Ethnic Differences in the Association Between Mean Glucose and Hemoglobin A1c. Diabetes Technology & Therapeutics, 25(10), 697–704. https://doi.org/10.1089/dia.2023.0153

Kurz, C. F., König, A. N., Emmert-Fees, K. M. F., & Allen, L. D. (2022). The effect of differential privacy on Medicaid participation among racial and ethnic minority groups. Health Services Research, 57(S2), 207–213. https://doi.org/10.1111/1475-6773.14000

Lok, R., Qian, J., & Chellappa, S. L. (2024). Sex differences in sleep, circadian rhythms, and metabolism: Implications for precision medicine. Sleep Medicine Reviews, 75, 101926. https://doi.org/10.1016/j.smrv.2024.101926

Pennebaker, J. W., Mehl, M. R., & Niederhoffer, K. G. (2003). Psychological Aspects of Natural Language Use: Our Words, Our Selves. Annual Review of Psychology, 54(1), 547–577. https://doi.org/10.1146/annurev.psych.54.101601.145041

Pham, Q., Gamble, A., Hearn, J., & Cafazzo, J. A. (2021). The Need for Ethnoracial Equity in Artificial Intelligence for Diabetes Management: Review and Recommendations. Journal of Medical Internet Research, 23(2), e22320. https://doi.org/10.2196/22320

Santos-Lozada, A. R., Howard, J. T., & Verdery, A. M. (2020). How differential privacy will affect our understanding of health disparities in the United States. Proceedings of the National Academy of Sciences of the United States of America, 117(24), 13405–13412. https://doi.org/10.1073/pnas.2003714117

Sjoding, M. W., Dickson, R. P., Iwashyna, T. J., Gay, S. E., & Valley, T. S. (2020). Racial Bias in Pulse Oximetry Measurement. New England Journal of Medicine, 383(25), 2477–2478. https://doi.org/10.1056/NEJMc2029240

Smith, D.T., Mouzon, D.M., & Elliott, M. (2018). Reviewing the assumptions about men's mental health: An exploration of the gender binary. American Journal of Men's Health, 12(1), 78–89. https://doi.org/10.1177/1557988316630953

Steinberg, J.R., Turner, B.E., Weeks, B.T., Magnani, C.J., Wong, B.O., Rodriguez, F., Roque, E.L., & Bhatt, D.L. (2021). Analysis of female enrollment and participant sex by burden of disease in US clinical trials between 2000 and 2020. JAMA Network Open, 4(6), e2113749. https://doi.org/10.1001/jamanetworkopen.2021.13749

Straw, I., & Callison-Burch, C. (2020). Artificial Intelligence in mental health and the biases of language based models. PLOS ONE, 15(12), e0240376. https://doi.org/10.1371/journal.pone.0240376

Todorov, A., Kaufmann, F., Arslani, K., Haider, A., Bengs, S., Goliasch, G., Zellweger, N., Tontsch, J., Sutter, R., Buddeberg, B., Hollinger, A., Zemp, E., Kaufmann, M., Siegemund, M., Gebhard, C., & Gebhard, C.E., on behalf of the Swiss Society of Intensive Care Medicine. (2021). Gender differences in the provision of intensive care: a Bayesian approach. Intensive Care Medicine, 47(5), 577–587. https://doi.org/10.1007/s00134-021-06393-3

Williams, D. R., & Wyatt, R. (2015). Racial Bias in Health Care and Health: Challenges and Opportunities. JAMA, 314(6), 555. https://doi.org/10.1001/jama.2015.9260

Yoon, D. Y., Mansukhani, N. A., Stubbs, V. C., Helenowski, I. B., Woodruff, T. K., & Kibbe, M. R. (2014). Sex bias exists in basic science and translational surgical research. Surgery, 156(3), 508–516. https://doi.org/10.1016/j.surg.2014.07.001