O Bias em IA como Problema Interseccional

A discriminação em IA é uma questão interseccional, sobrepondo dimensões como a idade, o género, a raça, a orientação sexual, e o estado de saúde, entre outras. Este bias e a discriminação que produzem ameaçam diretamente os direitos fundamentais protegidos pela Carta dos Direitos Fundamentais da UE, nomeadamente a proibição de discriminação com base em qualquer fundamento ao abrigo do Artigo 21.º, a garantia de igualdade entre homens e mulheres ao abrigo do Artigo 23.º, e o direito de acesso aos cuidados de saúde ao abrigo do Artigo 35.º.

Como profissional de saúde, compreender esta natureza interseccional é essencial. Os doentes com maior risco de serem prejudicados por ferramentas de IA enviesadas são frequentemente aqueles que já enfrentam múltiplas camadas de desvantagem no acesso e na receção de cuidados de qualidade.

A Raiz do Problema: Dados Médicos Enviesados

O bias observado nas aplicações de IA médica é resultado de dados médicos enviesados que foram recolhidos ao longo de décadas, refletindo discriminação sistémica e desigualdades estruturais na investigação e prática dos cuidados de saúde (Cirillo et al., 2020; Cross et al., 2024).

Um fator determinante deste problema é o infame "fosso de género na saúde" ou gender health gap: uma falta de equidade bem documentada nos cuidados de saúde entre homens e mulheres, que vai desde o acesso aos cuidados de saúde até à representação na investigação. Durante grande parte da história da medicina, os estudos clínicos e experimentais centraram-se predominantemente em participantes do sexo masculino, negligenciando as diferenças biológicas específicas do sexo. Em 2020, apenas 5% do financiamento global de investigação e desenvolvimento (I&D) foi alocado à investigação em saúde da mulher. Por sua vez, este valor dividiu-se em 4% para os cancros femininos e 1% para todas as outras condições de saúde específicas das mulheres, sendo que 25% desse valor foi ainda limitado à investigação em fertilidade (Nature Reviews Bioengineering, 2024).

Quando os dados utilizados para treinar algoritmos de IA refletem este desequilíbrio, as ferramentas resultantes serão inevitavelmente menos precisas para os grupos sub-representados. Como Cirillo et al. (2020) salienta, a falta de dados justos e equitativos introduzidos nos sistemas de IA é uma consequência direta desta desigualdade histórica. No entanto, é importante notar que este não é um problema unidirecional, uma vez que em alguns casos os homens são a população sub-representada na recolha de dados. Por exemplo, verificou-se que os participantes do sexo masculino estão sub-representados em ensaios clínicos de doenças musculoesqueléticas, trauma, e psiquiatria, relativamente ao seu peso de doença, uma forma de bias de representação (Steinberg et al., 2021). No contexto específico da depressão, os homens estão sub-representados nos dados clínicos devido à sua menor probabilidade de procurar ajuda médica, de reportar sintomas depressivos, e de receber um diagnóstico, refletindo tanto bias de representação como bias de medição (Smith et al., 2018). 

A investigação sugere que a consciencialização sobre as diferenças na manifestação das doenças entre homens e mulheres poderia contribuir para reduzir os riscos de diagnóstico errado resultantes de dados enviesados (Cirillo et al., 2020).

O Gender Health Gap

O bias de género na medicina vai além dos casos individuais, reflete uma falha sistémica em considerar o género como uma variável relevante na investigação e prática clínicas. Esta cegueira de género, combinada com preconceitos estereotipados sobre homens e mulheres e uma falta generalizada de conhecimento sobre o corpo feminino e as suas diferenças biológicas em relação ao corpo masculino, moldou o conhecimento médico de formas que continuam a prejudicar as mulheres nos dias de hoje (Hamberg, 2008). A título de exemplo, uma análise retrospetiva de 450.948 doentes adultos com doenças neuro e cardiovasculares admitidos em todos os hospitais da Suíça entre 2012 e 2016 mostrou que, no geral, as mulheres tinham menor probabilidade de ser admitidas numa unidade de cuidados intensivos do que os homens, apesar de estarem mais gravemente doentes (Todorov et al., 2021). Mesmo ao nível da investigação, os modelos animais do sexo masculino continuam a ser mais utilizados do que os modelos femininos na investigação biomédica básica, pré-clínica, e cirúrgica (Yoon et al., 2014), o que significa que os fundamentos do conhecimento médico são frequentemente construídos com base em dados exclusivamente masculinos.

Bias Racial em IA Biomédica

O bias racial na medicina está extensamente documentado, particularmente nos Estados Unidos, onde se demonstrou que os afro-americanos e outros grupos minoritários recebem menos procedimentos médicos, menores taxas de intervenção cirúrgica, e menos referenciações para especialistas em comparação com doentes brancos, independentemente da necessidade clínica (Bowser, 2001; Williams & Wyatt, 2015).

Quando os sistemas de IA são treinados com dados que refletem décadas de desigualdades existentes nos cuidados de saúde, correm o risco de as codificar e perpetuar a uma escala ainda maior. Por outro lado, como explorado no Módulo 2, a investigação demonstrou que as medidas de proteção da privacidade podem inadvertidamente afetar a precisão dos dados para populações negras não hispânicas e hispânicas, aprofundando ainda mais as disparidades existentes. A implementação da privacidade diferencial, por exemplo, demonstrou afetar mais fortemente as estimativas de taxa de mortalidade para populações negras não hispânicas e hispânicas do que para populações brancas não hispânicas (Santos-Lozada et al., 2020). Os indivíduos brancos não hispânicos foram também o único subgrupo racial e étnico para o qual o algoritmo de privacidade diferencial capturou com precisão as taxas de participação no Medicaid, uma conclusão com implicações significativas para a política de saúde e a alocação de recursos (Kurz et al., 2022).

Embora grande parte da evidência documentada provenha dos Estados Unidos, as condições estruturais que produzem bias racial nos dados de saúde, incluindo barreiras de acesso, sub-representação na investigação clínica, e desigualdades socioeconómicas, estão também presentes em toda a Europa, tornando esta uma preocupação diretamente relevante para os profissionais de saúde europeus.

Indivíduos LGBTQIA+ e a IA nos Cuidados de Saúde

É também importante reconhecer que os indivíduos LGBTQIA+ experienciam discriminação no acesso aos cuidados de saúde e estão sujeitos a estereótipos que não afetam a população heterossexual. Estes fatores sociais e culturais perpetuam a discriminação e têm um impacto mensurável na saúde e nos cuidados de saúde. A investigação demonstrou que 16% dos indivíduos LGBTQIA+ reportam discriminação em interações em cuidados de saúde, e 18% evitam por completo procurar cuidados devido ao medo de mau tratamento (Chang et al., 2025).

Sistemas de IA treinados com dados que não representam adequadamente estes doentes correm o risco de marginalizar ainda mais uma população já vulnerável. Um estudo de grande escala que avaliou o bias da IA em cenários clínicos de urgência e emergência verificou que os casos envolvendo doentes LGBTQIA+ receberam recomendações de intervenções de saúde mental seis a sete vezes mais do que seria clinicamente adequado (Chang et al., 2025).

Consciencializar para as diferenças na forma como as doenças se manifestam entre os indivíduos não é, por isso, apenas uma questão de justiça, mas também uma necessidade clínica que pode contribuir para reduzir o risco de diagnóstico errado e melhorar os resultados para todos os doentes.

Exemplos nas Doenças Cardiovasculares

O bias de género nos cuidados cardiovasculares é um dos exemplos mais bem documentados de como a representação desigual na investigação médica se traduz em resultados desiguais para os doentes. Os sintomas cardiovasculares das mulheres diferem frequentemente da apresentação "clássica" descrita nos manuais de medicina, uma apresentação largamente baseada em dados de doentes do sexo masculino (Fatunde et al., 2025). De acordo com uma revisão sistemática de Al Hamid et al. (2024), as doenças cardiovasculares eram menos reportadas entre as mulheres que apresentavam sintomas mais ligeiros do que os homens, ou cujos sintomas eram erroneamente diagnosticados como gastrointestinais ou relacionados com ansiedade. Consequentemente, as mulheres recebiam menos testes de diagnóstico e medicamentos, e eram referenciadas para cardiologistas e/ou hospitalização com menos frequência. Além disso, quando hospitalizadas, as mulheres tinham menor probabilidade de receber uma intervenção coronária, tendo os seus fatores de risco sido subvalorizados pelos médicos, especialmente pelos médicos do sexo masculino. Pode, assim, concluir-se que as mulheres têm menor probabilidade de receber cuidados de saúde adequados devido a bias já existente.

As consequências do bias racial nos cuidados cardiovasculares são igualmente sérias. Um exemplo elucidativo, embora não limitado à IA, é o caso dos oxímetros de pulso, dispositivos que medem a saturação de oxigénio no sangue e são utilizados rotineiramente em casos de eventos cardíacos. A literatura demonstrou que os oxímetros de pulso funcionam com maior precisão em peles de pigmentação clara, o que significa que os doentes com tons de pele mais escuros podem receber leituras sistematicamente menos precisas (Sjoding et al., 2020). Isto ilustra até que ponto o bias pode estar profundamente enraizado, estendendo-se para além dos sistemas de IA até aos próprios dispositivos médicos utilizados a par deles.

Quando as ferramentas de IA para cuidados cardiovasculares são treinadas com conjuntos de dados que sub-representam mulheres e grupos étnicos minoritários, o risco de replicar e amplificar estas disparidades a uma escala significativa torna-se considerável.

Exemplos na Diabetes

O bias racial nos cuidados da diabetes está extensamente documentado, particularmente nos Estados Unidos. Apesar do seu risco comparativamente mais baixo, os grupos brancos não hispânicos continuam sobre-representados na literatura de previsão de risco de diabetes (Cronjé et al., 2023). Numa revisão sobre equidade etno-racial na inteligência artificial para a gestão da diabetes, a distribuição racial média nos artigos analisados era de 69,5% brancos, 17,1% negros, e 3,7% asiáticos, com apenas dois artigos a reportar a inclusão de participantes nativos americanos (Pham et al., 2021).

Está bem documentado que as desigualdades nos resultados da diabetes são em grande parte impulsionadas por determinantes sociais de saúde complexos e inter-relacionados (incluindo o acesso a alimentos saudáveis, cuidados de saúde de qualidade, estatuto de seguro, barreiras educacionais, e taxas diferenciadas de adoção tecnológica), que impulsionam taxas mais elevadas de complicações e um controlo glicémico mais deficiente entre populações minorizadas e de baixos rendimentos (Alipour & Alipour, 2025).

Como resultado, um sistema de IA treinado com esses conjuntos de dados generaliza mal entre grupos raciais, produzindo modelos preditivos enviesados que podem favorecer indivíduos de certos grupos raciais e potencialmente prejudicar os doentes mais vulneráveis.

Um exemplo adicional relaciona-se com o teste A1C, que mede a quantidade média de glicose no sangue e é tipicamente utilizado para detetar pré-diabetes ou ajudar a diagnosticar diabetes tipo 2. Apesar de o A1C ser apenas uma medida indireta e não estar causalmente associado aos resultados de saúde, existe uma variação substancial na relação glicemia–A1C entre indivíduos e até no mesmo indivíduo ao longo do tempo. Além disso, estudos reportaram valores de hemoglobina A1c (A1C) significativamente mais elevados em doentes afro-americanos do que em doentes brancos com a mesma glicemia média (Karter et al., 2023).

Se um sistema de IA concebido para diagnosticar diabetes for treinado para utilizar os resultados do teste A1C como proxy da glicemia sem ter em conta outros fatores, como a raça do doente, isto pode conduzir a diagnósticos prematuros de diabetes e a tratamentos inadequados, resultando em desigualdades na qualidade dos cuidados de saúde. No entanto, como referido em Alipour & Alipour (2025) numa revisão sistemática dos biases que podem afetar a equidade dos modelos de IA/machine learning na diabetes, embora os estudos analisados mencionem explicitamente que o bias de medição pode propagar-se através dos modelos de IA se não for corrigido, nenhum deles teve em conta esses biases durante o desenvolvimento do modelo, os mitigou explicitamente, ou reportou a correção das diferenças na precisão da medição.

Exemplos na Depressão

A depressão é uma área onde tanto o bias de género como o bias racial têm consequências significativas e bem documentadas para os cuidados assistidos por IA, particularmente em ferramentas que utilizam NLP para o rastreio e diagnóstico.

Os modelos de IA que utilizam NLP para traçar o perfil de saúde mental recolhem grandes conjuntos de dados de linguagem expressiva, tipicamente obtidos a partir de redes sociais, fóruns online, blogs, e salas de chat. No entanto, estes dados já são influenciados pelo contexto pessoal e social de cada indivíduo (Straw & Callison-Burch, 2020).

Especificamente, a investigação demonstrou que homens e mulheres expressam o sofrimento mental de forma diferente. Enquanto as mulheres utilizam um discurso menos assertivo, manifestado em maior polidez, menos palavrões, mais intensificadores (por exemplo, "mesmo", "tão"), e mais atenuadores (ou seja, palavras qualificadoras ou de incerteza, como "mais ou menos", "talvez", ou "se calhar"), os homens, por outro lado, foram descritos como diretivos, precisos, e também menos emocionais no seu uso da linguagem, caracterizado por referências a quantidades, adjetivos avaliativos (por exemplo, "bom", "estúpido"), frases elípticas ("Boa foto."), e referências ao "eu" (Pennebaker et al., 2003). Estas diferenças são consistentes com um quadro sociológico das diferenças de género.

Homens e mulheres também expressam o sofrimento suicida de forma diferente: as mulheres internalizam as emoções negativas, enquanto os homens expressam uma crescente raiva (Straw & Callison-Burch, 2020). Um sistema de IA treinado predominantemente com dados linguísticos de um género pode, por isso, realizar rastreios inexatos para o outro. Esta preocupação é ainda complicada pelo facto de a maioria dos modelos de NLP assentar em pressupostos binários de género, excluindo uma parte significativa da população, incluindo indivíduos não-binários, transgénero, e de género não conforme, cujas experiências de depressão e sofrimento suicida podem diferir substancialmente das normas masculinas e femininas (Hafner et al., 2024). As implicações específicas destas exclusões para as populações LGBTQIA+ são discutidas na secção 3.5.

Embora estudos epidemiológicos mostrem que as mulheres são diagnosticadas com depressão com maior frequência do que os homens, isto pode refletir parcialmente o facto de a investigação ter historicamente medido sintomas mais comuns nas mulheres, podendo não captar a forma como a depressão se manifesta nos homens, e criando um tipo diferente de lacuna representacional (Cirillo et al., 2020).

O bias de género na depressão estende-se também à utilização de ferramentas de monitorização digital, como sensores em dispositivos wearable. Estes dados foram mapeados em características utilizadas pelos modelos de IA para fazer previsões, correspondentes ao sono, à atividade física, ao ritmo circadiano, à sociabilidade, à localização, e à utilização do telemóvel (De Angel et al., 2022).

No entanto, a investigação demonstrou que existem diferenças nos padrões de sono entre homens e mulheres, sendo as mulheres frequentemente sub-representadas na investigação sobre o sono. Adicionalmente, muitas ferramentas de saúde digital não distinguem o género como constructo social do sexo biológico, e não têm em conta identidades interseccionais definidas pela idade, raça, e classe socioeconómica (Lok et al., 2024),  todas elas fatores relevantes na monitorização e tratamento da depressão.

Os biases de género e raciais explorados neste módulo têm consequências reais para os doentes e implicações reais para os profissionais que deles cuidam. À medida que a IA se torna cada vez mais integrada na prática clínica, os profissionais de saúde têm tanto uma responsabilidade ética como uma obrigação legal de compreender, questionar, e quando necessário desafiar as ferramentas que utilizam. O Módulo 4 examinará os quadros éticos e os instrumentos jurídicos que regem a utilização da IA nos cuidados de saúde, incluindo o panorama regulatório da UE e os seus direitos e responsabilidades enquanto clínico que trabalha com estas ferramentas.

A seguir: Módulo 4

Referências

Al Hamid, A., Beckett, R., Wilson, M., Jalal, Z., Cheema, E., Al-Jumeily Obe, D., Coombs, T., Ralebitso-Senior, K., & Assi, S. (2024). Gender Bias in Diagnosis, Prevention, and Treatment of Cardiovascular Diseases: A Systematic Review. Cureus, 16(2). https://doi.org/10.7759/cureus.54264

Alipour, M., & Alipour, A. (2025). Algorithmic Bias in AI-Based Diabetes Care: Systematic Review of Model Performance, Equity Reporting, and Physiological Label Bias. InfoScience Trends, 2(5), 33–46. https://doi.org/10.61186/ist.202502.05.04

Bowser, R. (2001). Racial bias in medical treatment. Dick. L. Rev., 105(3), 365.

Chang, C.T., Srivathsa N., Bou-Khalil, C., Swaminathan, A., Lunn, M.R., Mishra, K., Koyejo, S,. Daneshjou, R. (2025). Evaluating anti-LGBTQIA+ medical bias in large language models. PLOS Digit Health 4(9): e0001001. https://doi.org/10.1371/journal.pdig.0001001

Cirillo, D., Catuara-Solarz, S., Morey, C., Guney, E., Subirats, L., Mellino, S., Gigante, A.A., Valencia, A., Rementeria, M.J., Chadha, A.S., & Mavridis, N. (2020). Sex and gender differences and biases in artificial intelligence for biomedicine and healthcare. npj Digit. Med. 3(81). https://doi.org/10.1038/s41746-020-0288-5

Cronjé, H. T., Katsiferis, A., Elsenburg, L. K., Andersen, T. O., Rod, N. H., Nguyen, T.-L., & Varga, T. V. (2023). Assessing racial bias in type 2 diabetes risk prediction algorithms. PLOS Global Public Health, 3(5), e0001556. https://doi.org/10.1371/journal.pgph.0001556

Cross, J. L., Choma, M. A., & Onofrey, J. A. (2024). Bias in medical AI: Implications for clinical decision-making. PLOS Digital Health, 3(11), e0000651. https://doi.org/10.1371/journal.pdig.0000651

De Angel, V., Lewis, S., White, K., Oetzmann, C., Leightley, D., Oprea, E., Lavelle, G., Matcham, F., Pace, A., Mohr, D. C., Dobson, R., & Hotopf, M. (2022). Digital health tools for the passive monitoring of depression: A systematic review of methods. Npj Digital Medicine, 5(1), 3. https://doi.org/10.1038/s41746-021-00548-8

Fatunde, O. A., Grant, J. K., Lara-Breitinger, K., Kizzee, O. P., Savic, J., LeMond, L., & Hayes, S. N. (2025). Gender Disparities in Cardiology. JACC: Advances, 4(4), 101642. https://doi.org/10.1016/j.jacadv.2025.101642

Funding research on women’s health. Nat Rev Bioeng 2, 797–798 (2024). https://doi.org/10.1038/s44222-024-00253-7

Hafner, F.S., Valdivia, A., Rocher, L. 2025. Gender Trouble in Language Models: An Empirical Audit Guided by Gender Performativity Theory. FAccT '25: Proceedings of the 2025 ACM Conference on Fairness, Accountability, and Transparency, 1677–1695. https://doi.org/10.1145/3715275.3732112

Hamberg, K. (2008). Gender Bias in Medicine. Women’s Health, 4(3), 237–243. https://doi.org/10.2217/17455057.4.3.237

Karter, A. J., Parker, M. M., Moffet, H. H., & Gilliam, L. K. (2023). Racial and Ethnic Differences in the Association Between Mean Glucose and Hemoglobin A1c. Diabetes Technology & Therapeutics, 25(10), 697–704. https://doi.org/10.1089/dia.2023.0153

Kurz, C. F., König, A. N., Emmert-Fees, K. M. F., & Allen, L. D. (2022). The effect of differential privacy on Medicaid participation among racial and ethnic minority groups. Health Services Research, 57(S2), 207–213. https://doi.org/10.1111/1475-6773.14000

Lok, R., Qian, J., & Chellappa, S. L. (2024). Sex differences in sleep, circadian rhythms, and metabolism: Implications for precision medicine. Sleep Medicine Reviews, 75, 101926. https://doi.org/10.1016/j.smrv.2024.101926

Pennebaker, J. W., Mehl, M. R., & Niederhoffer, K. G. (2003). Psychological Aspects of Natural Language Use: Our Words, Our Selves. Annual Review of Psychology, 54(1), 547–577. https://doi.org/10.1146/annurev.psych.54.101601.145041

Pham, Q., Gamble, A., Hearn, J., & Cafazzo, J. A. (2021). The Need for Ethnoracial Equity in Artificial Intelligence for Diabetes Management: Review and Recommendations. Journal of Medical Internet Research, 23(2), e22320. https://doi.org/10.2196/22320

Santos-Lozada, A. R., Howard, J. T., & Verdery, A. M. (2020). How differential privacy will affect our understanding of health disparities in the United States. Proceedings of the National Academy of Sciences of the United States of America, 117(24), 13405–13412. https://doi.org/10.1073/pnas.2003714117

Sjoding, M. W., Dickson, R. P., Iwashyna, T. J., Gay, S. E., & Valley, T. S. (2020). Racial Bias in Pulse Oximetry Measurement. New England Journal of Medicine, 383(25), 2477–2478. https://doi.org/10.1056/NEJMc2029240

Smith, D.T., Mouzon, D.M., & Elliott, M. (2018). Reviewing the assumptions about men's mental health: An exploration of the gender binary. American Journal of Men's Health, 12(1), 78–89. https://doi.org/10.1177/1557988316630953

Steinberg, J.R., Turner, B.E., Weeks, B.T., Magnani, C.J., Wong, B.O., Rodriguez, F., Roque, E.L., & Bhatt, D.L. (2021). Analysis of female enrollment and participant sex by burden of disease in US clinical trials between 2000 and 2020. JAMA Network Open, 4(6), e2113749. https://doi.org/10.1001/jamanetworkopen.2021.13749

Straw, I., & Callison-Burch, C. (2020). Artificial Intelligence in mental health and the biases of language based models. PLOS ONE, 15(12), e0240376. https://doi.org/10.1371/journal.pone.0240376

Todorov, A., Kaufmann, F., Arslani, K., Haider, A., Bengs, S., Goliasch, G., Zellweger, N., Tontsch, J., Sutter, R., Buddeberg, B., Hollinger, A., Zemp, E., Kaufmann, M., Siegemund, M., Gebhard, C., & Gebhard, C.E., on behalf of the Swiss Society of Intensive Care Medicine. (2021). Gender differences in the provision of intensive care: a Bayesian approach. Intensive Care Medicine, 47(5), 577–587. https://doi.org/10.1007/s00134-021-06393-3

Williams, D. R., & Wyatt, R. (2015). Racial Bias in Health Care and Health: Challenges and Opportunities. JAMA, 314(6), 555. https://doi.org/10.1001/jama.2015.9260

Yoon, D. Y., Mansukhani, N. A., Stubbs, V. C., Helenowski, I. B., Woodruff, T. K., & Kibbe, M. R. (2014). Sex bias exists in basic science and translational surgical research. Surgery, 156(3), 508–516. https://doi.org/10.1016/j.surg.2014.07.001