Fundamentos da Bioética

A medicina como disciplina está há muito associada a elevados padrões éticos e à responsabilidade profissional, manifestados em normas que vão desde o Juramento de Hipócrates (Miles, 2005) às Declarações de Genebra e de Helsínquia (Tröhler, 2008). No entanto, a história da medicina inclui também práticas que causaram sérios danos a pessoas vulneráveis. Exemplos bem conhecidos incluem a eugenia, a esterilização forçada de populações indígenas e marginalizadas, e a experimentação não consensual em pessoas com deficiência. Estes fracassos históricos refletem injustiças estruturais e estruturas de poder que moldaram a investigação e a prática médicas durante séculos, e cujos legados permanecem visíveis nos dados enviesados e nos padrões discriminatórios que os sistemas de IA nos cuidados de saúde correm o risco de herdar hoje.

A ética biomédica (ou bioética) é um domínio da ética aplicada que aborda as questões morais que surgem na prática da medicina e na investigação biomédica (Vevaina et al., 1993). Assenta em quatro princípios centrais, tal como definidos por Beauchamp e Childress (Beauchamp & Childress, 2019):

• Autonomia: Respeitar as capacidades de tomada de decisão das pessoas autónomas. Duas condições gerais são essenciais para a autonomia: a liberdade, manifestada como independência de influências controladoras, e a agência, ou seja, a capacidade de ação intencional.

• Não-maleficência: Evitar causar danos.

• Beneficência: Tomar medidas positivas para ajudar os outros, especificamente, prevenir o mal ou o dano, eliminar o mal ou o dano, e promover o bem.

• Justiça: Distribuir benefícios, riscos, e custos de forma equitativa. A justiça é interpretada como um tratamento justo, equitativo, e adequado para indivíduos e grupos, tendo em conta as muitas disparidades nos cuidados de saúde e na investigação com base na raça, etnicidade, género, e estatuto social.

Estes princípios não são abstratos, são o fundamento ético da sua prática profissional como profissional de saúde, e estão diretamente em causa quando ferramentas de IA enviesadas são utilizadas na tomada de decisões clínicas.

Ética da IA: Estender os Princípios Biomédicos à Inteligência Artificial

O rápido desenvolvimento das aplicações de IA levantou um vasto leque de questões éticas, com o bias e a discriminação a figurarem proeminentemente entre elas (Christoforaki & Beyan, 2022). Em resposta, a ética da IA emergiu como um domínio da ética aplicada que compreende "um conjunto de valores, princípios, e técnicas que empregam normas amplamente aceites de certo e errado para orientar a conduta moral no desenvolvimento e utilização de tecnologias de IA" (Leslie, 2019, p. 3).

A ética da IA baseia-se tanto na bioética como no discurso dos direitos humanos, incluindo o direito à liberdade e dignidade iguais perante a lei, a proteção dos direitos civis, políticos e sociais, o reconhecimento universal da personalidade jurídica, e o direito à participação livre na vida da comunidade (Leslie, 2019).

Os quatro princípios da bioética foram então adaptados para a IA, com a adição de um quinto - a Explicabilidade (Floridi et al., 2018):

1. Autonomia, como o poder dos seres humanos de decidir se querem decidir, e de conter o risco de delegar demasiado às máquinas.

2. Não-maleficência, como a prevenção de danos decorrentes seja da intenção dos seres humanos, seja do comportamento não previsto das máquinas.

3. Beneficência, como a promoção do bem-estar, a preservação da dignidade, e a sustentabilidade do planeta.

4. Justiça, como a prevenção e eliminação de discriminações injustas já existentes, bem como de novos danos, e a garantia da distribuição equitativa dos benefícios da IA.

5. Explicabilidade, definida como a compreensão e a responsabilização pelos processos de tomada de decisão da IA.

Da Ética à Política

Em comparação com a medicina, o desenvolvimento da IA carece atualmente de: 

1. Objetivos comuns e deveres fiduciários;

2. Uma história profissional e normas estabelecidas;

3. Métodos comprovados para traduzir princípios em prática;

4. Mecanismos robustos de responsabilização legal e profissional. 

Isto significa que os princípios éticos, embora necessários, não são suficientes para governar a IA nos cuidados de saúde.

Os biases de género e raciais em IA biomédica não são falhas técnicas acidentais ou isoladas, são riscos sistémicos que emergem ao longo de todo o ciclo de vida dos sistemas de IA utilizados nos cuidados de saúde. Nas doenças cardiovasculares, na depressão, e na diabetes, o bias surge de conjuntos de dados clínicos historicamente distorcidos, práticas de diagnóstico desiguais, variáveis proxy que codificam desigualdades estruturais, e contextos de implantação que distribuem de forma desigual tanto os benefícios como os danos.

Estas conclusões confirmam que a IA biomédica envolve diretamente múltiplos direitos e princípios protegidos pela Carta dos Direitos Fundamentais da UE, nomeadamente a dignidade humana, a igualdade perante a lei, e a não discriminação, bem como o direito à integridade da pessoa, o direito aos cuidados de saúde, a proteção de dados, e o direito a uma tutela jurisdicional efetiva.

Os quadros políticos europeus e nacionais que regem a IA nos cuidados de saúde devem, por isso, tratar a mitigação do bias não como um complemento ético voluntário, mas como um componente vinculativo da implantação de IA legítima e em conformidade com os direitos.

A Carta dos Direitos Fundamentais da UE e a IA

De acordo com um relatório de 2018 financiado pelo Conselho da Europa (Comité de peritos em intermediários da internet (MSI-NET, 2018)), os direitos humanos mais afetados pelos algoritmos e pelas técnicas automatizadas de tratamento de dados incluem:

• O direito a um julgamento justo e ao devido processo legal

• A privacidade e a proteção de dados

• A liberdade de expressão

• O direito a uma tutela jurisdicional efetiva

• A liberdade de reunião e de associação

• A proibição da discriminação

• Os direitos sociais e o acesso aos serviços públicos

• O direito a eleições livres

Os algoritmos enviesados são explicitamente mencionados como possíveis fatores de discriminação contra grupos sociais com base na idade, orientação sexual, raça, género, ou estatuto socioeconómico (MSI-NET, 2018, p. 27). Além disso, a Convenção-Quadro do Conselho da Europa sobre Inteligência Artificial e Direitos Humanos, Democracia e Estado de Direito exige especificamente que os estados membros “adotem ou mantenham medidas com vista a garantir que as atividades ao longo do ciclo de vida dos sistemas de inteligência artificial respeitem a igualdade, incluindo a igualdade de género, e a proibição da discriminação, nos termos do direito internacional e nacional aplicável” (Convenção-Quadro do Conselho da Europa sobre Inteligência Artificial e Direitos Humanos, Democracia e Estado de Direito, 2024, p. 4).

Como explorado no Módulo 1, os Artigos da Carta da UE mais diretamente relevantes para a IA biomédica são o Artigo 21.º (Não discriminação), o Artigo 23.º (Igualdade entre homens e mulheres), e o Artigo 35.º (Saúde). Quando os sistemas de IA utilizados na prática clínica têm um desempenho desigual entre doentes com diferentes características de género ou raciais e étnicas, representam uma violação direta dos direitos que estes Artigos protegem.

O Quadro Jurídico da UE para a IA nos Cuidados de Saúde

A UE estabeleceu um ambiente regulatório multifacetado para a IA biomédica, assente em quatro instrumentos jurídicos complementares:

O Regulamento de IA (AI Act)

O AI Act estabelece um quadro regulatório  para os sistemas de IA baseado no risco. Muitas aplicações na área da saúde, incluindo ferramentas de apoio à decisão clínica e algoritmos de diagnóstico, são classificadas como sistemas de IA de risco elevado, sujeitos a requisitos rigorosos em matéria de gestão do risco, governação de dados, transparência, supervisão humana, e exatidão, incluindo a identificação e mitigação de riscos de resultados discriminatórios entre grupos demográficos (AI Act da UE, 2024).

As instituições de saúde que implantam sistemas de IA têm também obrigações específicas nos termos do AI Act. Para os profissionais de saúde e hospitais, as disposições operacionalmente mais importantes são:

1. Requisitos para sistemas de risco elevado: Os fornecedores devem implementar um sistema de gestão do risco ao longo do ciclo de vida (Art. 9.º) e práticas de governação de dados que incluam: requisitos explícitos de deteção e mitigação de bias (Art. 10.º), incluindo a avaliação da representatividade dos dados e de potenciais disparidades de desempenho entre populações desagregadas por género e por origem racial ou étnica; salvaguardas de transparência e disponibilização de informação aos responsáveis pela implantação (Art. 13.º); supervisão humana concebida para prevenir o bias de automação e permitir procedimentos de anulação ou interrupção (Art. 14.º); e controlos de exatidão, robustez e cibersegurança, com atenção explícita a ciclos de retroação e a ataques específicos a sistemas de IA (Art. 15.º), os quais podem, de outro modo, agravar as desigualdades existentes se não forem devidamente abordados. 

2. Obrigações dos responsáveis pela implantação: Os hospitais e outros responsáveis pela implantação devem utilizar os sistemas de IA de risco elevado em conformidade com as instruções do fornecedor (Art. 26.º); atribuir uma supervisão humana competente (Art. 26.º); garantir que os dados de entrada são relevantes, representativos, e completos quando o responsável pela implantação controla esses dados (Art. 26.º), considerando também (sempre que viável) a diversidade demográfica das populações clínicas; monitorizar o funcionamento do sistema (Art. 26.º); conservar os registos gerados automaticamente durante, pelo menos, seis meses, salvo disposição legal em contrário (Art. 26.º); e comunicar sem demora injustificada os incidentes graves ou avarias aos fornecedores e às autoridades competentes (Arts. 26.º e 73.º), particularmente quando exista risco de resultados clínicos desiguais.

3. Avaliação de Impacto sobre os Direitos Fundamentais (FRIA): Antes de implantar determinados sistemas de IA de risco elevado, os organismos regidos pelo direito público (e as entidades privadas que prestam serviços públicos) devem realizar uma FRIA, descrevendo os processos, os grupos afetados, os riscos, as medidas de supervisão humana e os mecanismos de mitigação ou de reclamação, devendo posteriormente notificar a autoridade de fiscalização do mercado através de um modelo que o Gabinete de IA deverá desenvolver (Art. 28.º). Este requisito é diretamente relevante para os hospitais públicos em muitos Estados-Membros, na medida em que fornece um mecanismo para identificar e abordar, antes da implantação, os riscos de discriminação e de impactos desiguais entre grupos de género e raciais/étnicos.

Regulamento dos Dispositivos Médicos (MDR) e Regulamento dos Dispositivos Médicos para Diagnóstico In Vitro (IVDR)

Os sistemas de IA utilizados em contextos médicos estão também sujeitos ao direito dos dispositivos médicos e à orientação relacionada, incluindo o Regulamento dos Dispositivos Médicos (MDR) (European Union, 2017a) e o Regulamento dos Dispositivos Médicos para Diagnóstico In Vitro (IVDR) (European Union, 2017b), que regulam a segurança e o desempenho das tecnologias médicas e exigem avaliação clínica e vigilância pós-comercialização (incluindo ferramentas baseadas em IA), com atenção ao desempenho equitativo entre grupos populacionais.

A relação entre o AI Act e o direito dos dispositivos médicos existente é clarificada na Orientação sobre a Interação entre o AI Act e o MDR/IVDR (Medical Device Coordination Group & European AI Board, 2025). O documento explica que o AI Act se aplica em conjunto com estes dois regulamentos, e não em substituição dos mesmos. Na prática, isto significa que muitos sistemas de IA médicos têm de cumprir ambos os quadros simultaneamente. A orientação esclarece também quando a IA médica se qualifica como de risco elevado nos termos do AI Act, o que normalmente ocorre quando o próprio sistema de IA constitui um dispositivo médico (ou uma componente de segurança de um dispositivo médico) e está, por isso, sujeito a uma avaliação de conformidade por terceiros realizada por um organismo notificado.

Para a aquisição hospitalar, isto significa exigir que os fornecedores demonstrem o estatuto regulatório dos seus sistemas, incluindo a classificação MDR/IVDR, o envolvimento de um organismo notificado quando aplicável, e a documentação do desempenho por grupos populacionais desagregados e das medidas de mitigação do bias, quando relevante. Os contratos de aquisição devem também exigir que os fornecedores disponibilizem a documentação, a informação de transparência e as medidas de supervisão necessárias aos responsáveis pela implantação nos termos do AI Act, incluindo disposições que garantam resultados equitativos para todos os doentes.

Regulamento Geral sobre a Proteção de Dados (RGPD)

Vários outros instrumentos da UE são igualmente relevantes para a governação prática da IA na saúde. O RGPD mantém-se como uma restrição fundamental para a IA biomédica, dado que os dados de saúde constituem dados pessoais de categoria especial (European Union, 2016). As implantações hospitalares requerem frequentemente Avaliações de Impacto sobre a Proteção de Dados (DPIA), que o AI Act (Arts. 26.º, n.º 9, e 27.º, n.º 4) associa explicitamente às obrigações dos responsáveis pela implantação (incluindo a consideração de impactos diferenciados entre populações desagregadas por género e por origem racial ou étnica, sempre que exequível).

Espaço Europeu de Dados de Saúde (EHDS)

O EHDS visa facilitar o acesso seguro aos dados de saúde para a prestação de cuidados e para a investigação, mantendo simultaneamente salvaguardas robustas de proteção de dados (European Union, 2025). Espera-se que desempenhe um papel fundamental na criação de conjuntos de dados mais representativos para o desenvolvimento da IA biomédica, apoiando a avaliação centrada na equidade e reduzindo o risco de sub-representação de determinados grupos demográficos (European Commission, 2025).

O que Isto Significa para Si como Profissional de Saúde

O panorama legal e ético descrito neste módulo traduz-se em responsabilidades concretas para os profissionais de saúde que trabalham a par de ferramentas de IA. Estas incluem:

• Supervisão humana: As ferramentas de IA clínica utilizadas para diagnóstico, estratificação de risco, rastreio, ou apoio ao tratamento nunca devem funcionar como decisores autónomos. Tem tanto o direito como a responsabilidade de interrogar criticamente os resultados da IA em vez de os aceitar acriticamente, e a sua instituição tem a obrigação de o apoiar nesse sentido.

• Transparência: Os doentes devem ser informados sempre que os sistemas de IA são utilizados na tomada de decisões clínicas que os afetam, incluindo no rastreio, na priorização, ou na pontuação de risco. Quando os resultados gerados por IA informam serviços públicos de saúde, estes resultados devem ser claramente identificáveis como tal, e acompanhados de explicações acessíveis sobre o seu papel, limitações, e riscos de bias conhecidos. Os doentes devem também ser informados quando os seus dados pessoais são utilizados para treino, teste, ou machine learning de IA, particularmente quando estão envolvidos dados de saúde sensíveis. Estas medidas de transparência são essenciais para defender os direitos da Carta à proteção de dados e à tutela jurisdicional efetiva, e para permitir que os indivíduos contestem de forma significativa decisões que possam afetá-los negativamente.

• Comunicação: Quando observa resultados que parecem inconsistentes, inexplicados, ou potencialmente discriminatórios, particularmente entre grupos de género ou raciais, tem a obrigação de documentar e comunicar estas preocupações através dos mecanismos de supervisão da sua instituição.

• Aquisição: Quando a sua instituição adquire sistemas de IA, os critérios de direitos fundamentais e de bias devem ser parte integrante dessa decisão, privilegiando soluções que demonstrem práticas de mitigação do bias robustas, transparentes, e verificadas de forma independente.

Tem agora uma base sólida tanto nos princípios éticos como nos instrumentos jurídicos que regem a IA nos cuidados de saúde. O próximo módulo traduzirá isto em prática: o Módulo 5 apresenta o Modelo Regulatório de IA, uma ferramenta desenvolvida em conformidade com a Carta da UE, concebida especificamente para fornecer a hospitais e organizações da sociedade civil um quadro prático de governação que abrange todo o ciclo de vida dos sistemas de IA, desde a aquisição e a validação até à implantação, à monitorização e à responsabilização.

A seguir: Módulo 5

Referências

Beauchamp, T. L., & Childress, J. F. (2019). Principles of biomedical ethics (8th ed).

Christoforaki, M., & Beyan, O. (2022). AI Ethics—A Bird’s Eye View. AI Ethics—A Bird’s Eye View, 12(9), Article 9. https://doi.org/10.3390/app12094130

Committee of experts on internet intermediaries (MSI-NET). (2018). Algorithms and human rights—Study on the human rights dimensions of automated data processing techniques and possible regulatory implications [Study]. Council of Europe. https://rm.coe.int/algorithms-and-human-rights-en-rev/16807956b5

Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law, Council of Europe Treaty Series—No. 225 (2024). https://rm.coe.int/1680afae3c

European Commission, European Health Data Space (EHDS), Brussels: European Commission, 2025.

European Commission, Timeline for Implementation of the EU AI Act, Brussels: European Commission, 2024.

European Union, Regulation (EU) 2016/679 on General Data Protection Regulation (GDPR), Brussels: EU, 2016.

European Union, Regulation (EU) 2017/745 on Medical Devices (MDR), Official Journal of the European Union, L117, Brussels: European Union, 2017.

European Union, Regulation (EU) 2017/746 on In Vitro Diagnostic Medical Devices (IVDR), Official Journal of the European Union, L117, Brussels: European Union, 2017.

European Union, Regulation (EU) 2025/327 on the European Health Data Space (EHDS), Brussels: European Union, 2025.

Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., Luetge, C., Madelin, R., Pagallo, U., Rossi, F., Schafer, B., Valcke, P., & Vayena, E. (2018). AI4People—An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations. Minds and Machines, 28(4), 689–707. https://doi.org/10.1007/s11023-018-9482-5

Leslie, D. (2019). Understanding artificial intelligence ethics and safety: A guide for the responsible design and implementation of AI systems in the public sector. Zenodo. https://doi.org/10.5281/ZENODO.3240529

Medical Device Coordination Group & European AI Board, Guidance on MDR/IVDR and AI Act Interplay, Brussels: European Commission, 2025.

Miles, S. H. (2005). The Hippocratic Oath and the Ethics of Medicine. Oxford University Press, USA.

Regulation (EU) 2024/1689 of the European Parliament and of the Council, Laying Down Harmonised Rules on Artificial Intelligence (AI Act), PE/24/2024/REV/1, Official Journal of the European Union, 13 June 2024.

Tröhler, U. (2008). The Historical Development of International Codes of Ethics for Human Subjects Research. In R. B. Baker & L. B. McCullough (Eds), The Cambridge World History of Medical Ethics (1st edn, pp. 566–575). Cambridge University Press. https://doi.org/10.1017/CHOL9780521888790.052

Vevaina, J. R., Nora, L. M., & Bone, R. C. (1993). Issues in biomedical ethics. Disease-a-Month, 39(12), 874–925.