O que é um Modelo Regulatório?

Como estabelecido no Módulo 4, o quadro jurídico da UE para a IA nos cuidados de saúde é complexo, multifacetado, e em rápida evolução. Os princípios éticos e os requisitos legais, por si só, não são suficientes, precisam de ser traduzidos em processos concretos e operacionais que as instituições de saúde possam efetivamente implementar no seu dia-a-dia.

É precisamente isto que o Modelo Regulatório de IA AEQUITAS foi concebido para fazer. Fornece a hospitais e organizações da sociedade civil um quadro prático de governação que abrange todo o ciclo de vida dos sistemas de IA, desde a aquisição e a validação até à implantação, à monitorização e à responsabilização. Ao incorporar proteções de direitos fundamentais em processos operacionais, este quadro visa reduzir os riscos de bias de género e racial na tomada de decisões em saúde apoiada por IA e contribuir para resultados de saúde mais equitativos em toda a UE. Adicionalmente, o documento oferece um conjunto de políticas práticas, ferramentas operacionais e artefactos que os hospitais e as OSC podem adaptar a diferentes contextos nacionais, de forma a implementar o modelo de forma consistente em contextos reais.

O modelo inspira-se em abordagens de governação que se têm revelado eficazes noutros setores de risco elevado. Os profissionais de saúde reconhecerão a lógica da farmacovigilância, a recolha e análise sistemáticas de reações adversas a medicamentos, que constitui um forte modelo para o que o modelo AEQUITAS designa de sistema de "vigilância da IA": um sistema comparável para comunicar e analisar incidentes relacionados com decisões clínicas apoiadas por IA, com particular atenção aos resultados de equidade. De forma semelhante, os hospitais já estão familiarizados com a cultura de segurança do doente inspirada na aviação (assente na identificação de riscos, na comunicação de incidentes, e na melhoria contínua) que mapeia diretamente para a lógica de gestão do risco ao longo do ciclo de vida incorporada no AI Act e neste modelo regulatório.

O quadro de direitos fundamentais que sustenta o modelo é a Carta dos Direitos Fundamentais da UE (Carta dos Direitos Fundamentais da UE, 2009), particularmente:

• Artigo 1.º (Dignidade humana): As ferramentas de IA devem ser utilizadas de forma a preservar o julgamento humano e a respeitar a autonomia do doente. Em termos operacionais, este princípio exige salvaguardas contra a dependência excessiva de recomendações automatizadas, mecanismos para contestar decisões assistidas por IA, e estruturas de supervisão clínica que previnam o bias de automação.

• Artigos 20.º e 21.º (Igualdade e não discriminação): Os hospitais devem monitorizar o desempenho da IA em populações de doentes diversas (incluindo género, raça ou etnicidade) e implementar medidas corretivas sempre que sejam detetadas desigualdades no desempenho ou nos resultados. Tais medidas devem ser implementadas através do ajustamento do modelo, de alterações no fluxo de trabalho clínico, ou de percursos de decisão alternativos, garantindo que a implantação da IA não consolida desigualdades estruturais.

• Artigo 35.º (Saúde): Os sistemas de IA só podem ser implantados quando contribuam de forma demonstrável para cuidados de saúde seguros, eficazes, e equitativos. As tecnologias de IA não devem introduzir novas barreiras ao acesso aos cuidados nem agravar as disparidades existentes que afetam comunidades historicamente marginalizadas, devendo o seu impacto nas populações de doentes historicamente sub-servidas ou de outra forma desfavorecidas ser continuamente avaliado.

Quadros de Governação Aplicáveis à IA Responsável nos Cuidados de Saúde

Vários quadros de governação informam o modelo regulatório AEQUITAS. No seio da UE, o fundamento jurídico primário é fornecido por instrumentos europeus como o AI Act, o MDR/IVDR, o RGPD, e o EHDS. Os quadros adicionais discutidos nesta secção complementam este fundamento europeu com orientação prática de implementação e, por isso, não se destinam a substituir ou a priorizar abordagens não europeias. Como profissional de saúde, não precisa de ser especialista nestes quadros, mas a consciencialização sobre eles ajuda-o a compreender o contexto mais amplo em que se inserem as obrigações de governação da IA da sua instituição.

Normas ISO/IEC da Organização Internacional de Normalização

Várias normas ISO/IEC apoiam a governação responsável da IA nos cuidados de saúde (International Organization for Standardization, 2023). A norma ISO/IEC 42001 estabelece requisitos para um sistema organizacional de gestão da IA, apoiando a integração de princípios de equidade e não discriminação nas políticas e controlos de risco. A norma ISO/IEC 23894 fornece orientação sobre a integração da gestão do risco no desenvolvimento e implantação da IA, incluindo riscos de impactos desproporcionais em diferentes grupos populacionais. A norma ISO 14971 define princípios de gestão do risco amplamente utilizados na regulação de dispositivos médicos, que podem ser alargados para cobrir o desempenho desigual entre grupos populacionais desagregados.

Estas normas são valiosas na medida em que sugerem uma estrutura de sistema de gestão que os hospitais podem adotar, fornecendo também uma linguagem comum através da qual os requisitos relacionados com a equidade (como a avaliação de grupos populacionais desagregados e a mitigação do bias) podem ser especificados na aquisição e na contratação com fornecedores.

ALTAI - Lista de Avaliação para uma Inteligência Artificial de Confiança

Desenvolvida pelo Grupo de Peritos de Alto Nível sobre Inteligência Artificial da Comissão Europeia, a ALTAI é uma ferramenta voluntária de autoavaliação que operacionaliza as Orientações Éticas da CE para uma IA de Confiança (European Commission, 2020). O seu formato orientado por perguntas pode ser adaptado em listas de verificação práticas para a aquisição e implantação, incentivando clínicos, especialistas de TI, e gestores hospitalares a considerar questões como a representatividade dos dados de treino, o risco de resultados clínicos diferenciados, e a adequação das salvaguardas contra efeitos discriminatórios.

Princípios da OMS para a IA na Saúde

A Organização Mundial da Saúde articulou seis princípios centrais para a IA na saúde: autonomia, bem-estar, explicabilidade, responsabilidade, equidade, e capacidade de resposta (World Health Organization, 2021). O princípio da equidade exige explicitamente atenção às diferenças no acesso, no desempenho, e nos resultados entre diversas populações de doentes, incluindo diferenças de género e raciais ou étnicas.

Quadro de Gestão do Risco de IA do Instituto Nacional de Normas e Tecnologia dos EUA (NIST AI RMF)

Desenvolvido pelo Instituto Nacional de Normas e Tecnologia dos Estados Unidos, este quadro organiza a gestão do risco em IA em torno da governação, do mapeamento do risco, da medição do risco, e da gestão do risco ao longo de todo o ciclo de vida (National Institute of Standards and Technology, 2023). Reconhece explicitamente a equidade e o combate ao bias prejudicial como dimensões centrais da IA de confiança, e encoraja as organizações a avaliar os impactos diferenciados entre grupos demográficos, incluindo género e raça, como parte dos processos de mapeamento e medição do risco. Para os hospitais, a força operacional do AI RMF reside na sua capacidade de ser traduzido em práticas concretas, tais como funções claramente definidas para a supervisão da equidade, a avaliação metódica do desempenho em grupos populacionais desagregados, e estratégias de mitigação documentadas, mantendo-se, no entanto, plenamente subordinado aos requisitos jurídicos europeus e aos princípios dos direitos fundamentais.

O Modelo Regulatório AEQUITAS

O modelo regulatório AEQUITAS estrutura a governação da IA em torno de uma série de etapas obrigatórias do ciclo de vida, pontos de decisão claros pelos quais os hospitais devem passar antes, durante, e após a implantação de um sistema de IA. Estas etapas refletem a lógica regulatória do AI Act da UE e da legislação de saúde relacionada, fornecendo simultaneamente um percurso de governação claro e auditável. O modelo pressupõe que o hospital é, geralmente, um responsável pela implantação (nos termos do AI Act) e um prestador de cuidados de saúde nos termos do direito nacional da saúde, mas contempla também o caso em que o hospital desenvolve as suas próprias ferramentas de IA internamente.

A implementação deste modelo regulatório segue um princípio de proporcionalidade, reconhecendo que os hospitais e as OSC podem ter níveis diferentes de capacidade técnica, organizacional, e analítica entre Estados-Membros e sistemas de saúde. Enquanto os requisitos mínimos obrigatórios se aplicam de forma uniforme para garantir um nível de base de segurança, transparência, e salvaguardas de equidade, as práticas mais avançadas - tais como uma análise mais aprofundada de grupos populacionais desagregados, auditorias externas, e ferramentas sofisticadas de monitorização do bias - podem ser implementadas de forma progressiva, em função da capacidade técnica, organizacional, e analítica de cada instituição.

As Cinco Etapas do Ciclo de Vida

Etapa 1 - Âmbito e Classificação (Antes da aquisição ou do desenvolvimento)

O primeiro passo é determinar o estatuto regulatório da ferramenta de IA em consideração. Isto significa avaliar se o sistema se qualifica como software de dispositivo médico nos termos do MDR ou do IVDR, se constitui um sistema de IA de risco elevado nos termos do AI Act, ou se se enquadra numa categoria de risco mais baixo que ainda assim exige supervisão de governação.

Nesta fase inicial, os hospitais devem sinalizar ferramentas cuja utilização pretendida possa ter implicações de equidade acrescidas ou afetar diversas populações de doentes, assinalando que estas exigirão uma avaliação mais detalhada do bias de género e racial em fases posteriores.

Etapa 2 - Pré-Aquisição e Contratação (Antes de assinar com um fornecedor)

A aquisição é frequentemente o momento em que os hospitais têm a maior influência sobre a governação da IA. Nesta etapa, os fornecedores devem ser obrigados a comprometer-se contratualmente a abordar os riscos de equidade, incluindo o bias de género e racial, ao longo de todo o ciclo de vida da IA.

Os contratos de aquisição devem exigir que os fornecedores forneçam, no mínimo:

• Evidência da composição dos dados de treino, incluindo a representação de género e racial ou étnica, para apoiar a avaliação da representatividade e do risco de bias;

• Informação sobre a proveniência dos dados, incluindo se os conjuntos de dados são proprietários ou não proprietários, as suas condições de acessibilidade, e as implicações para a transparência, a validação independente, e a avaliação do bias de género e racial;

• Resultados de desempenho em grupos populacionais desagregados, incluindo resultados estratificados por grupos de género e raciais ou étnicos, documentação de quaisquer disparidades conhecidas, e medidas de mitigação do bias aplicadas durante o desenvolvimento;

• Capacidades de registo e auditabilidade para apoiar auditorias independentes de bias;

• Compromissos claros de resposta a incidentes relacionados com o bias, obrigando o fornecedor a reportar erros identificados ou desigualdades que afetem grupos de género ou raciais/étnicos e a delinear medidas de correção;

• Atribuição clara de responsabilidades, especificando as obrigações do fornecedor e do responsável pela implantação relativamente ao cumprimento dos requisitos do AI Act e à gestão dos riscos relacionados com a equidade e o bias.

Etapa 3 - Validação (Antes de entrar nos fluxos de trabalho clínicos)

Antes de qualquer sistema de IA entrar nos fluxos de trabalho clínicos e ser utilizado com doentes reais, deve ser avaliado de forma independente. A validação deve avaliar tanto o desempenho global como os resultados em grupos populacionais desagregados, com particular atenção aos grupos de género e raciais/étnicos. Este passo é crítico porque os sistemas de IA biomédica podem exibir um desempenho diferenciado entre populações quando os dados de treino não são representativos ou quando são ignoradas diferenças contextuais entre os ambientes de desenvolvimento e de implantação (Rajkomar et al., 2018).

A validação deve documentar quaisquer medidas de mitigação aplicadas e destacar os riscos de equidade residuais, dando ao hospital evidência para tomar uma decisão informada sobre a implantação. A revalidação deve ser desencadeada sempre que o sistema seja implantado num novo local, aplicado a uma população de doentes diferente, ligado a novos equipamentos ou protocolos, atualizado pelo fornecedor, ou apresente sinais de desvio do desempenho.

Etapa 4 - Implantação (Antes de entrar em funcionamento)

Assim que um sistema tenha passado a validação, a etapa de implantação garante que estão em vigor as condições operacionais para uma utilização segura, equitativa, e responsável. Isto inclui:

• Atribuição de pessoal de supervisão devidamente formado;

• Implementação de mecanismos que garantam que os clínicos podem anular ou desativar as recomendações da IA;

• Garantia de que os utilizadores compreendem a finalidade pretendida do sistema, as suas limitações, e quaisquer considerações conhecidas sobre o desempenho em grupos populacionais desagregados;

• Informação aos clínicos sobre potenciais variações nos resultados ao longo de linhas de género ou raciais ou étnicas;

• Garantia de que os doentes são informados quando ferramentas de decisão apoiadas por IA são utilizadas nos seus cuidados.

Etapa 5 - Monitorização, Auditoria, e Responsabilização (Ao longo do ciclo de vida da implantação)

A etapa final rege a fase pós-implantação contínua. Uma vez que os sistemas de IA não são estáticos, a monitorização contínua é, por isso, essencial, abrangendo o desempenho global, as disparidades entre grupos populacionais desagregados, e incidentes de segurança ou de equidade.

Os hospitais devem manter registos do funcionamento do sistema, implementar procedimentos normalizados de comunicação de incidentes que captem potencial bias de género ou racial, e reavaliar periodicamente o desempenho do sistema através de exercícios de revalidação.

Quando surjam desigualdades ou riscos que afetem grupos demográficos específicos e que não possam ser eficazmente mitigados, o sistema deve ser modificado, suspenso, ou desativado. As conclusões devem informar tanto a governação interna como, quando apropriado, a aprendizagem a um nível mais amplo, de forma a prevenir a recorrência do bias.

Ferramentas Práticas e Artefactos de Governação para Hospitais

O modelo regulatório AEQUITAS fornece um conjunto de instrumentos de governação normalizados e reutilizáveis que os hospitais podem adaptar aos seus contextos nacionais. Segue-se uma visão geral das principais ferramentas:

Fase de aquisição e contratação

Pacote de aquisição e contratação

A comunidade de aquisição de IA da UE publicou cláusulas contratuais-tipo e atualizou-as de acordo com o AI Act, encorajando explicitamente as autoridades públicas a utilizá-las e fornecendo comentários para a sua implementação (European Commission, 2025). Para a IA na saúde, estas cláusulas podem ser adaptadas num anexo específico para cada hospital, com vista a avaliar e mitigar os riscos de bias de género e racial. Este anexo exige, no mínimo:

• Comunicação normalizada da composição dos dados de treino, incluindo a representação de género e racial/étnica, para apoiar a avaliação da representatividade e do risco de bias;

• Divulgação da proveniência dos dados, incluindo se os conjuntos de dados são proprietários ou não proprietários, as suas condições de acessibilidade, e as implicações para a transparência, a validação independente, e a avaliação do bias de género e racial;

• Divulgação do desempenho em grupos populacionais desagregados e da evidência de validação, incluindo resultados estratificados por grupos de género e raciais ou étnicos, documentação de quaisquer disparidades conhecidas, medidas de mitigação do bias aplicadas durante o desenvolvimento, e testes de validação de suporte (incluindo considerações específicas ao local relevantes para a equidade e a justiça);

• Requisitos de registo e auditabilidade, garantindo que o sistema é capaz de gerar registos de utilização que possam apoiar auditorias independentes de bias ou de impactos diferenciados;

• Obrigações de atualização e de controlo de alterações, exigindo que o fornecedor informe o hospital sobre atualizações do modelo, retreino, ou alterações no fluxo de trabalho, e que documente os seus potenciais efeitos no desempenho de género e racial;

• Compromissos de resposta a incidentes relacionados com o bias, obrigando o fornecedor a reportar erros identificados ou desigualdades que afetem grupos de género ou raciais/étnicos e a delinear medidas de correção;

• Atribuição clara de responsabilidades, especificando as obrigações do fornecedor e do responsável pela implantação relativamente ao cumprimento dos requisitos do AI Act e à gestão dos riscos relacionados com a equidade e o bias.

Fases de validação e pré-implantação

A Política de Governação de Dados de Saúde e de Representatividade

Todos os hospitais e OSC que implantam IA devem adotar uma política formal que garanta que os dados utilizados para treino, ajuste fino (fine-tuning), ou fins operacionais são representativos, completos, e precisos para as populações servidas. Isto inclui avaliar a composição demográfica, documentar os grupos de género e raciais ou étnicos sub-representados, e definir medidas de mitigação quando necessário.

A política deve abranger tanto os conjuntos de dados desenvolvidos internamente como os obtidos externamente, incluindo dados proprietários e de acesso livre, e exigir a verificação do desempenho em grupos populacionais desagregados e de quaisquer estratégias de mitigação do bias aplicadas pelos fornecedores.

Esta política funciona como um princípio pré-implantação e alimenta diretamente a monitorização, a auditoria, e a responsabilização contínuas.

Base de referência de cibersegurança e modelo de ameaças específico à IA

Os sistemas de IA hospitalares podem ser vulneráveis não só a ataques convencionais, como o envenenamento de dados, os exemplos adversariais, ou a evasão do modelo, mas também a manipulações ou erros que agravam o bias de género ou racial, por exemplo, afetando de forma desproporcional grupos populacionais sub-representados nos dados de treino ou operacionais.

Os hospitais devem, por isso, estabelecer uma base de referência de cibersegurança e um modelo de ameaças específico à IA que considere explicitamente os riscos relacionados com o bias, a par das ameaças técnicas. Este documento vivo funciona como uma lista de verificação pré-implantação para garantir a implementação de controlos de cibersegurança alinhados com o MDR e o IVDR, a governação organizacional da segurança da informação (por exemplo, a ISO/IEC 27001), e a modelação de ameaças e os planos de teste sensíveis ao bias (Medical Device Coordination Group, 2020). Apoia também a monitorização contínua pós-implantação, de forma a detetar riscos técnicos e relacionados com o bias emergentes, e a responder de forma proativa.

Ao implementar esta política, os hospitais podem reforçar a resiliência do sistema, salvaguardar a equidade na tomada de decisões apoiada por IA, e manter a conformidade com o AI Act (Arts. 9.º a 15.º) e com os requisitos do MDR/IVDR.

O Dossier do Sistema de IA (por ferramenta)

O Dossier do Sistema de IA é um documento normalizado e consciente do bias, mantido para cada sistema de IA antes da sua implantação numa organização de saúde.

O dossier deve consolidar tudo o que um hospital precisa de saber sobre um sistema antes e durante a implantação, incluindo a finalidade pretendida do sistema, a integração no fluxo de trabalho clínico, os resultados da validação, e os indicadores de desempenho, com particular atenção ao desempenho desagregado por género e por origem racial ou étnica, e a quaisquer desigualdades conhecidas ou medidas de mitigação.

O Dossier do Sistema de IA deve ser tratado como um documento vivo, atualizado sempre que estejam disponíveis novos resultados de validação, indicadores de desempenho, ou estratégias de mitigação do bias. Os campos do modelo estão divididos entre requisitos mínimos obrigatórios, aplicáveis a todas as instituições, e práticas recomendadas para instituições com maior capacidade técnica e organizacional.

O dossier abrange sete áreas centrais:

Ao manter um foco explícito em análises desagregadas por género e por origem racial ou étnica, o dossier garante que os riscos de equidade são claramente visíveis, ativamente avaliados, e adequadamente mitigados antes da implantação. Servindo tanto fins operacionais como de governação, o dossier informa o pessoal hospitalar sobre a funcionalidade e as limitações do sistema, apoia inspeções e auditorias regulatórias, e fornece um registo estruturado que pode alimentar a monitorização contínua, as auditorias de equidade e de direitos, e iniciativas de aprendizagem entre diferentes locais.

O Pacote Combinado de FRIA e DPIA

Como estabelecido no Módulo 4, os hospitais públicos que implantem sistemas de IA de risco elevado são obrigados a realizar tanto uma Avaliação de Impacto sobre os Direitos Fundamentais (FRIA) como, quando aplicável, uma Avaliação de Impacto sobre a Proteção de Dados (DPIA). O modelo AEQUITAS integra estas avaliações num único modelo, reduzindo a carga administrativa e garantindo simultaneamente que as questões centrais sobre as populações afetadas, os danos potenciais, as estratégias de mitigação, e os mecanismos de reclamação são sistematicamente abordadas, com particular atenção às desigualdades que afetam grupos de género e raciais ou étnicos.

Este pacote funciona principalmente como um ponto de controlo pré-implantação, mas deve ser atualizado caso os riscos ou as condições do sistema se alterem durante a implantação. Recomenda-se uma consulta significativa às OSC na conceção destas avaliações, de forma a incorporar a sua experiência em matéria de direitos e as perspetivas das comunidades afetadas.

A Política de Controlo de Alterações

Esta política rege as atualizações aos sistemas de IA, incluindo o retreino do modelo, as atualizações de software, ou as modificações nos fluxos de trabalho clínicos. Define o que constitui uma "alteração material" que exige revalidação ou aprovação, e garante que as atualizações são avaliadas quanto ao seu potencial impacto na equidade de género e racial antes de serem implementadas.

Os hospitais devem também garantir que os clínicos e o restante pessoal relevante são informados sobre modificações que possam afetar os resultados dos cuidados prestados a diversas populações de doentes, permitindo uma supervisão e medidas de mitigação adequadas.

O Sistema de Gestão da Qualidade - Para responsáveis pela implantação que são também fornecedores

Nos casos em que o sistema de IA é desenvolvido ou adaptado internamente, e a instituição atua como fabricante ou fornecedor, devem ser implementados sistemas de gestão da qualidade e mantida documentação técnica, para demonstrar que a ferramenta responde a necessidades específicas dos doentes que não podem ser satisfeitas através de produtos comerciais (Medical Device Coordination Group, 2023).

O sistema deve também garantir que os resultados da IA são avaliados quanto a um desempenho diferenciado entre grupos de género ou raciais ou étnicos, que as estratégias de mitigação são documentadas, e que os mecanismos de supervisão humana preservam explicitamente a segurança do doente e a justiça.

Mesmo quando se aplicam isenções regulatórias a dispositivos desenvolvidos internamente, as obrigações decorrentes dos direitos fundamentais e dos quadros mais amplos de governação da IA permanecem plenamente relevantes.

Fase de monitorização, auditoria, e responsabilização

O "Relatório de Desempenho e Equidade em Grupos Populacionais Desagregados"

Os hospitais devem produzir análises internas regulares que mostrem como os sistemas de IA se comportam entre grupos demográficos relevantes (estratificados por sexo e por agrupamentos raciais ou étnicos, quando legal e exequível). Quando existam lacunas de desempenho, as estratégias de mitigação devem ser documentadas e a sua eficácia monitorizada ao longo do tempo. As principais conclusões devem ser sintetizadas e incluídas na "auditoria de equidade e de direitos", garantindo transparência e responsabilização pública.

O Regime de Auditoria de Duas Camadas

O modelo AEQUITAS propõe uma abordagem de auditoria em duas camadas:

• Auditoria técnica: Uma revisão operacional confidencial que abrange testes de segurança, avaliações de robustez, validação do desempenho clínico, e conformidade com a governação de dados, com particular atenção ao desempenho entre populações desagregadas por género e por origem racial ou étnica.

• Auditoria de equidade e de direitos: Uma revisão focada na transparência e na responsabilização, documentando desigualdades nos resultados, populações incluídas nos testes, limitações conhecidas, e mecanismos de reclamação, com uma análise explícita dos impactos de género e raciais. Um resumo dirigido ao público em geral pode comunicar as principais conclusões, as estratégias de mitigação, e as melhorias implementadas, sem revelar informação proprietária ou confidencial.

O Registo de Vigilância da IA

Inspirado nos sistemas de farmacovigilância na regulação dos medicamentos (European Medicines Agency, 2017), o registo de vigilância da IA fornece um mecanismo estruturado para os profissionais de saúde reportarem incidentes, quase-incidentes, ou resultados inesperados relacionados com decisões apoiadas por IA, com campos explícitos que captam potenciais desigualdades de género ou raciais/étnicas. Os relatos são sistematicamente analisados para identificar padrões emergentes, alimentando auditorias periódicas de equidade e de direitos e apoiando a melhoria contínua.

O Módulo de Formação para Clínicos

Formação obrigatória concebida para dotar os profissionais de saúde das competências necessárias para compreender as limitações dos sistemas de IA, interpretar os resultados de forma crítica, e anular ou interromper os sistemas quando os resultados possam produzir desfechos enviesados ou desiguais. Este módulo apoia ativamente a operacionalização do modelo regulatório, ao garantir que o pessoal responsável pela supervisão da IA pode implementar de forma competente os procedimentos de monitorização, validação, e responsabilização, com uma perspetiva de equidade.

A formação inclui verificações de competências e exercícios baseados em casos práticos sobre a deteção e a mitigação de desigualdades de género e raciais/étnicas.

A Rede AEQUITAS: Aprender em Conjunto por toda a Europa

O projeto AEQUITAS estabeleceu uma rede europeia de OSC e hospitais públicos que funciona como uma camada de governação partilhada, fornecendo um vocabulário comum, normas de comunicação, e uma plataforma para a aprendizagem entre instituições sobre o bias de género e racial em sistemas de IA.

Para os profissionais de saúde, esta rede significa que os incidentes de bias, as conclusões sobre o desempenho em grupos populacionais desagregados, e as estratégias de mitigação identificadas na sua instituição contribuem para uma base de conhecimento mais ampla, à escala europeia, que beneficia os doentes em todos os países participantes. À medida que o Espaço Europeu de Dados de Saúde (EHDS) amadurece, esta rede está bem posicionada para alinhar as suas práticas de partilha de dados e de aprendizagem com os quadros emergentes da UE, apoiando uma implantação da IA mais equitativa e transparente entre instituições.

O Seu Papel como Profissional de Saúde

O modelo regulatório AEQUITAS não é apenas um documento para gestores hospitalares, responsáveis pela aquisição, ou especialistas de TI. Tem implicações diretas para os clínicos. Aqui está um resumo do que isto significa na prática:

Este módulo completa o conteúdo central da formação AEQUITAS. Já abordou os fundamentos da IA biomédica, os tipos e mecanismos do bias, as disparidades específicas de género e raciais documentadas nas doenças cardiovasculares, na diabetes, e na depressão, o quadro ético e legal que rege a IA nos cuidados de saúde, e as ferramentas práticas disponíveis para o ajudar a navegar por ele. O Módulo 6 apresentará a Base de Dados AEQUITAS, uma ferramenta concreta desenvolvida especificamente para ajudar os profissionais de saúde a identificar e a navegar pelos biases de género e raciais na IA biomédica nas áreas das doenças cardiovasculares, da diabetes, e da depressão, mostrando-lhe como utilizar esse recurso prático na sua prática clínica diária.

A seguir: Módulo 6

Referências

European Commission, Assessment List for Trustworthy Artificial Intelligence (ALTAI) – Self‑Assessment, Brussels: European Commission, 2020.

European Commission, Updated EU AI Model Contractual Clauses Now Available, Brussels: European Commission, 2025.

European Medicines Agency, GVP Module VI – Collection and Submission of Suspected Adverse Reactions (Rev 2), London: EMA, 2017.

European Union, Charter of Fundamental Rights of the European Union, 2012/C 326/02, Strasbourg: EU. https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:12012P/TXT

International Organization for Standardization, ISO/IEC 42001:2023 – Artificial Intelligence Management System, Geneva: ISO, 2023.

Medical Device Coordination Group, MDCG 2019‑16 Rev. 1 - Guidance on Cybersecurity for Medical Devices, Brussels: European Commission, 2020.

Medical Device Coordination Group, MDCG 2023‑1 – Guidance on Health Institution Exemption (MDR/IVDR), Brussels: European Commission, 2023.

National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework (AI RMF 1.0), Gaithersburg, MD: NIST, 2023.

Rajkomar, A., Hardt, M., Howell, M. D., Corrado, G., & Chin, M. H., Ensuring Fairness in Machine Learning to Advance Health Equity, Annals of Internal Medicine, 169(12), 866-872, 2018.

World Health Organization, Ethics and Governance of Artificial Intelligence for Health, Geneva: WHO, 2021