Embedded Files
WP3 AEQUITAS Module 6O que é a Base de Dados AEQUITAS e Como Aceder?
O que é a Base de Dados AEQUITAS e Como Aceder?
A base de dados AEQUITAS é o principal resultado tecnológico do projeto AEQUITAS. É um repositório digital estruturado, concebido para recolher, organizar, e disponibilizar de forma sistemática evidências sobre os biases de género e raciais na inteligência artificial biomédica. A base de dados transforma informação dispersa e heterogénea sobre o bias na IA biomédica numa base de conhecimento coerente e acessível, apoiando a consciencialização clínica, as atividades de investigação, e o desenvolvimento de políticas.
A base de dados é publicamente acessível através do website oficial do projeto AEQUITAS (https://aequitasproject.eu/), especificamente na secção "Resultados". Foi construída com uma abordagem orientada para o utilizador, assegurando que tanto os utilizadores técnicos como os não técnicos possam interagir eficazmente com o sistema.
Figura 1: A Base de Dados AEQUITAS tal como apresentada na secção Resultados do website do projeto.
📌 A base de dados foi desenvolvida com base nas conclusões do Deliverable D2.1, o Relatório de Biases AEQUITAS. As perspetivas, classificações, e evidências identificadas nesse relatório serviram de base para estruturar o conteúdo da base de dados e para definir as categorias de bias incluídas na plataforma.
Para Quem é a Base de Dados?
Para Quem é a Base de Dados?
A base de dados AEQUITAS foi concebida para servir múltiplos grupos de utilizadores, cada um com necessidades diferentes mas complementares:
Para os profissionais de saúde (você), a base de dados fornece um recurso para:
Identificar potenciais bias em ferramentas de diagnóstico e apoio à decisão baseadas em IA utilizadas em contexto clínico
Reforçar a consciencialização clínica e melhorar os cuidados centrados no doente
Reduzir o risco de diagnóstico errado e de tratamento inadequado resultantes de resultados de IA enviesados
Para as organizações da sociedade civil, a base de dados permite:
A sensibilização sobre desigualdades nos cuidados de saúde orientados por IA
A defesa de sistemas de saúde justos e inclusivos
O apoio à proteção dos direitos fundamentais em contextos de saúde digital
Para investigadores e decisores políticos, a base de dados apoia:
A continuação da investigação científica sobre o bias na IA biomédica
O desenvolvimento de orientações clínicas e normas
A supervisão regulatória e a formulação de políticas a nível europeu
Navegar na Base de Dados
Navegar na Base de Dados
A base de dados é apresentada num formato tabular simples em que cada linha corresponde a um caso documentado de bias numa aplicação de IA biomédica. Os utilizadores podem visualizar informação detalhada, como o título do estudo, a fonte e a autoria, a área de doença, o tipo de fonte, o âmbito de aplicação (por exemplo, diagnóstico, previsão de risco), o tipo de bias identificado, e uma breve descrição que resume as conclusões. A base de dados fornece também informação sobre os grupos populacionais afetados (por exemplo, género e/ou raça), permitindo-lhe compreender melhor a distribuição e o impacto dos biases em diferentes contextos.
Adicionalmente, a interface inclui funcionalidades de ordenação e de filtragem, permitindo-lhe navegar eficazmente pelo conjunto de dados e realizar uma exploração direcionada com base em critérios específicos.
Figura 3: A interface principal da base de dados AEQUITAS, mostrando a lista tabular de entradas e a funcionalidade "Filter by Bias".
Cada entrada na base de dados contém os seguintes campos:
📌 Cobertura multilingue: As fontes incluídas na base de dados não se limitam a publicações em língua inglesa. De forma a garantir uma cobertura e inclusividade mais amplas, os parceiros do projeto incorporaram também fontes relevantes nas suas respetivas línguas nacionais, captando evidências específicas de contexto que podem não estar disponíveis na literatura internacional. A informação-chave de todas as fontes foi normalizada num formato consistente, de forma a garantir a acessibilidade para todos os utilizadores.
Compreender uma Entrada da Base de Dados
Compreender uma Entrada da Base de Dados
Ao clicar em qualquer entrada da base de dados, abre-se uma visualização detalhada com a informação completa registada para esse caso. Isto permite-lhe ler uma breve descrição do bias identificado, compreender o seu contexto clínico, e avaliar a sua relevância para a sua prática.
Figura 4: Exemplo de uma visualização detalhada de uma entrada, com o exemplo de um estudo sobre equidade nas previsões de machine learning para readmissões de doentes diabéticos, mostrando bias de representação, de aprendizagem, e de avaliação, afetando doentes afro-americanos e hispânicos.
O exemplo acima ilustra como a base de dados funciona na prática. A entrada documenta um estudo que comparou vários modelos de machine learning para prever readmissões hospitalares entre doentes diabéticos. O estudo verificou que, embora alguns modelos tenham alcançado um desempenho equitativo entre os grupos de género, as disparidades persistiram para os doentes afro-americanos e hispânicos, que registaram taxas mais elevadas de falsos positivos. Este tipo de informação estruturada e baseada em evidências é exatamente o que a base de dados foi concebida para revelar, facilitando-lhe a identificação de quais as ferramentas de IA na sua área que podem comportar riscos de bias, e para que populações de doentes.
Utilizar a Base de Dados na Sua Prática Diária
Utilizar a Base de Dados na Sua Prática Diária
A base de dados AEQUITAS foi concebida não só como uma ferramenta de investigação, mas também como um recurso prático para a tomada de decisões clínicas e a consciencialização. Aqui estão algumas formas de a integrar na sua prática diária:
Antes de adotar uma nova ferramenta de IA: Pesquise na base de dados entradas relacionadas com a área de doença e o âmbito de aplicação da ferramenta. Verifique se foi documentado bias em ferramentas semelhantes, e para que populações de doentes. Utilize esta informação para fundamentar as suas questões durante a aquisição ou ao levantar preocupações junto da sua instituição.
Ao utilizar uma ferramenta de diagnóstico ou apoio à decisão assistida por IA: Se notar resultados que parecem inconsistentes ou inesperados para grupos específicos de doentes, consulte a base de dados para verificar se padrões semelhantes foram documentados. Isto pode ajudá-lo a determinar se o que está a observar pode ser um padrão de bias conhecido, em vez de uma anomalia isolada.
Ao cuidar de doentes de grupos sub-representados: Utilize a base de dados para verificar se as ferramentas de IA envolvidas nos seus cuidados têm disparidades de desempenho documentadas para o seu grupo de género, racial, ou étnico. Esta consciencialização pode apoiar um julgamento clínico mais informado e ajudá-lo a defender o seu doente.
Para o desenvolvimento profissional contínuo: A base de dados é um recurso vivo que será atualizado à medida que nova evidência estiver disponível. Regressar a ela periodicamente pode ajudá-lo a manter-se informado sobre novas conclusões relativas ao bias em aplicações de IA relevantes para a sua especialidade.
📌 Mensagem-chave: A Base de Dados AEQUITAS não é apenas uma ferramenta de investigação, é um recurso prático concebido para a sua prática clínica. Utilize-a antes de adotar uma nova ferramenta de IA, quando observar resultados inesperados, e ao cuidar de doentes de grupos sub-representados. Quanto mais profissionais de saúde a utilizarem, mais útil se torna para todos.
📌 Dicas e Sugestões:
A base de dados foi concebida como uma ferramenta dinâmica e em evolução. Serão adicionadas novas entradas à medida que mais evidência estiver disponível, pelo que vale a pena revisitá-la regularmente, particularmente à medida que as ferramentas de IA na sua área clínica forem atualizadas ou recentemente introduzidas.
A funcionalidade de filtragem (visível na Figura 3) permite-lhe restringir as entradas por tipo de bias. Como ponto de partida, experimente filtrar pelos tipos de bias mais relevantes para a sua especialidade, por exemplo, bias de representação para ferramentas cardiovasculares, ou bias de medição para o rastreio da depressão.
A base de dados inclui fontes em múltiplas línguas europeias. Se estiver à procura de evidência específica ao seu contexto nacional, as entradas da instituição parceira do seu país podem ser particularmente relevantes.
A base de dados complementa o Dossier do Sistema de IA e o registo de vigilância da IA apresentados no Módulo 5. Se documentar um incidente no registo de vigilância, consultar a base de dados em busca de casos documentados semelhantes pode ajudar a contextualizar a conclusão e a apoiar a resposta de governação da sua instituição.
Agora que completou os seis módulos da formação AEQUITAS, está equipado com o conhecimento necessário para compreender como a IA funciona nos cuidados de saúde, reconhecer os tipos e as consequências do bias de género e racial, navegar no panorama ético e legal, e utilizar as ferramentas práticas que o projeto AEQUITAS desenvolveu (a base de dados e o modelo regulatório) na sua prática diária.
O próximo passo é aplicar este conhecimento: nas sessões práticas, terá a oportunidade de explorar cenários potenciais do mundo real, discutir casos de estudo, e colocar em prática as ferramentas que aprendeu.
Ajude-nos a Melhorar - Inquérito da UE sobre Justiça, Direitos e Valores
Ajude-nos a Melhorar - Inquérito da UE sobre Justiça, Direitos e Valores
No âmbito deste projeto financiado pela UE, iremos pedir-lhe que complete um breve inquérito conduzido pela Comissão Europeia - o Inquérito da UE sobre Justiça, Direitos e Valores. Este ajuda a recolher feedback de participantes em projetos financiados pelo CERV, como o AEQUITAS, apoiando a avaliação do seu impacto e a melhoria de futuras iniciativas em toda a Europa.
Pode consultar o inquérito aqui: Inquérito da UE sobre Justiça, Direitos e Valores
⚠️ Por favor, aguarde até depois da sessão de formação em direto para o completar. Partilharemos novamente o link nessa altura, para que o seu feedback reflita a experiência completa da formação.
Para concluir a formação e receber o seu certificado, necessita de participar na sessão prática (online). Obrigado!
Page updated
Report abuse