Cosa è il database AEQUITAS ?

Il database AEQUITAS è il risultato tecnologico centrale del progetto AEQUITAS. Si tratta di un archivio digitale strutturato, progettato per raccogliere, organizzare e rendere accessibili in modo sistematico le evidenze relative ai pregiudizi di genere e razziali nell’intelligenza artificiale biomedica. Il database trasforma le informazioni disperse ed eterogenee sui pregiudizi nell’IA biomedica in una base di conoscenze coerente e accessibile, a sostegno della consapevolezza clinica, delle attività di ricerca e dello sviluppo delle politiche.

Il database è accessibile al pubblico tramite il sito web ufficiale del progetto AEQUITAS (https://aequitasproject.eu/), in particolare nella sezione “Risultati”. È stato realizzato con un approccio orientato all’utente, garantendo che sia gli utenti con competenze tecniche sia quelli senza possano interagire efficacemente con il sistema.

A chi è rivolto il database ?

Il database AEQUITAS è progettato per soddisfare le esigenze di diversi gruppi di utenti, ciascuno con esigenze diverse ma complementari:

Per gli operatori sanitari (voi), il database costituisce una risorsa per:

• Identificare potenziali pregiudizi negli strumenti diagnostici e di supporto decisionale basati sull’IA utilizzati in ambito clinico

• Migliorare la consapevolezza clinica e ottimizzare l’assistenza incentrata sul paziente

• Ridurre il rischio di diagnosi errate e trattamenti inappropriati derivanti da risultati distorti dell’IA

Per le organizzazioni della società civile, il database consente di:

• Sensibilizzare sulle disuguaglianze nell’assistenza sanitaria guidata dall’IA

• La promozione di sistemi sanitari equi e inclusivi

• Il sostegno alla tutela dei diritti fondamentali nei contesti della sanità digitale

Per i ricercatori e i responsabili politici, il database favorisce:

• Ulteriori indagini scientifiche sui pregiudizi nell’IA biomedica

• Lo sviluppo di linee guida e standard clinici

• La supervisione normativa e la formulazione di politiche a livello europeo

Navigazione del database

Una volta effettuato l’accesso, troverai il database presentato in un chiaro formato tabellare. Ogni riga corrisponde a un caso documentato di bias in un’applicazione di IA biomedica. Gli utenti possono visualizzare informazioni dettagliate quali il titolo dello studio, la fonte e gli autori, l’area patologica, il tipo di fonte, l’ambito di applicazione (ad es. diagnosi, previsione del rischio), il tipo di pregiudizio identificato e una breve descrizione che riassume i risultati. Il database fornisce inoltre informazioni sui gruppi di popolazione interessati (ad es. genere e/o etnia), consentendo di comprendere meglio la distribuzione e l’impatto dei pregiudizi in contesti diversi.

Inoltre, l’interfaccia include funzionalità di ordinamento e filtraggio, che consentono di navigare in modo efficiente nel set di dati e di condurre un’esplorazione mirata sulla base di criteri specifici.

Comprendere le voci del database

Cliccando su qualsiasi voce del database si apre una vista dettagliata con tutte le informazioni registrate relative a quel caso. Ciò consente di leggere una breve descrizione del bias identificato, comprenderne il contesto clinico e valutarne la rilevanza per la propria pratica.

L’esempio sopra riportato illustra come funziona il database nella pratica. La voce documenta uno studio che ha messo a confronto diversi modelli di apprendimento automatico per la previsione delle riammissioni ospedaliere tra i pazienti diabetici. Lo studio ha rilevato che, mentre alcuni modelli hanno ottenuto prestazioni eque tra i diversi gruppi di genere, sono persistite disparità per i pazienti afroamericani e ispanici, che hanno registrato tassi di falsi positivi più elevati. Questo tipo di informazioni strutturate e basate su prove scientifiche è esattamente ciò che il database è progettato per mettere in evidenza, rendendo più facile per voi identificare quali strumenti di IA nel vostro ambito possano comportare rischi di bias e per quali popolazioni di pazienti.

Usare il database nella pratica quotidiana

Il database AEQUITAS è concepito non solo come strumento di ricerca, ma anche come risorsa pratica per il processo decisionale clinico e la sensibilizzazione. Ecco alcuni modi in cui potete integrarlo nella vostra pratica quotidiana:

• Prima di adottare un nuovo strumento di IA: effettuate una ricerca nel database per individuare voci relative all’area patologica e all’ambito di applicazione dello strumento. Verificate se sono stati documentati casi di parzialità in strumenti simili e per quali popolazioni di pazienti. Utilizzate queste informazioni per formulare domande mirate durante la fase di acquisto o quando sollevate dubbi con la vostra struttura.

• Quando si utilizza uno strumento diagnostico o di supporto decisionale assistito dall’IA: se notate risultati che sembrano incoerenti o inaspettati per specifici gruppi di pazienti, consultate il database per verificare se sono stati documentati modelli simili. Questo può aiutarvi a determinare se ciò che state osservando possa essere un modello di bias noto piuttosto che un’anomalia isolata.

• Quando si assistono pazienti appartenenti a gruppi sottorappresentati: utilizzate il database per verificare se gli strumenti di IA coinvolti nella loro assistenza presentano disparità di prestazioni documentate relative al loro genere, alla loro razza o al loro gruppo etnico. Questa consapevolezza può favorire un giudizio clinico più informato e aiutarvi a difendere gli interessi dei vostri pazienti.

• Per lo sviluppo professionale continuo: il database è una risorsa in continua evoluzione che verrà aggiornata man mano che saranno disponibili nuove evidenze. Consultarlo periodicamente può aiutarvi a rimanere informati sui risultati emergenti relativi ai pregiudizi nelle applicazioni di IA rilevanti per la vostra specialità.

Ora che avete completato tutti e sei i moduli della formazione AEQUITAS, disponete delle conoscenze necessarie per comprendere come funziona l’IA in ambito sanitario, riconoscere i tipi e le conseguenze dei pregiudizi di genere e razziali, orientarvi nel panorama etico e giuridico e utilizzare gli strumenti pratici sviluppati dal progetto AEQUITAS (il database e il modello normativo) nella vostra pratica quotidiana. 

Il passo successivo consiste nell’applicare queste conoscenze: nelle sessioni pratiche avrete l’opportunità di esplorare potenziali scenari reali, discutere casi di studio e mettere in pratica gli strumenti che avete appreso.

Aiutaci a migliorare – Sondaggio dell'Unione europea su giustizia, diritti e valori.

Come parte di questo progetto finanziato dall'Unione europea, vi chiederemo di compilare un breve questionario realizzato dalla Commissione europea: EU Survey on Justice, Rights and Values. Il questionario raccoglie il feedback dei partecipanti ai progetti finanziati dal programma CERV, come AEQUITAS, contribuendo a valutarne l'impatto e a migliorare le future iniziative in tutta Europa.

Potete consultare il questionario qui: EU Survey on Justice, Rights and Values.

⚠️ Vi chiediamo di attendere a compilarlo fino al termine della sessione formativa dal vivo. In quel momento condivideremo nuovamente il link, così che il vostro feedback possa riflettere l'intera esperienza di formazione.