Fondamenti dell'etica nella bioetica

La medicina, in quanto disciplina, è da tempo associata a elevati standard etici e alla responsabilità professionale, come dimostrano norme che vanno dal Giuramento di Ippocrate (Miles, 2005) alle Dichiarazioni di Ginevra e di Helsinki (Tröhler, 2008). Tuttavia, la storia della medicina comprende anche pratiche che hanno causato gravi danni a persone vulnerabili.  Esempi ben noti includono l’eugenetica, la sterilizzazione forzata delle popolazioni indigene ed emarginate e la sperimentazione non consensuale su persone con disabilità. Questi fallimenti storici riflettono le ingiustizie strutturali e le strutture di potere che hanno plasmato la ricerca e la pratica medica per secoli, e il cui retaggio rimane visibile nei dati distorti e nei modelli discriminatori che i sistemi di IA nel settore sanitario rischiano di ereditare oggi.

L’etica biomedica (o bioetica) è un ambito dell’etica applicata che affronta le questioni morali che sorgono nella pratica della medicina e nella ricerca biomedica (Vevaina et al., 1993). Si articola attorno a quattro principi fondamentali, definiti da Beauchamp e Childress (Beauchamp & Childress, 2019):

• Autonomia: il rispetto delle capacità decisionali delle persone autonome. Due condizioni generali sono essenziali per l’autonomia: la libertà, che si manifesta come indipendenza da influenze controllanti, e l’agenzia, ovvero la capacità di agire intenzionalmente.

• Non maleficenza: evitare di causare danno.

• Beneficenza: intraprendere azioni positive per aiutare gli altri, in particolare prevenendo il male o il danno, rimuovendo il male o il danno e promuovendo il bene.

• Giustizia: distribuire equamente benefici, rischi e costi. La giustizia è intesa come un trattamento giusto, equo e appropriato per individui e gruppi, date le numerose disparità nell’assistenza sanitaria e nella ricerca basate su razza, etnia, genere e status sociale.

Questi principi non sono astratti, ma costituiscono il fondamento etico della vostra pratica professionale in qualità di operatori sanitari, e sono direttamente in gioco quando si utilizzano strumenti di IA distorti nel processo decisionale clinico.

Etica nell'IA: Estendere i principi biomedici nell'intelligenza artificiale

Il rapido sviluppo delle applicazioni di IA ha sollevato una vasta gamma di questioni etiche, tra cui spiccano in particolare la parzialità e la discriminazione (Christoforaki & Beyan, 2022). In risposta a ciò, l’etica dell’IA è emersa come un ambito dell’etica applicata che comprende «un insieme di valori, principi e tecniche che impiegano standard ampiamente accettati di giusto e sbagliato per guidare la condotta morale nello sviluppo e nell’uso delle tecnologie di IA» (Leslie, 2019, p. 3).

L’etica dell’IA attinge sia alla bioetica che al discorso sui diritti umani; quest’ultimo include il diritto alla pari libertà e dignità davanti alla legge, la tutela dei diritti civili, politici e sociali, il riconoscimento universale della personalità giuridica e il diritto alla libera partecipazione alla vita della comunità (Leslie, 2019).

I quattro principi bioetici sono stati quindi adattati all’IA, con l’aggiunta di un quinto: la spiegabilità (Floridi et al., 2018):

1. L’autonomia, intesa come la capacità degli esseri umani di decidere se decidere, e che comporta il rischio di delegare troppo alle macchine.

2. Non maleficenza, intesa come prevenzione dei danni derivanti sia dall’intenzione degli esseri umani sia dal comportamento imprevedibile delle macchine.

3. Beneficenza, intesa come promozione del benessere, tutela della dignità e salvaguardia del pianeta.

4. Giustizia, intesa come prevenzione ed eliminazione delle discriminazioni ingiuste già esistenti, nonché di nuovi danni, e come garanzia di un'equa distribuzione dei benefici dell'IA.

5. Spiegabilità, definita come la comprensione e la responsabilità dei processi decisionali dell’IA.

Dall'etica alla politica

Rispetto alla medicina, lo sviluppo dell’IA attualmente manca di: 

1. Obiettivi comuni e doveri fiduciari;

2. Una tradizione professionale e norme consolidate;

3. Metodi collaudati per tradurre i principi in pratica;

4. Solidi meccanismi di responsabilità giuridica e professionale. 

Ciò significa che i principi etici, pur essendo necessari, non sono sufficienti a regolamentare l’IA nel settore sanitario.

I pregiudizi di genere e razziali nell’IA biomedica non sono difetti tecnici accidentali o isolati, ma rischi sistemici che emergono lungo l’intero ciclo di vita dei sistemi di IA utilizzati in ambito sanitario. Nelle malattie cardiovascolari, nella depressione e nel diabete, i pregiudizi derivano da set di dati clinici storicamente distorti, da pratiche diagnostiche inique, da variabili proxy che codificano disuguaglianze strutturali e da contesti di implementazione che distribuiscono in modo diseguale sia i benefici che i danni.

Questi risultati confermano che l’IA biomedica riguarda direttamente molteplici diritti e principi tutelati dalla Carta dei diritti fondamentali dell’UE, in particolare la dignità umana, l’uguaglianza davanti alla legge e la non discriminazione, nonché il diritto all’integrità della persona, il diritto all’assistenza sanitaria, la protezione dei dati e il diritto a un ricorso effettivo.

I quadri normativi dell’UE e nazionali che disciplinano l’IA nel settore sanitario devono pertanto considerare la mitigazione della parzialità non come un’aggiunta etica facoltativa, ma come una componente vincolante di un impiego dell’IA conforme alla legge e ai diritti.

La carta UE dei diritti fondamentali e l'AI

Secondo un rapporto del 2018 finanziato dal Consiglio d’Europa (Comitato di esperti sugli intermediari di Internet (MSI-NET, 2018)), i diritti umani maggiormente influenzati dagli algoritmi e dal trattamento automatizzato dei dati includono:

• Il diritto a un processo equo e al rispetto delle garanzie procedurali

• La privacy e la protezione dei dati

• Libertà di espressione

• Il diritto a un ricorso effettivo

• Libertà di riunione e di associazione

• Divieto di discriminazione

• Diritti sociali e accesso ai servizi pubblici

• Il diritto a elezioni libere

Gli algoritmi di parte sono esplicitamente citati come possibili fattori di discriminazione nei confronti di gruppi sociali in base all’età, all’orientamento sessuale, alla razza, al genere o alla condizione socioeconomica (MSI-NET, 2018, p. 27). Inoltre, la Convenzione quadro del Consiglio d’Europa sull’intelligenza artificiale, i diritti umani, la democrazia e lo Stato di diritto richiede specificamente che gli Stati membri «adottino o mantengano misure volte a garantire che le attività nell’ambito del ciclo di vita dei sistemi di intelligenza artificiale rispettino l’uguaglianza, compresa l’uguaglianza di genere, e il divieto di discriminazione, come previsto dal diritto internazionale e nazionale applicabile» (Convenzione quadro del Consiglio d’Europa sull’intelligenza artificiale, i diritti umani, la democrazia e lo Stato di diritto, 2024, p. 4).

Come approfondito nel Modulo 1, gli articoli della Carta dell’UE più direttamente rilevanti per l’IA biomedica sono l’articolo 21 (Non discriminazione), l’articolo 23 (Parità tra uomini e donne) e l’articolo 35 (Assistenza sanitaria). Quando i sistemi di IA utilizzati nella pratica clinica presentano prestazioni diseguali tra pazienti con caratteristiche di genere o razziali ed etniche diverse, essi rappresentano una violazione diretta dei diritti tutelati da questi articoli.

Il quadro giuridico dell'UE per l'AI nell'assistenza sanitaria 

L’UE ha istituito un quadro normativo a più livelli per l’IA biomedica, articolato attorno a quattro strumenti giuridici complementari:

La legge dell'UE sull'AI

La legge sull’IA stabilisce un quadro normativo basato sul rischio per i sistemi di IA. Molte applicazioni sanitarie, compresi gli strumenti di supporto alle decisioni cliniche e gli algoritmi diagnostici, sono classificate come sistemi di IA ad alto rischio, soggetti a requisiti rigorosi in materia di gestione del rischio, governance dei dati, trasparenza, supervisione umana e accuratezza, compresa l’identificazione e la mitigazione dei rischi di esiti discriminatori tra i diversi gruppi demografici (Legge UE sull’IA, 2024).

Anche le istituzioni sanitarie che implementano sistemi di IA hanno obblighi specifici ai sensi della legge sull’IA. Per gli operatori sanitari e gli ospedali, le disposizioni più rilevanti dal punto di vista operativo sono:

1. Requisiti per i sistemi ad alto rischio: gli operatori devono implementare un sistema di gestione del rischio per l’intero ciclo di vita (art. 9) e pratiche di governance dei dati che prevedano: aspettative esplicite in materia di individuazione e mitigazione dei pregiudizi (art. 10), compresa la valutazione della rappresentatività dei dati e delle potenziali disparità di prestazioni tra le popolazioni disaggregate per genere e origine razziale o etnica; garanzie di trasparenza e fornitura di informazioni a chi utilizza i sistemi (art. 13); supervisione umana volta a prevenire i pregiudizi legati all’automazione e a consentire procedure di esclusione o arresto (art. 14); e controlli di accuratezza, robustezza e sicurezza informatica con particolare attenzione ai circuiti di retroazione e agli attacchi specifici contro l’IA (art. 15), che, se non affrontati, potrebbero altrimenti aggravare le disuguaglianze esistenti. 

2. Obblighi dei soggetti che implementano i sistemi: gli ospedali e gli altri soggetti che implementano i sistemi devono utilizzare i sistemi di IA ad alto rischio in linea con le istruzioni del fornitore (art. 26); assegnare una supervisione umana competente (art. 26); garantire che i dati di input siano pertinenti, rappresentativi e completi laddove l’operatore ne controlli gli input (art. 26), tenendo conto anche (ove fattibile) della diversità demografica nelle popolazioni cliniche; monitorare il funzionamento del sistema (art. 26); conservare i registri generati automaticamente per almeno sei mesi, salvo diversa disposizione di legge (art. 26); e segnalare incidenti gravi o malfunzionamenti ai fornitori e alle autorità competenti senza indebito ritardo (artt. 26, 73), in particolare laddove sussista il rischio di esiti clinici diseguali.

3. Valutazione d’impatto sui diritti fondamentali (FRIA): prima di implementare determinati sistemi di IA ad alto rischio, gli enti di diritto pubblico (e i soggetti privati che forniscono servizi pubblici) devono effettuare una FRIA, descrivendo i processi, i gruppi interessati, i rischi, le misure di supervisione umana e i meccanismi di mitigazione o di reclamo, e successivamente notificarla all’autorità di vigilanza del mercato tramite un modello che l’Ufficio per l’IA dovrebbe elaborare (art. 28). Questo requisito è direttamente rilevante per gli ospedali pubblici in molti Stati membri, poiché fornisce un meccanismo per identificare e affrontare i rischi di discriminazione e di impatti diseguali tra i gruppi di genere e quelli razziali/etnici prima della messa in servizio.

Regolamento sui dispositivi medici (MDR) e Regolamento sui dispositivi diagnostici in vitro (IVDR)

I sistemi di IA utilizzati in contesti medici sono inoltre soggetti alla normativa sui dispositivi medici e alle relative linee guida, tra cui il Regolamento sui dispositivi medici (MDR) (Unione Europea, 2017a) e il Regolamento sui dispositivi diagnostici in vitro (IVDR) (Unione europea, 2017b), che disciplinano la sicurezza e le prestazioni delle tecnologie mediche e richiedono la valutazione clinica e la sorveglianza post-commercializzazione (compresi gli strumenti basati sull’IA), prestando attenzione a prestazioni eque tra i diversi gruppi di popolazione. 

Il rapporto tra l’AI Act e la normativa vigente in materia di dispositivi medici è chiarito nelle Linee guida sull’interazione tra l’AI Act e l’MDR/IVDR (Gruppo di coordinamento sui dispositivi medici e Consiglio europeo sull’IA, 2025). Il documento spiega che l’AI Act si applica parallelamente a questi due regolamenti, anziché sostituirli. In pratica, ciò significa che molti sistemi di IA medica devono conformarsi contemporaneamente a entrambi i quadri normativi. La guida chiarisce inoltre quando l’IA medica è considerata ad alto rischio ai sensi dell’AI Act, cosa che in genere si verifica quando il sistema di IA stesso è un dispositivo medico (o un componente di sicurezza di un dispositivo medico) e quindi soggetto a una valutazione di conformità da parte di un organismo notificato.

Per gli appalti ospedalieri, ciò significa richiedere ai fornitori di dimostrare lo stato normativo del proprio sistema, compresa la classificazione MDR/IVDR, il coinvolgimento di un organismo notificato ove applicabile e la documentazione relativa alle prestazioni disaggregate per gruppi di popolazione e alle misure di mitigazione del bias, ove pertinente. I contratti di appalto dovrebbero inoltre richiedere ai fornitori di fornire la documentazione, le informazioni sulla trasparenza e le misure di supervisione necessarie agli utilizzatori ai sensi dell’AI Act, comprese le disposizioni volte a garantire esiti equi per tutti i pazienti.

Regolamento generale sulla protezione dei dati (GDPR)

Anche diversi altri strumenti dell’UE rivestono importanza per la governance dell’IA in ambito sanitario nella pratica. Il GDPR rimane un vincolo fondamentale per l’IA biomedica, poiché i dati sanitari sono dati personali di categoria speciale (Unione Europea, 2016). Le implementazioni ospedaliere richiedono spesso valutazioni d’impatto sulla protezione dei dati (DPIA), che la legge sull’IA (artt. 26, paragrafo 9, e 27, paragrafo 4) collega esplicitamente agli obblighi di chi effettua l’implementazione (compresa la considerazione degli impatti disparati sulle popolazioni disaggregate per genere e origine razziale o etnica, ove fattibile).

Spazio europeo dei dati sanitari (EHDS)

L’EHDS mira a facilitare l’accesso sicuro ai dati sanitari per l’erogazione dell’assistenza sanitaria e la ricerca, mantenendo al contempo solide garanzie di protezione dei dati (Unione Europea, 2025). Si prevede che svolga un ruolo chiave nel consentire la creazione di set di dati più rappresentativi per lo sviluppo dell’IA biomedica, sostenendo una valutazione incentrata sull’equità e riducendo il rischio di sottorappresentazione di determinati gruppi demografici (Commissione Europea, 2025).

Cosa significa questo per voi professionisti del sistema sanitario

Il quadro giuridico ed etico descritto in questo modulo si traduce in responsabilità concrete per gli operatori sanitari che lavorano con strumenti di IA. Tra queste figurano:

• Supervisione umana: gli strumenti clinici di IA utilizzati per la diagnosi, la stratificazione del rischio, lo screening o il supporto terapeutico non dovrebbero mai funzionare come decisori di fatto autonomi. Lei ha sia il diritto che la responsabilità di valutare criticamente i risultati forniti dall’IA anziché affidarsi ciecamente ad essi, e la sua istituzione ha l’obbligo di sostenerla in questo.

• Trasparenza: i pazienti devono essere informati ogni volta che i sistemi di IA vengono utilizzati nel processo decisionale clinico che li riguarda, compresi lo screening, la definizione delle priorità o la valutazione del rischio. Laddove i risultati generati dall’IA influenzino i servizi sanitari pubblici, tali risultati dovrebbero essere chiaramente identificabili come tali ed essere accompagnati da spiegazioni accessibili sul loro ruolo, sui loro limiti e sui rischi di parzialità noti. I pazienti dovrebbero inoltre essere informati quando i loro dati personali vengono utilizzati per l’addestramento, il collaudo o l’apprendimento continuo dell’IA, in particolare quando sono coinvolti dati sanitari sensibili. Queste misure di trasparenza sono essenziali per tutelare i diritti sanciti dalla Carta in materia di protezione dei dati e di ricorso effettivo, e per consentire alle persone di contestare in modo significativo le decisioni che potrebbero avere un impatto negativo su di loro.

• Segnalazione: quando si osservano risultati che appaiono incoerenti, inspiegabili o potenzialmente discriminatori,  in particolare tra gruppi di genere o razziali, si ha l’obbligo di documentare e segnalare tali preoccupazioni attraverso i meccanismi di controllo della propria istituzione.

• Approvvigionamento: quando la vostra istituzione acquista sistemi di IA, i diritti fondamentali e i criteri relativi alla presenza di pregiudizi dovrebbero essere parte integrante di tale decisione, privilegiando soluzioni che dimostrino pratiche di mitigazione dei pregiudizi solide, trasparenti e verificate in modo indipendente.

• Ora disponete di una solida base sia sui principi etici che sugli strumenti giuridici che regolano l’IA nel settore sanitario. Il prossimo modulo metterà in pratica quanto appreso: il Modulo 5 introduce il Modello Regolatorio dell’IA, uno strumento sviluppato in conformità con la Carta dei diritti fondamentali dell’UE, specificamente per fornire agli ospedali e alle organizzazioni della società civile un quadro di governance pratico che copra l’intero ciclo di vita dei sistemi di IA, dall’approvvigionamento e dalla convalida fino all’implementazione, al monitoraggio e alla responsabilità.

Ora disponete di una solida base sia sui principi etici che sugli strumenti giuridici che regolano l’IA nel settore sanitario. Il prossimo modulo metterà in pratica quanto appreso: il Modulo 5 introduce il Modello Regolatorio dell’IA, uno strumento sviluppato in conformità con la Carta dei diritti fondamentali dell’UE, specificamente per fornire agli ospedali e alle organizzazioni della società civile un quadro di governance pratico che copra l’intero ciclo di vita dei sistemi di IA, dall’approvvigionamento e dalla convalida fino all’implementazione, al monitoraggio e alla responsabilità.

Successivo: Modulo 5

Riferimenti bibliografici

Beauchamp, T. L., & Childress, J. F. (2019). Principles of biomedical ethics (8th ed).

Christoforaki, M., & Beyan, O. (2022). AI Ethics—A Bird’s Eye View. AI Ethics—A Bird’s Eye View, 12(9), Article 9. https://doi.org/10.3390/app12094130

Committee of experts on internet intermediaries (MSI-NET). (2018). Algorithms and human rights—Study on the human rights dimensions of automated data processing techniques and possible regulatory implications [Study]. Council of Europe. https://rm.coe.int/algorithms-and-human-rights-en-rev/16807956b5

Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law, Council of Europe Treaty Series—No. 225 (2024). https://rm.coe.int/1680afae3c

European Commission, European Health Data Space (EHDS), Brussels: European Commission, 2025.

European Commission, Timeline for Implementation of the EU AI Act, Brussels: European Commission, 2024.

European Union, Regulation (EU) 2016/679 on General Data Protection Regulation (GDPR), Brussels: EU, 2016.

European Union, Regulation (EU) 2017/745 on Medical Devices (MDR), Official Journal of the European Union, L117, Brussels: European Union, 2017.

European Union, Regulation (EU) 2017/746 on In Vitro Diagnostic Medical Devices (IVDR), Official Journal of the European Union, L117, Brussels: European Union, 2017.

European Union, Regulation (EU) 2025/327 on the European Health Data Space (EHDS), Brussels: European Union, 2025.

Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., Luetge, C., Madelin, R., Pagallo, U., Rossi, F., Schafer, B., Valcke, P., & Vayena, E. (2018). AI4People—An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations. Minds and Machines, 28(4), 689–707. https://doi.org/10.1007/s11023-018-9482-5

Leslie, D. (2019). Understanding artificial intelligence ethics and safety: A guide for the responsible design and implementation of AI systems in the public sector. Zenodo. https://doi.org/10.5281/ZENODO.3240529

Medical Device Coordination Group & European AI Board, Guidance on MDR/IVDR and AI Act Interplay, Brussels: European Commission, 2025.

Miles, S. H. (2005). The Hippocratic Oath and the Ethics of Medicine. Oxford University Press, USA.

Regulation (EU) 2024/1689 of the European Parliament and of the Council, Laying Down Harmonised Rules on Artificial Intelligence (AI Act), PE/24/2024/REV/1, Official Journal of the European Union, 13 June 2024.

Tröhler, U. (2008). The Historical Development of International Codes of Ethics for Human Subjects Research. In R. B. Baker & L. B. McCullough (Eds), The Cambridge World History of Medical Ethics (1st edn, pp. 566–575). Cambridge University Press. https://doi.org/10.1017/CHOL9780521888790.052

Vevaina, J. R., Nora, L. M., & Bone, R. C. (1993). Issues in biomedical ethics. Disease-a-Month, 39(12), 874–925.