A mesura que la intel·ligència artificial (IA) ha evolucionat, nombrosos sectors han aprofitat per a plantejar de quina forma aquesta nova revolució tecnològica pot contribuir per al seu benefici. És el cas de la medicina i la neurociència on, en l'actualitat, resulta habitual trobar l'ús de sistemes de IA com a eines d'ajuda.
Principalment, cobrint dues aplicacions concretes: d'una banda, prendre decisions clíniques per a diagnosticar malalties, dissenyar tractaments personalitzats, accelerar la realització d'assajos clínics i disminuir els costos de desenvolupament de nous fàrmacs; i, per un altre, analitzar imatges radiològiques obtingudes amb tècniques com els raigs X, la tomografia computada o la ressonància magnètica funcional (fMRI).
Malgrat aquestes (i altres) evidents avantatges, o precisament a causa d'elles, el debat ètic sobre la IA és intens en els nostres temps. Encara que hi ha els qui troben l'ètica com una disciplina en certa manera censuradora, que impedeix l'avanç científic, es tracta justament en cas contrari: desenvolupar millores en les pràctiques i metodologies científiques perquè els avantatges siguen encara majors i arriben a més persones.
Un dels debats centrals és la possible influència de biaixos en l'ús dels seus algorismes. Per molt que parlem de ‘intel·ligència’ artificial, és l'intel·lecte humà el que està darrere del seu disseny, ús i, per descomptat, eventuals biaixos. D'altra banda, aquest debat ha convergit en els últims anys amb què es produeix sobre l'avanç de la neurotecnología. Referent a això, han sorgit en diversos àmbits i països les propostes de neurodrets que són «els principis ètics, legals, socials o naturals de llibertat o dret relacionats amb el domini cerebral i mental d'una persona», tal com els defineix l'investigador Marcello Ienca. Entre ells s'inclou, precisament, la protecció contra biaixos algorítmics.
Recordem la primera: la presa de decisions clíniques. En aquest sentit, un dels majors escàndols relacionats amb els biaixos de la IA es va produir en 2019, quan en la prestigiosa revista Science es va publicar un estudi que mostrava que, per a problemes de salut similars, els pacients afroamericans dels Estats Units rebien un pitjor tractament (menor pressupost) que els pacients caucàsics. Aquestes decisions es prenien mitjançant un algorisme emprat pel sistema de salut d'aquest país. És fàcil imaginar la connexió d'aquesta mena de biaixos amb els neurodrets probablement, nombrosos pacients afroamericans que patien malalties neurològiques i psiquiàtriques, o que estaven en risc de contraure-les, van veure afectada negativament la seua salut cerebral i mental.
La segona aplicació era l'anàlisi d'imatges cerebrals. Encara que per a algú no iniciat és fàcil caure en la temptació de pensar que aquestes imatges són una espècie de fotografies instantànies d'aquest òrgan, la veritat és que el procés de la seua adquisició, reconstrucció i anàlisi és bastant complex. El paper dels algorismes d'aprenentatge automàtic en aquest procés resulta fonamental, i en alguns dels procediments emprats poden arribar a colar-se biaixos (en la majoria de casos inconscients o, almenys, no malintencionats) que, a més d'afectar el resultat de l'anàlisi, poden perjudicar alguns grups poblacionals.
Però hi ha una altra manera en la qual les imatges cerebrals i els biaixos algorítmics poden veure's íntimament relacionats: la introducció de resultats de neuroimatge en algorismes de predicció de risc criminal. Es tracta de l'anomenada neuropredicció, d'acord amb la qual el grau d'activació d'àrees cerebrals com l'escorça prefrontal o l'amígdala ens informa sobre el risc de reincidència o comissió d'un delicte futur. Unes certes (i conegudes) eines d'estimació de reincidència assignen major risc a persones que van cometre delictes en edats primerenques, en comparació amb les que els van cometre en l'edat adulta. Aquest problema, que ja és seriós de per si mateix, es veu agreujat per la progressiva introducció de dades de neuroimatge (especialment, fMRI) en aquesta classe d'algorismes. Per què?
El desenvolupament neurocognitiudels menors no és un procés homogeni, sinó que es produeix a diferents velocitats en segons quines parts del cervell. Per exemple, l'escorça prefrontal, que té una gran importància en la presa de decisions, acaba de desenvolupar-se per complet ben passats els vint anys. Convé alertat del greu biaix que podria suposar agregar dades d'imatge cerebral a algorismes de predicció de reincidència sense tindre en compte aquest tardà neurodesenvolupament. Es necessita acumular més evidència i reflexió per a dilucidar si les dades sobre activació d'àrees cerebrals en adolescents tenen les mateixes implicacions que els dels adults. Mentrestant, existeix el risc d'agreujar la vulnerabilitat d'adolescents amb antecedents penals i disminuir les seues oportunitats de reinserció.