Setmana 22

La intel·ligència artificial cada vegada és més present en el nostre dia. A vegades fins i tot sense ser-ne del tot conscients. Així doncs, estem en una nova era tecnològica que ens pot semblar revolucionària, i ho és, però cal que coneguem una mica com funciona aquesta eina i potser preguntar-nos si és tan intel·ligent o si és tan artificial com el seu nom indica.

Quan creieu que comença la història de la intel·ligència artificial? Fa 5, 15, 20 anys? Feu les vostres apostes!

Respondre a aquesta pregunta és complicat perquè hi ha hagut moltes persones que han aportat el seu granet de sorra per tal d'avançar tecnològicament fins al moment actual. Podríem dir, però, que la història de la IA es remunta a fa més de 70 anys!!

Un dels personatges claus de la història va ser el matemàtic Alan Turing que, el 1950, es va fer una pregunta: poden pensar les màquines? Anteriorment, ell va aconseguir descodificar els missatges secrets que enviaven els nazis durant la Segona Guerra Mundial. Si us interessa podeu veure la pel·lícula "The imitation game" on s'explica la història. 

I va ser ell també qui va crear un test per veure si els ordinadors (sí, en aquell moment ja n'existien) podien arribar a pensar com els humans. 

Per entendre com funciona, de manera senzilla, imagineu que esteu en una habitació i us donen dos ordinadors per fer preguntes a través d'un xat. Un d’ells està controlat per una persona i l’altre, per un programa informàtic (una intel·ligència artificial). Però vosaltres no sabeu qui és qui! L'objectiu és fer preguntes i intentar descobrir quin està controlat per una persona i quin per una IA. Si la màquina respon tan bé que no podeu distingir-la d’un humà... ha superat el Test de Turing! Això vol dir que pensa de manera semblant a les persones (o almenys ho sembla). 

Avui en dia, els assistents virtuals com Siri o ChatGPT intenten fer-ho cada vegada millor. De moment, però, cap màquina ha superat completament el Test de Turing. 

El 1956, Marvin Lee Minsky va definir, per primer cop, la IA, i va dir que era com un programa informàtic dedicat a realitzar tasques que, de moment, els humans sabem fer millor, ja que som capaços de raonar críticament, d'aprendre, recordar i percebre l'entorn. 

Com funciona una IA? Com sap fer les tasques que li demanem?

Per crear una IA ens cal un model, i aquest és el nostre cervell. Però imitar-lo no és tan fàcil perquè el cervell humà encara és molt desconegut per a nosaltres. El que sí que sabem és que les persones som capaces de fer més d'una tasca alhora, algunes de complexes i d'altres de més senzilles. La IA, en canvi, encara que pot arribar a gestionar una quantitat d'informació i de dades, no és capaç (de moment) de fer més d'una tasca a la vegada. Per exemple, ChatGPT escriu però no fa dibuixos ni compon música. 

Els algorismes són els que ens permeten demanar a la IA que dugui a terme una tasca concreta. Però com ho aprenen a fer? La IA pot aprendre de diverses maneres, però sempre necessitarà que li donem dades. I som LES PERSONES les que proporcionem les dades i ensenyarem a la IA a interpretar què són aquestes dades. 

Fixem-nos en una IA que és capaç de crear imatges... Fem un exercici: què mostra la imatge? Quina flor és? De quin color és? Està oberta, tancada? 

Si volem que un algorisme sàpiga fer una flor, primer li hem d'ensenyar milers de fotos de flors. Si volem que, concretament, sàpiga crear una tulipa, li haurem d'ensenyar milers de fotos de tulipes. L'algorisme reconeixerà les característiques que es repeteixen en les imatges que li hem donat, com ara les formes, els colors, la posició, etc. Aquest conjunt de dades també s'anomea dataset. Això és el que va fer l'artista Anna Ridler. Les tulipes anteriors no són reals, són fetes per una IA.

Realment, doncs, la IA no sap què és una flor, només sap llegir-ne els trets comuns. Som les persones qui li hem dit que aquella imatge correspon a una flor, o a un gos, o a una persona...

Els biaixos de la IA. Què són?

Els biaixos de la IA són errors o injustícies que passen quan una intel·ligència artificial aprèn informació incorrecta o incompleta. Per exemple: si una IA només veu fotos d’homes fent ciència, pot pensar que les dones no poden ser científiques.

Si nosaltres entrenem la IA amb dades que només mostren una part de la realitat, aprendrà de manera esbiaixada. Per tant, hem de tenir en compte que la tecnologia no és neutral sinó que és una eina en mans d’humans i, molt sovint, també d'empreses amb interessos econòmics. Les IA són com un mirall de la nostra societat i repliquen les desigualtats que hi són presents. Això pot provocar que els datasets (els conjunts de dades) siguin injustos o discriminatoris, que no tinguin en compte els drets i les llibertats dels humans. Hi pot haver biaixos culturals, de gènere, racials, etc.

Mireu el vídeo següent, que és una obra audiovisual de l'artista Carme Puche, i intenteu identificar els biaixos que reprodueix aquesta IA que genera imatges.  Recordeu que la paraula "doctor" en anglès no té gènere.

MY WORD és un projecte de creació audiovisual fet amb una IA que fa imatges. Ens mostra els biaixos de gènere, de raça i d'edat. Carme Puche diu: "Quan la societat encara no ha sabut crear un imaginari que s'apropi a la realitat, responsable, ric i inclusiu amb totes les persones que habiten el planeta, apareix una eina d'intel·ligència artificial que arriba a les mans de tothom per crear noves imatges a partir d'aquests mateixos biaixos. El resultat de vegades és devastador, però al mateix temps, no podem perdre l'esperança de crear nous imaginaris diversos i inclusius".

Ahir vam acabar la benvinguda veient un vídeo que reproduïa diversos biaixos. Recordeu quins eren?

Aquests biaixos els vèiem en la producció d'unes imatges, però els trobem presents també en eines generatives de text, de so, vídeo... 

En la imatge següent podem veure com una IA que genera text (com Chat GPT), per seguir la frase “Dos musulmans” parla d’un accident d’un cotxe bomba, i associa així l’Islam amb el terrorisme.  

Un altre exemple: el juliol, 2023, Buzzfeed va publicar un bloc amb 194 barbies generades per IA d'arreu del món. La publicació es va fer viral a Twitter i, ràpidament, els internautes assenyalaven les incorreccions racials i culturals. Per exemple, la imatge generada per IA de la Barbie alemanya portava l'uniforme nazi. De la mateixa manera, es va mostrar la imatge generada per IA d'una Barbie del Sudan del Sud sostenint una pistola al seu costat o la Barbie de Qatar que portava un Ghutra, un tocat tradicional que porten els homes àrabs i no les dones.

Davant d'aquesta realitat ens podem preguntar: la IA pot superar aquests biaixos? Doncs sí, si s’entrenen els models adequadament i de manera col·laborativa i diversa a partir de:

• Conjunts de dades diversos que representin a tothom.

• Experimentant amb les IA per detectar els biaixos i corregir-los

• Transparència per conèixer quines dades –i d’on provenen– s’han utilitzat per entrenar cada model d’IA. 

• Regulacions globals (lleis) d'IA que serveixin per mantenir la qualitat dels sistemes d'IA a tots els països.

Mentrestant nosaltres hem de tenir en compte que la IA és una eina molt revolucionària i pot ser molt positiva, però cal anar amb compte i, sobretot, ser conscients que, com hem vist, no és NEUTRA i perpetua discriminacions, prejudicis i emfatitza estereotips. Per no ser-ne còmplices, hem d'aprendre, almenys, a identificar aquests biaixos.