@OrwellTruth1984 on X, 3 Feb, 2025
Context
Fet
La intel·ligència artificial està impactant cada cop més en les nostres vides i en la manera com els humans es relacionen amb la tecnologia i Internet. Aquesta extraordinària invenció també s’està aplicant en la producció cada vegada més realista d’imatges: la intel·ligència artificial està fent grans avenços per perfeccionar la creació d’imatges, eliminant errors i imperfeccions presents en produccions anteriors. Avui dia, a primera vista, és molt difícil determinar si una imatge publicada, per exemple, en un compte a les xarxes socials és real o és obra d’aquesta tecnologia. Precisament per això, algunes imatges generades per IA es creen per alimentar la desinformació o es prenen com a veritat, alimentant així el fenomen de la desinformació. Moltes de les imatges generades per la intel·ligència artificial afecten figures públiques o celebritats, així com caps d’estat i de govern.
Manipulació
Des de la seva segona victòria electoral el 2024, els mitjans de comunicació han qüestionat la relació entre el president dels Estats Units, Donald Trump, i el propietari de Tesla i SpaceX, Elon Musk. El que sembla clar és que la presència de Musk en ocasions oficials sempre és observada amb cert interès pels mitjans, alimentant preguntes sobre quant de poder té Musk dins l’administració Trump: per això, les imatges i fotografies en què apareixen Trump i Musk al mateix temps solen tenir una àmplia difusió. És per això que la fotografia que va aparèixer a la plataforma X, representant Trump, Musk i el primer ministre d’Israel, Netanyahu, va ser àmpliament utilitzada pels mitjans americans i més enllà: la imatge, generada per intel·ligència artificial, també es va difondre àmpliament en altres països i mitjans de comunicació.
Anècdota
El compte que va publicar la imatge generada per IA és conegut com George Orwell (@OrwellTruth1984 a X). Qui va publicar la imatge no tenia la intenció de fer-la passar per real, fins al punt que l’usuari va especificar des del principi que es tractava d’una imatge generada amb programari d’IA. Tot i això, la imatge s’ha difós sense l’etiqueta @OrwellTruth1984 (present en la imatge original) i sense cap connexió o referència a la intel·ligència artificial.
Part d'ensenyament
Objectiu d'aprenentatge:
Deduir les raons de la desinformació a partir de l’anàlisi de la següent font d’imatge dins d’una publicació a les xarxes socials.
Aprenentatge clau 1: Difusió de la narrativa en la publicació i verificació.
L’objectiu de la publicació és clar: a la publicació original a X, es pot llegir en hebreu la frase “L’alba d’un nou dia” just a la part superior de la publicació. La intenció del creador era probablement enviar un missatge que no només fos polític, sinó també irònic (i potser crític) sobre les persones representades a la imatge. Aquesta imatge fa referència a algunes de les narratives que veuen Musk com una persona capaç d’influir en el president dels Estats Units fins al punt d’estar al seu costat en diverses reunions públiques i ocasions oficials.
Aprenentatge clau 2: Anàlisi de la font fotogràfica dins d’una publicació a les xarxes socials + especificar si l’anàlisi correspon a una foto presa fora de context, manipulada o generada amb IA.
La imatge és un contingut generat per IA.
Hi ha certes pistes i detalls que deixen clar que la imatge no pot ser una fotografia real (https://www.open.online/2025/02/05/falsa-foto-netanyahu-trump-musk-intelligenza-artificiale-community-notes-fc/)
Recorda:
Les fonts digitals són fragments de contingut en línia que ens ajuden a entendre i verificar esdeveniments. Igual que les fonts històriques, es poden classificar segons la seva connexió amb la realitat:
Fonts primàries: imatges o vídeos originals capturats en el moment d’un esdeveniment, com ara una foto feta amb un telèfon mòbil, gravacions en directe o enregistraments de càmeres de seguretat sense editar.
Fonts secundàries: imatges o vídeos que han estat editats, modificats o republicats. Això pot incloure articles de notícies que retallen o alteren una foto, versions millorades amb IA d’imatges reals, o deepfakes que canvien l’aparença d’algú.
Fonts sintètiques: imatges o vídeos completament creats per intel·ligència artificial o edició digital, sense connexió amb esdeveniments reals. Això inclou persones generades per IA, paisatges falsos o imatges de notícies totalment fictícies.
En analitzar imatges a les xarxes socials, hem de recordar que no existeixen de manera aïllada: vénen acompanyades de textos, hashtags, “m’agrada” i comparticions que influeixen en com les interpretem. La mateixa imatge es pot presentar de maneres diferents per canviar-ne el significat, de vegades amb la intenció d’enganyar o difondre informació falsa. Per això és important comprovar no només la imatge en si, sinó també el seu context, qui l’ha compartida i com s’està utilitzant abans de confiar-hi.
Criteris d’avaluació: Deduir les causes de la desinformació analitzant la imatge i el seu context dins de la publicació a les xarxes socials.
Instruccions per l'activitat
Context: Ara que heu entès la connexió entre la desinformació i la manera com s’utilitzen les imatges per construir narratives, considereu el context de la imatge digital: On es va publicar? Quin esdeveniment o situació afirma representar? Qui són les figures o elements principals de la imatge? Punt de partida.
Inici de l’activitat: Observeu la imatge de manera individual i, un cop analitzada, responeu les preguntes per identificar els aspectes clau relacionats amb la seva font, autenticitat i ús. Centreu-vos tant en la pròpia imatge com en la manera com es presenta dins del seu entorn digital. Fase inicial.
Per respondre algunes de les preguntes següents, hauràs de fer una cerca inversa d’imatges.
@OrwellTruth1984 on X, 3 Feb, 2025
Desenvolupament de l’activitat. Un cop hagis observat aquesta imatge, completa la segona part del full de treball amb el teu grup, aquesta et permetrà entendre una mica millor el seu context. Fase de desenvolupament
Desenvolupament de l’activitat. Ara intenta deduir, amb tota la informació que has recopilat fins ara, com i per què aquesta font ha estat manipulada. Fase final
Tancament. Organitza el teu discurs basant-te en les evidències recollides per argumentar la teva opinió en relació amb allò que has après.
Instruccions pel professorat
L'alba d'un nou dia.
@OrwellTruth1984 on X, 3 Feb, 2025
Solució
Explicació - el procés de verificació de fets
La imatge original és immediatament reconeixible com a contingut generat per IA: no només apareix el nom del compte que la va publicar primer (indicant també la propietat del contingut), sinó que el propi creador havia especificat des del principi que es tractava d’una imatge generada per IA.
Tot i això, la imatge es va difondre fora del seu context original (és a dir, sense la indicació que era un contingut generat per IA) i sense el nom del creador, que va ser habilidosament retallat de la imatge.
Malgrat això, una mirada atenta i una anàlisi curosa revelen detalls irrealistes, com els dits de les mans, en particular els polzes dels dos líders i l’índex de Musk. A més, fins i tot la pell del rostre i els somriures dels protagonistes de la foto no semblen reals, sinó plàstics i hiperrealistes.
A més de l’anàlisi de la imatge, un altre mètode pot ser la cerca inversa d’imatges: analitzant alguns dels resultats i descartant mitjans de comunicació (amb una tècnica de restricció de clics) que van publicar la foto com si fos real, probablement hauria estat possible rastrejar la font original que va publicar la imatge.
Fotografia original: https://x.com/OrwellTruth1984/status/1886408973022081283