Ciutadania
digital

Estadísticament, l'ús de les xarxes socials per part del nostre alumnat per consumir i generar contingut ha crescut significativament, i l'arribada de la intel·ligència artificial generativa (IAG) ha tingut un gran impacte en les normes i percepcions socials. Per exemple, ara és habitual trobar imatges generades amb IA quan fem una cerca d'imatges per Google. És fonamental que la nostra comunitat educativa adopti un compromís ferm en l'ús responsable de la IA, de manera que promogui un ambient inclusiu i respectuós. Aquest compromís és encara més gran quan considerem el risc que la IA pot accentuar biaixos ideològics, ètnics i de gènere, així com la possibilitat que faciliti la difusió de continguts inapropiats.

El nostre centre pretén educar l'alumnat en l'ús segur i ètic de la tecnologia, i també en el reconeixement i la mitigació dels possibles efectes negatius que la IAG pot tenir. Volem oferir una educació que no solament desenvolupi les habilitats tecnològiques del nostre alumnat, sinó que també els formi en responsabilitat digital. D'aquesta manera, volem preparar-los per contribuir de manera positiva a una societat cada vegada més digitalitzada.

Ser ciutadans digitals responsables comporta més que només saber com utilitzar tecnologia de manera eficaç: requereix una comprensió profunda dels efectes que la tecnologia té sobre les normes i percepcions socials. En el context actual, en el qual l'alumnat consumeix gairebé el doble d'informació comparat amb el que consumien els adults a la seva edat, és imperatiu que entenguin les responsabilitats associades a aquests continguts. El fet que molts alumnes utilitzin múltiples pantalles simultàniament, com, per exemple, un mòbil i un PC alhora, o que escoltin continguts mentre utilitzen el mòbil, no només canvia la manera en què consumeixen informació, sinó també com interactuen amb el món que els envolta.

Aquesta interacció constant amb diverses fonts d'informació pot tenir un impacte significatiu en la seva percepció de la realitat. El bombardeig de contingut, incloent-hi notícies enganyoses (fake news) i hipertrucatges (deepfakes, imatges i vídeos manipulats mitjançant IA que semblen realistes), presenta desafiaments únics. Aquests continguts poden distorsionar la visió que els adolescents tenen sobre esdeveniments mundials importants, influenciar les seves opinions polítiques i socials, i fins i tot afectar la seva salut mental. Per això, és crucial que l'alumnat aprengui a navegar críticament aquest mar d'informació.

En el nostre centre, treballem les eines necessàries perquè puguin identificar i analitzar críticament la veracitat dels continguts que consumeixen, entendre els mètodes amb els quals la IA pot ser utilitzada per manipular informació, i reconèixer l'impacte que aquests poden tenir sobre les seves pròpies vides i la societat en general. A través de l’educació sobre ciutadania digital, podem preparar el nostre alumnat a protegir-se contra els riscos del món digital, a la vegada que a utilitzar aquest poderós recurs per construir un futur més informat i responsable.

En l'era digital, la protecció de la identitat digital és tan essencial com tancar amb clau la porta de casa abans de sortir. La identitat digital de cadascú inclou tota la informació personal compartida en línia, des de dades bàsiques com el nom i adreça fins a detalls més específics com els gustos personals, les aficions i les interaccions socials. Necessitem que l’alumnat entengui com protegir aquesta informació per evitar que caigui en mans equivocades, les quals podrien utilitzar-la per cometre fraus, suplantació d'identitat o per a la creació de perfils detallats dels usuaris sense el seu consentiment.

Un dels primers passos en la protecció de la identitat digital és ser extremadament cautelós amb la informació que es comparteix en línia. Per exemple, pot semblar inofensiu publicar la data d'aniversari completa en perfils de xarxes socials, però aquesta és una peça clau que sovint s'utilitza per verificar la identitat d'una persona. Ensenyar als alumnes i les seves famílies a configurar adequadament les opcions de privadesa en els seus comptes i aplicacions és vital. Això inclou revisar qui pot veure les seves publicacions, qui pot contactar amb ells i quina informació està visible públicament.

A més, cal fomentar l'ús de pràctiques segures en la gestió de contrasenyes i les credencials d'accés. Utilitzar contrasenyes fortes i úniques per a cada compte, juntament amb eines com la verificació en dos passos, pot marcar una gran diferència en la seguretat en línia. També és recomanable utilitzar gestors de contrasenyes que ajudin a organitzar i protegir l'accés als diferents serveis digitals. 

Els algoritmes de la IAG poden ser tan imparcials com les dades amb les quals han estat entrenats, el que significa que sovint reflecteixen els biaixos presents en aquestes dades. Aquest fenomen es coneix com a biaix algorítmic, i pot tenir conseqüències significatives, especialment quan es tracta de biaixos ideològics contra els drets humans, així com de biaixos ètnics i de gènere. Per exemple, si un algoritme d'IA s'entrena principalment amb imatges o textos que no representen de manera adequada certes ètnies o gèneres, aquest pot acabar prenent decisions o realitzant accions que no tractin de manera justa a totes les persones.

Un exemple específic sobre com els biaixos algorítmics han afectat aquestes eines a la vida quotidiana és en els sistemes de reconeixement facial. Tot i que les empreses estan intentant rectificar aquesta situació, aquests sistemes han demostrat tenir taxes d'error més altes quan identifiquen persones de certes ètnies, a causa de la manca de diversitat en les dades utilitzades per entrenar l'algoritme.

Aquest fenomen pot conduir a discriminacions en àrees com el reclutament laboral, els serveis financers i fins i tot en els assistents de veu, que sovint presenten veus femenines en rols de servei. Identificar aquests biaixos requereix analitzar críticament els resultats de les eines amb IAG, revisar les dades d'entrenament per assegurar-se que reflecteixen diversitat i equitat, i interrogar els mecanismes que poden haver influït en la recopilació i tractament de les dades. Si eduquem sobre aquests biaixos, tant en l'àmbit acadèmic com en el sector professional, podem promoure el desenvolupament de tecnologies més inclusives i transparents. Això, a la vegada, pot ajudar a construir una societat més justa, on la IA serveixi com a eina per a la justícia social, i no com un reforç de les desigualtats existents.

L'ètica en la creació de continguts digitals és un tema clau que abasta des de la integritat dels creadors fins a l'impacte dels seus continguts en la societat. Un dels aspectes més preocupants és la creació de continguts que inciten a conductes d'odi. Això inclou qualsevol text, imatge o vídeo que promogui la discriminació o la violència contra grups basats en ètnies, gènere, orientació sexual, religió, entre altres. Com una gota de tinta que embruta un got d'aigua, un sol vídeo o missatge pot tenir un impacte negatiu desproporcionat, contribuint a una cultura de la intolerància i l'hostilitat.

Un altre aspecte preocupant és la proliferació de notícies falses, que poden distorsionar la percepció pública i influir negativament en el debat democràtic. Les notícies falses són sovint creades amb la intenció de manipular l'opinió pública o simplement de generar clics per a benefici econòmic. És imprescindible educar l'alumnat sobre com verificar les fonts d'informació i distingir entre notícies fiables i especulacions o falsedats, fomentant així un entorn més informat i crític.

Finalment, amb l'avanç de la tecnologia, ha augmentat la preocupació per la creació i distribució de nus creats amb eines amb IAG sense el consentiment de les víctimes, sovint a partir de fotos originals obtingudes a través de xarxes socials. Aquesta pràctica no només constitueix una greu violació de la privadesa, sinó que també pot tenir efectes devastadors sobre la vida de les persones afectades. És essencial educar l'alumnat sobre el respecte per la privadesa dels altres i les repercussions legals de crear i compartir aquest tipus de contingut. Sensibilitzant l’alumnat sobre aquestes qüestions podem ajudar a crear una comunitat digital que valori la dignitat i els drets de totes les persones.