El 18 d'agost, la revista Nature Human Behavior va publicar un editorial anomenat “La ciència ha de respectar la dignitat i els drets de tots els humans”. L'editorial està embolicat en sensatesa: qui podria estar en contra de la dignitat i els drets de tots els humans? - i conté alguns arguments inobjetables, com la importància de "[d]efine categories [d'humans] amb tant detall com ho permeta el protocol de l'estudi", la qual cosa, està bé. Però el seu objectiu principal, si el llig detingudament, és ampliar la quantitat de raons per les quals els articles científics poden ser rebutjats per a la seua publicació o, cosa que és més preocupant, editats o retractats després de la publicació.
Al principi, l'article conté l'ominosa oració “Encara que la llibertat acadèmica és fonamental, no és il·limitada”. Cada vegada que algú sent la necessitat d'expressar la seua oposició a una creença que quasi ningú té, és un senyal d'aigües intel·lectuals potencialment agitades per davant. Per a ser justos, no sé què tan de debò es prendrà aquesta política o si els investigadors realment intentaran usar-la com un garrot per a forçar retractacions. Però xic, està mig cuit. Demostra molt bé fins a quin punt la injecció descurada de valors polítics (disfressats de raonabilitat) en la ciència pot causar problemes.
Aquests són els criteris bàsics que estableix l'editorial que podrien desencadenar conseqüències negatives per a una publicació i/o la seua(s) autor(és):
Independentment de la mena de contingut (investigació, revisió o opinió) i, per a la investigació, independentment de si un projecte d'investigació va ser revisat i aprovat per un comité d'ètica institucional apropiat, els editors es reserven el dret de sol·licitar modificacions (o corregir o esmenar d'una altra manera després de la publicació). ), i en casos severs rebutjar la publicació de (o retractar-se després de la publicació):
1. Contingut que es basa en la suposició de superioritat o inferioritat biològica, social o cultural inherent d'un grup humà sobre altre basat en raça, ètnia, nacionalitat o origen social, sexe, identitat de gènere, orientació sexual, religió, creences polítiques o d'un altre tipus, edat, malaltia, (dis)capacitat o altres agrupacions socialment construïdes o socialment rellevants (en endavant, agrupacions humanes socialment construïdes o socialment rellevants).
2. Contingut que soscava, o podria percebre's raonablement que soscava, els drets i la dignitat d'un individu o grup humà sobre la base d'agrupacions humanes socialment construïdes o socialment rellevants.
3. Contingut que inclou text o imatges que directament o indirectament menyspreen a una persona o grup sobre la base d'agrupacions humanes socialment construïdes o socialment rellevants.
4. Presentacions que incorporen perspectives singulars i privilegiades, que exclouen una diversitat de veus en relació amb agrupacions humanes socialment construïdes o socialment rellevants, i que pretenen que tals perspectives són generalitzables i/o assumides.
Notaràs que el llenguatge és increïblement vague en tot moment. Què significa “Contingut que soscava, o podria percebre's raonablement que soscava, els drets i la dignitat d'un individu o grup humà”? Qui defineix el que significa soscavar els drets o la dignitat d'algú, i molt menys si tal afirmació és o no “raonable”? Què significa “menysprear indirectament” a una persona o grup? Què significa encarnar “perspectives singulars, privilegiades, excloents d'una diversitat de veus”? Atés que ací hi ha molt en joc, serien útils definicions més acurades. No hi ha cap.
El que és més alarmant és que, llevat que m'estiga perdent alguna cosa, la investigació que és perfectament vàlida i ben executada podria entrar en conflicte amb aquestes pautes.
Els sistemes de qualificació de continguts tenen el seu antecedent en els codis que, per iniciativa privada, es van desenvolupar als EUA com a sistema d'autoregulació per a evitar la intromissió dels poders públics.
Així, a principis de 1909, un grup de companyies de teatre va fundar la Nacional Board of Review, NBR, i en 1930 l'associació estatunidenca de productors cinematogràfics, denominada Motion Picture Association of America, MPAA, aprova el seu Code to Govern the Makinf of Motion Pictures, també conegut com el Codi Hays, es va aplicar des de 1934 fins que es va abandonar en 1967, per a donar lloc al nou sistema de classificació per edats de la MPAA que hui coneixem(https://www.motionpictures.org/). La MPAA, per part seua, també publica en Internet descripcions detallades referents a les raons de la seua valoració, tant en la seua pròpia web com en la d'Internet Movie Database (IMDb, la base de dades de pel·lícules, sèries i programes televisius més gran del món (https://www.imdb.com/).
En aquest sentit, la qualificació per edats ve a substituir models basats en la censura (el que es pot /no es pot produir i difondre) per models basats en la cautela (com advertir sobre el contingut per a protegir els menors).
Per part seua, la indústria de la televisió als EUA va iniciar un sistema d'autoregulació amb caràcter previ a la normativa externa establida pels legisladors, encara que la creació de la Federal Communications Comission (FCC) com a òrgan regulador ha va traslladar fonamentalment a aquest àmbit el control dels continguts.
Una cosa similar ha ocorregut a Europa, amb organismes dedicats a la qualificació o a la supervisió de la qualificació de continguts generalment al cinema i la televisió.
Podem esmentar, en el regne Unit, el British Board of Film Classification, BBFC (https://www.bbfc.co.uk/). El sistema britànic ofereix no sols criteris de classificació per edats, sinó també informació detallada sobre les obres audiovisuals que entrega la seua oficina de classificació i que poden consultar els pares en Internet.
O, a Espanya, l'Institut de les Ciències i les Arts Audiovisuals, ICAA (https://www.culturaydeporte.gob.es/cultura/areas/cine/inicio.html), dependent del Ministeri de Cultura, que compta en Internet amb el seu propi cercador de pel·lícules qualificades (https://sede.mcu.gob.es/catalogoicaa).
En l'àmbit televisió, igual que en el cas de la FCC als EUA, quasi tots els països compten amb consells audiovisuals que supervisen la qualificació per edats: el Conseil Supérieur de l’Audiovisuel (CSA) francés, l'Office of Communications (Ofcom) britànic, l'Autorità per le Garanzie nelle Comunicazioni (AGCOM) italiana i la Comissió Nacional dels Mercats i la Competència (CNMC) a Espanya.
Existeixen a més iniciatives d'autoregulació o corregulació, com el Codice di Autorregolamentazione Tv e Minori, italià o el Codi d'Autoregulació de Continguts Televisius i Infància a Espanya.
Una de les primeres experiències de qualificació de continguts en l'àmbit digital es va iniciar en 1999 per part d'America Online Europa, Microsoft, IBM, British Telecom i la Fundació Bertelsmann. Aquestes companyies van crear l'Associació per a la Classificació de Continguts en Internet (ICRA), amb la finalitat d'examinar diferents propostes de classificació de continguts i, adoptar algunes recomanacions en aquest sentit per als productes que albergaven les adreces a les quals facilitaven accés. En concret, el sistema pretenia informar els usuaris del contingut sexual, del llenguatge, de l'edat recomanable i dels temes que s'exposaven en els llocs desitjats amb presència en Internet.
Des de llavors s'han desenvolupat múltiples iniciatives en diferents països i amb destinació als diferents mitjans i canals d'oferta de continguts, com ara televisió, cinema, programari, videojocs o continguts audiovisuals de manera genèrica.
Probablement, els sistemes de classificació i àrees més desenvolupades a nivell internacional i amb un alt grau d'acceptació i penetració global són els de continguts per a programari i especialment per a videojocs.
Els sistemes de qualificació per edats tenen com a objectiu informar els espectadors sobre la idoneïtat o inadequació del contingut d'una obra per a determinats segments d'edat.
L'assignació d'una qualificació determinada pot estar més o menys explicitada o sistematitzada, i generalment té en compte aspectes relacionats amb els temes tractats i amb la manera de tractar-los: escenes violentes o eròtiques, comportaments conflictius, llenguatge…
Els sistemes de qualificació responen també a diferents models. En uns casos responen a un imperatiu legal, i són promoguts i supervisats, i fins i tot aplicats, per organismes governamentals o autònoms pertanyents a l'administració. En uns altres, s'orienten més a la regulació voluntària, ja siga mitjançant marcs d'autoregulació o de corregulació.
La qualificació per grups d'edat és una eina bàsica per a reduir la possibilitat que els menors s'exposen a continguts inadequats i perjudicials per al seu desenvolupament, proporcionant informació tant als adults amb potestat, tutela i responsabilitat com als propis menors per a la cura de si mateixos.
La Llei 55/2007, de 28 de desembre, del Cinema, regula a Espanya els diversos aspectes de l'activitat cinematogràfica, com la promoció i el foment de la creació; la producció, distribució i exhibició de les obres audiovisuals; la protecció de la diversitat de les expressions culturals i lingüístiques, i, conseqüentment, la protecció del patrimoni cinematogràfic i audiovisual espanyol.
Quatre principis fonamentals van inspirar la seua promulgació:
La definició i suport als sectors independents en l'àmbit de la cinematografia i l'audiovisual.
La creació de mecanismes que eviten els possibles desequilibris en el mercat.
L'adaptació a les noves tecnologies i formats, amb especial atenció als processos de digitalització.
El suport a la creació i als autors com a font d'origen de la relació de les obres cinematogràfiques i audiovisuals amb els ciutadans.
La reforma de la Llei del Cinema, l'última modificació del qual data de maig de 2015, està contemplada dins del Pla Nacional de Recuperació, Transformació i Resiliència, en el Component 25, Spain Audiovisual Hub.
L'article 8 de la Llei es dedica a la qualificació de pel·lícules i obres audiovisuals. Segons aquest article:
1. Abans de procedir a la comercialització, difusió o publicitat d'una pel·lícula cinematogràfica o obra audiovisual per qualsevol mitjà o en qualsevol suport en territori espanyol, aquesta haurà de ser qualificada per grups d'edats del públic al qual està destinada, mitjançant resolució del Director de l'Institut de la Cinematografia i de les Arts Audiovisuals previ informe de la Comissió de Qualificació o pels òrgans competents d'aquelles Comunitats Autònomes que ostenten competències per a la qualificació de les pel·lícules i els materials audiovisuals. S'exceptuen les obres audiovisuals que, d'acord amb la seua normativa específica, siguen objecte d'autoregulació.
2. A l'efecte del que es disposa en l'article 7.6 de la Llei 7/2010, de 31 de març, General de la Comunicació Audiovisual, quan es tracte de pel·lícules cinematogràfiques o altres obres audiovisuals que hagen sigut qualificades per l'Institut de la Cinematografia i de les Arts Audiovisuals o per l'òrgan competent de les Comunitats Autònomes, s'atendrà les qualificacions així obtingudes.
3. Reglamentàriament podrà establir-se el règim aplicable als avanços de les pel·lícules cinematogràfiques així com a la participació de les mateixes en festivals, que podrà excepcionar el règim general de qualificació prèvia en els termes que s'establisquen.
Per part seua, l'article 9 assenyala:
1. Les qualificacions que hagen obtingut les pel·lícules cinematogràfiques i altres obres audiovisuals a Espanya, d'acord amb l'obligació de qualificació establida en l'article anterior, han de fer-se arribar a coneixement del públic, a títol orientatiu. Els qui duguen a terme actes de comercialització, distribució, comunicació pública, publicitat, difusió o divulgació per qualsevol mitjà d'aquestes obres seran els responsables que en aquests actes conste la qualificació atorgada de manera que resulte clarament perceptible per al públic. S'inclouen expressament les empreses que presten serveis de vídeo sota demanda o els titulars de llocs web, inclosos els que ofereixen llistats ordenats i classificats d'enllaços a altres llocs web o servidors on s'allotgen les obres cinematogràfiques o audiovisuals. A aquest efecte, els obligats hauran de recaptar dels titulars dels drets de distribució la informació sobre la qualificació que corresponga a l'obra. Reglamentàriament es regularan els requisits que puguen ser exigibles a aquest efecte.
2. Les pel·lícules i altres obres audiovisuals de caràcter pornogràfic o que realitzen apologia de la violència seran qualificades com a pel·lícules «X». L'exhibició pública d'aquestes pel·lícules es realitzarà exclusivament a les sales «X», a les quals no tindran accés, en cap cas, els menors de 18 anys, havent de figurar visiblement aquesta prohibició per a informació del públic. Les altres obres audiovisuals qualificades «X» no podran ser venudes ni llogades a menors d'edat ni podran estar a l'abast del públic en els establiments en els quals els menors tinguen accés.
3. En la publicitat o presentació de les pel·lícules i altres obres audiovisuals qualificades «X» únicament podrà utilitzar-se el seu títol i les dades de la fitxa tècnica i artística d'aquesta, a exclusió de tota representació icònica o referència argumental. Aquesta publicitat només podrà ser exhibida a l'interior dels locals on es projecte o comercialitze la pel·lícula, o inclosa en les cartelleres informatives o publicitàries dels mitjans de comunicació. En cap cas el títol de la pel·lícula podrà explicitar el seu caràcter pornogràfic o apologètic de la violència.
I en l'article 39.3 es considera infracció lleu:
c) Els incompliments, per acció o omissió, del que es preveu en l'article 9.1 relatiu a l'obligació posar en coneixement del públic la qualificació de les pel·lícules i obres audiovisuals, així com els incompliments relatius als requisits addicionals que s'exigisquen reglamentàriament.
La qualificació per grups d'edat, fins i tot en aquells casos en els quals la seua funció és purament orientativa, suposa una eina d'indubtable utilitat per a reduir la possibilitat que els menors s'exposen a continguts inadequats, proporcionant informació per a la presa de decisions a tots aquells que tenen responsabilitats educatives, formatives o de tutela sobre aquests menors. Bona part de les queixes de la ciutadania en relació amb les obres audiovisuals, en un sentit ampli (pel·lícules de cinema, sèries i programes televisius, però també videoclips, llocs d'Internet o videojocs), tenen a veure amb el que es consideren continguts inadequats per als menors, en molts casos il·lícits des del punt de vista legal i deontològic.
A més, els criteris de qualificació aporten a productors, distribuïdors i exhibidors directrius a l'hora de proposar l'una o l'altra qualificació per a les seues pel·lícules; una cosa important, si es té en compte que aqueixa qualificació sol·licitada per la indústria s'entén atorgada si transcorregut el termini d'un mes no s'ha notificat la corresponent resolució de qualificació.
D'acord amb el Reial decret 2062/2008 i amb el que es disposa en l'Ordre CUL/314/2010, de 16 de febrer, la Resolució de 16 de febrer de 2010 de l'ICAA estableix els criteris per a la qualificació per grups d'edat de les pel·lícules cinematogràfiques i altres obres audiovisuals, així com els corresponents pictogrames informatius.
La Resolució de 16 de febrer va eliminar la qualificació d'obra “No recomanada per a menors de tretze anys” i va introduir en el seu lloc: “No recomanada per a menors de dotze anys” i “No recomanada per a menors de setze anys”. Aquesta nova gradació s'entenia no sols més d'acord amb les existents en la majoria de països del nostre entorn, sinó també més ajustada a la pròpia evolució cognitiva, axiològica i conductual de menors i adolescents, que responen a característiques molt diferents en el tram vital que va dels 13 als 18 anys.
A partir de llavors, la qualificació per edats és la següent:
Les obres qualificades “Per a tots els públics” i “No recomanada per a menors de set anys permeten a més el reconeixement de “Especialment recomanada per a la infància” (incloent la “i” en el pictograma), d'acord amb l'assenyalat en l'article 5 del Reial decret 2062/208.
A més, l'Ordre CUL/1772/2011, de 21 de juny, va modificar a través de la seua disposició final tercera la ja esmentada Ordre CUL/314/2010, de 16 de febrer, a fi d'introduir una nova categoria, “Especialment recomanada per al foment de la igualtat de gènere”, aplicable a les pel·lícules i obres audiovisuals presentades a qualificació. L'ICAA va establir els criteris per a l'atorgament d'aquesta categoria, així com el seu pictograma informatiu, de moment l'únic oficial que s'acosta al que podria ser un descriptor temàtic:
El model compta amb una Comissió de Qualificació de Pel·lícules Cinematogràfiques, que revisa el material a exhibir (siguen obres íntegres o avanços / trailers) i la proposta realitzada pels distribuïdors.
Cal assenyalar, finalment, que els usuaris tenen dret a rebre informació sobre la qualificació per grups d'edat atorgada a les pel·lícules cinematogràfiques i altres obres audiovisuals. A més, poden participar en la millora de la prestació dels serveis mitjançant:
La formulació de queixes i suggeriments conforme al que es preveu en la Carta de Serveis de l'ICAA
Els escrits de comunicació postal, telefònica i electrònica remesos a la Direcció General de l'Organisme.
El projecte de Reglament, aprovat per la Comissió, a través del qual la Unió Europea pretén aprovar la Digital Service Act confirma com, en aquest àmbit, s'ha anat progressivament consolidant una comprensió de les corporacions de la societat de la informació, com una sort d'entitats vicarials de l'Estat, en tant, necessàriament, han de fer les vegades d'aquest, assumint principis propis de dret públic, quan presten determinats serveis.
L'aproximació europea contrasta, sens dubte, amb la qual regeix als Estats Units, on, sobre la base de la famosa secció 230 de la Decency Act, les empreses de la societat de la informació estan eximides de qualsevol responsabilitat jurídica punt per aquell contingut que desitgen eliminar, com per la cancel·lació de comptes, i, en últim terme, pels propis continguts que a través del seu canal es distribuïsquen. La Cort Suprema nord-americana ha reconegut una sort de dret d'accés al fòrum, però que, sobre la base de la doctrina de la State Action, únicament té eficàcia enfront d'aquelles prohibicions que provinguen dels poders públics, de tal forma que les empreses gaudeixen de plena discrecionalitat en el control del discurs que es transmeta a través del seu canal. Bona part de la doctrina entén, en aquest sentit, que no és la Decency Act, sinó la pròpia Primera Esmena la que empara aquestes empreses, de tal forma que qualsevol imposició estatal a l'hora d'exigir l'obertura de les mateixes a un determinat discurs hauria de ser considerada com forced speech.
El projecte de Reglament europeu aprovat per la Comissió, la Digital Service Act, part com déiem, d'una comprensió de la naturalesa jurídica d'aquestes empreses que, en tant gestionen un àmbit d'interés general, no pot ser refractària a una regulació que comprometa a aquestes empreses amb la garantia d'uns certs principis bàsics del dret públic europeu, i que avança, sens dubte, respecte al marc de responsabilitat que establia la Directiva sobre Comerç Electrònic. Es pot destacar, en aquest sentit, la implementació de processos específics per a poder reclamar la retirada de continguts, i la pròpia exigència que s'imposarà a aquestes empreses de raonar jurídicament la seua retirada. Al mateix temps, la nova regulació preveu que s'habiliten recursos interns contra la retirada de continguts, com a garantia de la llibertat d'expressió i informació, i obri una via per a la mediació arbitral especialitzada en els conflictes que puguen produir-se.
D'igual manera, s'incrementen les obligacions de transparència sobre els criteris usats per a discriminar continguts, alguna cosa que aconsegueix com és obvi al disseny del propi algorisme. Imposant-se a més, per al cas de les gran corporacions, l'obligació de superar auditories anuals, i la de posar en pràctica protocols específics per a evitar el risc de distribució de continguts contraris a la legalitat.
En definitiva, ens trobem, crec, davant un gir radical en la comprensió jurídica d'aquestes corporacions que passen a ser regulades de forma molt més incisiva, si bé, serà necessari atendre a com es posen en pràctica aquests mecanisme de control, i a la pròpia possibilitat de què els mateixos poden ser objecte de supervisió judicial.
La setmana passada, Twitter va suspendre de manera permanent al president dels Estats Units, Donald Trump, després de la violenta presa del Capitoli per part dels seus partidaris. Trump també va ser suspés de Facebook i Instagram de manera indefinida .
Els caps ràpidament es van dirigir a l'alternativa de dreta de Twitter, Parler, que semblava ser un lloc lògic de respir per al president destronat digitalment.
Però Parler també va ser eliminat , ja que Amazon va retirar els seus serveis d'allotjament i Google i Apple ho van eliminar de les seues botigues. La xarxa social, que des de llavors va demandar a Amazon , es tanca efectivament fins que puga assegurar un nou host o obligar a Amazon a restaurar els seus serveis.
Aquestes accions poden semblar intents legítims de les plataformes per a abordar la retòrica de Trump que fomenta la violència. La realitat, no obstant això, és que faran poc per a realment desvincular als seus seguidors o tractar els problemes de violència i discurs d'odi.
Amb un recompte de vots electorals de 74.223.744 (46,9%), la magnitud dels seguidors de Trump és clara. I des que va ser expulsat de Twitter, no ha mostrat cap intenció de fer marxa enrere.
En la seua primera aparició des de l'atac al Capitoli, Trump va descriure el procés de judici polític com "una continuació de la major caça de bruixes en la història de la política".
sense cedir
Amb més de 47.000 tuits originals del compte personal de Twitter de Trump (@realdonaldtrump) des de 2009, es podria argumentar que va usar la plataforma de manera desmesurada. Hi ha molta especulació sobre el que podria fer ara.
Tuitant a través del compte oficial de Twitter del president @POTUS, va dir que podria considerar construir la seua pròpia plataforma. Twitter va eliminar ràpidament aquest tuit. També va tuitar : “No ens SILENCIARAN!”.
Aquesta amenaça pot tindre una certa reputació, ja que Trump té vies per a controlar diverses formes de mitjans. Al novembre, Axios va informar que estava considerant llançar la seua pròpia empresa de mitjans de dreta.
Per als seus seguidors, Internet continua sent un " vedat de caça natural " on poden continuar guanyant suport mitjançant la difusió de sentiments racistes i d'odi.
Internet també és notòriament difícil de vigilar: no té fronteres reals i funcions com el xifratge permeten l'anonimat. Les lleis difereixen d'un estat a un altre i d'una nació a una altra; un acte considerat il·legal en un lloc pot ser legal en un altre lloc.
No és d'estranyar que grups com a feixistes, neonazis, antisemites i supremacistes blancs foren els primers i entusiastes a adoptar Internet. En 1998, l'ex Gran Mag del Ku Klux Klan, David Duke , va escriure en línia:
Crec que internet iniciarà una reacció en cadena d'il·lustració racial que sacsejarà al món per la velocitat de la seua conquesta intel·lectual.
Pel que fa als esforços per a esclafar aqueix extremisme, en general són massa escassos i arriben massa tard.
Per exemple, Stormfront , una plataforma neonazi descrita com el primer gran lloc web d'odi racial. Va ser creat en 1995 per un ex líder estatal del Klan i només es va eliminar de la web oberta 22 anys després, en 2017.
Llegir més: Els gegants de les xarxes socials finalment han confrontat les mentides de Trump. Però, per què esperar fins que va haver-hi un motí en el Capitoli?
La psicologia de l'odi
Prohibir a Trump de les xarxes socials no necessàriament el silenciarà a ell o als seus seguidors. L'estimat psiquiatre i locutor britànic Raj Persaud ho resumeix bé: “els narcisistes no responen bé a l'exclusió social”.
Uns altres han destacat les moltes opcions disponibles perquè els fanàtics de Trump es congreguen des de la partida de Parler, que es va utilitzar per a comunicar els plans abans del setge en el Capitoli. Gab és una plataforma a la qual han acudit molts partidaris de Trump.
És important recordar que el discurs d'odi, el racisme i la violència són anteriors a Internet. Aquells que estiguen predisposats a aquestes ideologies trobaran la manera de connectar-se amb uns altres com ells.
I és probable que la censura no canvie les seues creences, ja que les ideologies i conspiracions extremistes tendeixen a estar fortament estimulades pel biaix de confirmació . Això és quan les persones interpreten la informació d'una manera que reafirma les seues creences existents.
Quan Twitter va prendre mesures per a limitar el contingut de QAnon l'any passat, alguns seguidors van prendre això com una confirmació de la conspiració, que afirma que les elits adoradores de Satanàs dins del govern, les empreses i els mitjans estan executant un “estat profund” contra Trump.
logotip de Gab
Gab es va llançar en 2016. És conegut per tindre una base d'usuaris d'extrema dreta. Ian Langsdon/EPA
Xarxes socials i supremacia blanca: una història d'amor
La promoció de la violència i el discurs d'odi en les plataformes no és nova, ni està restringida a llocs relativament marginals com Parler.
La professora de Mitjans Digitals de la Universitat Tecnològica de Queensland, Ariadna Matamoros-Fernández, descriu el discurs d'odi en línia com a “ racisme de plataforma ”. Aquest enquadrament és crític, especialment en el cas de Trump i els seus seguidors.
Reconeix que les xarxes socials tenen diverses característiques algorítmiques que permeten la proliferació de contingut racista. També captura les estructures de govern que tendeixen a afavorir la "llibertat d'expressió" sobre la seguretat de les comunitats vulnerables en línia.
Per exemple, la investigació de Matamoros-Fernández va trobar que a Austràlia, plataformes com Facebook “van afavorir als delinqüents sobre els indígenes” en tendir a inclinar-se a favor de la llibertat d'expressió.
Una altra investigació ha trobat que els usuaris indígenes de les xarxes socials presencien i experimenten racisme i sexisme en línia amb regularitat. La meua pròpia investigació també ha revelat que les xarxes socials ajuden a proliferar el discurs d'odi, inclòs el racisme i altres formes de violència.
En aquest front, és poc probable que les empreses de tecnologia prenguen mesures en l'escala requerida, ja que la controvèrsia és bona per als negocis . Simplement, no hi ha un fort incentiu perquè les plataformes aborden els problemes del discurs d'odi i el racisme, no fins que no fer-ho impacte negativament en els guanys.
Després que Facebook prohibira indefinidament a Trump, el seu valor de mercat va caure en US$ 47.600 milions a partir del dimecres, mentre que el de Twitter va caure en US$ 3.500 milions.
Llegir més: El lucre, no la llibertat d'expressió, regeix les decisions de les empreses de mitjans sobre la controvèrsia
La necessitat d'un canvi de paradigma
Quan es tracta d'imaginar un futur amb menys odi, racisme i violència, un error clau és buscar solucions dins de l'estructura existent.
Hui dia, els mitjans en línia són una part integral de l'estructura que governa la societat. Així que ho busquem per a resoldre els nostres problemes.
Però prohibir a Trump no ho silenciarà ni a ell ni a les ideologies que promou. No suprimirà el discurs d'odi ni tan sols reduirà la capacitat de les persones per a incitar a la violència.
La presidència de Trump acabarà en els pròxims dies, però els grups extremistes i el moviment més ampli que ocupen romandran , tant en la vida real com en línia.
Google té una nova eina gratuïta basada en IA per a identificar material d'abús i pornografia infantil
2018r
Una de les tasques més complicades, esgotadores i nocives psicològicament és la de moderar llocs amb la finalitat d'identificar i retirar material relacionat amb abús sexual infantil (child sexual abuse material "CSAM"). A causa de la seua complexitat, aquest treball és realitzat per humans, però ara Google busca contribuir amb aqueixa labor usant intel·ligència artificial.
Google està llançant una nova eina de programari gratuït, la qual es basa en la seua plataforma d'intel·ligència artificial i està dirigida a aquelles companyies que es dediquen a la tasca de moderació de contingut CSAM, ja siga en un o diversos llocs d'internet.
Hui dia, la gran majoria de les solucions tecnològiques en aquesta àrea consisteixen en la identificació d'imatges i vídeo utilitzant un catàleg de contingut prèviament marcat. 'PhotoDNA' és, per exemple, una eina, coneguda com 'crawler', desenvolupada per Microsoft i implementada per companyies com Facebook i Twitter.
L'avantatge d'aquest 'crawler' és que identifica el material de manera efectiva i evita que siga compartit, la qual cosa frena la seua difusió. No obstant això, aquest programari només funciona de manera efectiva amb material marcat com a il·legal, ja que no té la capacitat d'identificar nou contingut. Ací és on entren els moderadors humans, els qui s'han de fer càrrec de nodrir la base es dades veient i revisant imatges i vídeos per a atorgar-los una classificació.
Segons Google, la seua nova eina fa ús del seu sistema d'identificació visual 'machine vision' usant el material prèviament classificat, perquè així puga identificar imatges i vídeos CSAM d'una forma més ràpida. Una vegada que el sistema identifica material d'aquest tipus, envia una alerta al moderador per a prioritzar la seua revisió, ja que l'humà continuarà sent qui s'encarregue de marcar-lo com a il·legal.
Csam
Això, en teoria, permetria una revisió molt més ràpida. D'acord amb les primeres proves de Google, la seua eina d'intel·ligència artificial va ajudar un moderador a "prendre mesures en un 700% més de contingut de CSAM durant el mateix període de temps".
La Internet Watch Foundation (IWF), una de les organitzacions més grans dedicades a detindre la propagació de CSAM en línia, fa ús d'un gran equip de moderadors humans que es dediquen a identificar imatges i vídeos amb contingut sexual relacionat amb menors d'edat, el qual opera en més d'una dotzena de països. A més, treballen en col·laboració amb la policia de diverses regions del món per a identificar i tancar llocs web on es genera i comparteix aquest tipus de contingut.
Perquè IWF serà una de les primeres companyies a provar el nou programari de Google, encara que es mostren una miqueta incrèduls davant "les afirmacions fantàstiques de la IA", ja que abans hauran de veure com s'adapta al seu equip de treball. Fred Langford, director general adjunt d'IWF, va esmentar que han intentat amb diverses eines que prometen l'automatització d'aquesta tasca, però hui dia cap ha resultat ser efectiva, així que en cas que es complisca el que promet Google, "aquest classificador seria una mica com el 'Sant Greal' del nostre camp".