Director científico do CITIUS da USC e experto en Intelixencia Artificial 

“A IA está chamada a ser a máis disruptiva de cantas tecnoloxías hai”

O profesor pontés fala das oportunidades e dos retos que supón o desenvolvemento e a extensión da Intelixencia Artificial a todos os ámbitos da vida humana

RODRIGO SAAVEDRA RAÑA, LUCAS BANDE OTERO, YURUN WANG ZHOU Y CARLA BERMUDEZ LOPEZ | Santiago de Compostela

Senén Barro Ameneiro (As Pontes,1962) é doutor en Física, catedrático de Ciencias da Computación e Intelixencia Artificial e director científico do CITIUS (Centro Singular de Investigación en Tecnoloxías Intelixentes da Universidade de Santiago de Compostela). 

O profesor Barro alerta contra os perigos da a Intelixencia Artificial (IA) e afirma que “está facilitando ou amplificando as posibilidades de quen quere facer mal no mundo, pero tamén cada vez máis está facilitando que os que combaten os ciberdelitos poidan ter mellores ferramentas para combatelos”. Por outra parte, asegura que “se nos damos o tempo suficiente como especie humana é posible que poidamos chegar a ter máquinas cunha capacidade e cunha intelixencia comparable a nós, algo que hoxe aínda non e así”.

“Eu estudei física, fíxeno por que tiven un profesor que me motivou moitísimo antes de iniciar a carreira universitaria.”  “Denomínase un risco existencíal asocíado á IA ou a outro tipo de tecnoloxías cando está en risco a nosa propía vida ou está en risco que as máquina intelixentes podan someternos”  “Os gobernos, incluso os gobernos en paises democraticos como o noso, sempre teñen una infrastructura, recursos humanos e economicos dedicados precisamente ao espionaxe.” 

―Vostede é o director científico do CITIUS. Como e por que se interesou polo campo da tecnoloxía intelixente e como foi a súa formación en Intelixencia Artificial?

—Eu estudei física, fíxeno porque tiven un profesor que me motivou moitísimo antes de iniciar a carreira universitaria. Pareceume un excelente profesor, moi incentivador dos seus estudantes, do pensamento crítico e do querer saber. Fixen física e gustoume, pero, cando cheguei a cuarto, había un dobre itinerario: un podía estudar a física máis teórica ou a física electrónica. A min gustábanme os dispositivos, os cacharros e, entón, fixen física electrónica. 

Cando rematei tiven a sorte de que outro gran profesor, que xa non vive, me dera a oportunidade de facer unha tese de doutoramento nun campo que era moi novidoso en España, incluso no mundo, xa levaba algunha década de vida, pero aínda era moi incipiente. Tratábase da Intelixencia Artificial. 

Na miña tese desenvolvín un sistema para analizar en tempo real e de forma continua sinais fisiolóxicos en hospitais, en contornos de vixilancia crítica, con pacientes críticos, que poden ser de unidades de coidados intensivos ou de coidados coronarios. Cando alguén sufriu un infarto, está nunha cama e hai unha serie de dispositivos ao redor que están continuamente monitorizando as súas constantes vitais. Eu o que fixen, a través de software, dun programa informático, foi que esa motorización fora parcialmente autónoma, intelixente e feita polas máquinas, non só polas persoas. A partir de aí son moitos anos de investigación. Eu non esperaba vivir na miña vida académica unha explosión das tecnoloxías intelixentes e da intelixencia artificial nas nosas vídas e iso é o que supoño que me trae aquí.

“Eu estudei física e fíxeno porque tiven un profesor que me motivou moitísimo antes de iniciar a carreira universitaria”

—Vostede dixo nunha entrevista respecto da IA que “hai uns vencedores e uns perdedores” e que “calquera tecnoloxía amplifica desigualdades”. Se os vencedores son os propietarios, cales son as desigualdades que produce nos que non teñen acceso nin coñecemento desta tecnoloxía?

—Está nas nosas mans se non anular completamente o feito de que existan perdedores, tratar de minimizalo ao máximo. As tecnoloxías canto máis poderosas son e canta máis capacidade de transformación teñen do noso mundo e das nosas vidas, espontaneamente máis desigualdades poden producir. É dicir, que se ninguén se preocupa de que non provoquen ou non incrementen esas desigualdades, vai ocorrer. 

A Intelixencia Artificial é unha das tecnoloxías máis transformadoras que desenvolvemos. De feito sempre digo que despois da linguaxe natural, probablemente a IA está chamada a ser a máis disruptiva de cantas tecnoloxías hai. Entón, que pode ocorrer para mal?

Pode ocorrer que se desenvolvan novos dispositivos, servizos ou aplicacións no mundo da educación que permitan unha educación personalizada, apoiada na IA, pero pode ser que non todo o mundo poida acceder a ela. Se estas tecnoloxías non se fan alcanzables para o conxunto da poboación, haberá quen as poida pagar e quen non. Tamén pode ocorrer que desenvolvamos novos dispositivos, aplicacións, métodos de diagnóstico ou deseño de fármacos baseados na IA, pero, de novo, pode ocorrer que algúns teñan acceso a todo iso, porque poden pagalo, e outros non. 

Hai unha cousa que preocupa e debería preocupar máis aos gobernos que é o que se chama desemprego tecnolóxico. A IA está acelerando a automatización do traballo e cada vez hai máis robots e software que fan parte do traballo que antes facían as persoas. Iso pode acabar producindo un desemprego moi grande de moitas persoas que non teñan ademais capacidade de acceder a outros postos de traballo. Se os gobernos non se preocupan diso, vai haber moitos perdedores que son a xente que vai quedar separada do mercado laboral e de calquera opción de atopar un traballo e, polo tanto, de ter unha vida digna. 

Todo isto está nas nosas mans, pero pode ocorrer, polo que me preocupa que unha vez máis e de forma máis notable, haxa vencedores, que son os de sempre, os que teñen o capital, os que teñen a capacidade de comprar e de comercializar e de desenvolver estas tecnoloxías e de aplicalas, e o resto. No resto estamos case todos.

—Nesa mesma entrevista dixo que “non hai fundamento para alarmar de riscos existenciais para a humanidade derivados da IA”. De que  maneira quere dicir iso que non temos por que preocuparnos, sobre todo, do que poden descubrir de nós e da nosa intimidade?

—Denomínase un risco existencíal asociado á IA ou a outro tipo de tecnoloxías cando está en risco a nosa propía vida ou está en risco que as máquinas intelixentes poidan someternos, poidan, en definitiva, acabar controlándonos. Cando eu digo que non estamos en risco existencíal refírome a que a IA que hoxe temos é absolutamente dependente de nós, no sentido de que non ten autonomía propia. Non pode decidir que facer se non é a través dun deseño e dunha especificación humana. Non ten consciencía, non ten obxectivos propios, non pode de pronto un software de IA tomar o control do mundo porque decide que así vai ser máis poderoso. Iso nin pode ocorrer a día de hoxe nin pode previsiblemente ocorrer en moito tempo. Hai quen resume isto dicindo que preocuparnos hoxe por isto sería como preocuparnos hoxe pola superpoboación en Marte. Quen está preocupado por iso aquí? Ninguén, porque nin sequera as persoas chegamos a Marte; chegaron robots, pero as persoas non. Polo tanto sería un pouco ridículo obsesionarse con este problema. 

Isto é distinto doutro tipo de problemas que son tamén moi importantes asociados á IA. O tema da privacidade éo, o tema das desigualdades que antes comentaches éo, o tema do desemprego tecnolóxico éo, o tema da delegación cognitiva éo tamén; é dicir, como as máquinas cada vez son máis intelixentes e máis capaces no uso da lingua: escriben, escoitan, entenden e crean textos e outro tipo de contidos. Podería ser que vaiamos delegando as nosas capacidades cognitivas en máquinas. Aí si que teriamos un problema; sobre todo, vós, porque os que xa somos maiores xa non podemos delegar, xa que estamos moi condicionados pola nosa historía; pero vós non, xa que estades aprendendo e é moi importante que non renunciedes a saber máis pola vosa conta, a ter un pensamento crítico, a comprender ben os textos que ledes, a falar ben, a escribir ben e a relacionarvos continuamente e de modo positivo cos vosos compañeiros, coas vosas familías. Se delegades todo iso progresivamente nas máquinas, tendes un problema moi serio para o futuro e para a humanidade no seu conxunto.

“Denomínase un risco existencíal asociado á IA ou a outro tipo de tecnoloxías cando está en risco a nosa propia vida ou está en risco que as máquinas intelixentes podan someternos”

—Podería aclararnos un pouco máis sobre que a maior preocupación é a privacidade?

—Para min non é a maior preocupación. Para min a maior preocupación é a delegación cognitiva. A privacidade realmente tamén é un dos temas dos que nos temos que ocupar. En Europa, isto preocupa moito con razón e efectivamente hoxe boa parte da nosa vida é unha vida dixital. Desde que vos erguedes pola mañá ata que vos deitades, ides deixando pegadas dixitais nos móbiles. Deixádelo ao mellor cando subides ao autobús e pasades a vosa tarxeta de usuario, cando se vai a comprar cunha tarxeta de crédito. Ao mellor non estades aínda imaxinando ese mundo porque aínda tedes unha vida que non está tan dixitalizada como a que ides vivir dento de dous, tres, cinco anos e, non digamos xa, cando vos fagades maiores.

Todo iso que imos facendo cada vez máis, vai quedando recollido dixitalmente e as máquinas que o recollen despois poden facer que esa información sexa combinada, procesada, para obter unha información sobre nós, sobre a nosa vida, sobre os nosos desexos, sobre cal é a nosa intención de voto. Ao mellor non a declaramos explicitamente, pero cando interaccionades coas redes sociais, cando escribides nelas, os pequenos detalles, as sutilezas do que escribides, aínda que sexades responsables e respectuosos, ides deixando a través dos likes, a través dos vosos comentarios un retrato do que sodes, para ben e para mal. 

Incluso para ben, podedes estar declarando implicitamente unha información que non queredes que estea a disposición doutro, ou a disposición de máquinas. Despois, en función desa información intentan vendervos cousas ou intentan condicionar o voso voto ou a vosa opinión. Isto pode ser moi grave. Verdade que a ti non che gustaría que alguén estivera continuamente dicíndoche o que tes que facer, o que tes que comprar ou como tes que pensar ou a quen tes que votar cando sexas maior de dezaoito anos? Non che gustaría. Nin a ti nin a min. Non tolerariades nos vosos compañeiros unha interferencia constante e condicionante nas vosas vidas. Pois iso pode ocorrer coas máquinas, ademais, dun modo moi sutil que, ao mellor, non percibides porque pode non parecer unha interferencia real pero éo.

Isto hai que evitalo meidante leis que o impidan e a través da educación, porque como cidadáns temos que ter un comportamento crítico e, polo tanto, saber ao que nos enfrontamos e saber actuar fronte a iso.

—Como investigador e experto, cales son as principais medidas que propón para protexer a privacidade da xente que usa a IA na súa vida diaria?

—Hai múltiples. A educación, insisto, é fundamental. Nós temos que ser persoas educadas, non só por ter unha cultura ampla, non só por ter uns estudos máis ou menos especializados, senón que temos que estar educados para vivir nun mundo que cambia día a día. O mundo no que vós ides medrar non é o mundo no que eu vivín. A aula era moi parecida a esta, non tiñamos esta tecnoloxía tan fantástica para gravar e iniciativas tan interesantes coma esta, pero a aula era moi similar. A primeira calculadora que entrou no colexio onde eu estudaba tróuxoa un rapaz cuxos pais tiñan moito diñeiro. Compráronlle a calculadora en Canarias. Chegaba pola porta da aula de tecnoloxía e alucinabamos: “Unha calculadora!”. Xa sabedes o que é. Pode facer operacións básicas e pouco máis. Non había ordenadores, non había móbiles e non había reloxos intelixentes. Non había nada, porque non chegaba esa tecnoloxía, non se desenvolveu, así que, o meu mundo era moi distinto. A educación que necesitades non é a mesma que eu recibín, que, con todo, creo que foi boa e non me queixo diso.

Se os gobernos non regulan o uso destas tecnoloxíaas e non valoran a nosa privacidade e dereitos fundamentais como persoas, imos a ter un problema moi serio. Eu creo que na innovación e desenvolvemento de novas tecnoloxías non todo vale.

—Cre vostede que a IA pode poñer vidas en risco de morte?

—Seguro que pode. Se alguén, por exemplo, saca un dispositivo médico que non está suficientemente tratado, que non cumpra unha normativa rigorosa ou se fai un diagnóstico médico e se equivoca, sistematicamente está poñendo a nosa vida en risco. Non é unha esaxeración. Entenderíase se as farmacias puidesen vender medicamentos que non pasasen toda unha serie de controis rigorosos desde que foron deseñados, fabricados e se comercializaron? A información que identifica un medicamento ou os posibles efectos secundarios ou como se poden consumir, quen os prescribe? Sabedes que a maioría dos medicamentos non se poden comprar na farmacia libremente, senón que ten que haber unha prescrición médica. Todo iso non se fai caprichosamente, senón que trata de protexer os nosos dereitos e darnos garantías; as maiores posibles. Coa IA ten que ser igual, coa enerxía nuclear ten que ser igual, con todo aquilo que teña a posibilidade de incidir na vida das persoas, temos que ter moi claro como se regula e cumprir coa lei.

—Cales cre vostede que deberían ser os límites do que poida saber a IA da xente e das súas vidas e por que? 

—Moitas das cautelas ou limitacións que lle temos que poñer á IA xa están establecidas. Non son exclusivas desa tecnoloxía. O que pasa é que a IA é unha ferramenta moito máis poderosa, tanto para facer o ben como tamén para facer o mal. Se eu, por exemplo, che roubara os datos da túa carteira, sería un delito ou non? Se o fago fisicamente, si; se o fago a través dunha IA por un programa intelixente, faise pasar por ti moi habilmente e é posible quitarlle os datos da túa conta bancaria. Segue sendo o mesmo delito, o que pasa é que está feito por unha tecnoloxía que é capaz de substituírte moi facilmente. Por outra banda, todos vistes as noticias falsas que se poden crear e como se pode substituír a voz. É dicir, cuns segundos da miña voz un programa de IA pode replicala exactamente para facerme dicir cousas que non dixen; e iso con malas intencións pode facer moito dano. Pero iso non significa que sexa algo novo, senón que son delitos ou situacions que xa tiñamos pero que era preciso impedir ou regular. Agora, non obstante, hai novas ferramentas máis potentes e mellores para cometer eses delitos.