A problemática da Inteligência Artificial

Por: Saulo Lucas Gomes Ferreira

saulolucas.gm@gmail.com
11/02/2021 19:12:49

"Ainda que esteja em constante evolução por décadas e mais décadas, a Inteligência Artificial (IA) vem se tornando realidade nos nossos cotidianos apenas nos últimos anos, quando colocamos no bolso computadores potentes e nos conectamos globalmente à internet. Os avanços da conectividade e da computação móvel permitiu que televisores, telefones, geladeiras e caixas de som se conectassem à rede e se comunicassem entre si. Essa orquestra digital coordenada por algoritmos de IA é presente onde menos esperamos, nos servindo das mais diversas maneiras. Entretanto, o medo da tecnologia inteligente, diferente da democratização da IA, não é tão novo. Diversos filmes, séries e livros abordam mundos onde a revolta das máquinas por vezes leva a raça humana à extinção. Por essas e outras, se discute bastante o conceito ético por trás dos ""computadores pensantes"", e não exatamente sobre uma revolta com fogo, mas sim sobre os dilemas e problemas que enfrentamos com eles no nosso dia-a-dia. Afinal, como podemos culpar algo que não pensa?

A Inteligência Artificial vem sendo usada em todo lugar: recomendação de filmes e músicas, carros autônomos, reconhecimento facial, assistentes virtuais e muitos outros. Todavia, há quem questione como os nossos dados são utilizados para fazer a roda da aprendizagem de máquina girar, treinando e aprimorando os algoritmos inteligentes que são utilizados nestes sistemas. Em sistemas de reconhecimento facial, vários países do mundo já esbarram no dilema de invasão de privacidade, ao dar ao Estado ou grandes empresas, o poder de rastrear o cidadão pelas ruas e estabelecimentos. Neste ponto, a China parece estar bem a frente no quesito de invasão de privacidade com o uso da tecnologia, quando o governo utiliza IA para registrar perfis faciais e controlar minorias, como relata a reportagem da Folha de São Paulo.

Esta não é a primeira nem a única questão sobre IA e racismo que se debate hoje em dia. Muito se fala sobre como a falta de pluralidade nos dados que são utilizados nos treinos dos algoritmos podem propagar preconceitos enrustidos na sociedade. A pesquisadora Joy Buolamwini, do Instituto de Tecnologia de Massachusetts, relata que os sistemas de reconhecimentos faciais desenvolvidos no Instituto de Tecnologia da Geórgia não reconhecia o seu rosto, e nem de outras pessoas de pele negra. Isto se deve porque a média das faces dadas ao algoritmo para realizar o treinamento era de pessoas de pele clara, em sua maioria. Não percebemos muitos dos nossos preconceitos e podemos, muitas vezes involuntariamente, prosperá-los em nossas criações, como na IA. No Brasil, mais de 60% da população carcerária é de negros e pardos, segundo dados do Infopen (sistema de informações do sistema penitenciário do Ministério da Justiça); neste cenário, uma IA que treinasse sobre uma amostra representativa da população carcerária brasileira, poderia ter um viés extremamente racista, correlacionando com mais facilidade as pessoas negras ao crime.

Um outro ponto discutido é a culpa sobre falhas em decisões de sistemas inteligentes. Tomando o clássico exemplo do carro autônomo, que no acontecimento onde uma criança se colocar de repente na frente do veículo em movimento e a IA ter de escolher entre salvar a vida da criança ou desviar e atropelar uma idosa que está caminhando na calçada. Estes exemplos são colocados em pauta em eventuais discussões sobre a ética de uma Inteligência Artificial, abordando também quem culpar em casos deste tipo, colocando em pauta se o desenvolvedor pode prever com precisão os resultados que a sua IA vai retornar.

Contextualizando desta forma, não é fácil olharmos para a evolução da Inteligência Artificial com tanto otimismo. Mas são notáveis os avanços que se tem feito com a computação inteligente em diversas áreas do conhecimento, tornando a tecnologia cada vez mais presente nas nossas vidas. De fato, há muitas discussões em aberto sobre o que o futuro reserva e o que o presente está ensinando, porém, como quase tudo na vida, há quem use para o mal os maiores avanços que já tivemos como humanidade. Entretanto, na grande maioria das vezes, os benefícios se sobressaem. Para isso, é preciso muito estudo e debate sobre como tem de se lidar com o novo que vai se tornando parte do dia-a-dia, e esculpindo o que melhor agrega à humanidade."

Referências

• MOZUR, Paulo. Como a China usa a inteligência artificial para rastrear minoria étnica. Folha de São Paulo, 16 de abr. de 2019. Disponível em: <[https://www1.folha.uol.com.br/mundo/2019/04/como-a-china-usa-a-inteligencia-artificial-para-rastrear-minoria-etnica.shtml](https://www1.folha.uol.com.br/mundo/2019/04/como-a-china-usa-a-inteligencia-artificial-para-rastrear-minoria-etnica.shtml)>. Acesso em: 11 de fev. de 2021.

• CALVI, Pedro. Sistema carcerário brasileiro: negros e pobres na prisão. Câmara dos Deputados, 6 de ago. de 2018. Disponível em: <https://www2.camara.leg.br/atividade-legislativa/comissoes/comissoes-permanentes/cdhm/noticias/sistema-carcerario-brasileiro-negros-e-pobres-na-prisao>. Acesso em: 11 de fev. de 2021.

• RODRIGUES, Lia. A Inteligência Artificial está fadada a ser racista e sexista? UX Collective Brasil, 20 de jul. de 2020. Disponível em: <https://brasil.uxdesign.cc/a-inteligencia-artificial-esta-fadada-a-ser-racista-e-sexista-f32d6cefa9dc>. Acesso em: 11 de fev. de 2021.