Os desafios morais da IA para tomada de decisão

Por: Henrique Farias Pereira da Silva

hsilva.fps@gmail.com
13/02/2021 19:37:43

"Os avanços da inteligência artificial(IA) trazem cada vez mais benefícios para a sociedade, na agilidade de processos, recomendações por interesse, organização de imagens no celular, etc. Uma das principais habilidades da IA é a tomada de decisões. O principal objetivo da tomada de decisões é automatizar processos para que a máquina possa tomar decisões justas e coerentes com o comportamento humano sem necessidade de interferência do mesmo. Esse conceito simples abre espaço para diversos debates válidos sobre ética e moralidade envolvendo possíveis decisões tomadas pelas máquinas. Esse tema é bastante interessante e já foi abordado em diversas formas diferentes de artes. Um exemplo bastante interessante de debate sobre esse tema foi apresentado na terceira temporada da série de televisão Westworld. Na série, existe um supercomputador chamado Rehoboam que é capaz de traçar planos para atingir um determinado objetivo. O criador dessa máquina a utiliza para traçar um plano que garanta a sobrevivência da humanidade a longo prazo, porém a máquina percebe que para a humanidade sobreviver o caminho, as pessoas que são consideradas os “pontos fora da curva” devem ser removidas da sociedade, pois não há caminho para atingir o objetivo final com a participação dessas pessoas. O criador da máquina utiliza seu poder e influência no mundo para garantir que o plano da máquina seja executado com sucesso, removendo as pessoas necessárias e garantindo que as pessoas que fazem parte do plano cumpram seu papel, sem muita liberdade ou possibilidade de ascensão. Um objetivo nobre, com um caminho de moralidade certamente questionável.

No mundo real, alguns temas de desenvolvimento da IA são tabu até mesmo entre pesquisadores, pois sabem as possíveis aplicações negativas que o desenvolvimento de determinadas tecnologias podem trazer. Por exemplo, enquanto o avanço de métodos de reconhecimento facial podem trazer benefícios como segurança com autenticação biométrica, o reconhecimento facial também pode ser utilizado para criar uma rede governamental de monitoramento da população, para ter o registro em vídeo de onde o o que cada pessoa de um país fez em cada lugar que foi. Outro tema que inicialmente parece simples mas que traz uma série de questionamentos são os carros autônomos. O ato de conduzir um veículo é extremamente complexo e difícil. Muitas pessoas têm dificuldade com condução e ter todo o processo de condução repassado dos seres humanos para máquinas, de forma segura e eficaz é uma meta de várias empresas. Além da praticidade que carros com condução autônoma trariam, já que dirigir é uma das partes mais estressantes do cotidiano, traria potencialmente muito mais segurança em um cenário onde a maioria dos carros são de direção autônoma com comunicação entre os veículos próximos. Estar em um veículo em movimento hoje, é estar em risco, e mesmo num cenário ideal, falhas podem acontecer. A grande questão é qual decisão o sistema de controle do carro autônomo deve tomar em caso de falha, deve priorizar proteger as pessoas no veículo, ou proteger as pessoas fora do veículo, que podem até nem ter relação com o sistema. Em caso de acidentes com fatalidade, quem deve ser o culpado, as pessoas no veículo? Os desenvolvedores do sistema? O carro? Esses são alguns dos dilemas que dificultam a autorização da circulação de carros autônomos em muitos países.

Com visto, a IA pode trazer grandes benefícios para a sociedade, porém o estado imaturo de algumas tecnologias e questões éticas sobre as decisões tomadas por estes sistemas dificultam a aceitação geral desses sistemas em algumas aplicações mais delicadas, como a direção. O necessário para que essas soluções de IA sejam mais aceitas na sociedade são o amadurecimento e demonstrações de segurança dessas tecnologias, além de demonstrar a praticidade que tais evoluções podem trazer.

"

Referências

• Sergio Trentini, O dilema ético dos carros autônomos: a decisão de quem sofre acidentes é das máquinas, the city fix brasil, disponível em: http://www.thecityfixbrasil.org/2017/04/19/o-dilema-etico-dos-carros-autonomos-a-decisao-de-quem-sofre-acidentes-e-das-maquinas/

• rafaella melani, Tecnologia de reconhecimento facial: conheça suas vantagens surpreendentes, unico, Disponível em: https://unico.io/unicocheck/blog/tecnologia-de-reconhecimento-facial/

• Decision-making software, Wikipedia, disponível em: https://en.wikipedia.org/wiki/Decision-making_software