Becs: Salve Mamutinhes! Antes de tudo, peço que você selecione o captcha que confirma que você não é um robô! Aqui é a Rebeca e hoije estamos com duas convidadas mais que especiais, nossas queridas Mila e Vivi, do canal Peixe Babel!

PB: (apresentação da Mila e Vivi)

Becs: Para você que não conhece essas duas e está perdendo tudo que essas deusas da tecnologia estão oferecendo pro mundo, vou explicar brevemente o currículo delas:

Mila: Mestre em Ciência da Computação pela Universidade Federal de Minas Gerais. Pesquisa na área de visão computacional e aprendizado de máquina, voltado para compreensão de cenas. Bacharel em Sistemas de Informação pela Universidade do Estado da Bahia, com período sanduíche na University of Alberta. Durante a graduação realizou pesquisa com diferentes temas, dentre eles inteligência sensorial, comunicação e controle de agentes humanoides para uma aplicação de futebol de robôs autônomos simulados em ambiente 3D. O período sanduíche contemplou o trabalho com reconhecimento de padrões em sinais de áudio aplicados à classificação de espécies de morcegos da Costa Rica.

Vivi: Professora do Colégio Técnico da Universidade Federal de Minas Gerais (COLTEC/UFMG). É Doutora em Ciência da Computação pela Universidade Federal de Minas Gerais (2018). Possui mestrado em Modelagem Computacional pela Universidade Federal de Juiz de Fora (2011) e mestrado em Master 2 SYSTÈMES INTELLIGENTS ET COMMUNICANTS - ENSEA/Université de Cergy-Pontoise (2010). Possui graduação em Ciência da Computação pela Universidade Federal de Juiz de Fora (2008). Tem experiência na área de Ciência da Computação, com ênfase em Processamento de Imagens e Visão Computacional. Suas áreas de interesse incluem visão computacional, processamento de imagens, reconhecimento de padrões, aprendizado de máquina e ferramentas de acessibilidade.

Becs: Bem pessoal, pra quem não sabe o Mamutes na Ciência é um projeto de extensão universitária e temos alunos participantes, bolsistas e voluntários que participam desse projeto! E acabamos de passar por um novo processo seletivo e temos rostinhos novos aqui na nossa manada, e já começando com os dois pés na porta, nossa produção 2.0 elaborou algumas perguntinhas pras meninas do Peixe Babel responderem sobre essa tecnologia que causa ao mesmo tempo muito encanto e muito espanto no coração de quase todo mundo!

1. Como surgiu o interesse por tecnologia? Por que vocês decidiram cursar essas áreas?

Vivi: Eu era completamente outra área, eu sempre gostei, achava muito legal, na minha época não era tão fácil ter computador em casa né, a gente não tinha essas coisas mas eu ficava sempre muito fascinada com o poder disso, mas eu só fui realmente olhar para a área de tecnologia como possível profissão quando já tava no terceiro ano, quando tava pensando em cursos para fazer na faculdade. Eu curti a área, mas aquela coisa né, porque você é adolescente não sabe bem o que tá fazendo sua vida, então eu tinha um tio que fazia computação e eu comecei a olhar aquilo eu falei ‘ô gente tem como fazer uns negócio muito louco aqui’ aí eu fui na louca, fui na ciência da computação na louca e acabei me encontrando na área.

Mila: Olha, eu acho que para mim foi mais pelas oportunidades que se abriram porque eu fiz ensino médio no Sesi e lá tem muita muita atividade além da sala de aula, então acho que uma das primeiras atividades que eu fiz foi um laboratório de robótica lá e eu fiz o técnico em eletrotécnica que eles oferecem além do ensino médio normal. Quando eu fui fazer o vestibular, eu coloquei em primeiro lugar engenharia elétrica e em segundo eu coloquei a área de sistemas de informação por causa do trabalho que eu tinha feito com robótica e tal. Acabou que eu não passei na minha primeira opção - aliás é uma história super triste o porquê eu não passei - e acabei passando para segunda colocação que foi sistema de informação, aí eu fui até meio ‘será que eu vou gostar? o que será que faz essa profissão?’ não sabia direito, mas acabei me apaixonando quando eu entrei no laboratório de robótica, foi logo no segundo período.

Becs: Eu fiz uma escola bem pobrinha então nunca vi esse rolê na escola mas agora cada vez mais a escola tá apresentando esses conteúdos eu acho que vai ajudar a abrir a cabeça de muita gente para o quão legal a área é, né.

Mila: Eu dei sorte porque eu também fazia escola de bairro, sabe? Escola bem baratinha que a minha mãe conseguia apagar e aí quando minhas amigas foram fazer o processo seletivo do Sesi elas me chamaram para ir também, aí eu falei ‘ah vamos lá’ eu nem acreditava que eu ia passar, escola boa e tal, aí acabou que eu passei e era gratuito na época que eu entrei.

Vivi: Nossa, isso é legal! Eu lembro que na minha escola - eu estudava em escola pública também, estudei a vida inteira - acho que eu tava já no primeiro para o segundo ano que colocaram uma tal de informática mas era para mexer no Word, sabe?

2. Como vocês entraram para a DC? Como surgiu o Canal Peixe Babel? Por que Peixe Babel? 

Mila: Na verdade, ele ia se chamar Laranja Mecânica porque meu sobrenome é Laranjeira e eu trabalhava com robótica, logo Laranja Mecânica, mas eu fiquei com medo da galera achar que eu era da engenharia e não sei se você sabe mas tem uma rixa terrível entre computação e engenharia. Eu escrevi o nome, eu cheguei cheguei a colocar o nome do canal Laranja Mecânica e criei uma artezinha e tal e aí quando eu olhei falei ‘nossa vão achar que eu sou engenheira’. Aí eu fui procurar outro nome e na época eu estava lendo O Guia do Mochileiro das Galáxias e eu conheci o Peixe Babel que é uma espécie fictícia né que você põe no ouvido e ele traduz idiomas para você, então eu pensei ‘pô, tô criando aqui no canal que é para traduzir conhecimento, vou usar aqui a licença poética’, mas basicamente foi isso, foi eu e os meus 20, 21 aninhos de idade querendo falar sobre o meu trabalho com robótica e fora do laboratório, eu não conhecia ninguém se interessava, então eu resolvi que eu ia abrir um canal no YouTube para falar disso, para encontrar outras pessoas que gostassem de falar disso e criar uma comunidade para conversar mesmo.

Becs: E você começou o canal e aí a Vivi veio depois? Tipo, abraçou a ideia.

Vivi: A Mila já existia, já estava lá, era uma pessoa famosa na divulgação científica. Eu conheci o canal um pouquinho depois, em 2016, porque eu tava como coordenadora da iniciação científica Júnior lá na escola e nesse ano estava planejando um evento, seminário de iniciação científica, e o tema era divulgação Científica, comunicação científica e tal. Eu assisti um vídeo da Mila e descobri que ela estava na UFMG, falei ‘poxa, será  que essa pessoa tão famosa, essa youtuber famosa, me daria a honra de palestrar aqui no coltec?’. A gente já chega com aquilo de ‘não tenho dinheiro não mas posso pagar um almoço, pago um pão de queijo’ aí ela foi super de boa, foi lá na escola e acabou que a gente foi se tornando amiga, começamos a andar junto e tal e eu não mexia divulgação científica mas eu gostava de fazer algumas coisas para os meus alunos. Acabou que em 2018 a gente juntou várias coisas, a gente juntou as escovas e também resolvemos juntar as coisas que eu fazia, que era basicamente dar algumas aulas online e resolvemos entrar nessa empreitada juntas.

Mila: E foi uma excelente adição, porque a Vivi acaba me completando em muitos aspectos, coisas que ela gosta de falar e isso acaba ficando muito massa no canal, porque que eu sou muito enviesada para as coisas que eu tô trabalhando naquele momento como a Vivi ficar mais imersa em várias disciplinas que ela dá aula, ela acaba trazendo vários temas que eu nunca pensaria de trazer.

Becs: Nossa, é muito assim, quando você tá focado num negócio você só consegue pensar nisso. Eu e a Gabi também estamos na mesma vibe, eu sou muito mais com role experimental, ela muito mais para física, para matemática, para coisa teórica e a gente também acaba se complementando desse jeito.

3. Nos últimos tempos a internet comentou muito sobre os algoritmos racistas e, certamente eles refletem a mentalidade de uma parcela de nossa sociedade. Sobre esse cenário de programadories e pessoas que trabalham na área da computação e tecnologia, vocês vêem diversidade? Como é ser mulher nesse meio predominantemente associado aos homens?

Mila: Eu, como uma pessoa que veio do Nordeste para Belo Horizonte, vim de Salvador, que é a cidade mais negra do Brasil, achava que só tinha o viés de gênero mesmo, que só tem homem na área, lá em Salvador também só tem homem. Quando eu vim para cá eu percebi que é bem no padrão do status quo. A área da Computação foi muito elitizada há décadas, né, porque se a gente pegar historicamente era uma área feminina, as computadoras eram mulheres, e aí você pega e elitiza essa área - a computação dominou tudo com os computadores pessoais - e de repente virou profissão de homem e  a gente vê isso até hoje nos cursos de graduação.

Quando eu vim fazer o mestrado aqui em BH, eu lembro que quase não tinha mulher, tinha eu e mais duas, e eu fiz amizade com um cara que falavar “Olha ao redor, eu sou o único negro daqui”. Então, é bem bem escrachado, bem difícil você ter qualquer viés de diversidade dentro da área e isso obviamente se reflete nos tipos de pesquisa que são feitas, os cuidados que  são tomados e se reflete até em você querer tentar colocar uma visão diferente dentro do laboratório, dentro da cultura do laboratório. Agora eu sou muito feliz de estar em um laboratório que se importa um pouco mais com isso, dá espaço, dá voz para a diversidade. Eu acho que a gente vai aprendendo a escolher os lugares melhor, sabe? Para a gente não se sujeitar a algumas coisas.

Vivi: Eu acho que é bem isso mesmo! Depois que a gente começa a ler mais sobre o assunto, entender mais sobre o assunto, a gente começa a olhar melhor ao nosso redor. Quando eu estava na faculdade, eu não pensava muito nisso. A gente sentia alguma coisa: você não era tratada de maneira que você não gostaria, sofria assédio, mas é aquela coisa né? normal. Inclusive, a gente muito facilmente estava provavelmente replicando outras coisas, estávamos falando frases machistas e etc. 

Depois que você começa a ver, que você começa a pensar sobre representatividade que você presta atenção ao seu redor, e esse viés racial aí é Minas, porque eu nem sei... da minha turma de doutorado aqui em BH, professor não tinha, não tem nenhuma pessoa preta no departamento. Na minha faculdade - a gente estava conversando sobre isso outro dia - eu estava tentando lembrar se eu tinha alguém. Diversidade a gente tá tentando, mas tá um pouquinho longe ainda.

Mila: Mas eu quero dizer que está melhorando bem porque esse ano a UFMG introduziu na grade da graduação a disciplina de ética. Eu fiquei exalando alegria porque lá em Salvador a gente tem disciplina de filosofia, sociologia, ética, então eu fiz uma graduação que foi regada à preocupação social daquilo que se está fazendo. 

Eu fiquei muito chocada quando cheguei aqui em BH porque a galera é muito focada naquela produtividade padrão e se você faz um negócio pouquinho diferente com uma preocupação um pouco diferente que não seja número e paper,  quero, sei lá, fazer alguma coisa na comunidade, aqui eles vão falar: “Por que você tá perdendo tempo com isso?” entendeu? Então é outra realidade.

Becs: Assim como falam que a gente faz divulgação científica e isso é perda de tempo. O que a Vivi falou era o que eu ia comentar. A graduação eu fiz num lugar ainda mais elitista, USP São Paulo. Colegas negros, poucos, colegas de escola pública também, professores negros menos ainda, professoras até que podia melhorar, e não tem essas discussões de diversidade e ainda não tem! Fizeram um coletivo para falar de diversidade de gênero e sexual agora esse ano, ou ano passado, uma coisa assim, no Instituto de Física e no IAG, Instituto de Astronomia, Geofísica e Ciências Atmosféricas. Nunca falei sobre isso no meu laboratório! E a gente sabe muito bem como a gente é tratada no resto do curso e na graduação, na pós... e vai afunilando.

Mila: Eu costumo dizer, até pro pessoal que tá ouvindo aí agora, para prestar atenção nas brincadeiras que o pessoal costuma fazer, de não ser muito bem brincadeira, mas que refletem esse pensamento. No departamento de computação aqui, a galera costuma brincar que “se o teto cair mas a minha máquina tá segura, eu continuo trabalhando”.

Becs: A academia ainda é muito cheia do “quem trabalha mais, quem chora mais que vai no laboratório domingo''. Pra que isso? Eu já me gabei muito mas no meu doutorado tive que tomar uma decisão mais “eu não vou me matar”, mas depois de muita porrada na cara que a gente aperta.

Vivi: Isso que eu gostaria que vocês que estão ouvindo aí e ainda são jovens na graduação ou antes dela para já mudar essa mentalidade porque eu fui bem igual à becs assim. Eu precisei chegar no fundo do poço para ver que aquilo não fazia bem e eu fui escorraçada, sabe? porque eu era fraca, era um “nossa, você não aguenta” “aí,o que que tem você tomar antidepressivo? Nossa, é balinha”. Poxa, já tava lá com três caixas de remédio, incluindo tarja preta, e a pessoa falando que eu era fraca. Não seja a pessoa que fala isso e também não seja a pessoa que aguenta ouvir isso.

Eu acho que tá tudo interligado, que a falta de diversidade também fala sobre isso, de você não ter pessoas diversas e neuro diversas, e aí que a gente tem outra celeuma para falar. Cada pessoa é uma pessoa, trabalha de um jeito, tem o seu tempo, então isso também conta.

Mila: Uma coisa: você não precisa ser igual a todo mundo, entendeu? Essa é a grande questão, porque eu sempre fui uma pessoa que gosta de fazer várias coisas ao mesmo tempo, eu levo a comunicação, eu sou uma pessoa que gosta de ter hobby, eu adoro fazer crochê, vendia bijouteria na faculdade, eu gosto de estar sempre fazendo outras coisas e eu quero que o trabalho seja uma parte da minha vida e  academia meio que não aceita isso. Você  tem que dedicar a vida inteira para ela e isso não casou com meu estilo de vida e não tá certo virarem para mim falar que eu não sirvo para ser cientista, eu não sirvo para seguir esse padrão bitolado alienado. Eu vou ser uma cientista que trabalha no horário de trabalho e pronto.

4. Um tópico que entrou em bastante discussão de uns tempos para cá, com o avanço de máquinas que possuem um “pensamento autônomo", foi o caso da Inteligência Artificial. Com isso, diversas pessoas ainda confundem os termos IA, Machine Learning e Deep Learning. Será que vocês poderiam explicar melhor a diferença entre eles?

Mila: Eu vou deixar uma referência de cara: se vocês procurarem no Google “mitos e verdades sobre o Deep Learning”, vocês vão achar algum lugar que a gente deu essa palestra, em que a gente dá uma uma desconfundida nesses conceitos e dá uns exemplos, que são bem bacanas. De forma geral, Inteligência Artificial é tudo, é a mãe de todas as áreas, então inteligência artificial é qualquer coisa que tem comportamento inteligente, qualquer coisa feita por humanos. Você desce um pouquinho para o machine learning, que é tipo de inteligência que aprende com dados, basicamente são modelagens matemáticas a partir de dados e, desce mais um passinho para o deep learning, que é uma forma muito específica de fazer machine learning. O deep learning um grãozinho de areia no universo que é inteligência artificial, mas como ele faz coisas muito impressionantes, visualmente impactantes, como o próprio deep fake, ele acaba virando a estrela das manchetes por aí.

Vivi: A gente tem um vídeo sobre data science mas a gente também comenta um pouquinho do que é Machine Learning dentro desse mundo da IA e como é que se separa essas outras coisas, também é legal para diferenciar essas grandes áreas.

5. E falando um pouco mais sobre IA, e mais especificamente sobre o famoso Teste de Turing. Será que vocês poderiam nos explicar um pouquinho de como ele funciona e também se, na opinião de vocês, alguma IA já conseguiu ou vai conseguir passar no teste? 

Vivi: O teste de turing já não é mais um padrão, já foi, já passou, mas a ideia original do teste de turing era: se uma máquina consegue enganar alguém e se passar por ser humano, vamos dizer assim, ela passaria no teste de turing.

Mila: No texto escrito, não precisaria enganar de aparência.

Vivi: No chat passaria e, com a evolução dos modelos de linguagem, passou. A gente já consegue ter chatbots que conversam facilmente.

Becs: A Magalu passa no teste de turing? 

Mila: Eu acho que a Magalu é um pouco mais automática, ela não é tão inteligente assim. É até interessante essa pergunta, porque esses chatbots de empresas não podem ser autônomos, não podem ter tanta liberdade, para não comprometer a empresa. Então, esses (bots) de empresa são geralmente scripts profundamente avaliados para não falar nenhuma bobagem. 

Teve um banco que fez um bot, um chatbot que começou a responder sobre ataques, porque como ela é uma IA mulher ela sofria ataques, então eles mesmos implementaram para ela responder a esses ataques, defender algumas causas e tal e aí meio que apresentou os principais problemas de todos os modelos de linguagem que existem hoje: você não pode falar nada que seja em contexto queer, LGBTQIA+ que é considerado nocivo e danoso. Se você falasse qualquer coisa e no meio lá tem a palavra gay, independente do que você falou, ela te dava uma bronca e falava para você não falar esse tipo de coisa que é feio. Isso é um problema muito clássico, que tá todo mundo falando desses modelos de linguagens, porque eles aprendem com a internet, e você quer um lugar mais tóxico do que a Internet? não existe! Os principais modelos são treinados com dados, por exemplo, de reddit.

Fizeram uma avaliação profunda de alguns modelos desses, de como que a maioria dos usuários dessas redes são homens, são de classe média para classe alta, então você tá pegando a perspectiva da mesma galera de sempre, que é a galera do status quo, e fazendo modelos aprenderem com essas pessoas. Igual a gente tava falando, se você dá liberdade para um modelo que aprendeu com um homem branco de classe média, esse modelo vai falar como um homem branco de classe média.

Inclusive, a gente fez um vídeo recentemente, das drag queens, sobre como as IAs não sabem detectar o que é discurso tóxico, porque qualquer twitter de drag queen, independente do que ela fale, é considerado tóxico pelas IAs. Eu fiz um vídeo sobre isso e o meu vídeo foi considerado inapropriado pela plataforma. Foi a coisa mais irônica do universo, eu tive que pedir revisão manual e um ser humano aprovou o vídeo para ser publicado.

Vivi: E ainda assim ele tem um alcance muito mais baixo do que qualquer outro vídeo nosso. 

Becs: Qualquer coisa que você coloque que tenha a palavras-chave que tem a ver com LGBT no título e alguma hashtag, qualquer coisa, ele já tira o alcance.

6. Sobre o reconhecimento facial, vocês até já fizeram um vídeo sobre no seu canal, no quesito de vigilância pública, que usaria essa tecnologia para garantir a segurança da população. Até que ponto realmente isso protege, ou na verdade acaba gerando mais problemas do que ajuda? Há notícias de que governos estavam usando RF para cometer crimes e, por exemplo, misoginia. Assim, entramos na discussão se deveria ser proibido, igual já está acontecendo em diversos lugares. Quais motivos vocês julgam os principais para banir e, caso fosse ser utilizado, quais cuidados vocês acham que se deve tomar com essa tecnologia? 

Mila: Tem regiões que já proibiram, inclusive, mas em nenhum país ainda, só regiões específicas, os Estados Unidos e o Reino Unido dão essa  independência aos estados, então algumas regiões já baniram mas não tem nenhum banimento nacional no mundo ainda.

Becs: Tá certo! Porque acho que estava tendo protesto na China e o pessoal lá anda de máscara, uma máscara diferentona, acho também que para não ter reconhecimento facial da pessoa na manifestação.

Vivi: Foi em Hong Kong. Lá teve um monte de protesto quebrando câmera.

Mila: Na verdade a China tá passando por um período de introduzir essas tecnologias, eles estão criando um cadastro online da população, criando uma pontuação social, que é a coisa mais Black Mirror. Isso fica público, você consegue ver a pontuação social de outra pessoa e isso é absurdo.

Falando de forma geral desses sistemas de reconhecimento facial, para mim a coisa mais interessante que eu descobri fazendo pesquisa foi que tem um estudo no Brasil de qual foi o efeito dos estados que já aplicaram essa tecnologia. Você tem uma taxa de acerto que é baixíssima…

Becs: A da IBM, a taxa de acerto de uma mulher negra é de  34%, uma coisa assim, entre 30 e poucos por cento, de uma das IAs da IBM, não sei se era essa que implementaram.

Mila: O pior não é só que ele erra mais com a população negra, como a polícia usa de justificativa para violência Então você pega um modelo que errou e falou que fulaninho é um suposto criminoso, se fulaninho é preto da favela fulaninho vai preso  sem nem ser questionado. Aconteceu isso esse mês agora com um cientista de dados que fez mestrado no MIT, qualquer coisa assim, era um cara que, vamos dizer, tem um nível social mais alto, mas negro né, a polícia levou e prendeu ele sem nem pedir a identidade dele. O sistema detectou de uma foto antiga que ele parecia um criminoso, então ele foi preso, teve passagem na polícia. Então, não só esses modelos erram mais com populações que já são vulneráveis, quanto você adiciona o erro humano de aprender sem fazer pergunta se a pessoa faz parte de uma população vulnerável.

Vivi: Tem um estudo da ProPublica (https://www.propublica.org) que fala sobre o Compas (https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm), que é um é um desses programas… cálculo de residência criminal, acho que é assim mesmo que chama, e é usado nos Estados Unidos e eles fizeram uma análise excelente sobre como ele era completamente enviesado, de coisas absurdas, de dados absurdos, de índice de incidência da pessoa ser por volta de 80% porque era negra, enquanto de um branco era 17% e o que acontecia era exatamente o contrário.É muito bizarro e ainda tem gente que tem um discurso de “vocês são contra a tecnologia, evoluir é assim mesmo a tecnologia começa errando” mas em geral essas pessoas são um bando de homem branco.

Becs: É muito fácil do alto do seu privilégio falar que não tem problema nenhum.

Mila: Você pega esse modelo de reincidência criminal, por exemplo, e você entende por que que as pessoas lá no Estados Unidos estão defendendo tanto que os algoritmos tenham que passar por um comitê de ética antes de serem usados na população, porque os valores que eles usavam para criar um modelo de residência era: o CEP da pessoa, quanto que ela recebia, onde que a família dela morava. O relatório mostrou que todas as variáveis usadas eram um proxy de nível social, então se você é pobre é mais provável de ser reincidente criminal. 

Tinha uma pessoa que estava tentando conseguir um outro emprego, colocar a vida nos eixos, mas ela tava com o alto índice de reincidência a crimes violento e ninguém quis contratar, mas era só porque ela era uma pessoa negra, de um bairro de pessoas negras, que normalmente são pobres naquela região que ela morava. Ela não conseguiu botar a vida dela para frente porque ela estava marcada com alto índice de reincidência violenta.

Becs: Vai ser um sistema de castas digital.

Vivi: Você vai lendo e pensa: “gente, como é que vocês tem coragem de achar isso pode ser implementado e que tá tudo bem? Tem tanto problema para ser resolvido antes”.

Becs: E o comitê de ética vai ser por quem? Vai ser várias pessoas brancas que vão dar o ok? Porque nos Estados Unidos é assim,  o caso da Breonna Taylor, o cara entrou na casa dela, atirou nela e depois resolveram refazer um caso aí que o cara estava procurando na verdade outra pessoa. Ele entrou na casa dessa mulher e atirou nela assim de graça e agora vão usar o computador ainda para justificar essa violência.

Mila: Esse é o problema, enquanto a gente achar que os algoritmos são imparciais, porque o papel dos algoritmos é auxiliar seres humanos, e aí beleza, você vai ter um algoritmo que erra às vezes e você tem seres humanos sensatos que estão ali para identificar esses erros, mas você não pode jogar um algoritmo na mão da polícia racista dos Estados Unidos e esperar que eles vão fazer uma triagem adequada do que vai sair do algoritmo.

7. Como vemos em diversos filmes, como "Matrix", “Onde está segunda” e “Ghost in the Shell” a tecnologia se mistura com a realidade, muitas vezes até modificando a própria natureza humana (como implantes de chip por exemplo). Na opinião de vocês, qual o limite da fusão entre humanos e máquinas? Os celulares podem ser considerados como extensões mecânicas para seres humanos?

Mila: O celular sabe até a hora que você vai e volta do trabalho! Eu fiquei assustadíssima, na época antes da pandemia, quando eu estava no laboratório e ele vibrava e falava assim: “vai levar 20 minutos para você chegar em casa” e eu ficava “olha tá na hora de ir embora”. Era nesse nível.

Becs: Esse querendo ou não é um algoritmo para ajudar e no final a gente acaba virando meio que escravos desse negócio.

Mila: A gente fica muito dependente.

Becs: A gente já é! Não sei se o convênio médico de vocês é assim, mas nas minhas autorizações agora vem por um token (ou um código), que é um número que mandam para você para avaliar e acertar. E se você não tem celular? Se você não tem 3G? Se você não tem isso, como é que você vai no consultório para fazer uma consulta e você não tem celular? Como é que você vai ter autorização do convênio para você fazer isso? 

Mila: Você tem que pensar que tem muita gente que ainda não tem acesso à internet direito. Tem muita coisa que eu acho que daqui para frente vai juntar humano e máquina. Eu, por exemplo, sou muito ansiosa por essas tecnologias que são para aplicar insulina automaticamente no corpo, eu acho que isso vai ser fantástico, não ter que ficar lembrando. Eu sou super a favor de que se foi bem testado e está seguro, a gente tem que incorporar mesmo. Só tem que ter cuidado para a gente não acabar virando o meu maior medo, que é os humanos de Wall-e.

Becs: É uma dependência ruim, eles não andam, não comem, não olham para o lado, eles só olham para as telas.

Mila: Eu acho que tem esses dois lados: por um lado é super positivo incorporar a tecnologia para facilitar a nossa vida, mas por outro tem que tomar esse cuidado com a dependência. Hoje a gente está vivendo uma geração que é muito depressiva, isso por conta do sistema constante de aprovação das redes sociais. Então, você está sempre atrás de um like, de alguém que concorda com você, porque as redes sociais criaram esse sistema de juntar pessoas que concordam umas com as outras. Se alguém discorda de você hoje em dia, a dissonância cognitiva é muito maior do que era para gente, que constantemente discordavam da gente.

Becs: As pessoas que estão fora da academia ainda não querem ninguém discordando delas, a gente na academia tá acostumado a tomar porrada: “Você tem certeza que você fez isso aqui? São esses dados aqui? Como é que é?” E você está sempre alí aberto para uma discussão, a receber uma crítica, a discutir, entender qual é o problema e como resolver. As pessoas que estão fora disso já tomam um baque quando alguém fala “não, isso é mentira”. As redes sociais transformaram a comunicação, sendo muito mais líquida, no sentido de cada vez tem menos informação informação, ela é muito rala, só aquela frase de “tome água com sal que você cura o Covid” e as pessoas não tem nem mais capacidade de questionar se aquilo é real ou não, ela simplesmente  pega aquela informação, aceita e passa para frente.

Mila: E corrigir esse estrago depois é muito difícil.

Becs: Fazer as pessoas questionarem, tipo: “gente, tem certeza que é assim?”.

Vivi: Essa questão do limite, dessa fusão e tal, eu acho que a gente já tá num ponto que está tudo tão imediatista, tudo tem que ser para ontem, e eu não sei se a gente consegue fundir tanto assim com a máquina além de fundir igual no Wall-e que você é só aquilo. Eu estava com uma visão triste da situação atual, que é exatamente isso, da quantidade de informação que a gente tem hoje, da quantidade de coisa que a gente tem hoje, mas a gente tem tanta dificuldade de filtrar, tanta dificuldade de ver o que é e o que não é. A gente que trabalha com a divulgação científica já tem que ter esse trabalho, além de tentar passar uma informação é tentar explicar toda a desinformação que existe ao redor.

Eu estava pensando, nesse limite entre se fundir com as máquinas, se conseguimos criar esse filtro para o melhor, mas aí vem o quê? Black Mirror, na minha cabeça, e a gente vai filtrar coisa que não deve, já que a máquina não sabe o que está fazendo.

Mila: Esse é o ponto! Esses algoritmos que selecionam o que é bom e o que é ruim, o que você tem que ver ou não, as pessoas precisam entender que são escolhas deliberadas de quem programou, não são escolhas do algoritmo. Isso que falta a galera entender para usar as redes sociais de maneira adequada. 

8. Quais são os próximos passos da computação? Temos muitos desafios para superar? 

Becs:Tem coisas desafiadoras para desvendar? Além de racismo e misoginia dos algoritmos, ou seja, as pessoas que programam. Qual é a matéria escura da computação?

Vivi: Eu ainda acho que essa é a matéria escura da computação porque é agora que a gente está olhando pro lado e vendo que existem componentes éticos que temos que prestar atenção. Não é um problema absurdo igual explicação, né…

Becs: É um problema da sociedade…

Vivi: A gente sabe a solução teórica, que é todo mundo ser igual, vamos acabar com o racismo, né, isso não existe. Dentro daqueles problemas que você ganha um milhão de dólares, a gente tem um, que é o P versus NP, essas coisinhas assim. Aí tem altas discussões, se P é diferente de NP, e por enquanto é, mas o grande lance que eu acho legal desse problema, que extremamente teórico e vai muito da teoria da computação, é que um belo dia se a gente consegue chegar à conclusão que P é igual a MP, a gente estraga tanto algoritmo de criptografia de segurança que ficaríamos “é melhor não resolver o problema, deixa P diferente de NP que é melhor”.

9. Quais dicas vocês dão para quem pretende seguir na sua área do conhecimento?

Mila: Tem várias… Tem a dica mais fundamental que é não desistir, porque é uma área que de cara assusta e é normal. Tem muita gente que acha que já tem que chegar sabendo, que você de cara já tem que ficar “eu já vou programar aqui” no primeiro dia… Não vai, você vai ter que andar muito, comer muito arroz feijão, antes de você conseguir escrever um bom código, então é persistir porque a expectativa é a realidade são duas coisas completamente diferente. Eu acho que tem muita coisa até do que a gente conversou, de você ser uma pessoa com uma visão mais diversa sobre a vida, uma visão mas preocupada socialmente com aquilo que você tá fazendo, porque os algoritmos realmente estão revolucionando a humanidade de diversas maneiras e você vai ganhar esse poder de ou estragar tudo ou melhorar a vida de alguém, então use com sabedoria.

Vivi: Gostei disso! Eu dou aula para adolescente e eu tenho sentido esse medo da falha muito grande dessa turma. É aquela coisa de “não posso me frustrar, e não posso falhar”, mas não gente, você vai fazer até acertar e você às vezes vai cometer o erro mais ridículo do mundo. Eu acho que é importante esse ponto também: você não é uma máquina! Você só está indo estudar ela, acho que isso é importante para essa galera que está muito afoita é muito indócil achando que tem que ser tudo 100%, e não… Você tem que falar, faz parte.

Becs: O algoritmo só mostra para a gente o sucesso, não mostra o quanto a pessoa caminhou para chegar lá.

Mila: A gente agora tá trazendo pessoas que não sabem programar para jogar joguinhos de programação.

Becs: O da Márcia é perfeito…

Mila: A Márcia me falou de um negócio que me marcou demais: que ela só conseguiu avançar quando ela aceitou que ela teria que errar primeiro. Isso é algo valiosíssimo, você não pode querer de cara já fazer tudo certo.

Becs: Eu falo disso para os meus alunos, que se eles não errarem eles não vão aprender. Se você não se sentir desafiado nunca, tudo é fácil, quando chegar uma coisa difícil você vai se recusar a fazer?

Fontes:

ID Lattes: 1641872523529515

ID Lattes: 3250170839435251

https://canalpeixebabel.com.br 

https://www.youtube.com/watch?v=P2qSBPAf_Dk 

https://www.youtube.com/watch?v=Z6_sHshVSzE 

https://www.youtube.com/watch?v=ap-9MBkR-Sc 

https://www.youtube.com/watch?v=Llz1SSZmM48 

Mamucast! recomenda

• Pra aprender: 

  • Mamutes: O próprio canal peixe babel, Canal Universo programado.

  • Peixe Babel: Algoritmos para viver do Brian Christian e Tom Griffiths.

• Pra descontrair: 

  • Mamutes: Matrix (aproveitando que jaja estreia um novo), Os contos de Isaac Asimov - Eu, robô.

  • Peixe Babel: Octavia E. Butler - Kindred, Neil Gaiman.

Nossas redes sociais:

E vc, alune/ouvinte, o que acha disso? Escreva pra gente nas nossas redes: 

• Facebook: Mamutesnaciencia

• Instagram: @Mamutesnaciencia

• Email: mamutesnaciencia@gmail.com

• Curiouscat: Mamutesciencia

• Twitter: Mamutesciencia

Produção:

Música: Gabi

Arte/edição: Produção!

Pauta: Becs/Produção/Peixe Babel