Dose de Impacto #8

Se inteligência virtual é o futuro, seria esse futuro mesmo tão brilhante?

Se você frequentava o mesmo clubinho que eu, você provavelmente foi impactado por aquele filme que o Joaquin Phoenix se apaixona pela Samantha, sua assistente virtual… Her, Matrix, Ex Machina, O Homem Bicentenário, Os Jetson. Que a inteligência virtual é o futuro, a gente já entendeu. 

Há anos somos impactados com histórias de robôs que nos entendem melhor do que ninguém, aprendem sobre nosso comportamento, nossos gostos, sabem nossas músicas, filmes e lugares preferidos. Mas será mesmo esse futuro tão brilhante? Ps: fui escrever essa edição e tem tanta referência legal que me empolguei. Provavelmente falaremos de novo sobre isso aqui, ou vem de zap para trocarmos figurinhas.

---

Uma Dose sobre a parcialidade dos algoritmos

No final do ano passado participei de uma palestra em que a pauta era o futuro da tecnologia, e discutia-se sobre os famosos e almejados carros autônomos. “Dispensa o motorista da rodada, o carro inteligente te leva pra casa em segurança”. 
Seria um sonho, mas nessa realidade, pessoas negras tem 5% mais chance, do que pessoas brancas, de serem atropeladas por automóveis desse tipo.

Prometendo eficácia e imparcialidade os algoritmos distorcem a educação, aumentam dívidas, estimulam o encarceramento em massa, golpeiam os pobres, negros e mulheres, e solapam a democracia. - Cathuy O’Neil, especialista em dados e autoria do livro “Weapons of Math Destruction” 

A inteligência artificial existe com a proposta de facilitar a vida das pessoas, identificando padrões e automatizando decisões. Porém, por serem feitos para replicar modelos de comportamento, também se apropriam do racismo, misoginia e homofobia. Os algoritmos não são imparciais, são arbitrários e enviesados de acordo com sua construção. Absorvem, reproduzem, e como resultado, fortalecem a discriminação e a intolerância.

Se está na cozinha, é uma mulher: como os algoritmos reforçam preconceitos.

Nesse artigo, a autora expõe que o algoritmo do YouTube recomenda conteúdos cada vez mais extremistas para quem consome conteúdos conservadores, a autora também dialoga como os algoritmos transformam as redes sociais em bolhas políticas intransponíveis.

E quando falamos de algoritmo, redes sociais e política, nós bem sabemos que o resultado não tende ser muito positivo.

Essa parcialidade do algoritmo e da inteligência artificial pode ser visualizada onde menos se espera. Uma pesquisa realidade entre a Universidade de Fortaleza e a UFMG identificou que assistentes virtuais, como o Google, Siri e Bixby, por exemplo, são muito mais eficientes a depender do sotaque e nível de escolaridade.

Não vamos mastigar o pensamento.

Mas e se eu te contar que crianças advindas de famílias mais pobres, até os quatro anos de idade tem contato com pelo menos 30 milhões de palavras a menos do que uma criança advinda de famílias com condições socioeconômicas melhores, sendo esse um dos grandes pontos que afeta o desenvolvimento da linguagem infantil? E qual o sotaque será que a assistente virtual tem dificuldade em compreender? Não é uma resposta difícil.

O algoritmo parcial e racista também corrobora com o aumento da população carcerária. Reconhecimento facial aposta no encarceramento e pune preferencialmente a população negra. 150 prisões com o uso de reconhecimento facial, e nos casos onde havia informações, mais de 90% das pessoas eram negras, a maioria presas por crimes sem violência. Não me parece muito adequado a automatização de decisões que colocam a vida de pessoas em risco.

Algoritmos são como receitas de bolo, instruções a serem seguidas para atingir o resultado final.

O Brasil até tentou introduzir uma lei prevendo a revisão de decisões automatizadas: quem se sentisse lesado, poderia requerer uma revisão à decisão. Porém, o projeto foi vetado em julho de 2019 pela Presidência da República, com o argumento de que a revisão humana acarretaria custos adicionais. É mole?

---

Uma Dose sobre curiosidades algorítmicas

Considerando todas essas problemáticas, fica até difícil considerar a inteligência artificial e o uso dos algoritmos como algo com possível impacto positivo. Isso sem citar sobre dados e privacidade. Porém, o mundo não é dual. Separei alguns materiais para exemplificar que talvez dê para ter esperança no futuro das IAs.

Algoritmos já podem prever revoluções sociais e políticas.

Pesquisadores propõem inteligência artificial para impedir tiroteios em massa.

A CES (Consumer Electronics Show) nos convida para reimaginarmos o futuro.

---

Pra ficar de olho

• O Documentário Coded Bias revela como um grupo de pessoas é responsável pelo rápido desenvolvimento da inteligência artificial – e como preconceitos inerentes de suas visões de mundo são incorporados ao código das redes sociais. O filme é contado sob a perspectiva de metade da população esquecida pelos documentários de ciência e tecnologia: mulheres e pessoas negras.

• TED Talk de Joy Buolamwini. Em 2016, a então assistente de pesquisas no Media Lab do Massachusetts Institute of Technology (MIT) trabalhava com reconhecimento facial e percebeu que o software não reconhecia seu rosto, ou seja, excluiriam mulheres e pessoas de pele escura. A pesquisa causou impacto – fazendo empresas como Amazon e IBM repensarem suas práticas e tecnologias.

• Pensando na luta feminina pelo uso mais ético e humano das tecnologias do futuro, a iniciativa UX para Minas Pretas visa formar mulheres negras para democratizar o acesso ao mercado de user experience.

  ---

  Obrigada por ler até o final!
  Espero que a Dose tenha feito sentido pra você igual fez pra mim.

  Me conta por e-mail o que achou: dosedeimpacto@gmail.com 😊

  ---

  💡 escrita por nathalia evelyn, pós graduada em serviço social e comunicóloga em formação. 

  *unindo o melhor dos dois mundos* para pensar impacto social, desenvolvimento, comportamento e sustentabilidade.

  ---

  Acredita que esse post fará sentido para alguém? Compartilha…