Timnit Gebru, que co-liderou a equipe de Inteligência Artificial Ética no Google, é considerado um pioneiro no campo, com um foco particular em como o software de reconhecimento facial é tendencioso contra as pessoas de cor. Como relata a Bloomberg, Gebru diz que foi demitida pelo chefe da divisão de IA do Google na quarta-feira por um e-mail que enviou aos colegas de trabalho, no qual ela disse que se sentia “constantemente desumanizada” na empresa de tecnologia.

Gebru diz que acredita que o seu despedimento teve um efeito arrepiante sobre os outros funcionários, enviando uma mensagem sobre as consequências de falar.

O e-mail seguiu uma luta entre Gebru e a empresa por causa de um trabalho de pesquisa que Gebru tinha escrito em conjunto com seis outras pessoas, incluindo quatro funcionários do Google, o que foi crítico em relação aos sistemas de IA conhecidos como “grandes modelos de linguagem”, relata o Washington Post.

Aqui está como a Bloomberg resumiu o trabalho analítico, que tinha sido aprovado pelo gerente da Gebru antes de ser enviado a outros na empresa para aprovação:

O trabalho chamou a atenção para os perigos do uso de grandes modelos de linguagem para treinar algoritmos que pudessem, por exemplo, escrever tweets, responder trivialidades e traduzir poesias, de acordo com uma cópia do documento. Os modelos são essencialmente treinados através da análise da linguagem da Internet, que não reflete grandes faixas da população global ainda não online, de acordo com o artigo. Gebru destaca o risco de que os modelos reflitam apenas a visão de mundo das pessoas que tiveram o privilégio de fazer parte dos dados do treinamento.

Google queria que Gebru retraísse o artigo, disse ela. E se ela não fizesse isso, eles pelo menos queriam que os nomes dos funcionários do Google fossem retirados da pesquisa.

“É o silêncio mais fundamental”, disse Gebru em uma entrevista sobre as exigências do Google. “Você não pode sequer ter a sua voz científica”.

A luta sobre o trabalho de pesquisa superou anos de tensões crescentes entre Gebru e a empresa, que Gebru descreveu em seu e-mail para pesquisadores da equipe de IA da empresa sob a lista de discussão “Mulher Cérebro e Aliados”.”

A carta foi publicada no boletim da escritora de tecnologia Casey Newton, Platformer, na quinta-feira.

“There is zero accountability” no Google, escreveu Gebru. “Não há incentivo para contratar 39% de mulheres: sua vida fica pior quando você começa a defender as pessoas sub-representadas.

“Acabamos de ter uma pesquisa negra, todas as mãos com um show tão emocional de exasperação”, ela continuou. “Você sabe o que aconteceu desde então? Silêncio da maneira mais fundamental possível”.

Gebru detalhou vários incidentes entre ela e a empresa, incluindo um potencial processo judicial que ela e outro colega tinham considerado arquivar contra o Google.

“Os advogados do Google estavam preparados para nos atirar para debaixo do ônibus”, disse Gebru. Mas depois que ela e uma colega contrataram “advogadas feministas”, ela recebeu “algum ‘prêmio de impacto’ aleatório” da gigante da tecnologia.

“Pura iluminação a gás”, disse Gebru, aconselhando seus destinatários a “parar de escrever seus documentos porque isso não faz diferença”.

“Não há como mais documentos ou mais conversas conseguirem alguma coisa”

Após enviar o e-mail, Gebru disse que seus gerentes lhe disseram que a mensagem refletia “um comportamento inconsistente com as expectativas de um gerente do Google”, então lhe disseram que estavam aceitando sua demissão. Só que, de acordo com Gebru, ela não se ofereceu para se demitir. Gebru, que estava de férias esta semana, descobriu que a empresa já havia encerrado seu acesso às contas de e-mail da empresa, os relatórios Post.

Após compartilhar as notícias de sua demissão no Twitter, muitos de seus colegas dentro e fora do Google responderam com mensagens de apoio.

Como observa Bloomberg, Gebru é considerada uma das “vozes líderes” da indústria tecnológica no uso ético da IA. Uma das poucas mulheres negras em sua área, ela é responsável pelo estudo de 2018, que mostrou que o software de reconhecimento facial identificou mal as mulheres de pele escura até 35% do tempo. A mesma tecnologia “trabalhou com quase precisão em homens brancos”, escreve o Post.

Ela também não teve medo de entrar em conflito público com seus superiores, discordando de Jeff Dean, chefe da AI no Google, depois que ele tweeted o apoio à aplicação da lei em maio, menos de uma semana após George Floyd ter sido morto enquanto era preso por policiais de Minneapolis.

“Você pode pensar que algo está perfeitamente bem, mas não é você que está lidando com isso. Isso aumenta a violência contra nós”, respondeu Gebru no Twitter. “A maioria das pessoas nem sequer lhe diria nada.”

A sua franqueza veio com consequências. Falando à Bloomberg News em agosto, Gebru disse que, enquanto os funcionários Black Google são anunciados como exemplos do compromisso da empresa com a diversidade, quando eles falam sobre suas condições de trabalho, eles recebem desculpas, são ignorados, ou terão seu tom policiado. No caso de Gebru, a ex-funcionária do Google disse que sua reputação de falar sobre questões de diversidade foi usada contra ela. Quando a empresa estava considerando tê-la como gerente de outro funcionário, os supervisores disseram que estavam preocupados se ela poderia gerenciar outra pessoa se ela fosse tão infeliz, relatou Bloomberg.

“As pessoas não sabem a extensão dos problemas que existem porque você não pode falar sobre eles”, disse Gebru à publicação na época. “E no momento em que você sabe, você é o problema”.