Una donna nera conosciuta come una “rara voce di critica pubblica” a Google è stata licenziata dall’azienda tecnologica dopo aver inviato una e-mail interna che chiamava fuori il trattamento della società nei confronti dei dipendenti di minoranza – in particolare, quelli che sono neri e donne.

Timnit Gebru, che co-dirigeva il team di Intelligenza Artificiale Etica a Google, è considerato un pioniere nel campo, con particolare attenzione su come il software di riconoscimento facciale è distorto contro le persone di colore. Come riporta Bloomberg, Gebru dice di essere stata licenziata dal capo della divisione AI di Google mercoledì per una e-mail che ha inviato ai colleghi in cui ha detto di sentirsi “costantemente disumanizzata” presso l’azienda tecnologica.

Gebru dice di credere che il suo licenziamento aveva lo scopo di avere un effetto raggelante su altri dipendenti, inviando un messaggio sulle conseguenze di parlare.

L’e-mail ha seguito una lotta tra Gebru e l’azienda su un documento di ricerca che Gebru aveva co-scritto con altre sei persone, tra cui quattro dipendenti di Google, che era critico dei sistemi AI noti come “modelli linguistici di grandi dimensioni”, riferisce il Washington Post.

Ecco come Bloomberg ha riassunto il documento analitico, che era stato approvato dal manager di Gebru prima di essere inviato ad altri della società per l’approvazione:

Il documento ha sottolineato i pericoli dell’utilizzo di grandi modelli linguistici per addestrare algoritmi che potrebbero, ad esempio, scrivere tweets, rispondere alle curiosità e tradurre la poesia, secondo una copia del documento. I modelli sono essenzialmente addestrati analizzando il linguaggio da internet, che non riflette grandi fasce della popolazione globale non ancora online, secondo il documento. Gebru sottolinea il rischio che i modelli riflettano solo la visione del mondo delle persone che hanno avuto il privilegio di far parte dei dati di formazione.

Google voleva che Gebru ritrattasse il documento, ha detto. E se lei non l’avrebbe fatto, volevano almeno che i nomi dei dipendenti di Google fossero cancellati dalla ricerca.

“È il più fondamentale dei silenzi”, ha detto Gebru in un’intervista sulle richieste di Google. “

La lotta per il documento di ricerca ha coronato anni di tensioni crescenti tra Gebru e l’azienda, che Gebru ha descritto nella sua e-mail ai ricercatori del team AI dell’azienda nella mailing list “Brain Woman and Allies.”

La lettera è stata pubblicata sulla newsletter del tech writer Casey Newton, Platformer, giovedì.

“C’è zero responsabilità” a Google, ha scritto Gebru. “Non c’è alcun incentivo ad assumere il 39% di donne: la tua vita peggiora quando inizi a difendere le persone sottorappresentate.

“Abbiamo appena avuto una ricerca nera a tutte le mani con un tale spettacolo emotivo di esasperazione”, ha continuato. “Sapete cosa è successo dopo? Silenziamento nel modo più fondamentale possibile.”

Gebru ha dettagliato diversi incidenti tra lei e l’azienda, tra cui una potenziale causa che lei e un altro collega avevano considerato di presentare contro Google.

“Gli avvocati di Google erano pronti a buttarci sotto l’autobus”, ha detto Gebru. Ma dopo che lei e una collega hanno assunto “avvocati femministi”, le è stato dato “qualche casuale ‘premio d’impatto'” dal gigante tecnologico.

“Puro gaslighting”, ha detto Gebru, consigliando infine ai suoi destinatari di “smettere di scrivere i vostri documenti perché non fa differenza.”

“Non c’è modo di ottenere più documenti o più conversazioni”.

Dopo aver inviato l’e-mail, Gebru ha detto che i suoi manager le hanno detto che il messaggio rifletteva “un comportamento che non è coerente con le aspettative di un manager di Google”, poi le hanno detto che stavano accettando le sue dimissioni. Solo che, secondo Gebru, lei non si era offerta di dimettersi. Gebru, che era in vacanza questa settimana, ha scoperto che l’azienda aveva già terminato il suo accesso agli account di posta elettronica aziendali, il Post riporta.

Dopo aver condiviso la notizia del suo licenziamento su Twitter, molti dei suoi colleghi dentro e fuori Google hanno risposto con messaggi di sostegno.

Come nota Bloomberg, Gebru è considerata una delle “voci principali” dell’industria tecnologica nell’uso etico dell’IA. Una delle poche donne nere nel suo campo, è responsabile dello studio di riferimento del 2018 che mostra che il software di riconoscimento facciale ha identificato male le donne dalla pelle scura fino al 35% delle volte. La stessa tecnologia “ha funzionato con quasi precisione sugli uomini bianchi”, scrive il Post.

Anche lei non ha avuto paura di scontrarsi pubblicamente con i suoi superiori, prendendosela con Jeff Dean, capo dell’IA di Google, dopo che aveva twittato il sostegno alle forze dell’ordine a maggio, meno di una settimana dopo che George Floyd era stato ucciso mentre veniva arrestato dagli agenti di polizia di Minneapolis.

“Potreste pensare che qualcosa vada perfettamente bene, ma non siete voi ad avere a che fare con questo. Questo si aggiunge alla violenza contro di noi”, ha risposto Gebru su Twitter. “La maggior parte delle persone non ti direbbe nulla”

La sua schiettezza ha avuto delle conseguenze. Parlando a Bloomberg News in agosto, Gebru ha detto che, mentre i dipendenti neri di Google sono annunciati come esempi dell’impegno dell’azienda per la diversità, quando parlano delle loro condizioni di lavoro, vengono date scuse, ignorati, o il loro tono viene controllato. Nel caso di Gebru, l’ex dipendente di Google ha detto che la sua reputazione per aver parlato di questioni di diversità è stata usata contro di lei. Quando l’azienda stava considerando di farle gestire un altro dipendente, i supervisori hanno detto che erano preoccupati se lei potesse gestire qualcun altro se era così infelice, ha riferito Bloomberg.

“La gente non sa la portata dei problemi che esistono perché non si può parlare di loro”, ha detto Gebru alla pubblicazione al momento. “E nel momento in cui lo fai, sei tu il problema.”