En sort kvinde, der er kendt som en “sjælden stemme for offentlig kritik” hos Google, er blevet fyret af teknologivirksomheden efter at have sendt en intern e-mail, hvor hun kritiserede virksomhedens behandling af minoritetsmedarbejdere – og især dem, der er sorte og kvindelige.

Timnit Gebru, der var med til at lede teamet for etisk kunstig intelligens hos Google, betragtes som en pioner på området, med særligt fokus på, hvordan ansigtsgenkendelsessoftware er forudindtaget over for farvede personer. Som Bloomberg rapporterer, siger Gebru, at hun onsdag blev fyret af chefen for Googles AI-afdeling på grund af en e-mail, hun sendte til kolleger, hvori hun sagde, at hun følte sig “konstant umenneskeliggjort” i teknologivirksomheden.

Gebru siger, at hun mener, at hendes fyring havde til hensigt at have en afskrækkende effekt på andre medarbejdere og sende et budskab om konsekvenserne af at sige sin mening.

E-mailen fulgte efter en kamp mellem Gebru og virksomheden om en forskningsartikel, som Gebru havde skrevet sammen med seks andre personer, herunder fire Google-ansatte, og som var kritisk over for AI-systemer, der er kendt som “store sprogmodeller”, skriver Washington Post.

Sådan opsummerede Bloomberg analysedokumentet, som var blevet godkendt af Gebrus chef, inden det blev sendt til andre i virksomheden til godkendelse:

Dokumentet påpegede ifølge en kopi af dokumentet farerne ved at bruge store sprogmodeller til at træne algoritmer, der f.eks. kunne skrive tweets, besvare spørgeskemaer og oversætte poesi. Modellerne trænes i det væsentlige ved at analysere sprog fra internettet, hvilket ikke afspejler store dele af den globale befolkning, der endnu ikke er online, ifølge dokumentet. Gebru fremhæver risikoen for, at modellerne kun vil afspejle verdenssynet hos de mennesker, der har været privilegerede nok til at være en del af træningsdataene.

Google ønskede, at Gebru trak dokumentet tilbage, sagde hun. Og hvis hun ikke ville gøre det, ville de i det mindste have navnene på Google-ansatte slettet fra forskningen.

“Det er den mest grundlæggende tavshedspligt,” sagde Gebru i et interview om Googles krav. “Du kan ikke engang have din videnskabelige stemme.”

Kampen om forskningsartiklen var toppen af flere års voksende spændinger mellem Gebru og virksomheden, som Gebru beskrev i sin e-mail til forskere på virksomhedens AI-team under mailinglisten “Brain Woman and Allies.”

Brevet blev offentliggjort på tech-skribenten Casey Newtons nyhedsbrev, Platformer, i torsdags.

“Der er nul ansvarlighed” hos Google, skrev Gebru. “Der er intet incitament til at ansætte 39 % kvinder: Dit liv bliver værre, når du begynder at advokere for underrepræsenterede mennesker.”

“Vi har lige haft en Black research all hands med en så følelsesladet opvisning af forargelse”, fortsatte hun. “Ved du, hvad der er sket siden? Tavshedspligt på den mest fundamentale måde.”

Gebru beskrev flere episoder mellem hende og virksomheden, herunder en potentiel retssag, som hun og en anden kollega havde overvejet at anlægge mod Google.

“Googles advokater var parat til at smide os under bussen”, sagde Gebru. Men efter at hun og en kollega havde hyret “feministiske advokater”, fik hun “en eller anden tilfældig ‘impact award'” af techgiganten.

“Ren gaslighting”, sagde Gebru, der til sidst rådede sine modtagere til at “holde op med at skrive dine dokumenter, fordi det ikke gør nogen forskel”.

“Der er ingen måde, hvorpå flere dokumenter eller flere samtaler vil opnå noget som helst.”

Efter at have sendt e-mailen sagde Gebru, at hendes ledere fortalte hende, at meddelelsen afspejlede “en adfærd, der er uforenelig med forventningerne til en Google-chef”, og derefter fortalte de hende, at de accepterede hendes opsigelse. Men ifølge Gebru havde hun ikke tilbudt at sige op. Gebru, som var på ferie i denne uge, fandt ud af, at virksomheden allerede havde opsagt hendes adgang til virksomhedens e-mail-konti, skriver The Post.

Efter at have delt nyheden om hendes fyring på Twitter reagerede mange af hendes kolleger i og uden for Google med budskaber om støtte.

Som Bloomberg bemærker, anses Gebru for at være en af tech-industriens “førende stemmer” i den etiske brug af kunstig intelligens. Hun er en af de få sorte kvinder inden for sit felt og er ansvarlig for den skelsættende undersøgelse fra 2018, der viser, at ansigtsgenkendelsessoftware fejlidentificerede mørkhudede kvinder i op til 35 procent af tilfældene. Den samme teknologi “fungerede med nærmest præcision på hvide mænd”, skriver The Post.

Hun var heller ikke bange for at støde offentligt sammen med sine overordnede, idet hun tog et opgør med Jeff Dean, Googles chef for AI, efter at han tweetede støtte til retshåndhævelse i maj, mindre end en uge efter at George Floyd blev dræbt, mens han blev anholdt af politibetjente i Minneapolis.

“Du synes måske, at noget er helt fint, men det er ikke dig, der har med det at gøre. Dette bidrager til volden mod os,” svarede Gebru på Twitter. “De fleste mennesker ville ikke engang sige noget til dig.”

Hendes åbenmundethed fik konsekvenser. I en samtale med Bloomberg News i august sagde Gebru, at selv om sorte Google-ansatte fremhæves som eksempler på virksomhedens engagement i mangfoldighed, får de undskyldninger, bliver ignoreret eller får en politianmeldelse, når de udtaler sig om deres arbejdsvilkår, eller de får en politianmeldelse af deres tone. I Gebrus tilfælde sagde den tidligere Google-medarbejder, at hendes ry for at udtale sig om mangfoldighedsspørgsmål blev brugt imod hende. Da virksomheden overvejede at lade hende lede en anden medarbejder, sagde tilsynsførende, at de var bekymrede for, om hun kunne lede en anden medarbejder, hvis hun var så utilfreds, rapporterede Bloomberg.

“Folk kender ikke omfanget af de problemer, der findes, fordi man ikke kan tale om dem,” sagde Gebru dengang til publikationen. “Og i det øjeblik man gør det, er man problemet.”