Een zwarte vrouw die bekendstaat als een “zeldzame stem van kritiek” bij Google is ontslagen door het techbedrijf nadat ze een interne e-mail had gestuurd waarin ze de behandeling van minderheidswerknemers door het bedrijf aan de kaak stelde, en dan met name werknemers die zwart en vrouwelijk zijn.

Timnit Gebru, die mede aan het hoofd stond van het team voor ethische kunstmatige intelligentie bij Google, wordt beschouwd als een pionier op dit gebied, met een bijzondere focus op de manier waarop gezichtsherkenningssoftware bevooroordeeld is ten opzichte van mensen van kleur. Zoals Bloomberg meldt, zegt Gebru dat ze woensdag door het hoofd van de AI-divisie van Google is ontslagen vanwege een e-mail die ze naar collega’s had gestuurd en waarin ze zei dat ze zich “voortdurend ontmenselijkt” voelde bij het techbedrijf.

Gebru zegt dat ze gelooft dat haar ontslag bedoeld was om een afschrikkend effect te hebben op andere werknemers, door een boodschap af te geven over de gevolgen van het uitspreken van je stem.

De e-mail volgde op een strijd tussen Gebru en het bedrijf over een onderzoeksartikel dat Gebru samen met zes andere mensen, waaronder vier Google-medewerkers, had geschreven en dat kritisch was over AI-systemen die bekend staan als “grote taalmodellen”, meldt de Washington Post.

Hierboven vat Bloomberg het onderzoeksartikel samen, dat was goedgekeurd door Gebru’s manager voordat het ter goedkeuring naar anderen binnen het bedrijf werd gestuurd:

Het rapport wijst op de gevaren van het gebruik van grote taalmodellen om algoritmen te trainen die bijvoorbeeld tweets kunnen schrijven, trivia kunnen beantwoorden en poëzie kunnen vertalen, volgens een kopie van het document. De modellen zijn in wezen opgeleid door het analyseren van taal van het internet, die niet weerspiegelen grote delen van de wereldbevolking nog niet online, volgens de paper. Gebru benadrukt het risico dat de modellen alleen het wereldbeeld zullen weerspiegelen van mensen die bevoorrecht genoeg zijn geweest om deel uit te maken van de trainingsdata.

Google wilde dat Gebru de paper zou intrekken, zei ze. En als ze dat niet wilde, wilden ze op zijn minst dat de namen van Google-werknemers uit het onderzoek werden geschrapt.

“Het is de meest fundamentele monddoodmaking,” zei Gebru in een interview over de eisen van Google. “Je mag niet eens je wetenschappelijke stem laten horen.”

De strijd om het onderzoeksartikel was het sluitstuk van jaren van oplopende spanningen tussen Gebru en het bedrijf, die Gebru beschreef in haar e-mail aan onderzoekers in het AI-team van het bedrijf onder de mailinglijst “Brain Woman and Allies.”

De brief werd donderdag gepubliceerd op de nieuwsbrief van techschrijver Casey Newton, Platformer.

“Er is geen enkele verantwoordingsplicht” bij Google, schreef Gebru. “Er is geen enkele stimulans om 39% vrouwen aan te nemen: je leven wordt nog slechter als je gaat pleiten voor ondervertegenwoordigde mensen.”

“We hebben net een Black-onderzoek gehad waarbij alle handen op elkaar werden gelegd met zo’n emotionele uiting van ergernis,” vervolgde ze. “Weet je wat er sindsdien is gebeurd? Het zwijgen werd op de meest fundamentele manier opgelegd.”

Gebru beschreef verschillende incidenten tussen haar en het bedrijf, waaronder een potentiële rechtszaak die zij en een andere collega hadden overwogen tegen Google aan te spannen.

“De advocaten van Google waren bereid ons onder de bus te gooien,” zei Gebru. Maar nadat zij en een collega “feministische advocaten” in de arm hadden genomen, kreeg ze “een willekeurige ‘impact award'” van de techgigant.

“Pure gaslighting”, aldus Gebru, die haar ontvangers uiteindelijk adviseerde om “te stoppen met het schrijven van jullie documenten omdat het toch geen verschil maakt.”

“Met meer documenten of meer gesprekken bereik je niets.”

Na het verzenden van de e-mail vertelde Gebru dat haar managers haar vertelden dat het bericht “gedrag weergaf dat niet strookt met de verwachtingen van een Google-manager”, waarna ze haar vertelden dat ze haar ontslag zouden accepteren. Maar volgens Gebru had ze niet aangeboden ontslag te nemen. Gebru, die deze week op vakantie was, ontdekte dat het bedrijf haar toegang tot de e-mailaccounts van het bedrijf al had beëindigd, zo meldt The Post.

Nadat ze het nieuws van haar ontslag op Twitter had gedeeld, reageerden veel van haar collega’s binnen en buiten Google met steunbetuigingen.

Zoals Bloomberg opmerkt, wordt Gebru beschouwd als een van de “leidende stemmen” in de tech-industrie als het gaat om het ethische gebruik van AI. Als een van de weinige zwarte vrouwen in haar vakgebied is zij verantwoordelijk voor de baanbrekende studie uit 2018 waaruit blijkt dat gezichtsherkenningssoftware vrouwen met een donkere huidskleur tot 35 procent van de tijd verkeerd identificeert. Dezelfde technologie “werkte met bijna precisie op blanke mannen,” schrijft de Post.

Ze was ook niet bang om in het openbaar te botsen met haar superieuren, en nam het op tegen Jeff Dean, het hoofd van Google’s AI, nadat hij steun voor wetshandhaving tweette in mei, minder dan een week nadat George Floyd was gedood toen hij werd gearresteerd door politieagenten in Minneapolis.

“Je kunt wel denken dat iets prima is, maar jij bent niet degene die hiermee te maken heeft. Dit draagt bij aan het geweld tegen ons,” reageerde Gebru op Twitter. “De meeste mensen zouden niet eens iets tegen je zeggen.”

Haar vrijmoedigheid had consequenties. In een gesprek met Bloomberg News in augustus zei Gebru dat zwarte Google-medewerkers weliswaar worden gezien als voorbeelden van het streven van het bedrijf naar diversiteit, maar dat ze, als ze zich uitspreken over hun werkomstandigheden, excuses krijgen, worden genegeerd of dat hun toon wordt gepolst. In het geval van Gebru zei de voormalige Google-werkneemster dat haar reputatie om zich uit te spreken over diversiteitskwesties tegen haar werd gebruikt. Toen het bedrijf overwoog om haar leiding te laten geven aan een andere werknemer, zeiden leidinggevenden dat ze zich zorgen maakten of ze wel leiding kon geven aan iemand anders als ze zo ongelukkig was, meldde Bloomberg.

“Mensen weten niet hoe groot de problemen zijn die er zijn, omdat je er niet over kunt praten”, vertelde Gebru destijds aan de publicatie. “En op het moment dat je dat wel doet, ben je zelf het probleem.”