Teknologiayhtiö on antanut potkut ”harvinaisena julkisen kritiikin äänenä” tunnetulle mustalle naiselle sen jälkeen, kun hän oli lähettänyt sisäisen sähköpostiviestin, jossa hän arvosteli yhtiön vähemmistötyöntekijöiden – ja erityisesti mustien ja naisten – kohtelua.

Timnit Gebru, joka johti yhdessä Googlen eettisen tekoälytiimin tiimiä, on pidetty alan edelläkävijänä, ja hän on kiinnittänyt erityistä huomiota siihen, miten kasvojentunnistusohjelmistot vääristelevät värillisiä ihmisiä kohtaan. Kuten Bloomberg kertoo, Gebru kertoo, että Googlen tekoälyosaston johtaja erotti hänet keskiviikkona työtovereille lähettämänsä sähköpostiviestin vuoksi, jossa hän kertoi tunteneensa itsensä ”jatkuvasti epäinhimillistetyksi” teknologiayhtiössä.

Gebru sanoo uskovansa, että hänen potkujensa tarkoituksena oli vaikuttaa kylmäävästi muihin työntekijöihin lähettämällä viestiä siitä, mitä seurauksia on siitä, että puhuu asioista.

Sähköpostiviesti oli seurausta Gebruin ja yhtiön välisestä kamppailusta, jonka aiheena oli Gebruin yhdessä kuuden muun henkilön, mukaan lukien neljän Googlen työntekijän, kanssa kirjoittama tutkimuspaperi, jossa kritisoitiin niin sanottuja ”isoja kielen malleja” kutsuttuja tekoälyjärjestelmiä kohtaan, kertoo Washington Post.

Näin Bloomberg tiivistää analyyttisen paperin, jonka Gebruin esimies oli hyväksynyt ennen kuin se lähetettiin muille yhtiön työntekijöille hyväksyttäväksi:

Paperissa vedottiin vaaroihin, joita liittyy suurten kielimallien käyttämiseen sellaisten algoritmien kouluttamiseen, jotka voisivat esimerkiksi kirjoittaa twiittejä, vastata tietokilpailuihin ja kääntää runoja, asiakirjan kopion mukaan. Mallit koulutetaan pohjimmiltaan analysoimalla internetin kieltä, joka ei paperin mukaan kuvasta suuria osia maailman väestöstä, joka ei vielä ole verkossa. Gebru korostaa riskiä, että mallit heijastavat vain niiden ihmisten maailmankuvaa, jotka ovat olleet tarpeeksi etuoikeutettuja ollakseen osa koulutusdataa.

Google halusi Gebruin vetävän paperin takaisin, hän sanoi. Ja jos hän ei suostunut siihen, he halusivat ainakin Googlen työntekijöiden nimet poistettavaksi tutkimuksesta.

”Se on perustavanlaatuisinta vaientamista”, Gebru sanoi haastattelussa Googlen vaatimuksista. ”Et saa edes tieteellistä ääntäsi.”

Kamppailu tutkimuspaperista kruunasi Gebruin ja yhtiön välillä vuosia jatkuneet kasvavat jännitteet, joita Gebru kuvaili sähköpostiviestissään yhtiön tekoälytiimin tutkijoille postituslistalla ”Brain Woman and Allies”.”

Kirje julkaistiin teknologiakirjailija Casey Newtonin uutiskirjeessä Platformer torstaina.

”Googlella ei ole minkäänlaista vastuuvelvollisuutta”, Gebru kirjoitti. ”Ei ole mitään kannustinta palkata 39 prosenttia naisia: elämäsi muuttuu huonommaksi, kun alat puolustaa aliedustettuja ihmisiä.”

”Meillä oli juuri Musta tutkimus kaikki kädet niin emotionaalinen näytös raivostumisesta”, hän jatkoi. ”Tiedättekö, mitä sen jälkeen tapahtui? Vaikenemista perustavanlaatuisimmalla mahdollisella tavalla.”

Gebru kertoi yksityiskohtaisesti useista välikohtauksista hänen ja yhtiön välillä, mukaan lukien mahdollisesta kanteesta, jonka hän ja eräs toinen kollegansa olivat harkinneet nostamista Googlea vastaan.

”Googlen lakimiehet olivat valmistautuneet heittämään meidät bussin alle”

”Google-lakimiehet olivat valmistautuneet heittämään meidät bussin alle”

. Mutta sen jälkeen, kun hän ja hänen kollegansa palkkasivat ”feministiset lakimiehet”, hän sai teknologiajätiltä ”jonkin satunnaisen ’vaikutuspalkinnon'”.

”Puhdasta kaasunvalaistusta”, Gebru sanoi, ja lopulta hän neuvoi vastaanottajiaan ”lopettamaan asiakirjojenne kirjoittamisen, koska sillä ei ole mitään merkitystä”.

”Lisää asiakirjoja tai lisää keskusteluja ei mitenkään saa aikaan mitään.”

Sähköpostin lähettämisen jälkeen Gebru sanoi, että hänen esimiehensä kertoivat hänelle, että viesti heijasteli ”käyttäytymistä, joka ei vastaa Googlen johtajan odotuksia”, ja kertoivat sitten, että he hyväksyivät hänen irtisanoutumisensa. Gebruin mukaan hän ei kuitenkaan ollut tarjoutunut eroamaan. Gebru, joka oli tällä viikolla lomalla, huomasi, että yhtiö oli jo lopettanut hänen pääsynsä yhtiön sähköpostitileille, Post kertoo.

Jaettuaan uutisen potkuistaan Twitterissä monet hänen kollegansa Googlessa ja sen ulkopuolella vastasivat tukiviesteillä.

Kuten Bloomberg huomauttaa, Gebruia pidetään yhtenä teknologiateollisuuden ”johtavista äänistä” tekoälyn eettisessä käytössä. Hän on yksi harvoista mustista naisista alallaan, ja hän on vastuussa vuonna 2018 tehdystä maamerkkitutkimuksesta, joka osoitti, että kasvojentunnistusohjelmistot tunnistivat tummaihoisia naisia väärin jopa 35 prosenttia ajasta. Sama teknologia ”toimi lähes tarkasti valkoisten miesten kohdalla”, kirjoittaa Post.

Hän ei myöskään pelännyt julkista yhteentörmäystä esimiestensä kanssa: hän otti yhteen Googlen tekoälypäällikkö Jeff Deanin kanssa sen jälkeen, kun tämä twiittasi tukea lainvalvontaviranomaisille toukokuussa, vajaa viikko sen jälkeen, kun Minneapolisin poliisit olivat tappaneet George Floydin, kun hän oli ollut pidätettynä.

”Saatat ajatella, että jokin asia on täysin kunnossa, mutta sinä et ole se, joka on tekemisissä tämän asian kanssa. Tämä lisää meihin kohdistuvaa väkivaltaa”, Gebru vastasi Twitterissä. ”Useimmat ihmiset eivät edes sanoisi sinulle mitään.”

Hänen suorapuheisuudellaan oli seurauksensa. Bloomberg Newsille elokuussa puhunut Gebru sanoi, että vaikka mustia Googlen työntekijöitä ylistetään esimerkkeinä yhtiön sitoutumisesta monimuotoisuuteen, kun he puhuvat työoloista, heille annetaan tekosyitä, heidät jätetään huomiotta tai heidän äänensävyään valvotaan. Gebruin tapauksessa Googlen entinen työntekijä sanoi, että hänen mainettaan siitä, että hän on puhunut monimuotoisuuskysymyksistä, käytettiin häntä vastaan. Kun yhtiö harkitsi hänen palkkaamistaan toisen työntekijän esimieheksi, esimiehet sanoivat olevansa huolissaan siitä, pystyisikö hän johtamaan jotakuta toista, jos hän oli niin tyytymätön, Bloomberg kertoi.

”Ihmiset eivät tiedä olemassa olevien ongelmien laajuutta, koska niistä ei voi puhua”, Gebru kertoi julkaisulle tuolloin. ”Ja sillä hetkellä kun puhut, olet itse ongelma.”