This browser does not support the video element.
Timnit Gebru, aki a Google-nél az etikus mesterséges intelligencia csapatának társvezetője volt, úttörőnek számít a területen, különösen azzal foglalkozott, hogy az arcfelismerő szoftverek hogyan részesítik előnyben a színes bőrűeket. A Bloomberg beszámolója szerint Gebru azt állítja, hogy a Google mesterséges intelligencia részlegének vezetője szerdán kirúgta őt egy olyan e-mail miatt, amelyet munkatársainak küldött, és amelyben azt írta, hogy “folyamatosan dehumanizáltnak” érzi magát a technológiai vállalatnál.
Gebru azt mondja, hogy szerinte a kirúgásának célja az volt, hogy a többi alkalmazottra visszatartó hatást gyakoroljon, és üzenetet küldjön arról, hogy milyen következményekkel jár, ha valaki felemeli a szavát.
Hirdetés
Az e-mailt a Gebru és a vállalat közötti harc követte egy kutatási dokumentum miatt, amelyet Gebru hat másik emberrel, köztük négy Google-alkalmazottal közösen írt, és amely kritikus volt a “nagy nyelvi modellek” néven ismert AI-rendszerekkel szemben – írja a Washington Post.
Így foglalta össze a Bloomberg az elemző tanulmányt, amelyet Gebru vezetője hagyott jóvá, mielőtt elküldték volna jóváhagyásra másoknak is a vállalatnál:
A dokumentum másolata szerint a tanulmány felhívta a figyelmet a nagy nyelvi modellek használatának veszélyeire olyan algoritmusok képzéséhez, amelyek például tweetek írására, kvízkérdések megválaszolására és versek fordítására képesek. A modelleket lényegében az internetről származó nyelv elemzése révén képzik ki, ami a dokumentum szerint nem tükrözi a világ népességének nagy részét, amely még nem online. Gebru kiemeli annak kockázatát, hogy a modellek csak azoknak az embereknek a világképét fogják tükrözni, akik elég kiváltságos helyzetben voltak ahhoz, hogy a képzési adatok részesei legyenek.”
Hirdetés
A Google azt akarta, hogy Gebru vonja vissza a dokumentumot, mondta. És ha ő ezt nem tenné meg, akkor legalább a Google alkalmazottainak nevét akarták kihúzni a kutatásból.
“Ez a legalapvetőbb elhallgattatás” – mondta Gebru egy interjúban a Google követeléseiről. “Még a tudományos hangját sem hallathatja.”
Hirdetés
A kutatási tanulmány körüli küzdelem betetőzte a Gebru és a vállalat között évek óta tartó növekvő feszültséget, amelyet Gebru a vállalat AI-csapatának kutatóihoz írt e-mailjében az “Agyas nő és szövetségesei” levelezőlistán írt le.”
A levél csütörtökön jelent meg Casey Newton technológiai író Platformer című hírlevelében.
Hirdetés
“A Google-nál zéró elszámoltathatóság van” – írta Gebru. “Nincs ösztönzés arra, hogy 39%-ban nőket alkalmazzanak: az életed rosszabb lesz, ha elkezdesz az alulreprezentált emberekért kiállni.”
“Épp most volt egy Fekete kutatás minden kéznél, az elkeseredés ilyen érzelmi megnyilvánulásával” – folytatta. “Tudod, mi történt azóta? Elhallgattatás a lehető legalapvetőbb módon.”
Hirdetés
Gebru több incidenst is részletezett közte és a vállalat között, köztük egy potenciális pert, amelyet ő és egy másik kollégája fontolgatott a Google ellen.
“A Google jogászai készek voltak minket a busz alá dobni” – mondta Gebru. De miután ő és egy kollégája “feminista ügyvédeket” fogadott fel, “valami véletlenszerű ‘hatásdíjat'” kapott a technológiai óriástól.
Hirdetés
“Tiszta gázfény” – mondta Gebru, aki végül azt tanácsolta a címzettjeinek, hogy “hagyják abba a dokumentumok írását, mert ez nem számít”.
“Kizárt, hogy több dokumentum vagy több beszélgetés bármit is elérjen.”
Az e-mail elküldése után Gebru elmondta, hogy a vezetői közölték vele, hogy az üzenet “olyan viselkedést tükröz, amely nem felel meg a Google vezetőjének elvárásainak”, majd közölték vele, hogy elfogadják a lemondását. Csakhogy Gebru szerint nem ajánlotta fel a lemondását. Gebru, aki a héten szabadságon volt, azt tapasztalta, hogy a vállalat már megszüntette a hozzáférését a céges e-mail fiókokhoz – írja a Post.
Hirdetés
Miután a Twitteren megosztotta kirúgásának hírét, számos kollégája a Google-n belül és kívül is támogató üzenetekkel reagált.
A Bloomberg megjegyzi, Gebru-t a technológiai ipar egyik “vezető hangjának” tartják a mesterséges intelligencia etikus felhasználása terén. A szakterületén a kevés fekete nő egyikeként ő a felelős azért a 2018-as mérföldkőnek számító tanulmányért, amely kimutatta, hogy az arcfelismerő szoftverek az esetek akár 35 százalékában tévesen azonosították a sötét bőrű nőket. Ugyanez a technológia “a fehér férfiak esetében szinte precízen működött” – írja a Post.
Hirdetés
A nő nem félt nyilvánosan is összeütközésbe kerülni a feletteseivel: Jeff Deannal, a Google AI vezetőjével is vitába szállt, miután májusban, kevesebb mint egy héttel azután, hogy George Floydot a minneapolisi rendőrök letartóztatása közben megölték, a rendfenntartók támogatását tweetelte.
“Lehet, hogy szerinted valami teljesen rendben van, de nem te vagy az, aki ezzel foglalkozik. Ez növeli az ellenünk irányuló erőszakot” – válaszolta Gebru a Twitteren. “A legtöbb ember nem is mondana neked semmit.”
Hirdetés
Szókimondása következményekkel járt. A Bloomberg Newsnak augusztusban nyilatkozva Gebru elmondta, hogy miközben a fekete bőrű Google-alkalmazottakat a vállalat sokszínűség iránti elkötelezettségének példájaként hirdetik, amikor felszólalnak a munkakörülményeikről, kifogásokat kapnak, figyelmen kívül hagyják őket, vagy a hangnemüket rendreutasítják. Gebru esetében a volt Google-alkalmazott elmondta, hogy a sokszínűséggel kapcsolatos kérdésekben való felszólalásának hírnevét ellene használták fel. Amikor a vállalat fontolóra vette, hogy egy másik alkalmazottat irányítson, a felettesek azt mondták, aggódtak amiatt, hogy vajon tud-e mást is irányítani, ha ennyire elégedetlen – számolt be a Bloomberg.
“Az emberek nem ismerik a létező problémák mértékét, mert nem lehet róluk beszélni” – mondta Gebru annak idején a kiadványnak. “És abban a pillanatban, amikor megteszed, te vagy a probléma.”
Hirdetés
Szerkesztő, The Root.