Une femme noire connue comme une « rare voix de critique publique » chez Google a été licenciée par l’entreprise technologique après avoir envoyé un courriel interne dénonçant le traitement de l’entreprise envers les employés issus des minorités – et en particulier, ceux qui sont noirs et féminins.

Timnit Gebru, qui a codirigé l’équipe d’intelligence artificielle éthique chez Google, est considéré comme un pionnier dans le domaine, avec un accent particulier sur la façon dont les logiciels de reconnaissance faciale sont biaisés contre les personnes de couleur. Comme le rapporte Bloomberg, Gebru dit qu’elle a été licenciée par le chef de la division IA de Google mercredi pour un courriel qu’elle a envoyé à des collègues dans lequel elle a dit qu’elle se sentait « constamment déshumanisée » dans l’entreprise de technologie.

Gebru dit qu’elle croit que son licenciement était destiné à avoir un effet de refroidissement sur les autres employés, envoyant un message sur les conséquences de parler.

Le courriel faisait suite à une lutte entre Gebru et l’entreprise au sujet d’un document de recherche que Gebru avait coécrit avec six autres personnes, dont quatre employés de Google, qui critiquait les systèmes d’IA connus sous le nom de « grands modèles de langage », rapporte le Washington Post.

Voici comment Bloomberg résume le document analytique, qui avait été approuvé par le responsable de Gebru avant d’être envoyé à d’autres personnes de l’entreprise pour approbation:

Le document appelait les dangers de l’utilisation de grands modèles de langage pour former des algorithmes qui pourraient, par exemple, écrire des tweets, répondre à des questions et traduire de la poésie, selon une copie du document. Les modèles sont essentiellement formés en analysant le langage de l’internet, ce qui ne reflète pas les larges pans de la population mondiale qui ne sont pas encore en ligne, selon le document. Gebru souligne le risque que les modèles ne reflètent que la vision du monde des personnes qui ont été assez privilégiées pour faire partie des données d’entraînement.

Google voulait que Gebru rétracte le document, dit-elle. Et si elle ne voulait pas le faire, ils voulaient au moins que les noms des employés de Google soient rayés de la recherche.

« C’est le silence le plus fondamental », a déclaré Gebru dans une interview au sujet des exigences de Google. « Vous ne pouvez même pas avoir votre voix scientifique. »

La lutte autour du document de recherche a couronné des années de tensions croissantes entre Gebru et l’entreprise, que Gebru a décrites dans son courriel aux chercheurs de l’équipe IA de l’entreprise sous la liste de diffusion « Brain Woman and Allies. »

La lettre a été publiée sur la lettre d’information de l’écrivain tech Casey Newton, Platformer, jeudi.

« Il y a zéro responsabilité » chez Google, a écrit Gebru. « Il n’y a aucune incitation à embaucher 39% de femmes : votre vie devient pire lorsque vous commencez à défendre les personnes sous-représentées.

« Nous venons d’avoir une recherche noire à toutes les mains avec une telle démonstration émotionnelle d’exaspération », a-t-elle poursuivi.  » Savez-vous ce qui s’est passé depuis ? Le silence de la manière la plus fondamentale possible. »

Gebru a détaillé plusieurs incidents entre elle et l’entreprise, y compris un procès potentiel qu’elle et un autre collègue avaient envisagé de déposer contre Google.

« Les avocats de Google étaient prêts à nous jeter sous le bus », a déclaré Gebru. Mais après qu’elle et un collègue aient engagé des « avocats féministes », elle a reçu « un « prix d’impact » aléatoire » de la part du géant de la technologie.

« Du pur gaslighting », a déclaré Gebru, conseillant finalement à ses destinataires d' »arrêter d’écrire vos documents parce que cela ne fait pas de différence ».

« Il n’y a aucune chance que plus de documents ou plus de conversations aboutissent à quoi que ce soit. »

Après avoir envoyé le courriel, Gebru a déclaré que ses gestionnaires lui ont dit que le message reflétait « un comportement incompatible avec les attentes d’un gestionnaire de Google », puis lui ont dit qu’ils acceptaient sa démission. Sauf que, selon Mme Gebru, elle n’avait pas proposé de démissionner. Gebru, qui était en vacances cette semaine, a constaté que l’entreprise avait déjà mis fin à son accès aux comptes de messagerie de l’entreprise, rapporte le Post.

Après avoir partagé la nouvelle de son licenciement sur Twitter, nombre de ses collègues, à l’intérieur et à l’extérieur de Google, ont répondu par des messages de soutien.

Comme le note Bloomberg, Gebru est considérée comme l’une des « voix principales » de l’industrie technologique en matière d’utilisation éthique de l’IA. L’une des rares femmes noires dans son domaine, elle est responsable de l’étude historique de 2018 montrant que les logiciels de reconnaissance faciale identifiaient mal les femmes à la peau foncée jusqu’à 35 % du temps. La même technologie « fonctionnait avec une quasi précision sur les hommes blancs », écrit le Post.

Elle n’a pas non plus eu peur de se heurter publiquement à ses supérieurs, s’insurgeant contre Jeff Dean, le responsable de l’IA chez Google, après qu’il ait tweeté son soutien aux forces de l’ordre en mai, moins d’une semaine après que George Floyd ait été tué alors qu’il était arrêté par des policiers de Minneapolis.

« Vous pouvez penser que quelque chose est parfaitement bien mais vous n’êtes pas celui qui s’occupe de cela. Cela ajoute à la violence contre nous », a répondu Gebru sur Twitter. « La plupart des gens ne vous diraient même pas quelque chose. »

Son franc-parler a eu des conséquences. S’adressant à Bloomberg News en août, Gebru a déclaré que, bien que les employés noirs de Google soient présentés comme des exemples de l’engagement de l’entreprise en faveur de la diversité, lorsqu’ils parlent de leurs conditions de travail, on leur donne des excuses, on les ignore ou ils verront leur ton policé. Dans le cas de Mme Gebru, l’ancienne employée de Google a déclaré que sa réputation de s’exprimer sur les questions de diversité a été utilisée contre elle. Lorsque l’entreprise a envisagé de lui confier la gestion d’un autre employé, les superviseurs ont dit qu’ils s’inquiétaient de savoir si elle pouvait gérer quelqu’un d’autre si elle était si malheureuse, a rapporté Bloomberg.

« Les gens ne connaissent pas l’étendue des problèmes qui existent parce que vous ne pouvez pas en parler », a déclaré Gebru à la publication à l’époque. « Et dès que vous le faites, vous êtes le problème. »

.