Una mujer negra conocida por ser una «rara voz de crítica pública» en Google ha sido despedida por la compañía tecnológica después de enviar un correo electrónico interno en el que denunciaba el trato de la empresa a los empleados pertenecientes a minorías y, en particular, a los que son negros y mujeres.

Timnit Gebru, que codirigía el equipo de Inteligencia Artificial Ética de Google, está considerado un pionero en este campo, con un enfoque particular en cómo el software de reconocimiento facial está sesgado contra las personas de color. Como informa Bloomberg, Gebru dice que fue despedida por el jefe de la división de Inteligencia Artificial de Google el miércoles por un correo electrónico que envió a sus compañeros de trabajo en el que decía que se sentía «constantemente deshumanizada» en la empresa tecnológica.

Gebru dice que cree que su despido tenía la intención de tener un efecto escalofriante en otros empleados, enviando un mensaje sobre las consecuencias de hablar.

El correo electrónico siguió a una lucha entre Gebru y la empresa sobre un trabajo de investigación que Gebru había coescrito con otras seis personas, incluidos cuatro empleados de Google, que criticaba los sistemas de IA conocidos como «grandes modelos de lenguaje», informa el Washington Post.

Así es como Bloomberg resume el documento analítico, que había sido aprobado por el gerente de Gebru antes de ser enviado a otros en la empresa para su aprobación:

El documento llamaba la atención sobre los peligros del uso de grandes modelos de lenguaje para entrenar algoritmos que podrían, por ejemplo, escribir tweets, responder a trivias y traducir poesía, según una copia del documento. Los modelos se entrenan esencialmente analizando el lenguaje de Internet, lo que no refleja grandes franjas de la población mundial que aún no está en línea, según el documento. Gebru destaca el riesgo de que los modelos sólo reflejen la visión del mundo de las personas que han tenido el privilegio de formar parte de los datos de entrenamiento.

Google quería que Gebru se retractara del documento, dijo. Y si no lo hacía, al menos querían que los nombres de los empleados de Google se eliminaran de la investigación.

«Es el silenciamiento más fundamental», dijo Gebru en una entrevista sobre las exigencias de Google. «Ni siquiera puedes tener tu voz científica».

La lucha por el trabajo de investigación coronó años de crecientes tensiones entre Gebru y la empresa, que Gebru describió en su correo electrónico a los investigadores del equipo de IA de la compañía bajo la lista de correo «Brain Woman and Allies».»

La carta fue publicada en el boletín del escritor tecnológico Casey Newton, Platformer, el jueves.

«Hay cero responsabilidad» en Google, escribió Gebru. «No hay ningún incentivo para contratar a un 39% de mujeres: tu vida empeora cuando empiezas a defender a las personas infrarrepresentadas.

«Acabamos de tener una investigación de negros a todo trapo con una muestra de exasperación tan emocional», continuó. «¿Saben lo que ha pasado desde entonces? Silenciar de la manera más fundamental posible».

Gebru detalló varios incidentes entre ella y la empresa, incluida una posible demanda que ella y otro colega habían considerado presentar contra Google.

«Los abogados de Google estaban dispuestos a tirarnos debajo del autobús», dijo Gebru. Pero después de que ella y una colega contrataran a «abogadas feministas», el gigante tecnológico le concedió «algún ‘premio de impacto’ al azar».

«Pura luz de gas», dijo Gebru, que finalmente aconsejó a sus destinatarios que «dejaran de escribir sus documentos porque no suponía ninguna diferencia.»

«No hay manera de que con más documentos o más conversaciones se consiga nada»

Después de enviar el correo electrónico, Gebru dijo que sus gerentes le dijeron que el mensaje reflejaba «un comportamiento incompatible con las expectativas de un gerente de Google», y luego le dijeron que aceptaban su renuncia. Pero, según Gebru, ella no había ofrecido su dimisión. Gebru, que estaba de vacaciones esta semana, se encontró con que la empresa ya había cancelado su acceso a las cuentas de correo electrónico de la compañía, informa el Post.

Tras compartir la noticia de su despido en Twitter, muchos de sus colegas dentro y fuera de Google respondieron con mensajes de apoyo.

Como señala Bloomberg, Gebru está considerada como una de las «principales voces» de la industria tecnológica en el uso ético de la IA. Una de las pocas mujeres negras en su campo, es responsable del estudio histórico de 2018 que muestra que el software de reconocimiento facial identificó erróneamente a las mujeres de piel oscura hasta un 35% de las veces. La misma tecnología «funcionó con casi precisión en hombres blancos», escribe el Post.

Tampoco tuvo miedo de chocar públicamente con sus superiores, discutiendo con Jeff Dean, jefe de IA de Google, después de que tuiteara su apoyo a las fuerzas del orden en mayo, menos de una semana después de que George Floyd fuera asesinado mientras era detenido por agentes de policía de Minneapolis.

«Puedes pensar que algo está perfectamente bien, pero no eres tú quien se ocupa de esto. Esto se suma a la violencia contra nosotros», respondió Gebru en Twitter. «La mayoría de la gente ni siquiera te diría nada»

Su franqueza tuvo consecuencias. En declaraciones a Bloomberg News en agosto, Gebru dijo que, aunque los empleados negros de Google son anunciados como ejemplos del compromiso de la empresa con la diversidad, cuando hablan de sus condiciones de trabajo, se les dan excusas, se les ignora o se vigila su tono. En el caso de Gebru, la ex empleada de Google dijo que su reputación por hablar sobre cuestiones de diversidad se utilizó en su contra. Cuando la empresa se planteó que dirigiera a otro empleado, los supervisores dijeron que les preocupaba que pudiera dirigir a otra persona si estaba tan descontenta, informó Bloomberg.

«La gente no conoce el alcance de los problemas que existen porque no se puede hablar de ellos», dijo Gebru a la publicación en su momento. «Y en el momento en que lo haces, tú eres el problema»