This browser does not support the video element.
Timnit Gebru氏は、Googleで倫理的人工知能チームの共同リーダーで、特に顔認識ソフトウェアがいかに有色人種に対して偏っているかに焦点を当てたこの分野におけるパイオニアと考えられています。 ブルームバーグが報じたように、ゲブルは、彼女が同僚に送った電子メールの中で、ハイテク企業で「常に非人間的」と感じたと述べたため、水曜日にグーグルのAI部門の責任者から解雇されたと述べています。
ゲブルは、彼女の解雇が他の従業員を冷遇し、声を上げた結果についてのメッセージを送るためのものと考えていると言います。
広告
メールは、GebruがGoogle社員4人を含む他の6人と共同執筆した、「大規模言語モデル」として知られるAIシステムを批判した研究論文に関するGebruと会社の争いを受けていた、とワシントンポストが報じています。
Bloomberg は、Gebru のマネージャーによって承認された後、会社の他の人に送られて承認された分析論文を、次のように要約しています：
文書のコピーによると、この論文は、たとえば、ツイートを書き、トリビアに答え、詩を翻訳できるアルゴリズムをトレーニングするために大規模言語モデルを用いる危険性について呼びかけています。 このモデルは、基本的にインターネット上の言語を分析することによって訓練されたものであり、まだオンラインになっていない世界人口の大部分を反映していない、と論文では述べられています。 Gebru 氏は、モデルが、学習データの一部となるのに十分な特権を得た人々の世界観しか反映しないリスクを強調しています。
広告
GoogleはGebru氏に論文の撤回を求めていると言います。 そして、もし彼女がそれをしないのであれば、少なくとも Google 社員の名前を研究から削除することを望んでいました。 「Gebru は、メーリングリスト「Brain Woman and Allies」で同社の AI チームの研究者に送った電子メールの中で、研究論文をめぐる争いは、Gebru と同社の間の数年にわたる緊張の高まりに終止符を打ったのです。「
この手紙は、技術系ライターであるケイシー・ニュートンのニュースレター Platformer で木曜日に公開されました。
広告
「説明責任はゼロだ」とゲブルは書いています。 39% の女性を雇用するインセンティブはありません: 代表権のない人々を擁護し始めると、人生が悪化します」
「私たちはちょうど、ブラック リサーチの総力を挙げて、このように感情的に憤りを示すことがありました」彼女は続けました。 “その後、何が起こったか知っていますか？ 最も根本的な方法で黙らせたのです」
広告
ゲブルは、彼女と別の同僚がGoogleに対して起こすことを検討していた訴訟の可能性を含め、彼女と会社の間のいくつかの出来事について詳述しています。 しかし、彼女と同僚が「フェミニスト弁護士」を雇った後、彼女はハイテク大手から「何かランダムな『インパクト賞』」を与えられました。
広告
「完全にガス抜き」と Gebru は言い、最終的には「違いはないから文書を書くのをやめろ」と受給者に助言しています。
「これ以上の文書や会話で何かが達成されることはない」
メールを送った後、Gebru は上司から、そのメッセージは「Google 管理者の期待に反する行動」だと言われ、彼女の辞任を受け入れると言われたと言います。 ただし、Gebruによれば、彼女は辞職を申し出てはいなかった。 ゲブルは今週休暇中で、会社がすでに彼女の会社の電子メールアカウントへのアクセスを停止していたことがわかったと、ポスト紙は報じている。
Advertisement
解雇のニュースをTwitterで共有した後、Google内外の多くの同僚が応援メッセージで応えました。
ブルームバーグが指摘するように、Gebru氏は、AIの倫理的使用についてテック業界の「主要な声」のひとりと考えられています。 その分野では数少ない黒人女性の一人である彼女は、顔認識ソフトウェアが肌の黒い女性を最大35％の確率で誤認していたことを示す、2018年の画期的な研究の責任者です。 同じ技術が「白人男性にはほぼ正確に機能した」とポスト紙は書いている。
広告
彼女はまた、上司と公に衝突することを恐れず、5月に法執行機関を支持するツイートをしたグーグルのAI責任者のJeff Deanと問題を起こしたが、これはジョージ・フロイドがミネアポリス警察官に逮捕されて殺された1週間足らず後であった。
「あなたは何かを全く問題ないと思うかもしれないが、これを扱うのはあなたではない。 これは私たちに対する暴力に拍車をかけるものです」とゲブルはツイッターで返信しました。 “ほとんどの人は、あなたに何も言わないでしょう”
Advertisement
彼女の率直な発言は、結果を伴うものでした。 8月にブルームバーグ・ニュースに語ったところによると、グーグルの黒人社員は、同社の多様性へのコミットメントの例として称賛されていますが、彼らが労働条件について話すと、言い訳をされたり、無視されたり、口調が厳しくされたりするそうです。 ゲブルの場合、元グーグル社員は、多様性の問題について発言しているという評判が、自分にとって不利に使われたという。 ブルームバーグが報じたところによると、同社が彼女に他の従業員を管理させることを検討していたとき、上司は、彼女がそんなに不満なら他の誰かを管理できるだろうかと懸念していたといいます。
「人は、あなたがそれについて話すことができないので、存在する問題の範囲を知りません」とゲブルは当時同誌に対して語りました。 「
広告
Staff writer, The Root.