技術

Googleは教授に6万ドルを提供したが、断った。 理由は次のとおりです。

彼は「Googleが本当に強力で潜在的に業界をリードすることができる倫理AIチームを構築していたから」と話した。

程なく、その感じが消え始めました。 12月初め、Googleの倫理AIチームの共同リーダーであり、ほとんどの白人男性の分野の著名な黒人女性であるTimnit Gebruが突然、Googleを去った。 12月2日に、彼女は ツイート 彼女は「すぐに解雇 “されたと 彼女は、内部メーリングリストに送信したメールの場合。 メールで彼女は会社の継続的な多様性不足のために失望と当時未発表の検討に関連する内部プロセスに対する不満を表明しました。 研究論文 より大きなAI言語モデルを構築する際の危険性について説明します。 ますます重要になる Googleの巨大な検索ビジネスに。

当時にブリューは、Google AI経営陣が会議の発表のために論文を撤回したり、名前を削除するよう言ったと述べた。 Googleは、彼女が会社で働き続けるために満たす必要がある電子メールを介して送信さ要求リストのようにビールの辞任を受け入れたと述べた。

Gebruの追放は、以下を含む会社の数ヶ月の間にの危機を開始しました。 スタッフ出発リーダーシップシャッフル、カニブリューの退社状況により、一部の従業員が、そこから自分の位置に疑問を持つようにされたことについてGoogle CEOの謝罪。 Googleは、 内部調査 問題では、 発表された結果 同じ日に、同社はGebruの退場後、ツイッターで会社を継続的に批判してきたGe​​bruの共同チームリーダーであるMargaret Mitchellを解雇しました。 (Googleは行動規範の「複数の違反」に言及した。)一方、Google外部の研究者は、特にAI分野の研究者たちは、その会社の歴史でよく知られている奨学金にますます不信てがブリューとミッチェルの待遇に怒っている。

このすべてが、3月10日にスタークは、Googleが彼にお祝いメッセージを送った時、企業が感情を検出するために使用されるAIを展開する方法を見てみるの研究プロジェクトの提案について、6万ドルを提供していたとき非常に集中しました。 StarkはGebruとMitchellはもちろん、まだGoogleの倫理AIチームに残っている人たちを支援するための賞を拒否しなければならない、すぐに感じたました。

スタークはCNNビジネスに “私の最初の考えは、「私は拒絶しなければならない」ということだった」と語った。

Starkは最近会社から提供された資金や機会を失うための決定についてGebruとMitchellの出口を引用する学界でより多くの人々の一つです。 一部のAI会議の主催者は、Googleがスポンサーに戻って考えています。 そして、過去に、Googleから大きな小切手を受け取った少なくとも学者は 財政的支援を求めないでしょう 会社で変更されるまで。

ストレージシステムを研究するテキサス大学オースティン大学助教授ビジェイチダム風はCNNビジネス “良心的に従業員をこのように接する会社からこれ以上の資金を受け取ることができない」と述べた。 Chidambaramは、以前に研究プロジェクトのために2018年にGoogleから3万ドルを受け取った。

関連お金は、Googleにほとんど重要ではありません。 しかし、倫理的なAIのチームとの緊張に起因するGoogleの対立は現在、同社の AIコミュニティの評判と位相。 これは、Googleが人材を置いて戦うために非常に重要です。 会社の従業員と学界で接続された名前のすべてです。

「私はこれが会社が認識しているよりも広がっていると考えている」とStarkは述べた。

連帯減少

彼の初期の傾向にもかかわらず、Starkは、Googleの上をすぐに拒否していません。 彼は次の週の金曜日に、Googleに返信を送信する前に、「私は下した決定について、人々が支持しました」という計画について同僚と話しました。 彼は、自分の研究のために「信頼の表」に関して、われわれ感謝しましたが、「Gebru博士とMitchell博士は、彼らのチームメイトと同じような状況にあったすべての人々と連帯して、この賞を拒絶している」と書いた。 CNN Businessでこのメール。

TikTok銀プラスサイズの女性に権限を付与し、いくつかの投稿を削除しました。 彼らはまだ理由を知りません。

「私は、Google Researchと再び協力することを期待しています。この場合、組織とリーダーが決定を反映して、彼らは原因となった被害を解決し言葉と行動で育成に専念しました。公平性と定義を支える批判的研究と製品 “とStarkは書きました。

その ツイート 多くの人々が、Googleや他の企業の資金支援を拒絶する余裕がないという点を指摘し、受賞を拒否し公開することを決めました。 StarkはWestern University医学が十分な資金を確保したので、お金を忘れることができます。 グーグルの衣装は、追加研究費を提供したと述べた。
「私たちができることは合理的にすることができるであるだけです。これは私がすることができると感じたことでした。」Stark ツイート

GebruはStarkの行動に感謝していると言いました。

彼女はCNN Businessに「誰かがGoogle後援を拒否するのは非常に大変です。」と言いました。 「特にキャリア初期の人」

Googleの広報担当は、過去15年の間に、Googleは、Google外部の人に6,500以上の学術研究助成金を提供したと述べた。 スポークスマンによると、スタークは、最初に断った人である。

「待遇を受けた方式は、非常に大きな失敗でした。」

しかし、Starkの決定は、GebruとMitchellとの連帯を示す最新のショーであるだけです。

怒りの最初の兆候は、Gebru、Googleを去った直後に気づいた。 よりたくさんの 彼女の出発を非難する中間投稿 研究論文のためのGoogleの決定のために透明性を要求し、学業とAIの分野では、Googleの従業員と支持者の署名を迅速に獲得しました。 3月末までにGoogleの支持者数はほぼ2,700人のGoogleの従業員と4,300人以上の従業員に増えました。
Googleは最近、AIの研究のための評判が損なわれたという事実を知っており、これを修正すると言っ明らかにした。
3月初め、Gebruと彼女の共著者が論文を提出した会議で 公平さ、責任性、透明性に関するACM会議またはFAccTは、Googleとのスポンサーシップ契約を停止しました。 Gebruは会議の創設者の一人であり、FAccTの最初の実行委員会の委員として活動しました。 Googleは、2018年の年次会議が始まって以来、毎年後援をしてきました。 ACM FAccTネットワークの共同議長であるMichael EkstrandはCNN Businessに後援が中断されたと確認しながら、今回の措置は、「最善の利益のためにEkstrandはGebruこの決定に関与していなかった言いました。
また、3月に二学者は次のようなGoogleの措置に抗議しました。 ツイート その 彼らはオンラインで開催される招待専用ロボット研究のイベントに参加しないことを決定しました。 Cornellロボット工学の教授であるHadas Kress-Gazitもその一人でした。 彼女は1月に招待を受けたが、イベントが近づくにつれ、より寡黙になったと述べた。

「それは本当の失敗であった [Gebru and Mitchell] 治療を受けた。 彼女は最近のインタビューでCNN Businessとのインタビューで、まだ誰も彼らに謝罪していない。 「最高の研究者にそのように行動する企業と交流したくありません。」

AIの境界を広げるためのGoogleの取り組み

Googleはここ数カ月の間、研究機関としての名声が損なわれことを知っており、これを修正すると言っ明らかにした。 ロイターが初めて報道してCNNビジネスにも、オーディオを入手した最近のGoogle視聴会議で会社は、内部の研究と出版慣行の変更を説明しました。

「信頼を取り戻す方法は責任あるAI関連トピックの境界を広げ、研究コミュニティに非常に興味深い内容を公開するなど、多くの分野で最先端の作業を継続して公開することだと思います。GoogleのAI責任者であるJeff Deanは継続して研究分野のリーダーになるための最善の方法を提示します。彼は、外部の研究者に関する従業員の質問に「今より懐疑的な態度で “Googleの論文を読んでと答えた。

Googleは倫理的AIチームの議論を終了しようと努力しています。 よくしていない

GebruはFAccTと同様に、より多くの会議が技術の会社の研究室との関係を再評価することを希望します。 歴史的にAIの開発と研究の多くの作業は、学術的環境で行われました。 しかし、企業がこの技術の商業的用途をますます多く発見することにより、学界や企業の境界があいまいになりました。 Googleは多くの研究者たちの論文を発表する学術会議に多くの影響力を行使する多くの技術企業の一つであるだけです。 従業員は、会議のボードに座っており、毎年数万ドルに達する多くの会議を主催します。

たとえば、Googleの親会社であるAlphabetの一部の子会社は、International Conference on Machine LearningまたはICMLとConference on Neural Information Processing Systems(NeurIPS)で$ 20,000「プラチナ」と$ 10,000 “ゴールド”レベルスポンサーに選ばれました。 2020年 – 二の主要なAI会議。 そして会社の従業員の一部は、組織委員会に出席します。

ICMLのジョン・ラングフォード会長は、今回の会議が7月に予定さ2021年の会議のために、Googleが「現在の後援のために開いている」と述べた。

「会議としてのICMLがどのように良い機械学習文化や慣習を奨励すべきかについての議論が進んでいます。

NeurIPSマネージングディレクターであるMary Ellen Perryは、会議がまだ年次スポンサーを要請しなかったが、「今年の後援委員長が用意した一連の選定指針に基づいて評価されるだろう」と言いました。 NeurIPSは12月に予定されています。

しかし、Starkと学術研究コミュニティの他の人々にはGoogleから資金を受ける基準がすでに変更されました。

「追加の研究費は大きな助けになるでしょう。」とStarkは言いました。 「しかし、我慢できないような感じでした。」

READ  「Appleは、環境のためにLightningを放棄し、iPhoneをUSB Type-Cに対応させて下さい」という主張 - GIGAZINE

Nakama Shizuka

"フリーランスの学生。微妙に魅力的な料理の達人。トータルベーコンの先駆者。旅行の第一人者。自慢のオーガナイザー。"

Related Articles

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

Back to top button
Close
Close