KADOKAWA Technology Review
×
来れ、若きイノベーター! Innovators Under 35 Japan 2022 応募受付開始。
グーグルが新設した「AI倫理委員会」に社員が猛反発した理由
Getty Images/Leon Neal
Google’s AI council faces blowback over a conservative member

グーグルが新設した「AI倫理委員会」に社員が猛反発した理由

グーグルは人工知能(AI)プロジェクトを倫理面で指導するために、第三者委員会を設置することを発表した。だが、委員にはマイノリティの権利擁護に異論を唱え、地球温暖化懐疑論や反科学の立場を支持する人物が含まれており、社員らは解任を要請している。 by Will Knight2019.04.05

グーグルのような企業にとって、人工知能(AI)は政治色を帯びた問題となりつつある。グーグルは現在、同社のAIプロジェクトを倫理面を監督するために設置した第三者委員会の件でもめている(日本版追記:グーグルは4月4日、第三者委員会を解散すると発表した。期待どおりに機能できないことが判明したためだという)。

グーグルは3月にサンフランシスコで開催されたMITテクノロジーレビュー主催のカンファレンス「EmTechデジタル」において、AI倫理の第三者委員会の設立を発表した。しかし、保守系シンクタンクであるヘリテージ財団のケイ・コールズ・ジェームズ所長が委員に含まれていたことに対し、LGBTQ(レズビアン、ゲイ、バイセクシャル、トランスジェンダー、ジェンダークィア )や移民、気候変動に対する同財団の姿勢に批判的な層から抗議が沸き上がった。そして同委員会の委員に選任されたうちの1人は、その後辞任した。

「先端テクノロジー外部諮問委員会(ATEAC:Advanced Technology External Advisory Council )」と呼ばれるグーグルの第三者委員会には、経済学者や哲学者、政策立案者、アルゴリズムのバイアスなどの問題に精通しているテクノロジストが含まれている。この4月から年4回の会議を開き、グーグルのAIプロジェクトに関するフィードバックを提供する報告書を作成することになっている。

諮問委員には、物議を醸しそうな人物が数人含まれている。たとえばダイアン・ギベンズは、軍需産業向けの自律システムを開発するトランブル(Trumbull)のCEO(最高経営責任者)だ。米空軍にドローン画像認識用AIを提供するというグーグルの決定に反対した従業員がいたことを考えると、議論を呼ぶ人選だ。

さらに物議を醸しているのは、ヘリテージ財団のジェームズ所長が委員になっていることだ。ヘリテージ財団は二酸化炭素の排出規制に反対し、移民に対して強硬な立場を取り、LGBTQの権利擁護に異論を唱えている。

請願書の起草に関わったあるグーグル社員は、匿名を条件に、ジェームズ所長は諮問委員会において単なる保守派の代弁者以上の存在であると語った。

「ジェームズ所長はトランスジェンダーの存在を否定する反動主義者です。反移民主義を支持する急進派で、地球温暖化懐疑論や反科学の立場を支持しています。ジェームズ所長が諮問委員会のメンバーに含まれていたという事実はかなり衝撃です」。

この社員は、ますます強大になるAIの力や、不平等を助長するAIの能力を鑑みると、この問題は非常に重要だと付け加えた。「これらの技術は社会制度や生活、リソースへのアクセスを形成するものです。もしAIが失敗するとしても、それはテック企業で働く裕福な白人男性にとっての失敗ではありません。AIの失敗はまさしく、ヘリテージ財団が方針に基づいて危害を加えようとしている人々にとっての失敗となるのです」。

グーグルの社内連絡用プラットフォームに投稿されたいくつかのメッセージは、ジェームズ所長の選任を特に批判している。AIアルゴリズムは、社会の偏見の助長にとてつもない力を発揮する可能性があると指摘する投稿もある。たとえば、トランスジェンダーの人々を誤認することが確認されたアルゴリズムもある。

ある投稿は、ジェームズ所長は「グーグルが正当と認めたプラットフォームにふさわしくないし、もちろんグーグルのテクノロジーが世界にどのように適用されるべきかという対話にもまったく参加していません」と記している。

ジェームズ所長の選任に抗議し、解任を求める請願書は、グーグルのメッセージングシステムだけでなく、ミディアム(Medium)のプラットフォームにも投稿された。いまのところ7人のグーグル社員のほか、社外の多数のテクノロジストや研究者が署名している。

請願書では「ジェームズ所長の視点はグーグルが表明している価値観に反しているだけではありません。AIの開発や応用においては、利益よりも正義を優先させるというプロジェクトに直接反しています。そうしたプロジェクトではむしろ、弱いコミュニティを代表する人々を意思決定の中心に据えるべきです」と述べられている。

ATEACの設立と、ギベンズCEOやジェームズ所長を選任したのは、グーグルに批判的な保守層に譲歩する意図があるのかもしれない。諮問委員会設立の発表とほぼ同時期に、グーグルのサンダー・ピチャイCEOはドナルド・トランプ大統領と会談。大統領は、会談後に「ピチャイCEOは、中国軍ではなく米軍に完全にコミットしていると確約してくれました。(私たちは)また政治的公正や、グーグルがわが国に対してできる様々なことも議論しました。会談はとてもうまくいきました!」とツイートした。

ATEACを巡る反発には今や、諮問委員会の委員も何人か加わっている。デジタル・プライバシーの問題を専門とするカーネギーメロン大学のアレサンドロ・アクイスティ教授は、間髪を置かずにツイッターでATEACからの辞任を宣言した。「私はAIにおける公正さや権利、インクルージョンにおける重要な倫理問題を扱う研究に従事していますが、ATEACはこの重要な問題に取り組むのにふさわしいフォーラムだとは思えません」。

人気の記事ランキング
  1. How China’s biggest online influencers fell from their thrones 桁外れの中国トップ・インフルエンサー、一夜にして転落
  2. How censoring China’s open-source coders might backfire 中国版ギットハブ、コードを検閲・遮断か? OSS開発者に衝撃
  3. Scientists hacked a locust’s brain to sniff out human cancer バッタの脳を改造、人間のがんの「嗅ぎ分け」に成功
  4. These materials were meant to revolutionize the solar industry. Why hasn’t it happened? 参入相次ぐ「ペロブスカイト太陽光電池」、実用化はいつ?
  5. What impact will DeepMind’s scientific AI have on our society? アルファフォールド2が社会に与える「アルファ碁」以上のインパクト
ウィル ナイト [Will Knight]米国版 AI担当上級編集者
MITテクノロジーレビューのAI担当上級編集者です。知性を宿す機械やロボット、自動化について扱うことが多いですが、コンピューティングのほぼすべての側面に関心があります。南ロンドン育ちで、当時最強のシンクレアZX Spectrumで初めてのプログラムコード(無限ループにハマった)を書きました。MITテクノロジーレビュー以前は、ニューサイエンティスト誌のオンライン版編集者でした。もし質問などがあれば、メールを送ってください。
日本発「世界を変える」35歳未満のイノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を発信する。

記事一覧を見る
人気の記事ランキング
  1. How China’s biggest online influencers fell from their thrones 桁外れの中国トップ・インフルエンサー、一夜にして転落
  2. How censoring China’s open-source coders might backfire 中国版ギットハブ、コードを検閲・遮断か? OSS開発者に衝撃
  3. Scientists hacked a locust’s brain to sniff out human cancer バッタの脳を改造、人間のがんの「嗅ぎ分け」に成功
  4. These materials were meant to revolutionize the solar industry. Why hasn’t it happened? 参入相次ぐ「ペロブスカイト太陽光電池」、実用化はいつ?
  5. What impact will DeepMind’s scientific AI have on our society? アルファフォールド2が社会に与える「アルファ碁」以上のインパクト
MITテクノロジーレビュー[日本版] Vol.7
MITテクノロジーレビュー[日本版] Vol.7世界を変える10大技術 2022年版

パンデミック収束の切り札として期待される「新型コロナウイルス感染症(COVID-19)飲み薬」、アルファ碁の開発企業が作った「タンパク質構造予測AI」、究極のエネルギー技術として期待が高まる「実用的な核融合炉」など、2022年に最も注目すべきテクノロジー・トレンドを一挙解説。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る