KADOKAWA Technology Review
×
グーグルが新設した「AI倫理委員会」に社員が猛反発した理由
Getty Images/Leon Neal
Google’s AI council faces blowback over a conservative member

グーグルが新設した「AI倫理委員会」に社員が猛反発した理由

グーグルは人工知能(AI)プロジェクトを倫理面で指導するために、第三者委員会を設置することを発表した。だが、委員にはマイノリティの権利擁護に異論を唱え、地球温暖化懐疑論や反科学の立場を支持する人物が含まれており、社員らは解任を要請している。 by Will Knight2019.04.05

グーグルのような企業にとって、人工知能(AI)は政治色を帯びた問題となりつつある。グーグルは現在、同社のAIプロジェクトを倫理面を監督するために設置した第三者委員会の件でもめている(日本版追記:グーグルは4月4日、第三者委員会を解散すると発表した。期待どおりに機能できないことが判明したためだという)。

グーグルは3月にサンフランシスコで開催されたMITテクノロジーレビュー主催のカンファレンス「EmTechデジタル」において、AI倫理の第三者委員会の設立を発表した。しかし、保守系シンクタンクであるヘリテージ財団のケイ・コールズ・ジェームズ所長が委員に含まれていたことに対し、LGBTQ(レズビアン、ゲイ、バイセクシャル、トランスジェンダー、ジェンダークィア )や移民、気候変動に対する同財団の姿勢に批判的な層から抗議が沸き上がった。そして同委員会の委員に選任されたうちの1人は、その後辞任した。

「先端テクノロジー外部諮問委員会(ATEAC:Advanced Technology External Advisory Council )」と呼ばれるグーグルの第三者委員会には、経済学者や哲学者、政策立案者、アルゴリズムのバイアスなどの問題に精通しているテクノロジストが含まれている。この4月から年4回の会議を開き、グーグルのAIプロジェクトに関するフィードバックを提供する報告書を作成することになっている。

諮問委員には、物議を醸しそうな人物が数人含まれている。たとえばダイアン・ギベンズは、軍需産業向けの自律システムを開発するトランブル(Trumbull)のCEO(最高経営責任者)だ。米空軍にドローン画像認識用AIを提供するというグーグルの決定に反対した従業員がいたことを考えると、議論を呼ぶ人選だ。

さらに物議を醸しているのは、ヘリテージ財団のジェームズ所長が委員になっていることだ。ヘリテージ財団は二酸化炭素の排出規制に反対し、移民に対して強硬な立場を取り、LGBTQの権利擁護に異論を唱えている。

請願書の起草に関わったあるグーグル社員は、匿名を条件に、ジェームズ所長は諮問委員会において単なる保守派の代弁者以上の存在であると語った。

「ジェームズ所長はトランスジェンダーの存在を否定する反動主義者です。反移民主義を支持する急進派で、地球温暖化懐疑論や反科学の立場を支持しています。ジェームズ所長が諮問委員会のメンバーに含まれていたという事実はかなり衝撃です」。

この社員は、ますます強大になるAIの力や、不平等を助長するAIの能力を鑑みると、この問題は非常に重要だと付け加えた。「これらの技術は社会制度や生活、リソースへのアクセスを形成するものです。もしAIが失敗するとしても、それはテック企業で働く裕福な白人男性にとっての失敗ではありません。AIの失敗はまさしく、ヘリテージ財団が方針に基づいて危害を加えようとしている人々にとっての失敗となるのです」。

グーグルの社内連絡用プラットフォームに投稿されたいくつかのメッセージは、ジェームズ所長の選任を特に批判している。AIアルゴリズムは、社会の偏見の助長にとてつもない力を発揮する可能性があると指摘する投稿もある。たとえば、トランスジェンダーの人々を誤認することが確認されたアルゴリズムもある。

ある投稿は、ジェームズ所長は「グーグルが正当と認めたプラットフォームにふさわしくないし、もちろんグーグルのテクノロジーが世界にどのように適用されるべきかという対話にもまったく参加していません」と記している。

ジェームズ所長の選任に抗議し、解任を求める請願書は、グーグルのメッセージングシステムだけでなく、ミディアム(Medium)のプラットフォームにも投稿された。いまのところ7人のグーグル社員のほか、社外の多数のテクノロジストや研究者が署名している。

請願書では「ジェームズ所長の視点はグーグルが表明している価値観に反しているだけではありません。AIの開発や応用においては、利益よりも正義を優先させるというプロジェクトに直接反しています。そうしたプロジェクトではむしろ、弱いコミュニティを代表する人々を意思決定の中心に据えるべきです」と述べられている。

ATEACの設立と、ギベンズCEOやジェームズ所長を選任したのは、グーグルに批判的な保守層に譲歩する意図があるのかもしれない。諮問委員会設立の発表とほぼ同時期に、グーグルのサンダー・ピチャイCEOはドナルド・トランプ大統領と会談。大統領は、会談後に「ピチャイCEOは、中国軍ではなく米軍に完全にコミットしていると確約してくれました。(私たちは)また政治的公正や、グーグルがわが国に対してできる様々なことも議論しました。会談はとてもうまくいきました!」とツイートした。

ATEACを巡る反発には今や、諮問委員会の委員も何人か加わっている。デジタル・プライバシーの問題を専門とするカーネギーメロン大学のアレサンドロ・アクイスティ教授は、間髪を置かずにツイッターでATEACからの辞任を宣言した。「私はAIにおける公正さや権利、インクルージョンにおける重要な倫理問題を扱う研究に従事していますが、ATEACはこの重要な問題に取り組むのにふさわしいフォーラムだとは思えません」。

人気の記事ランキング
  1. MIT Media Lab founder: I would still take Jeffrey Epstein’s money today エプスタイン資金問題を受け、メディアラボの総会で話されたこと
  2. Here’s how social media firms should tackle online hate, according to physics SNSからヘイトを排除するには? 物理学者が提唱する過激な対策
  3. Joi Ito, director of MIT Media Lab, resigns over ties to Jeffrey Epstein MITメディアラボの伊藤穰一所長が辞任
ウィル ナイト [Will Knight]米国版 AI担当上級編集者
MITテクノロジーレビューのAI担当上級編集者です。知性を宿す機械やロボット、自動化について扱うことが多いですが、コンピューティングのほぼすべての側面に関心があります。南ロンドン育ちで、当時最強のシンクレアZX Spectrumで初めてのプログラムコード(無限ループにハマった)を書きました。MITテクノロジーレビュー以前は、ニューサイエンティスト誌のオンライン版編集者でした。もし質問などがあれば、メールを送ってください。
人気の記事ランキング
  1. MIT Media Lab founder: I would still take Jeffrey Epstein’s money today エプスタイン資金問題を受け、メディアラボの総会で話されたこと
  2. Here’s how social media firms should tackle online hate, according to physics SNSからヘイトを排除するには? 物理学者が提唱する過激な対策
  3. Joi Ito, director of MIT Media Lab, resigns over ties to Jeffrey Epstein MITメディアラボの伊藤穰一所長が辞任
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る