KADOKAWA Technology Review
×
【4/24開催】生成AIで自動運転はどう変わるか?イベント参加受付中
ディープマインドの研究者が
問う「AI界の植民地」問題
Ari Liloan
倫理/政策 無料会員限定
The problems AI has today go back centuries

ディープマインドの研究者が
問う「AI界の植民地」問題

人工知能(AI)の最も厄介な問題点であるアルゴリズム的差別や「ゴーストワーク」は偶然の産物ではない。問題の背景にあるのは、過去に植民地化した者とされた者との間の力の不均衡であり、長く忌むべき歴史を理解することが問題解決の第一歩となる。 by Karen Hao2020.08.06

2015年3月、南アフリカのケープタウン大学で、英国の植民地主義者セシル・ローズのキャンパス像を巡って抗議活動が勃発した。大学の建つ土地を贈与した鉱山王であるローズは、アフリカ人を大量虐殺し、アパルトヘイトの基礎を築いた。学生たちは「ローズは倒れろ」という横断幕を掲げ、像の撤去を要求した。彼らの抗議活動は、教育界に残る植民地時代の遺産を根絶するための世界的な運動に火をつけた。

この出来事はまた、グーグルの人工知能(AI)子会社であるディープマインド(DeepMind)の南アフリカ人のAI研究者であるシャキール・モハメド博士を触発し、AI研究にも植民地時代の遺産が存在するかもしれないと考えさせた。2018年、AI分野がアルゴリズム的差別のような問題を認識し始めていた矢先、モハメド博士はその時の所見をブログ記事にし、「AIを脱植民地化する」ことを研究者に呼びかけた。つまり、AI分野の仕事をシリコンバレーといった西洋のハブから離して再分配し、AI技術の発展を導くための新しい声、文化、アイデアを呼び込むべきだとした。

そして今、ジョージ・フロイド殺人事件や世界的な反人種差別運動によって、英国のオックスフォード大学のキャンパスでは「ローズは倒れろ」という叫びが再燃している。そのことを受けてモハメド博士は、ディープマインドの同僚のウィリアム・アイザック博士、オックスフォード大学の大学院生であるマリー・テレーズ・ピンとともに新しい論文を発表した。論文は、AIの課題がなぜ植民地主義に根ざしているかを具体例で説明することにより、モハメド博士の元の論点を肉付けし、さらにその歴史を認識することでそれらに対処する術を提示している。

AIに巣食う「コロニアリティ」

歴史上では植民地主義は終わったかもしれないが、その影響は今日も存在している。これは専門家が「コロニアリティ」と呼ぶもので、現代の人種、国、貧富の差などの集団間の力の不均衡は、植民地化した者とされた者との間の力の不均衡の延長線上にあるという考え方だ。

構造的人種差別はその一例だ。もともとヨーロッパ人は、アフリカの奴隷貿易やアフリカ諸国の植民地化を正当化するため、人種と人種間の差異という概念を発明した。米国においてもそのイデオロギーの影響を、奴隷制やジム・クロウ(日本版注:米国にかつて存在した人種差別的内容を含む州法の総称)、警察の残虐行為などの歴史に見ることができる。

同様に、植民地化の歴史が、AIの持つ最も厄介な特徴や影響のいくつかを説明し得るとモハメド博士らは主張し、次の5つの点でコロニアリティがはっきりした形をとって現れているとしている。

アルゴリズム的差別・抑圧

アルゴリズムによ …

こちらは会員限定の記事です。
メールアドレスの登録で続きを読めます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
【春割】実施中! ひと月あたり1,000円で読み放題
10 Breakthrough Technologies 2024

MITテクノロジーレビューは毎年、世界に真のインパクトを与える有望なテクノロジーを探している。本誌がいま最も重要だと考える進歩を紹介しよう。

記事一覧を見る
気候テック企業15 2023

MITテクノロジーレビューの「気候テック企業15」は、温室効果ガスの排出量を大幅に削減する、あるいは地球温暖化の脅威に対処できる可能性が高い有望な「気候テック企業」の年次リストである。

記事一覧を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る