KADOKAWA Technology Review
×
フェイスブック、AIの差別問題を調査する社内チーム設置へ
NeONBRAND / Unsplash
Facebook says it will look for racial bias in its algorithms

フェイスブック、AIの差別問題を調査する社内チーム設置へ

人工知能(AI)アルゴリズムの偏見(バイアス)批判を受けて、フェイスブックが社内チームを発足した。アルゴリズムの是正につながるか。 by Will Douglas Heaven2020.07.27

フェイスブックが自社のソーシャル・ネットワークおよびインスタグラムのアルゴリズムに、人種差別を調査する新しい社内チームを設置すると発表した。ウォール・ストリート・ジャーナルが報じた。特に今回の調査は、訓練データに符号化されて埋め込まれた人種差別によって、機械学習が黒人やヒスパニック系および他のマイノリティ集団に与える悪影響に対処するという。

この数年、多くの研究者や活動家が、人工知能(AI)における偏見と、マイノリティに対する不均衡な影響に関する問題を浮き彫りにしてきた。機械学習を使って25億人のユーザーの日常体験をキュレーションするフェイスブックは、長らくこのような内部評価を実施すべき状態にあった。例えば、フェイスブックの広告配信アルゴリズムが人種差別を行ない、広告主が特定の人種グループに広告を表示させないことを許可していた証拠はすでに存在する。

フェイスブックはこれまで、同社のシステムが抱えるバイアス(偏見)に対する批判を回避してきたが、数年にわたる批判的報道と人権活動団体の圧力によって今回の対応に至った。フェイスブックは、名誉毀損防止同盟(Anti-Defamation League)やカラー・オブ・チェンジ(Color of Change)、全米黒人地位向上協会(NAACP)を含む複数の人権活動団体が組織した広告ボイコットを、1カ月にわたって受けてきた。コカ・コーラやディズニー、マクドナルド、スターバックスのような広告に多額を投じる企業が広告キャンペーンを停止したことで、今回の新しい調査チームの発足に至っている。

歓迎すべき動きだ。だが、調査を開始することと、実際に人種差別の問題を解決することには大きな隔たりがある。解決策が分かっていない現状を考慮すればなおさらだ。ほとんどの場合、偏見は訓練データの中に存在し、それを取り除く優れた方法は存在しない。また、アルゴリズムの差別是正措置の1つとしてそのようなデータを調整することには、賛否両論ある。機械学習の偏見は、人種をめぐるソーシャル・メディアの問題の1つにすぎない。機械学習のアルゴリズムを調査するのであれば、フェイスブックは人種差別的な政治家や白人至上主義団体、ホロコースト(ユダヤ人大虐殺)否定論者に発信の場を与える方針の再検討にも取り組み、より幅広い見直しをかけるべきだ。

人気の記事ランキング
  1. Singapore’s police now have access to contact tracing data シンガポールの接触追跡アプリが方針転換、犯罪捜査でも利用可に
  2. The winners of Innovators under 35 Japan 2020 have been announced MITTRが選ぶ、日本発の35歳未満のイノベーターを発表
  3. Don’t panic about the latest coronavirus mutations, say drug companies 新型コロナ「変異種」を過度に恐れる必要がないこれだけの理由
  4. Don’t worry, the earth is doomed 人類を滅亡に導く、15の破壊的リスク
  5. The kitchen of the future is here, it’s just not evenly distributed 電子レンジ、真空調理器超える「キッチン・テクノロジー」の未来
ウィル・ダグラス・ヘブン [Will Douglas Heaven]米国版 AI担当上級編集者
AI担当上級編集者として、新研究や新トレンド、その背後にいる人々を取材しています。前職では、テクノロジーと政治に関するBBCのWebサイト「フューチャー・ナウ(Future Now)」の創刊編集長、ニュー・サイエンティスト(New Scientist)誌のテクノロジー統括編集長を務めていました。インペリアル・カレッジ・ロンドンでコンピュータサイエンスの博士号を取得しており、ロボット制御についての知識があります。
Innovators Under 35 Japan 2020

MITテクノロジーレビューが主催するグローバル・アワード「Innovators Under 35」が2020年、日本に上陸する。特定の分野や業界だけでなく、世界全体にとって重要かつ独創的なイノベーターを発信していく取り組みを紹介しよう。

記事一覧を見る
人気の記事ランキング
  1. Singapore’s police now have access to contact tracing data シンガポールの接触追跡アプリが方針転換、犯罪捜査でも利用可に
  2. The winners of Innovators under 35 Japan 2020 have been announced MITTRが選ぶ、日本発の35歳未満のイノベーターを発表
  3. Don’t panic about the latest coronavirus mutations, say drug companies 新型コロナ「変異種」を過度に恐れる必要がないこれだけの理由
  4. Don’t worry, the earth is doomed 人類を滅亡に導く、15の破壊的リスク
  5. The kitchen of the future is here, it’s just not evenly distributed 電子レンジ、真空調理器超える「キッチン・テクノロジー」の未来
MITテクノロジーレビュー[日本版] Vol.2/Winter 2020
MITテクノロジーレビュー[日本版] Vol.2/Winter 2020SDGs Issue

今、世界中の企業や機関の技術者・研究者たちが各地で抱える社会課題を解決し、持続可能な世界の実現へ向けて取り組んでいる「SDGs(持続可能な開発目標)」。
気候変動や貧困といった地球規模の課題の解決策としての先端テクノロジーに焦点を当て、解決に挑む人々の活動や、日本企業がSDGsを経営にどう取り入れ、取り組むべきか、日本が国際社会から期待される役割について、専門家の提言を紹介します。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る