KADOKAWA Technology Review
×
ひと月あたり1000円に。購読キャンペーン実施中!
人工知能から差別や偏見を排除できるのか?
Miguel Porlan
How to Root Out Hidden Biases in AI

人工知能から差別や偏見を排除できるのか?

米国では被告人を仮釈放すべきかどうか、裁判官に助言するソフトウェアが使われている。ローンの審査や人材採用に人工知能を活用する企業もある。こうした人生を左右する決定に使われるコンピューターから、差別や偏見を排除できるのだろうか? ハーバード大学のコンピュータ科学者であるシンシア・ドゥーワーク教授は、人工知能が公平に判断していることを確認する方法を開発している。 by MIT Technology Review Editors2017.10.26

アルゴリズム設計者やデータ・サイエンティストが、偏見や不公平について説明するのはなぜ難しいのでしょうか?

女性が働きにくい職場環境を例に考えてみましょう。「成功」の定義を、2〜3年間働き続けて昇進することと仮定します。過去のデータに基づいて予測すれば、女性を雇用するのはよい考えではない、となるでしょう。ここで重要なのは、歴史的な採用判断について話しているわけではないということです。たとえ採用基準から偏見を完全に払拭したとしても、現実として女性が働きにくい職場環境には相変わらず差別はあり続けるのです。より深い部分にある、構造的で、根深く、克服するのが困難な問題なのです。

私は機械学習と人工知能(AI)が誰と誰を対等に扱うべきかを判断するために、歴史や社会学、心理学の教養を持つ真の知識人と連携することが非常に役に立つと考えています。

コンピューターができないというのではなく、今はできないというのが私の意見です。AIが正しいモデルを身につけられるのはいつか。そのモデルが社会で現実に起きていることを反映できるようになるのはいつか。あなたが何の話をしているのか理解する必要があるのです。「すべてのモデルは間違っているが、中には役に立つモデルもある」という有名な言葉があります。

(聞き手:MITテクノロジーレビュー AI担当上級編集者 ウィル・ナイト)

人気の記事ランキング
  1. These drone photos show urban inequality around the world ドローン空撮がさらけ出す、世界の都市に潜む不平等
  2. The world is waking up to India’s plight—too late 1日100万人超感染か インド、新型コロナ変異株で深刻な危機に
  3. What are the ingredients of Pfizer’s covid-19 vaccine? ファイザーの新型コロナワクチンの成分は?専門家が解説
Innovators Under 35 Japan 2020

MITテクノロジーレビューが主催するグローバル・アワード「Innovators Under 35」が2020年、日本に上陸する。特定の分野や業界だけでなく、世界全体にとって重要かつ独創的なイノベーターを発信していく取り組みを紹介しよう。

記事一覧を見る
人気の記事ランキング
  1. These drone photos show urban inequality around the world ドローン空撮がさらけ出す、世界の都市に潜む不平等
  2. The world is waking up to India’s plight—too late 1日100万人超感染か インド、新型コロナ変異株で深刻な危機に
  3. What are the ingredients of Pfizer’s covid-19 vaccine? ファイザーの新型コロナワクチンの成分は?専門家が解説
MITテクノロジーレビュー[日本版] Vol.3/Spring 2021
MITテクノロジーレビュー[日本版] Vol.3/Spring 2021Innovation Issue

AI/ロボット工学、コンピューター/電子機器、輸送、ソフトウェア、インターネット分野で活躍する13人の日本発のイノベーターを紹介。併せて、グローバルで活躍する35人のイノベーターの紹介と、注目のイノベーション分野の動向解説も掲載しました。
日本と世界のイノベーションの最新情報がまとめて読める1冊です。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る