KADOKAWA Technology Review
×
【明日まで】10/31締切 日本初開催 「Innovators Under 35」候補者募集中
Microsoft’s CEO Calls for Accountable AI, Ignores the Algorithms That Already Rule Our Lives

MSナデラCEOの人工知能発言
将来より現実はどうなのか?

マイクロソフトのサティア・ナデラCEOは、差別的な人工知能の出現に警告するが、不公平なアルゴリズムがすでにあることはどうするのか? by Tom Simonite2016.06.30

マイクロソフトのCEO、サティア・ナデラは、人工知能の力がいずれ私たちの生活を支配するのではないかと心配する。昨日Slate に投稿された記事では、コンピュータ業界は今や我々の人間性を尊重できるように人工知能を設計する方法を検討し始めるべきだと述べた。

「未来の価値や倫理をテック業界が独占的に支配するべきではない」

ナデラは「意図せずに他者を傷つけた時、人間がそれを取り消すことができるようなアルゴリズム上の説明責任」を求める。AIを搭載したスマートソフトウェアを設計する際は、その働きを人間が精査し、特定の人々への差別や個人情報の不正使用を未然に防げなければならいというのだ。

Microsoft CEO Satya Nadella.
マイクロソフトのナデラCEO

それは高潔で筋の通った配慮だが、テック業界のリーダーたちはこの問題をもっと早い段階で取り上げるべきだった。日常生活を形成するアルゴリズムやソフトウェアにも、すでに厄介なバイアスがひそんでいる可能性を示す証拠は山のようにある。

連邦取引委員会の報告では、インターネット以前の時代に非難されていた、人種的・経済的なバイアスが、ターゲット型広告やその他のネット上のサービスのなかで再び姿を見せている ということが明らかになっている。
ウィスコンシン州では、 犯罪者が再犯を行うかどうか予測を試みるシステム(これは刑期を決定するために使用されている)の動作が秘密であることを巡り、論争がある。

ちょうど今日、アメリカ自由人権協会が、 ネット上の仕事や住宅に関する広告に見られる人種差別を探す計画を掲げる研究者グループの代理として、アメリカ政府を起訴したところだ。ハッキングに関する連邦法と、テック企業の掲げる契約条件に阻まれて、このグループは計画を実行することができずにいるのだ。

ナデラが未来の人工知能の問題として語る事柄のうち、いくつかは今すでに、実際に起こっている。マイクロソフトの研究員ケイト・クロウフォードが、最近のニューヨークタイムズ の論説で、アルゴリズム上のバイアスについてわかりやすくまとめている。彼女によれば、ソフトウェアは「すでに職場や家庭、そして我々の法律システムに見られる不平等を深刻なものにしつつあるかもしれない

ナデラは人工知能に関する未来予測の文章を次のように締めくくっている。

「AIに関する我々の探求において最も根本的な次のステップは、その設計のために倫理的で共感的なフレームワークを準備することだ」

AIに支配される未来に備えるなら、今すでに私たちを取り囲んでいる「まぬけな」ソフトウェアに対して、倫理的で共感的なフレームワークを適用するのが一番良い方法ではないか。

(関連記事:SlateViceArs TechnicaNew York Times

人気の記事ランキング
  1. OSIRIS-REx collected too much asteroid material and now some is floating away NASA探査機、小惑星のサンプル採取に成功も多過ぎて蓋が閉まらず
  2. The deadline for IU35 Japan entries is approaching Innovators Under 35 Japan、候補者の応募・推薦締切迫る
  3. There might be even more underground reservoirs of liquid water on Mars 火星の南極に新たな地下湖、生命体が見つかる可能性も
  4. Satellite mega-constellations risk ruining astronomy forever 増え続ける人工衛星群で天体観測が台無し、解決策はあるか?
  5. Room-temperature superconductivity has been achieved for the first time 世界初、15°C「室温超伝導」達成 夢の新技術へ突破口
タグ
クレジット Photograph by Money Sharma | AFP/Getty Images
トム サイモナイト [Tom Simonite]米国版 サンフランシスコ支局長
MIT Technology Reviewのサンフランシスコ支局長。アルゴリズムやインターネット、人間とコンピューターのインタラクションまで、ポテトチップスを頬ばりながら楽しんでいます。主に取材するのはシリコンバレー発の新しい考え方で、巨大なテック企業でもスタートアップでも大学の研究でも、どこで生まれたかは関係ありません。イギリスの小さな古い町生まれで、ケンブリッジ大学を卒業後、インペリアルカレッジロンドンを経て、ニュー・サイエンティスト誌でテクノロジーニュースの執筆と編集に5年間関わたった後、アメリカの西海岸にたどり着きました。
Innovators Under 35 Japan 2020

MITテクノロジーレビューが主催するグローバル・アワード「Innovators Under 35」が2020年、日本に上陸する。特定の分野や業界だけでなく、世界全体にとって重要かつ独創的なイノベーターを発信していく取り組みを紹介しよう。

記事一覧を見る
人気の記事ランキング
  1. OSIRIS-REx collected too much asteroid material and now some is floating away NASA探査機、小惑星のサンプル採取に成功も多過ぎて蓋が閉まらず
  2. The deadline for IU35 Japan entries is approaching Innovators Under 35 Japan、候補者の応募・推薦締切迫る
  3. There might be even more underground reservoirs of liquid water on Mars 火星の南極に新たな地下湖、生命体が見つかる可能性も
  4. Satellite mega-constellations risk ruining astronomy forever 増え続ける人工衛星群で天体観測が台無し、解決策はあるか?
  5. Room-temperature superconductivity has been achieved for the first time 世界初、15°C「室温超伝導」達成 夢の新技術へ突破口
MITテクノロジーレビュー[日本版] Vol.1/Autumn 2020
MITテクノロジーレビュー[日本版] Vol.1/Autumn 2020AI Issue

技術動向から社会実装の先進事例、倫理・ガバナンスまで、
AI戦略の2020年代のあたらしい指針。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る