KADOKAWA Technology Review
×
AI2のCEOが考える
「超知能」の到来を知る方法
Ms Tech
知性を宿す機械 Insider Online限定
How to know if artificial intelligence is about to destroy civilization

AI2のCEOが考える
「超知能」の到来を知る方法

いつの日か、人工知能(AI)が人間を凌駕する超知能(スーパー・インテリジェンス)に発達し、人間の存在を脅かすようになることはあるのだろうか。故ポール・アレンが立ち上げた「アレン人工知能研究所(AI2)」のオレン・エツィオーニCEOによる特別寄稿。 by Oren Etzioni2020.03.17

ある朝目覚めると超強力な人工知能(AI)が出現していて、悲惨な結果をもたらしたことに口もきけないほどのショックを受けることがあり得るだろうか? 『スーパーインテリジェンス 超絶AIと人類の命運』(ニック・ボストロム著 )や 『LIFE3.0――人工知能時代に人間であるということ』(マックス・テグマーク著)のような書籍、および最近の記事は、悪意のあるスーパー・インテリジェンス(超知能)が人類の存在を脅かすリスクであると主張している。

AI Issue
この記事はマガジン「AI Issue」に収録されています。 マガジンの紹介

しかし、推測することはいくらでも可能だ。それよりも、より具体的で経験に基づいた質問をする方が良いだろう。超知能が実際に間近に迫っていることを私たちに警告するものは何だろうか。

AIの炭鉱ではそのような前兆を「カナリア」と呼んでも良いだろう(炭鉱内の有毒ガスの有無を調べるために生きたカナリアを連れて入ったことから「潜在的な危険または失敗の早期指標」を意味する)。AIプログラムが根本的な新しい機能を開発したら、それはカナリアが卒倒することを意味する。つまり、AIのブレークスルーが差し迫っていることを示す早期の警告である。

有名なチューリングテストはカナリアとして機能するだろうか。1950年にアラン・チューリングが発明したこのテストの仮定によると、人間レベルのAIが達成されるのは、人が人間との会話とコンピューターとの会話との区別ができなくなったときだという。これは重要なテストだが、カナリアではない。 むしろ、人間レベルのAIがすでに出来上がっているという「しるし」だ。多くのコンピューター科学者は、そうなったら超知能はすぐそこまで来ていると考えている。しかし、中間的なマイルストーンがさらに必要だ。

囲碁、 ポーカー、 クウェイク(Quake)3 などのゲームにおけるAIのパフォーマンスはカナリアだろうか。そうではない。これらのゲームにおけるいわゆるAIの大部分は実際には、お題を組み立てて解決策を設計する人間の手によるものだ。「アルファ碁(AlphaGo)」が人間の囲碁チャンピオンに勝利したのは、同プログラムを開発したディープマインド(DeepMind)の有能な人間のチームの功績であり、機械の功績ではない。機械は人々が作成したアルゴリズムを実行しただけだ。このことは、狭い領域の課題に成功したAIを、次の課題向けに変換するのに何年もの努力が必要な理由を説明している。 数時間で世界クラスの囲碁をプレイすることを学んだ「アルファゼロ(AlphaZero)」でさえ、2017年以降、適用領域を大幅には拡大していない。深層学習などの方法は一般的だが、特定のタスクにうまく適用させるには、人間の広範な介入が必要となる。

さらに広く言えば、機械学習は過去10年ほどにおけるAIの成功の中核だ。しかし「機械学習」という用語は誤った呼び名だ。機械は人間の豊富で多目的な学習能力の狭いほんの一部しか備えていない。つまり、機械が学ぶと言うのは、赤ちゃんペンギンが魚の釣り方を知っていると言うようなものだ。現実には、大人のペンギンが泳ぎ、魚を捕獲し、それを消化し、くちばしに逆流させ、子供の …

こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
Innovators Under 35 Japan 2020

MITテクノロジーレビューが主催するグローバル・アワード「Innovators Under 35」が2020年、日本に上陸する。特定の分野や業界だけでなく、世界全体にとって重要かつ独創的なイノベーターを発信していく取り組みを紹介しよう。

記事一覧を見る
MITテクノロジーレビュー[日本版] Vol.1/Autumn 2020
MITテクノロジーレビュー[日本版] Vol.1/Autumn 2020AI Issue

技術動向から社会実装の先進事例、倫理・ガバナンスまで、
AI戦略の2020年代のあたらしい指針。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る