深層学習だけで作られたAIが信用できない理由

ニューヨーク大学のゲイリー・マーカス教授は、深層学習に関する誇大広告を冷めた目で見ている。深層学習が人工知能（AI）の進歩に重要な役割を果たしてきたことは認めているものの、深層学習へ重点を置きすぎればAI分野に終焉をもたらすのではないかと憂慮している。

この記事はマガジン「AI Issue」に収録されています。 マガジンの紹介

AI研究の最前線を走ってきた神経科学者のマーカス教授は、技術面と倫理面の両面で懸念を示す。技術的観点からいえば、深層学習は画像や音声認識など人間の脳の知覚タスクを模倣するのに適している可能性がある。だが、会話や因果関係を理解するなど他のタスクには力不足だ。しばしば汎用人工知能（AGI）と呼ばれる、より高性能でより幅広い知性を宿す機械を作り出すには、深層学習と他の手法と組み合わせなければならないという。

AIシステムが、タスクやその周辺世界を正確に理解していない場合、危険な結果につながる可能性もある。システム環境に予期しない変化がわずかでもあれば、うまく機能しないかもしれないのだ。例を挙げればきりがない。簡単にだませるヘイトスピーチ検出器、差別を固定化させる求職申込システム、しばしば運転者や歩行者の死亡事故を起こす自動運転車などだ。人工知能の探究は、研究課題以上に興味深い。それは現実世界と密接な関係にある。

courtesy of Penguin Random House

マーカス教授と同僚のアーネスト・デイビス教授（ニューヨーク大学）は、新刊『Rebooting AI』（2019年、未邦訳）の中で、新しい道を示している。マーカス教授とデイビス教授は、現時点では本書の中で示した汎用人工知能の構築は不可能だと考えているが、最終的には構築可能だと確信している。

深層学習の弱点や、関係者が人間の心から学べる教訓、そしてマーカス教授が楽観的である理由について取材した。

以下のインタビューは、内容を明確にするため要約・編集されている。

＃

——すでに多くの価値が「特化型AI」によって生み出されていますが、なぜ汎用人工知能が必要なのでしょうか？

特化型AIは多くの価値を生み出してきましたし、今後もさらに多くの価値を生み出していくでしょう。とはいえ、特化型AIではうまく対応できない問題も数多くあります。たとえば、人間が話す言語の理解やバーチャル世界における総合的支援、あるいは、家の片付けをしたり夕食を作ったりする自律式ロボット家政婦「ロージー」（訳者注：米国の人気アニメ『宇宙家族ジェットソン』に出てくるロボット）のようなものがそうです。これらは、特化型AIでは不可能です。特化型AIが安全な無人乗用車を実現できるかどうかも興味深い疑問になるでしょうね。これまでのところ、特化型AIが例外的なケースに関して多くの問題を抱えているのが現実です。ある程度制約のある自動運転に関してもそれは同様です。

もっと一般的に言えば、医学分野におけるAIによる大規模で新たな発見が望まれていると思っています。生物学は複雑なので、現在の手法で達成できるかは不明です。正確に文献を読み解く力が必要ですから。科学者は、ネットワークと分子の相互作用の因果関係を理解し、軌道と惑星の関係についての理論などを展開できます。特化型AIで同レベルのイノベーションを起こすのは不可能です。汎用人工知能を用いれば、科学やテクノロジー、医学に革命を起こせるかもしれません。だからこそ、汎用人工知能実現プロジェクトは価値があると思うのです。

——汎用人工知能は、外的作用の影響を受けない「ロバスト（堅牢）なAI」を指すとおっしゃっているように聞こえます。

汎用人工知能とは、臨機応変に思考し、新しい問題を自ら解決できるAIのことです。たとえば、囲碁とは対照的ですね。囲碁は2000年もの間、問題（ルール）が変わらなかったのですから。

汎用人工知能は、医学だけでなく政治についても同様にうまく推論できなければなりません。AIは人間を模したものです。ある程度賢い人ならば、さまざまなことができるはずです。インターンの学部生でも、数日もすれば法的問題から医学的問題にいたるまで、本質的には何にでも取り組めるようになります。それは、学生たちが社会に関して一般的な知識を持ち、文字を読めるからです。そのために、幅広い事象に取り組めるのです。

この事実から言 …