グーグル・ディープマインドが作業記憶付きのニューラルネットワークを開発中
知性を宿す機械

What Happens When You Give an AI a Working Memory? グーグル・ディープマインドが作業記憶付きのニューラルネットワークを開発中

人間のようにパズルを解いてみせる人工知能。 by Will Knight2016.10.13

英国のグーグル・ディープマインドの研究者が考案した新型コンピューターは、現在最高性能をもつ人工知能システムに新たに重要な特性を加えることで、性能を高めた。その特性とは、ある種の作業記憶だ。

研究者によると、そのコンピューターは、巨大な神経回路ネットワークがある特殊な記憶形態につながることで成り立っており、どんな情報を記憶に残せばよいかを自分で判断することで比較的複雑なタスクを処理できるという。たとえばスパゲッティのように絡んだロンドンの地下鉄網のある駅から別の駅までの最適な経路を判断するのに、さまざまなパターンの図を探査し、その特徴を学んで答えを出すのだ。

グーグル・ディープマインドの研究者が弁別可能型(differentiable:微分可能)ニューラルコンピューターと呼ぶシステムは、何を記憶に残すかの判断を含め、コンピューターがニューラルネットワークの基底にあるバックプロパゲーション(誤差逆伝播法)と呼ばれる数学的処理で学びながら動作する。ネットワークはデータから学習するため、自動的に情報を記憶基盤に蓄えていく。

「このシステムは、従来のコンピューターと同じく、記憶を使って複雑なデータ体系を示したり操作したりしますが、データから学んで処理できるのです」と 2016年10月12日版ネイチャー誌の論文で著者のアックス・グレイヴス、グレッグ・ウェイン、デミス・ハサビスが記している。

この進歩は、人間に近い能力がある人工知能実現への小さな一歩だ。現在はまだ制限があるが、カーネギーメロン大学(CMU)で機械学習と人工知能を研究する ルスラン・サラクトゥディノフ准教授は、弁別可能型ニューラルコンピューターを使ったシステムがいつか有益な働きをすることになるかもしれない、という。たとえば、より進んだレベルのニューラルネットワークは、ノイズが多いことで知られるウィキペディアを探査し、タイトル、場所、データなど、どの概念が重要で、メモリーに蓄えればいいかを自身で判断できる。 あるいはロボットに、ある設定で学んだ情報を全く別の設定で使わせたりできるかもしれない。「これはとても素晴らしい研究です」とサラクトゥディノフ准教授はいう。

最新の機械学習システムは、ある種のタスクには非常に優れている。画像で顔を認識したり、話し言葉を認識したりする。また訓練により、コンピューター・ゲームを達人レベルでプレイするなど、複雑なタスクを学べる。だが、学習には大量のデータを必要とし、人間のように学習したことを後に活用するために記憶に残せない。これが言語を含むさまざまな領域で問題となっている(「人工知能と言語」参照)。

だがサラクトゥディノフ准教授は、そのような分別可能型ニューラルコンピューターをより複雑化するのが難しいのだと指摘する。 なぜならコンピューターはその記憶にアクセスするために、蓄えられたすべての記憶を問いただすという複雑な計算をしなければならない。

「そのような働きをさせるのはとてつもなく難しいことです。スケールアップ(性能向上)に少し問題があるといえるでしょう。」

興味深いことにこの研究は、人工知能研究でこれまで長らく仲の良くなかった2つの分野を近づけることになった。人工知能の初期には、情報をシンボル化すべく機械をプログラミングするのが主要な研究だったが、現在の動向は、コンピューター自身がタスク処理を学ぶための巨大なニューラルネットワークを使うものに移行している。長い間、人工知能分野の伝統主義者や認知科学者は、ニューラルネットワークは情報をシンボル化するより深い能力を得ずして人間がすることをできるのだろうかと疑問を投げかけてきた。

「ネットワークが前例から『アルゴリズム』を学ぶその能力に私は最も感銘を受けました」とニューヨーク大学の認知科学者ブレンデン・レイク研究員はいう。レイク研究員が研究しているコンピューターが人間の思考を模倣する方法は、深層学習の有用性を拡大させ得る。「分類したり、最短経路を見つけたりするアルゴリズムは、伝統的コンピューター科学の基本です。それらは伝統的に、プログラマーが設計して実行させるものだったのです」

しかしレイク研究員は、システムの動作形態は、人間に近いとはいえないと指摘する。

「人は限られた経験から、特にそれが自分の分野であれば。新たなタスクを理解できます。それに対し弁別可能型ニューラルコンピューターは、それぞれのタスクにつき何万、もしくは何百万もの前例を学ばなければなりません。新たなタスクを素早く学ぶ人間の能力は、人工知能の次の大きな課題になると思います」