神経科学は、ドンキーコングの動作すら解明できないことが判明
知性を宿す機械

Neuroscience Can’t Explain How an Atari Works 神経科学は、ドンキーコングの動作すら解明できないことが判明

人間の脳は人間の脳を理解できるのか? さまざまなプロジェクトが脳を理解しようとしているが、脳の複雑な働きはまだ解明されていない。では、ドンキーコングを実行中のプロセッサーならどうだろうか? by Jamie Condliffe2017.01.13

人間の脳を分析するツールを、ドンキーコングを実行しているコンピューター・チップに適用したら、ツールはゲームを実行中の部品の動作を明らかにできるのだろうか。

米国政府のブレイン構想など、多くの研究計画は、脳細胞と神経回路がどのように形成されているかを表す膨大で詳細なデータセットを構築しようとしている。科学者は、脳の働く仕組みを理解するために、データ解析のアルゴリズムが使えるのではないかと考えているのだ。

しかし、そんなデータセットはまだ存在しない。そこでカリフォルニア大学バークレー校のエリック・ジョナス研究員とノースウェスタン大学のコンラッド・コーディング教授は、自分たちの分析用ソフトウェアで脳よりも単純なモデルシステムの動作を解明できるだろうか、と考えるようになった。

ふたりが選んだのは、1970年代後半に登場した初期のパーソナル・コンピューターであるApple Iやコモドール64、あるいはアタリのビデオゲームシステムに搭載され、一時代を築いたCPU「MOS 6502」だ。脳とは異なり、シリコン製の小片は人間によって作られ、すべてのトランジスターの配置と接続関係が完全に理解されている。

研究者はソフトウェアがいかに正確にMOS 6502の活動を記述できるのかを確認したかった。そこで「ドンキーコング」や「スペースインベーダー」、「ピットフォール」(日本版は「スーパーピットフォール」)など、すでにAIが習得したゲームを含むさまざまなゲームをチップが実行したときのすべてのトランジスターの挙動を記録する、というのが研究者のアイデアだ(この処理には毎秒約1.5GBのデータが発生する)。その後、MOS 6502の実際の挙動を説明できるか確かめるために、ツールで収集したデータを分析した。

さて、たとえばチップの各部位の役割を明らかにするために、チップの構造(本質的に脳のコネクトームの電子版といえる)を探査できるアルゴリズムを使った。分析によって、それぞれのトランジスターがそれぞれの役割を果たしていることは判別できたが、分析結果は「プロセッサーの真の動作を理解したといえる段階にはまだ達していない」と、研究者はPLOSコンピュテーショナル生物学誌に書いた。

他にも、ジョナス研究員とコーディング教授はマイクロチップからトランジスターをひとつ取り外し、チップで実行中のゲームに何が起こるかを調べた(脳の一部を取り除いた前後で行動を比較する「傷害研究(リジョン・スタディ)」と似ている)。いくつかのトランジスターを取り除くとゲームは動作しなくなったが、分析では問題の理由は説明できなかった。

この手法や他の手法により、今回の分析で興味深い結果が得られたとはいえ、マイクロチップがどのように動作するのかを明確に説明するほど詳細な結果は得られなかった。「一部の結果からは、何が起きているのかについて興味深いヒントが得られました。しかし、プロセッサーの『本当の理解』を構成するものと、今回の手法で私たちが発見できたものとには驚くべき大きな隔たりがありました」とジョナス研究員はいう。

チップと脳の違いが大きいことは、もちろん留意すべきだ。たとえば、シナプスと論理回路の動作は異なる。また、脳はコンピューターのようにソフトウェアとハードウェアを区別しない。しかし研究者によると、今回の結果により、膨大で詳細に渡るデータセットから脳を理解する方法を確立するにあたって、いくつかの考察がもたらされたという。

まず、脳について高品質なデータセットを少し集めても、神経の働きを解明するには十分でないかもしれない。次に、現時点では分析に使える詳細なデータセットが十分とはいえず、神経科学者は、ツールが脳の機能を完全には説明していない結果がもたらされるかもしれないことに気を付けるべきだ。

神経科学はアタリの動作を説明できたのだろうか? 現時点では説明できなかった。

(関連記事:“Google’s AI Masters Space Invaders (But It Still Stinks at Pac-Man),” “Government Seeks High-Fidelity ‘Brain-Computer’ Interface”)