直感頼みのLLMに
「第37手」は打てるか？
AlphaGo開発者の提言

2016年3月のある日の午後、ソウルで私は、自分が開発に携わったプログラムが、囲碁盤の五線に石を置くのを見た。それはまるで人間の対戦相手に有利を差し出すかのような一手だった。五番勝負の第2局における第37手はあまりに不可解で、一部の解説者はプログラムの不具合だと考えたほどだった。

しかしそれは不具合ではなかった。AlphaGo（アルファ碁）はこの対局に勝利し、史上最高の囲碁棋士の一人であるイ・セドルに最終的に4勝1敗で勝ち越した。「AlphaGoは確率計算に基づいているだけの、単なる機械だと思っていました」とイは対局後に語った。「しかしこの一手を見て、考えを変えました。AlphaGoには間違いなく創造性があります」。

1997年にDeep Blue（ディープ・ブルー）が当時の世界チェスチャンピオンだったガルリ・カスパロフを破った際、同プログラムは各プレイヤーについて6手から8手先まで読み、毎秒2億局面を評価していた。そこで用いられていたルールは人間がハードコーディングしたものだった。囲碁ははるかに複雑なゲームだ。石の価値は、数十手にわたって展開される離れた石の集団や地の行方によって決まる。可能な結果のほんの一部を計算するだけでも、スーパーコンピューターで数十億年かかるだろう。勝利するためにAlphaGoは、一目見ただけでどちらが優勢かを感じ取り、さらには人間が思いつかなかったような手を編み出す必要があった。

だからこそ、AlphaGoとイの対局に関する多くの記述は、第37手を純粋な機械の直感がひらめいた瞬間として描いている。しかしそれは誤解だ。実際にこの創造的な選択をもたらしたのはAlphaGoの推論能力であり、それは今日のAIに欠けている能力なのだ。科学や医学といった分野で、将来のAIシステムに信頼できる結果や真に新しい知見を生み出させたいのであれば、この種の真の推論能力を備えさせる必要がある。

AlphaGoは2つのシステムから構成されている。1つ目はポリシーネットワークで、強い人間ならどの手を打つかを推測するよう訓練されている。この「直感的」な部分は、第37手を有力な手とは評価していなかった。熟練した人間のプレイヤーがこの手を打つ確率は、約1万分の1と見積もられていたのだ。AlphaGoがこの手を選んだ理由は、プログラムの探索機構にある。この機構は目先のもっともらしさを超えて、提案された手が将来もたらす結果を比較検討する。AlphaGoは、それぞれが異なる未来の可能性を表す数千もの分岐を持つゲーム木を明示的に構築し、探索していたのだ。

ダニエル・カーネマンによって広められた行動科学におけるよく知られた理論は、人間の思考を2つのモードに区別する。「システム1」は速く、直感的で、努力を要しない。「システム2」は遅く、段階的で、熟慮を伴う。AlphaGoはこの区別の機械版とも言える顕著な例を示した。ポリシーネットワークが「この手は有望そうだ」「この局面は勝っていそうだ」といった勘を提供し、探索機構がその勘を、続く一連の手と応手に照らして検証するという熟慮の部分を提供したのだ。人間の認知と同様に、どちらか一 …

人気の記事ランキング

1. Young organs may not be a fountain of youth for recipients 若い心臓は体に合わせて老いる——プーチンには残念な研究結果
2. An AI “mind-reading” tool can reconstruct what you’re looking at from a brain scan 「読心術」AIが飛躍、脳スキャンから「見ているもの」を精密再現
3. When can we say AI made a scientific discovery? AIを「発見の主体」に据えるAI企業、科学の営みとのずれ
4. She died at the San Diego border. A surveillance camera was in plain sight カメラは何を見ていたのか？ 世界有数のAI監視地帯で 移民が亡くなっている