「汎用人工知能（AGI）」への挑戦に意味はあるのか？

現在知られている「汎用人工知能」のアイデアは、ブロードウェイでのドットコム企業ブームの中で生まれた。

シェイン・レッグ博士は20年前、人工知能（AI）研究者であるベン・ゲーツェル博士が設立したウェブマインド（Webmind）というニューヨークのスタートアップ企業で働いていた。レッグ博士が、当時、神経科学の大学院生であったデミス・ハサビス博士と共通する知能への強い関心によって意気投合する前のことであり、その後二人はハサビス博士の幼なじみで進歩的な活動家であるムスタファ・スレイマンと手を組み、知能に対する興味をディープマインド（DeepMind）と呼ばれる会社に結実させた。その4年後、グーグルは5億ドル以上を支払い、同社を買収することとなる。現在、レッグ博士とゲーツェル博士は、AIが今後進み得る二つの大きく異なる方向性を代表する存在になっているが、二人は共通のバックグラウンドに根差している。

ドットコム・バブルが最盛期を迎えていた頃とはいえ、ウェブマインドの目標は野心的なものだった。ゲーツェル博士は、デジタルで赤ちゃんの脳を作ってインターネット上にリリースしたいと考えていた。その脳はインターネット上で成長し、完全に自己を認識して、人間よりはるかに賢くなるとゲーツェル博士は考えていた。1998年、ニュースサイトのクリスチャン・サイエンス・モニター（Christian Science Monitor）に対し、ゲーツェル博士は、「知能の出現、または言語の誕生と同じ規模の変化を、私たちは迎えようとしています」と語った。

ウェブマインドは、サイドビジネスとして金融市場の動向を予測するためのツールを構築し、資金をまかなおうとした。だが、本来のより大きな夢をかなえることはできなかった。2000万ドルを使い果たした後、ウェブマインドはマンハッタンの南端にあったオフィスから追い出され、スタッフに給与を支払えなくなった。そして2001年、破産申告することとなった。

しかし、レッグ博士とゲーツェル博士は連絡を取り続けていた。その数年後、ゲーツェル博士が超人的なAIに関するエッセイを本にまとめていた際、本のタイトルを思いついたのはレッグ博士だった。「ゲーツェル博士と話していたとき、『AIシステムがまだ獲得できていない汎用性について書くなら、単に、汎用人工知能（artificial general intelligence：AGI）と呼ぶべきだね』と言いました」と、現在はディープマインドのチーフサイエンティストを務めるレッグ博士は話す。「AGIと略したときの響きも良いですからね」。

その言葉は一気に広まった。ゲーツェル博士の本と、同博士が2008年に立ち上げた年次のAGIカンファレンスにより、「AGI」は人間のようなAI、または超人間的なAIを指す流行語として広まった。しかし、これは大きな悩みの種ともなった。「私はAGIという言葉が好きではありません」とフェイスブックのAI責任者であるジェローム・ペセンティ博士は話す。「AGIが何を指しているのか、よく分からないからです」。

そのように考えているのは、ペセンティ博士だけではない。問題の一部は、テクノロジー全体を取り巻く希望や恐れが、すべてAGIという言葉に集約されてしまっていることにある。一般的に考えられているのとは異なり、実際のところAGIは意識を持つ機械や思考するロボットを指しているわけではない（ただし、多くのAGI支持者はそのような姿も夢想している）。

AGIとは、広範に思考するということだ。気候変動から、民主主義の失墜や、公衆衛生の危機に至るまで、私たちが現在直面している多くの課題は複雑極まりない。人間のように、または人間より高い能力で、より速く、休むことなく考えられる機械があれば、こうした課題を解決できる可能性が高まるかもしれない。1965年、コンピューター科学者のI・J・グッド博士は「最初の超知性機械を作ることができれば、それが人間の手で作る必要のある最後の発明品になります」と語った。

ディープマインドに早くから投資し、ピーター・ティールやサム・アルトマンなどの大物投資家からなる小さなグループと協力してオープンAI（OpenAI）に10億ドルを投じたイーロン・マスクは、過激な予測により自己ブランドを構築した。しかし、マスクの発言には何百万もの人々が耳を傾ける。以前、マスクはニューヨーク・タイムズ紙に対して、超人的なAIが5年以内に実現すると語った。「その日は、すぐそこまで迫っています」とレックス・フリードマンのポッドキャストでも話している。「その際に私たちは何をすべきか理解する必要があります。もっとも、私たちに選択する余地があればの話ですが」。

ペセンティ博士は反論し、「イーロン・マスクは、自分が何を話しているか、まったく理解できていません。AGIのようなものは存在しませんし、人間の知能の足元にも及びません」とツイートした。このツイートに対してマスクは、「フェイスブックは最悪」とだけリプライした。

このような衝突は珍しいことではない。グーグル・ブレイン（Google Brain）の共同創業者であり、以前はバイドゥ（百度）のAI責任者を務めていたアンドリュー・エンは次のように述べる。「AGIのナンセンスを切り捨てて、喫緊の問題により多くの時間を費やしましょう」。

ニューヨーク大学のAI研究者であるジュリアン・トゥゲリウス准教授はこう話す。「AGIを信じることは、魔法を信じるようなものです。合理的な思考を放棄し、理解できない何かへの希望や恐怖を表現しているだけです」。ツイッターでハッシュタグ「#noAGI」を検索すると、AI業界の著名人の多くが議論に参加している様子が見られる。そこには、2018年にチューリング賞を受賞したフェイスブックの主任AI科学者である、ニューヨーク大学のヤン・ルカン教授などもいる。

しかし、ボードゲームでチャンピオンとなった「アルファゼロ（AlphaZero）」や、説得力のあるフェイクテキストを作る「GPT-3」など、AI関連の成功が近年続いていることにより、AGIに関する議論が急増してきた。もっとも、これらのツールは「汎用的な」知能と称するにはほど遠い。アルファゼロは物語を書けないし、GPT-3はチェスをプレイできない。ましてや、ストーリーやチェスが人間にとって重要である理由などまったく分かっていない。しかし、かつてはまともではないと考えられていたAGI構築という目標が、再び受け入れられるようになってきた。

世界で有数の規模と知名度を誇るAI研究所のいくつかは、AGIという目標を真剣に捉えている。オープンAIは、人間のような思考能力を備えた機械を最初に構築するという目標を掲げている。非公式ながら、多くの場所で繰り返し語られているディープマインドのミッションは、「知能の解明（solve intelligence）」だ。両社の経営陣は、AGIの観点でこれらの目標について話し合うことに前向きだ。

「2000年代初頭にAGIについて話していた人は、少数過激派と見なされていました」とレッグ博士は話す。「2010年にディープマインドを設立したときでさえ、カンファレンスで驚くほど多くの人々があきれていました」。  しかし、時代は変化している。「AGIを受け入れていない人もいますが、日陰の存在から抜け出しつつあります」とレッグ博士は話す。

それでは、AGIがどうして物議をかもすのだろうか。なぜ、AGIが重要なのだろうか。AGIは、人々を惑わせている無謀な夢なのだろうか、それとも究極の目標なのだろうか。

汎用人工知能（AGI）とは何か

汎用人工知能（AGI）という言葉が一般的に使われるようになったのは、ほんの十数年前のことだが、概念自体はさらに前から存在していた。

1956年の夏、ニューハンプシャー州のダートマス大学に10人ほどの科学者が集まり、ささやかな研究プロジェクト（と彼らが考えていたもの）に取り組んだ。事前にこのワークショップについて説明したAI界のパイオニアであるジョン・マッカーシーやマーヴィン・ミンスキー、ナット・ロチェスター、クロード・シャノンは、次のように記している。「本研究は、学習のあらゆる側面やその他の知能の特徴が原則的にとても明確に記述可能であるため、それを模倣する機械の作成も可能であるという推測に基づいて進められます。この試みの目標は、機械が言語を使用し、抽象化や概念形成をして、人間が現在直面しているような問題を解決し、自己改善できるような方法を見つけることです」。このときの研究者らは、10人程度で2カ月もあれば、この目標を達成できると考えていた。

時代を経て1970年になっても、ミンスキーは臆することなく次のように述べた。「3年から8年以内に、平均的な人間の汎用知能を備えた機械が登場するでしょう。その機械は、シェイクスピアを読んだり、車にワックスをかけたり、社内の政治的駆け引きをしたり、冗談を言ったり、喧嘩したりできます。その段階になった機械はものすごい速度で自己学習し始めます。最初の数ヶ月で機械は天才レベルになり、さらに数カ月経つと、その力は計り知れないものになるでしょう」。

AIに関するこれらのビジョンにおいて、際立っている点が三つある。すなわち、人間のような汎化能力、指数関数的に自己改善する超人的な能力、そして大部分を占める希望的観測だ。半世紀経った今でも、研究者らは、人間どころか、昆虫のマルチタスク能力を備えたAIですら実現できずにいる。

大きな成果がこれまでになかったというわけではない。初期の目標だった項目の多くは達成され、現在では言語を使用したり、視覚を持ったり、多くの問題を解決したりする機械が存在している。しかし、現存しているAIは、先駆者たちが想像していたような、人間に似たものではない。AIブームを推進しているテクノロジーである深層学習は、架空の物語を書いたりチェスをしたりと、さまざまな事をマスターするよう機械を訓練できるが、一度にマスターできるスキルは一つだけだ。

ゲーツェル博士の2007年の著作に対してレッグ博士がAGIという用語を提案したとき、レッグ博士は、現在の主流かつ狭義のAIを指す概念として汎用人工知能を設定していた。ミンスキー博士によるAIのビジョンに対して人々は、「強いAI」や「リアルAI」などの関連用語を使い、それとは違う形で実現したAIとは区別していた。

AGIについて話ことはしばしば、AIの失敗を暗に示していたとベルリンのヘルティ・スクールのAI研究者であるジョアンナ・ブライソン教授 …