変人の妄想から始まった
「AGI（汎用人工知能）」
陰謀論との驚くべき共通点

あなたは感じているだろうか？

もうそこまで来ているという話だ。2年後、5年後——もしかしたら来年かもしれない。そして、それはすべてを変えるそうだ。病気を治し、地球を救い、豊かさの時代をもたらすのだと。私たちがまだ想像もつかない方法で、現代の最大の問題を解決する。それは、「人間である」とはどういうことかを再定義する。

だが、待ってほしい。もしそれがすべて「うますぎる話」で、真実ではないとしたら？ それがこの世の終わりを招き、人類を滅ぼすという話も聞こえてくる。

いずれにせよ、そしてその時期がいつであれ、何か大きなことがまさに起ころうとしている。

私たちは、キリストの再臨について話しているのかもしれない。あるいは、カルト集団「ヘブンズ・ゲート（Heaven’s Gate）」の信者たちが、UFOに迎えられて悟りを開いた宇宙人に生まれ変わると信じていた日のことかもしれない。あるいは、ドナルド・トランプが、ついに「Q」が約束した「嵐」を起こす決断を下す瞬間のことかもしれない。だが、そうではない。もちろん、ここで話題にしているのは汎用人工知能（Artificial General Intelligence）、つまりAGIについてだ。人間の脳にできることならほぼ何でもできるとされる、近未来の仮想的なテクノロジーのことである。

多くの人にとって、AGIは単なるテクノロジー以上の存在である。シリコンバレーのようなテックハブでは、AGIは神秘的な言葉で語られている。オープンAI（OpenAI）の共同創業者で前主任科学者であるイリヤ・サツケバーは、チームミーティングで「AGIを感じろ！」と皆で唱和するよう促していたと言われている。そして誰よりも強くそれを感じているのは、ほかでもない彼自身だ。2024年、サツケバーはオープンAIを去った。同社の掲げる使命は「AGIが人類全体に利益をもたらすことを保証する」だったが、サツケバーは「セーフ・スーパーインテリジェンス（Safe Superintelligence）」の共同創業に踏み切った。この企業は、いわゆる「暴走するAGI」を回避する（あるいは制御する）方法を追求するスタートアップだ。「超知能（superintelligence）」は最近流行している新たな言葉で、AGIの発展形とされる。AGIという概念が一般化するにつれ、使われるようになってきた。

サツケバーはまた、AGIの伝道者と自称する多くの人々の間で見られる複雑な動機を体現している人物でもある。彼は自身のキャリアをかけて未来のテクノロジーの基盤を築いてきたが、今やそのテクノロジーに恐怖を感じている。「AGIは歴史に刻まれるような、世界を揺るがす出来事になります。それ以前とそれ以降ではすべてが変わるでしょう」とサツケバーはオープンAIを去る数カ月前に私に話してくれた。彼に、なぜそのテクノロジーを抑制することに力を注ぐようになったのか尋ねると、サツケバーはこう述べた。「私は己の利益のためにこれに取り組んでいます。誰かが作った超知能が暴走しないということは、当然のことながら重要なのです。当たり前のことですが」。

彼の壮大な、終末論的でさえある思考は決して孤立したものではない。

どの時代にも信奉者がいる。何か大きな出来事が起きようとしているという揺るぎない信念を持つ人々だ。彼らにはその「前」と「後」を自ら体験するという特権（あるいは運命）があると信じている。

現代では、それは約束されたAGIの到来だ。人々は、あれやこれが「次なる大変革（the next big thing）」だと聞くことに慣れていると、エディンバラ大学でテクノロジーの倫理を研究するシャノン・ヴァラー教授は言う。「昔はそれがコンピューター時代であり、その次にインターネット時代となり、そして今はAI時代です」と彼女は話す。「何かを提示され、これが未来だと告げられるのは普通のことです。もちろん、異なる点は、コンピューターやインターネットとは対照的に、AGIは存在しないということですね」。

だからこそ、AGIの到来を感じることは、次に話題になるものを後押しすることと同じではない。もっと奇妙なことが起きているのだ。私の考えはこうだ。AGIは陰謀論によく似ている。そして、それは現代において最も重大な影響を及ぼす陰謀論であるかもしれない。

私は10年以上にわたってAI（人工知能）について取材を続けてきた。その中で、AGIという概念が台頭し、業界全体を形作る支配的なナラティブ（物語）へと変貌する過程を目の当たりにしてきた。かつては夢物語にすぎなかったものが、いまや世界で最も価値のある企業の収益を支える柱となっている。すなわち、米国の株式市場そのものを支えているとも捉えられる。それが、この夢を実現するために必要だとされている新たな発電所やデータセンターへの目が眩むほどの先行投資を正当化している。この仮想的なテクノロジーに取りつかれたAI企業は、私たちに猛烈な勢いでそれを売り込んでいる。

そうした企業のトップたちが何を語っているのか、耳を傾けてみてほしい。AGIは「天才の国」全体と同等の知能を持つだろう （アンソロピック＝Anthropic、ダリオ・アモデイCEO＝最高経営責任者）、「人類が星々へ旅立ち銀河を植民地化する、人類が最大限に繁栄する時代」の幕開けとなる（グーグル・ディープマインド＝ Google DeepMind、デミス・ハサビスCEO）、「豊かさと繁栄を飛躍的に増大」させ、人々が人生をより楽しみ、より多くの子どもを持つことを促すだろう（オープンAI、サム・アルトマンCEO）。AGIは、とんだ代物である。

いや、違うかもしれない。もちろん、その裏側を忘れてはいけない。彼らは私たちにユートピアを売り込んでいない時は、地獄から私たちを救っている。2023年、アモデイ、ハサビス、アルトマンの3CEOは、わずか22語からなる声明に署名した。その内容は次の通りである。「AIによる滅亡リスクの軽減は、パンデミックや核戦争などの他の社会規模のリスクと同じように世界的な優先事項であるべきです」。イーロン・マスクは、AIが人類を滅ぼす可能性は20％あると述べている。

「最近気づいたのですが、公の場で真剣に受け止めてもらいたいなら絶対に口にするべきではないと思っていた『超知能』という概念が、どうやらそれを作ろうとしているテック企業のCEOたちによって軽々しく使われているようなのです」。AI研究者を調査している組織「AIインパクツ（AI Impacts）」のカティア・グレース主任研究員は話す。「こうした状況を受け入れても大丈夫じゃないか、と思うのは簡単です。ところが、彼らは超知能が私たちを滅ぼすとも主張しています。それも、そう語りながら笑っているのです」。

どれも少し陰謀論的に聞こえることは否めないだろう。陰謀論を作り上げるには、いくつかの要素が必要だ。計画通りに物事が進まなくても信念を維持できる柔軟性のある筋書き。信奉者が隠された真実を暴くことによってのみ実現可能な、より良い未来への約束。そして、この世の恐怖からの救済への希望である。

AGIはそれらの要件をほぼすべて満たしている。その考えを掘り下げれば掘り下げるほど、AGIは陰謀論のように思えてくる。もちろん、正確に言えば陰謀論というわけではない。そして私は、この比較を持ち出して、この分野のAGIの信奉者たちを含む多くの人々（いや、むしろ特に彼ら）が成し遂げている、非常に現実的でしばしば驚くべき成果を否定しようとしているわけではない。

しかし、AGIが実際の陰謀論と共通して持っている特徴に焦点を当ててみることで、この概念全体をより明確に捉え、それが実際には何なのか明らかにできると私は考えている。つまりは、「テクノ・ユートピア（またはテクノ・ディストピア、どちらを信じるかはあなた次第）」的な熱に浮かされた夢であり、人々の中に深く根ざした信念に食い込んで容易には振り払えないものになってしまったのだ。

これは単なる挑発的な思考実験ではない。AGIについて伝えられている情報を疑うことは重要だ。なぜなら、その考えを鵜呑みにすることには害があるからだ。現在、AGIはテクノロジー分野において、そしてある程度は世界経済においても、最も重要なナラティブとなっている。現在AIで起きていることを理解するには、AGIという概念がどこから生まれたのか、なぜこれほどまでに人を惹きつけるのか、そしてそれがテクノロジー全般に対する私たちの考え方をどのように形作っているのかを理解する必要がある。

大丈夫、分かっている。AGIを陰謀論と呼ぶのは完璧な例えではない。多くの人々の怒りを買うことにもなるだろう。しかし、この深い世界に一緒に足を踏み入れてみてほしい。そうすれば、私は真実を見せることができる。

シリコンバレーはなぜAGI信奉に陥ったのか

印象的な響きがあった

典型的な陰謀論は、通常は社会の辺境から始まる。始まりは、掲示板に書き込む数人の人間が「エビデンス（科学的根拠）」を集めているだけという状態かもしれない。砂漠のどこかで双眼鏡を持った数人の人間が、空に輝く光を見つけるのを待っている状態かもしれない。しかし、ある種の陰謀論は幸運にも、次第に広く浸透し始める。より受け入れられやすいものになり、権力者たちに影響を与え始めるのだ。それは、政府の公聴会で今や正式かつ公然と議論されているUFO（おっと失礼、「未確認空中現象」だった）かもしれない。それは、ワクチン懐疑論（そう、これははるかに危険な例だ）が公式政策となることかもしれない。そして見過ごせないのは、AGIがよりあからさまに陰謀論の「同胞」とほぼ同様の軌跡をたどってきた、ということだ。

2007年に戻ってみよう。当時、AIはセクシーでもクールでもなかった。アマゾンやネットフリックス（当時はまだDVDを郵送していた）といった企業は、今日の大規模言語モデル（LLM）の原始形ともいえる機械学習モデルを用いて、顧客におすすめの映画や書籍を提示していた。しかし、当時はそれがAIの主要な使い道のすべてと言ってもよかった。

ベン・ゲーツェルには、はるかに大きな計画があった。その約10年前、AI研究者であるゲーツェルは、ウェブマインド（Webmind）というドットコム企業を立ち上げた。初期のインターネット上で、彼が「デジタルの赤ん坊の脳」と捉えていたものを訓練するためだ。だが、その子は日の目を見ることもなく、ウェブマインドはほどなくして倒産した。

それでもゲーツェルは長年、人間のような人工知能、つまり人間ができることの多くを（人より優れた形で）実行できる万能コンピューター・プログラムの構築を夢見てきた研究者たちの周縁的なコミュニティにおいて、影響力のある存在だった。そのビジョンは、ネットフリックスが手がけていたような技術とは次元が異なるものだった。

ゲーツェルはそのビジョンを広めるために書籍を出版しようと考えた。当時の凡庸なAIとは一線を画すようなタイトルが必要だった。そこで、元ウェブマインド社員のシェイン・レッグが提案したのが、「汎用人工知能（Artificial General Intelligence）」という言葉だった。それはどこか印象に残る響きを持っていた。

その数年後、レッグはデミス・ハサビス、ムスタファ・スレイマンと共にディープマインド（DeepMind）を共同創業する。しかし当時、AIがいつか人間の能力を模倣するようになるという主張は、大半の真面目な研究者たちにとっては冗談のようなものだった。サツケバーは「AGIという言葉はかつては禁句だった」と語り、グーグル・ブレインの創設者でバイドゥ（Baidu）の元主任科学者であるアンドリュー・エンも「正気の沙汰ではないと思った」と話していた。

では、いったい何が起きたのか？ 私は2025年9月にゲーツェルに会い、この異端のアイデアがいかにして変人の妄想から常識へと変わったのかを尋ねた。「私は複雑なカオス的システムを扱う人間なので、ミーム空間でどんな非線形ダイナミクスが起きていたのか、本当に分かっているとは思えないんです」と彼は言った（要するに、話は複雑だということだ）。

ゲーツェルによれば、このアイデアが主流化したのにはいくつかの要因があるという。まず1つ目は「汎用人工知能会議（Conference on Artificial General Intelligence）」だ。これは彼が著書を出版した翌年の2008年に立ち上げを支援した研究者向けの年次会議で、米国人工知能学会（AAAI）や人工知能国際会議（IJCAI）などの権威ある学術会議と時期を合わせて開催されることが多かった。「もしAGIというタイトルの本を出しただけだったら、それはすぐに忘れ去られていたでしょう」とゲーツェルは言う。「でもこの会議は毎年開催され、参加する学生の数も年々増えていったのです」。

ゲーツェルは、いくつかの要因がこのアイデアを主流にしたと考えている。1つ目は汎用人工知能会議（Conference on Artificial General Intelligence）だ。彼が著書を出版した翌年である2008年に、彼が設立を支援した研究者の年次集会である。この会議は、アメリカ人工知能学会（AAAI）の会議や人工知能国際会議（IJCAI）など、権威ある学術会議と日程を合わせて開催されることが多かった。「もし私がAGIというタイトルの本を出版しただけなら、おそらくそれはただ現れては消えていっただけだったでしょう」とゲーツェルは話す。「ですが、その会議は毎年開催され続け、参加する学生は年々増えていきました」。

2つ目はレッグの存在だ。彼はAGIという用語をディープマインドに持ち込んだ。「ディープマインドは、AGIについて語った最初の主流企業だったと思います」とゲーツェルは話す。「前面に出していたわけではないですが、シェイン（・レッグ）やデミス（・ハサビス）がたびたびAGIに触れていたことで、この言葉にある種の正当性が与えられたのは間違いありません」。

私が5年前にレッグとAGIについて初めて話したとき、彼はこう語った。「2000年代初頭にAGIの話をするのは、正気を疑われるようなことでした。（中略）2010年にディープマインドを設立したときですら、学会では驚くほど多くの人が鼻で笑っていました」。だが2020年には風向きが変わった。「今でもAGIに違和感を持つ人はいますが、それでもようやく冷遇される時代を抜け出しつつあります」とレッグは話した。

ゲーツェルが挙げる3つ目の要因は、初期のAGI推進者と巨大テック企業の有力者たちの間にあった重なりである。ウェブマインドを閉鎖してからAGIの本を出版するまでの間、ゲーツェルはピーター・ティールのヘッジファンド「クラリウム・キャピタル（Clarium Capital）」でティールとともに仕事をしていた。「私たちはたくさん話しました」とゲーツェルは言う。彼はサンフランシスコのフォーシーズンズ・ホテルでティールと一日中過ごしたときのことを回想する。「私は彼の頭にAGIを叩き込もうとしていました」とゲーツェルは話す。「しかし、彼はまた、エリーザー（・ユドコフスキー）からAGIが人類を滅ぼすという話も聞かされていたのです」。

破滅論者の登場

破滅論者――それがエリーザー・ユドコフスキーである。彼はゲーツェルに匹敵する、いやそれ以上にAGIの概念を広めてきた人物だ。しかしゲーツェルと異なり、ユドコフスキーはAGIの開発が破滅的な結果を招く確率が非常に高いと考えている。彼の口からよく出る数字を借りれば、その確率は99.5％だ。 …

人気の記事ランキング

1. Yann LeCun’s new venture is a contrarian bet against large language models   LLMは研究の対象ではない AI界の異端児ヤン・ルカン 新会社設立の狙いを語る
2. Text-to-image AI models can be tricked into generating disturbing images AIモデル、「脱獄プロンプト」で不適切な画像生成の新手法
3. It’s pretty easy to get DeepSeek to talk dirty 「お堅い」Claude、性的会話に応じやすいAIモデルは？
4. All anyone wants to talk about at Davos is AI and Donald Trump 世界のリーダーたちが集うダボス会議で持ちきりだった2つのこと