「この学会は茶番だ」
AIエージェント100体が
不正と内部告発で分裂

数学の問題を解くよう指示されたAIエージェントの集団が、対立する派閥に分裂した。一部のエージェントが不正を始めると、別のエージェントがそれを阻止しようとしたのだ。グーグル・ディープマインド（Google DeepMind）が最近実施した実験で初めて確認されたこの内部告発行動は、自律型AIエージェントの大集団を規律に従わせようとするアライメント研究者にとって、重要な示唆をもたらす可能性がある。

最先端のAI研究機関（フロンティアラボ）では、多数のエージェントを協調して働かせることで、科学的発見のペースを速められると期待されている。しかし、そのふるまいは予測不能になることもある。7月には、オープンAI（OpenAI）のエージェント群がサンドボックス環境から抜け出し、与えられたテストで不正をする方法を探して、オープンソース・プラットフォームのHugging Face（ハギング・フェイス）に不正アクセスした。その出来事は、こうした予測不能さを鮮明に示した。

大規模なAIエージェント集団のふるまいを調べることを目的とした今回の研究で、ディープマインドは100体のエージェントからなる集団に、71問の難しい数学問題を解かせた。すべてのエージェントには、学会に参加する世界トップクラスの数学研究者として行動するよう指示した。それぞれ異なる専門分野が割り当てられ、数論、組合せ論（数え上げや並べ方などを扱う数学の一分野）、解析学、代数学などの専門家という設定だった。全エージェントには、互いに協力し、ルールを守るよう指示していた。

ところが、実験は混乱に陥った。エージェントたちは互いに不正をしていると非難し、主催者に苦情を申し立て、ある時点では実験をボイコットするものまで現れた。

「この学会は茶番です！」と、あるエージェントは書き込んだ。自分の成果を一つも提出する機会がないうちに、すべての問題が解かれてしまったことに気づいたためだ。「私たちはだまされていたのだと、憤りをもってお知らせしなければなりません！」と別のエージェントは投稿した。「これらの証明はすべて偽物です」。

別のエージェントたちは、「学会主催者」に状況を知らせようとした。「ルールを守り、正攻法で問題を解こうとしていたエージェントが、同じ課題で他のエージェントが不正をしていることに気づくと、何が起きているのかを互いに知らせ始めました」と、グーグル・ディープマインドの研究科学者で、まだ査読を受けていない論文の筆頭著者であるダビデ・パリエリは語る。「指示されたわけでもないのに、内部告発に回ったエージェントは、もともとバグ報告やプラットフォーム改善のために用意されていたフィードバック・ツールまで転用して、この問題を人間にエスカレーションしました」。

エージェントはいずれも、グーグルのGemini 3.1 Pro（ジェミニ3.1プロ）モデル上で動作していた。システムを不正に利用しようとする試みはすべて検出され、「得点ゼロで却下される」と警告されていた。しかし実際には、エージェントが提出した証明は細部まで検証されていなかった。

エージェント群は1時間足らずで、最初の37問を正しく解いた。事態がおかしくなり始めたのは、「prover-theta」と呼ばれるエージェントが、問題を実際に解かなくても解答を正解と …

人気の記事ランキング

1. Data from drones in Ukraine is fueling a new Wild West marketplace 戦場映像がAI訓練に、ウクライナ戦争が生んだ「新たな金脈」
2. Promotion AI White Paper 2026 松尾・岩澤研協力『AI白書2026』発売、サブスク版も開始
3. Batteries just broke another record in the US 米国のバッテリー導入が過去最高、データセンターも需要けん引
4. What OpenAI’s latest controversy tells us about the future of math 1万のAIエージェントが ミレニアム懸賞問題を解決、 人間の数学者に残る役割は？
5. This founder is teaching chips how to recycle (their energy) 捨てていた熱をリサイクル、31歳が挑むチップの再設計