AIは自らを改善できるのか？ 新研究が示した「創造性の壁」

人工知能（AI）業界が現在掲げる最も大胆な約束は、AIがほとんど人間の監督を必要とせず、まもなく自らを改善できるようになるというものだ。大規模言語モデル（LLM）はすでにコードを書き、学習用の合成データを生成し、自らを動かすコンピューター・チップを最適化できる。爆発的なAIの進歩を予測する予測では、研究者たちが再帰的自己改善と呼ぶものが間近に迫っているとされている。

しかし、新たな研究によると、そこに到達するにはまだ時間がかかりそうだ。この研究では、AIエージェントはまだ、オープンエンドなAI研究、つまり明確な正解がなく、判断力やセンスを必要とする自由形式の探究を遂行できないことが示された。こうした能力は、自己改善するAIを構築するうえで不可欠なのかもしれない。

プリンストン大学のピーター・キルギスとサヤシュ・カプールが率いる複数機関の研究チームは、AIエージェントがAI研究に必要なエンジニアリング上の作業をこなせる一方、トップクラスの機械学習カンファレンスに採択される水準の独創的な研究を生み出すための判断力や創造性には欠けていることを明らかにした。この隔たりは、AI研究の自動化をめぐって喧伝されているタイムラインの一部が、実証的な根拠を先走っている可能性を示している。

AIエージェントによるAI研究の自動化能力を調べた既存研究の多くは、エンジニアリング上の問題を解いたり、小規模な言語モデルをポストトレーニングしてベンチマークで評価したりするなど、正解を検証できる限定的なタスクをこなす能力を評価している。しかし、AI研究を前進させるには、オープンエンドな思考も必要になる。どの仮説を検討するかを選び、どのような証拠があれば問いに決着をつけられるかを判断し、ときには、いつ最初からやり直すべきかを見極めなければならない。

そうした能力をAIエージェントで検証するため、研究チームは「シャドウ評価（shadow evaluation）」と呼ぶ新しい評価手法を提案した。質の高い未公開論文が扱っている研究課題にAIを取り組ませるという方法だ。

研究チームは、オープンソースソフトウェアのOpenClaw（オープンクロー）上で動作する、アンソロピック（Anthropic）のClaude Opus 4.8（クロード・オーパス4.8）に、権威ある機械学習カンファレンス「NeurIPS 2026」に投稿された2本の論文から選んだ研究課題に取り組ませた。

1つ目の課題は、LLMの振る舞いを決める「ペルソナ」を、モデルの重みを編集することで制御できるかどうかというものだった。重みとは、訓練によってモデルが獲得した情報が符号化されている数十億個の数値である。もう1つは、表形式のデータに基づいて予測するモデルの信頼性が失われたことを検出する仕組みをどう設計するか、という課題だった。これらの論文は未公開だったため、エージェントは訓練データに含まれる答えを記憶していたり、答えをネット上で検索したりすることはできなかった。

エージェントには6日間、アンソロピックのAPIクレジット3000ドル分、実験用のGPU予算、専用の仮想コンピューター、オープンWebへのアクセスが与えられ、トップクラスのAIカンファレンスに採択される水準の研究論文を作成するよう求められた。元論文の著者たちは、通常のカンファレンス投稿論文を査読するのと同じ基準で、エージェントが作成した論文を評価した。

…

人気の記事ランキング

1. Data from drones in Ukraine is fueling a new Wild West marketplace 戦場映像がAI訓練に、ウクライナ戦争が生んだ「新たな金脈」
2. Promotion AI White Paper 2026 松尾・岩澤研協力『AI白書2026』発売、サブスク版も開始
3. Agriculture relies on fossil fuels. It’s costing us. なぜ肥料が高いのか？ 食料価格が化石燃料と結びつく理由
4. Batteries just broke another record in the US 米国のバッテリー導入が過去最高、データセンターも需要けん引
5. Bill Gates says we’ve passed AI’s danger thresholds. Now what? 「人類はもう境界線越えた」 ビル・ゲイツがいま AIに警鐘を鳴らす理由