マルチエージェント時代に備え、グーグルが安全性研究に1000万ドル

数百万のAIエージェントがネット上で互いにやり取りするようになったとき、何が起きるのか。グーグル・ディープマインドは、その答えを探る安全性研究に、パートナーと組んで1000万ドルを投じる。リスクが深刻になる転換点は数カ月先だと見て、いまから備えるねらいだ。 by Will Douglas Heaven2026.06.12

この記事の3つのポイント

グーグル・ディープマインドが複数機関と連携し、マルチエージェントAI安全性研究に1000万ドルを拠出した
詐欺やプロンプト・インジェクションなど既存の脅威がエージェント間連携で爆発的に増幅するリスクが懸念される
研究分野自体がまだ未成熟であり、現実的シミュレーションによる知見蓄積が急務となっている

summarized by Claude 3

グーグル・ディープマインド（Google DeepMind）は、数百万もの異なるAIエージェントがネット上で互いにやり取りする状況に潜む潜在的な危険性に関する研究に資金を提供している。

同社のAGI安全性・アライメント研究を統括するロヒン・シャーによると、人間の監督なしにタスクを実行し、他のエージェントから与えられた指示にも従うエージェントが一般市場に登場したことで、まったく新しい種類のリスクが生まれているという。

この問題に対処するため、グーグル・ディープマインドは、複数の組織と連携し、マルチエージェント・システムの挙動を研究し、安全でないシナリオを防ぐ方法を考案する研究者向けに1000万ドルの研究資金を提供すると発表した。マルチエージェント・システムは、先月のグーグル I/Oで目玉として打ち出したものだ。

参加組織には、エリック・シュミットとウェンディ・シュミットが設立した慈善財団シュミット・サイエンシズ（Schmidt Sciences）、英国政府のムーンショット機関ARIA（Advanced Research and Invention Agency）、英国の非営利研究機関コーポラティブAI財団（Cooperative AI Foundation）、そしてグーグルの慈善部門であるグーグル・ドット・オルグ（Google.org）が名を連ねている。

ディープマインドのシャーと、シュミット・サイエンシズで「信頼できるAIの科学（Science of Trustworthy AI）」プログラムを率いるジェームズ・フォックスに、この1000万ドルで何を達成したいのかを聞いた。この金額は決して小さくないが、グーグル・ディープマインド自身の研究チームが扱う予算規模には及ばない。

その目的は、テック企業の外での研究を活性化させることだとシャーは言う。「アカデミアの強みは、かなり先の未来まで見据え、産業界の研究所では優先されにくい研究に取り組めることです」。

「最大の問題は、マルチエージェント安全性という研究分野がまだ実質的に存在していないことです。私たちは、その分野が生まれることを望んでいま …

こちらは会員限定の記事です。 メールアドレスの登録で続きを読めます。

有料会員にはメリットがいっぱい！

毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
重要テーマが押さえられる。
各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。

人気の記事ランキング