マルチエージェント時代に備え、グーグルが安全性研究に1000万ドル

グーグル・ディープマインド（Google DeepMind）は、数百万もの異なるAIエージェントがネット上で互いにやり取りする状況に潜む潜在的な危険性に関する研究に資金を提供している。

同社のAGI安全性・アライメント研究を統括するロヒン・シャーによると、人間の監督なしにタスクを実行し、他のエージェントから与えられた指示にも従うエージェントが一般市場に登場したことで、まったく新しい種類のリスクが生まれているという。

この問題に対処するため、グーグル・ディープマインドは、複数の組織と連携し、マルチエージェント・システムの挙動を研究し、安全でないシナリオを防ぐ方法を考案する研究者向けに1000万ドルの研究資金を提供すると発表した。マルチエージェント・システムは、先月のグーグル I/Oで目玉として打ち出したものだ。

参加組織には、エリック・シュミットとウェンディ・シュミットが設立した慈善財団シュミット・サイエンシズ（Schmidt Sciences）、英国政府のムーンショット機関ARIA（Advanced Research and Invention Agency）、英国の非営利研究機関コーポラティブAI財団（Cooperative AI Foundation）、そしてグーグルの慈善部門であるグーグル・ドット・オルグ（Google.org）が名を連ねている。

ディープマインドのシャーと、シュミット・サイエンシズで「信頼できるAIの科学（Science of Trustworthy AI）」プログラムを率いるジェームズ・フォックスに、この1000万ドルで何を達成したいのかを聞いた。この金額は決して小さくないが、グーグル・ディープマインド自身の研究チームが扱う予算規模には及ばない。

その目的は、テック企業の外での研究を活性化させることだとシャーは言う。「アカデミアの強みは、かなり先の未来まで見据え、産業界の研究所では優先されにくい研究に取り組めることです」。

「最大の問題は、マルチエージェント安全性という研究分野がまだ実質的に存在していないことです。私たちは、その分野が生まれることを望んでいま …

人気の記事ランキング

1. How virtual power plants could provide energy for data centers データセンターの電力不足、グーグルは市民から集める仕組み導入へ
2. Promotion Call for entries for Innovators Under 35 Japan 2026 「Innovators Under 35 Japan」2026年度候補者募集のお知らせ
3. No one’s sure if synthetic mirror life will kill us all 鏡像生命に沸いた科学者 「世界の終わり」を見たとき 何をすべきなのか
4. How courts are coping with a flood of AI-generated lawsuits AIで「弁護士なし訴訟」が激増、それでも判事が歓迎する理由
5. China has approved the world’s first invasive brain-computer chip—here’s what’s next 中国、BCIを国家戦略に 世界初の商用化で イーロン・マスクにも先行

▼Promotion