マイクロソフトのチームは、DNAの悪用を防ぐために使用されているバイオセキュリティ・システムに対する、人工知能（AI）を使った「ゼロデイ」脆弱性を発見したと発表した。

これらのスクリーニング・システムは、致命的な毒素や病原体の作成に使用される可能性のある遺伝子配列の購入を阻止するよう設計されている。しかし現在、マイクロソフトの最高科学責任者（CSO）であるエリック・ホロヴィッツが率いる研究チームは、防御側にとって未知の方法でこれらの保護機能を回避する手法を見つけ出したと述べている。

研究チームは10月2日、学術誌サイエンス（Science）でその研究成果を発表した。

ホロヴィッツCSOらの研究チームは、新しいタンパク質の形状を提案する生成AIアルゴリズムに焦点を当てた。この種のアルゴリズムは、ジェネレート・バイオメディシンズ（Generate Biomedicines）やグーグルのスピンアウト企業であるアイソモルフィック・ラボ（Isomorphic Labs）などの潤沢な資金を持つスタートアップ企業において、すでに新薬の探索に活用されている。

問題は、これらのシステムが潜在的に「デュアルユース（二重用途）」である点だ。すなわち、有用な分子だけでなく、有害な分子も生成できてしまう。

マイクロソフトは、「敵対的AIタンパク質設計」がバイオテロリストによる有害タンパク質の製造を支援する可能性があるかどうかを判断するため、2023年にAIのデュアルユース可能性に関する「レッドチーム」テストを開始したと述べている。

マイクロソフトが検証対象としたのは、バイオセキュリティ・スクリーニング・ソフトウェアと呼ばれる防御機構である。タンパク質を合成するためには、研究者は通常、対応するDNA配列を商業ベンダーから注文し、それを細胞に導入する必要がある。これらのベンダーは、注文された配列を既知の毒素や病原体と照合するスクリーニング・ソフトウェアを使用しており、高い類似性が検出されるとアラートが発せられる。

攻撃手法の設計にあたり、マイクロソフトは複数の生成タンパク質モデル（自社開発のEvoDiff＝エボディフを含む）を用いて、毒素の構造を変更しつつ致死的機能は維持されると予測されるように再設計し、スクリーニング・ソフトウェアをすり抜ける手法を開発した。

研究チームは、この実験は完全にデジタル上で実施され、実際に有害なタンパク質を合成することはなかったと述べている。これは、同社が生物兵器を開発しているという誤解を避けるためである。

マイクロソフトは、研究成果を公表する前に米国政府およびスクリーニング・ソフトウェアの開発企業に警告し、すでにシステムへのパッチ適用がなされたものの、一部のAIが設計した分子は依然として検出を逃れる可能性があると述べている。

「パッチは完全ではなく、最先端技術は常に進化しています。しかし、これは一度限りの取り組みではなく、今後のさらなるテストの始まりです」。こう語るのは、DNA大手製造企業であるインテグレーテッドDNAテクノロジーズ（Integrated DNA Technologies）の技術研究開発部長で、マイクロソフトの報告書の共著者でもあるアダム・クロアである。「我々は、軍拡競争のような状況にあるのです」。

研究の悪用を防ぐため、研究チームは一部のコードを非公開とし、AIに再設計させた有毒タンパク質の詳細も明かしていない。ただし、トウゴマに含まれる毒素であるリシンや、狂牛病の原因となる感染性プリオンなど、危険なタンパク質の中にはすでによく知られているものもある。

「今回の発見は、AIによる生物学的モデリングの急速な進展と相まって、強化された核酸合成スクリーニング手順と、それに伴う信頼性の高い実施・検証メカニズムの明確かつ喫緊の必要性を示しています」。サンフランシスコのシンクタンクである米国イノベーション財団（Foundation for American Innovation）のフェローであるディーン・ボールは述べている。

ボールは、米国政府がDNA注文のスクリーニングをすでに重要なセキュリティ対策の一つと見なしていると指摘している。5月には、生物学研究の安全性に関する大統領令の中で、トランプ大統領がそのシステムの全面的な見直しを命じたが、これまでのところホワイトハウスは新たな勧告を発表していない。

一方で、商業的なDNA合成が悪意ある行為者に対する最善の防御策であることに懐疑的な声もある。カリフォルニア大学バークレー校のAI安全性研究者マイケル・コーエンは、配列の偽装方法は常に存在し、マイクロソフトはテストをより困難なものにできたはずだと考えている。

「今回の試験は不十分に見えますし、修正されたツールもたびたび失敗しています。それでも、私たちが近いうちにDNA注文時のスクリーニングという仮想的な防御線から撤退せざるを得なくなるかもしれないという現実を、認めたがらない雰囲気があります。今こそ、私たちが本当に維持・防衛できる対策手段を見つけ出すべき時です」とコーエンは述べている。

コーエンは、バイオセキュリティ対策はAIシステムそのものに組み込むべきであり、直接的な制御、もしくは提供される情報の制限を通じて実現すべきだと主張している。

これに対しクロア部長は、米国内のDNA製造は政府と緊密に連携する少数の企業によって支配されているため、遺伝子合成の監視は依然として生物学的脅威を検出するための現実的なアプローチであると主張する。対照的に、AIモデルの構築や訓練に使われる技術はより広く普及している。「その精霊を瓶に戻すことはできません」とクロアは述べる。「もし私たちを騙してDNA配列を作らせるだけのリソースがあるなら、おそらく大規模言語モデルも訓練できるでしょう」。

• 3

人気の記事ランキング

1. Fusion power plants don’t exist yet, but they’re making money anyway 稼働ゼロでも巨額調達、なぜ「核融合」に資金が集まるのか？
2. An oil and gas giant signed a $1 billion deal with Commonwealth Fusion Systems 核融合のコモンウェルスが10億ドルの契約獲得、石油大手エニが顧客に
3. 10 Breakthrough Technologies 2025 MITTRが選んだ 世界を変える10大技術 2025年版
4. Weight-loss injections have taken over the internet. But what does this mean for people IRL? 週1回の注射で痩せる 「驚異の減量薬」 ブームに潜む危険