アンソロピック（Anthropic）と米国政府の最新の対立を知らずに夏を満喫している読者のために、経緯をまとめておこう。今年4月、同社は「Mythos（ミュトス）」と呼ばれる人工知能（AI）モデルを開発したと発表した。このモデルはコーディング能力が非常に高く、世界的なサイバーセキュリティ上の脅威となりうるとされた。アンソロピックは少数のサイバーセキュリティ専門家グループにアクセスを提供し、その実力を確認させた。その後、6月9日（火）に、より安全性を高めた改良版「Fable（フェイブル）」を一般公開した。その週の金曜日、連邦政府は同社に対してFableが国家安全保障上の脅威であると通告し、新リリースに輸出規制を課した。アンソロピックはその数時間後、両モデルへのアクセスを取り消した。

AIの壊滅的な影響を懸念する「ドゥーマー（破滅論者）」と呼ばれる人々は、AIが人類にとっての脅威であると長年にわたって主張し、政府がその開発にどう介入すべきかについての提言を発表してきた。ドゥーマーたちがかねて求めていた政府の介入がついに実現した。しかしそれは、生物兵器や暴走するAIに対してではなく、「コーディングが非常に得意なAIモデル」に対する反応として起きたのだった。そして今のところ、その結果は安全計画というよりも、表面的な対応にしか見えない。

米国政府がこれほど急激な行動に出るに至った数日間の出来事には、検討すべき点が多い。特に注目すべきは、アマゾン（Amazon）のアンディ・ジャシーCEOが政府当局者にFableの危険性を伝えた人物であるという点だ（アマゾンはアンソロピックに出資する一方で、独自の競合AIモデルも開発している）。また、この禁止措置が法的審査に耐えられず短命に終わる可能性もある（たとえば、アンソロピックがFableへのアクセスを提供することが、実際に「輸出」に該当するかどうかは明確ではない）。

しかし、すでに波紋が広がり始めている。

まず、今回の件は多くの人々に米国のAI企業への依存を避けさせようとしている。フランスの政治家ブリュノ・ルタイヨーはこれを「警鐘」と表現し、欧州がより多くのAIを自ら開発すべき動機になると述べた。しかし、アンソロピックのモデル停止を受けて多くの欧州指導者が声高に唱えている、「パリをシリコンバレーにする」というビジョンには、1つの大きな障壁がある。中国だ。

中国のオープンソースモデルは非常に高い能力を持ち、驚くほど安価で、誰のサーバーにもルールやガードレールなしにダウンロードして実行できる。これは、ホワイトハウスの判断によってアクセスを遮断されたくない企業にとって魅力的だ。しかし同時に、アンソロピックが自社モデルに安全ガードレールを組み込むことで排除しようとしていたサイバー犯罪者にとっても同様に魅力的である。

米国や欧州の企業を含む多くの企業が、中国のモデルを使う方が単純に楽だと判断する可能性がある。中国のスタートアップ企業、ジプー（智谱：Zhipu）の株価が急騰していることがその傍証となっている。この流れを先読みすると、米国政府の次の急激な決断が「中国のモデルを使用する米国企業は国家安全保障上の脅威だ」という宣言になる可能性はあるだろうか。否定はできない。

第二に、アンソロピックのモデルへのアクセスを遮断することで、むしろ安全になるどころか、サイバーセキュリティ攻撃に対して国がより脆弱になる可能性がある。主要なサイバーセキュリティ専門家たちは政府への公開書簡でそう述べており、アンソロピックのモデルへのアクセスが研究者の防御準備を助けていたこと、また同社のモデルは広く利用可能な他の主要モデルと比べて特段危険なわけではないことを指摘している。これは、核兵器に使われるウランを管理・制限するような形でAIモデルを制御しようとする「不拡散」の概念をソフトウェアに適用することのリスクそのものだ。

第三に注目すべきは、米国の立法者たちがどう反応するかだ。アンソロピックが国防総省によるモデル利用の可否をめぐって政府と前回対立した後、軍事AIの限界を定める一連の新法案が提出されたことを思い出してほしい。

現在、AIの利用方法を形作る最大のプレーヤーは企業とホワイトハウスだ。連邦レベルでのAI規制強化を求める声は多く、世論調査でも大多数の米国人がそれを望んでいることが示されている。立法者たちは子どもたちのチャットボット利用に関するルール策定を模索している段階であり、政府がAIモデルの安全性をどこまで審査すべきかについては明確な答えには程遠い。しかし、ホワイトハウスが急激な行動を取るたびに、規制を求める圧力は高まっていく。

言うまでもないことだが、政権のAIに対する姿勢が風向き次第で変わる中では、予測は難しい。トランプ大統領が就任した際、彼はAIを安全に開発するための制限的なルールブックを廃棄し、テクノロジー企業の邪魔をしないと約束した。そのホワイトハウスが今、最も価値あるAIスタートアップを春に一度、そして夏にもう一度、国家安全保障上のリスクと呼んだのだ。秋には何が待っているのだろうか。

• 9

人気の記事ランキング

1. How lasers could help provide fuel for nuclear reactors 核廃棄物は「地上ウラン鉱山」、レーザー濃縮で再生を狙う
2. Trump’s AI protectionism has come for robotics 中国製ロボットを締め出す米国、その研究は中国製で回っている
3. How an overlooked geothermal plant got a second chance もっと深く掘れ——採算割れの地熱発電所を米新興企業が再生
4. OpenAI called the Hugging Face attack unprecedented. But we’ve been here before.  「AIの暴走」ではない、オープンAIのモデルが不正侵入した理由