国防総省とAI企業アンソロピック（Anthropic）の間で続いている公然の対立は、深刻でいまだ答えの出ていない疑問を提起している。すなわち、法律は実際に米国政府による米国民への大規模監視を認めているのだろうか？

驚くべきことに、答えは単純ではない。エドワード・スノーデンが米国民の電話からNSA（米国家安全保障局）が大量のメタデータを収集していることを暴露してから10年以上が経つが、米国はいまだに、一般の人々が考えていることと法律が認めていることとの間のギャップに向き合い続けている。

アンソロピックと政府の対立の火種となったのは、国防総省がアンソロピックの人工知能（AI）「Claude（クロード）」を使って米国民に関する大量の商用データを分析したいと望んだことだった。アンソロピックは、自社のAIが国内の大規模監視（あるいは、人間の監督なしに標的を殺害できる機械である自律兵器）に使用されないことを要求した。交渉が決裂してから1週間後、国防総省はアンソロピックをサプライチェーン・リスクに指定した。これは通常、国家安全保障に脅威をもたらす外国企業に対して使われるラベルである。

一方、ChatGPT（チャットGPT）を開発したライバルAI企業のオープンAI（OpenAI）は、国防総省が同社のAIを「すべての合法的目的」に使用することを認める契約を締結した。批判者らは、この文言が国内監視への道を開いたと述べている。その後の週末、ユーザーは大挙してChatGPTをアンインストールした。抗議者らはサンフランシスコのオープンAI本社周辺にメッセージをチョークで書いた。「あなたたちのレッドラインはどこですか？」

オープンAIは3月2日（月）、自社のAIが国内監視に使用されないことを確実にするため契約内容を見直したと発表した。同社はさらに、そのサービスがNSAなどの情報機関によって使用されることはないと付け加えた。

サム・アルトマンCEOは、既存の法律が国防総省（現在は戦争省と呼ばれることもある）による国内監視を禁止しており、オープンAIの契約は単にこの法律を参照する必要があっただけだと指摘した。「戦争省はこれらの原則に同意し、それらを法律と政策に反映させており、我々はそれらを我々の契約に盛り込みました」と彼はXに書いた。アンソロピックのダリオ・アモデイCEOは反対の立場を主張した。「そのような監視が現在合法であるとすれば、それは単に法律がAIの急速に成長する能力にまだ追いついていないからに過ぎません」と政策声明で述べた。

では、どちらが正しいのだろうか。法律は国防総省がAIを使って米国民を監視することを認めているのだろうか。

強化された監視

答えは、何を監視と見なすかによって決まる。「一般の人々が捜索や監視だと考える多くの行為が（中略）法律上は実際には捜索や監視とは見なされていません」と、ミネソタ大学ロースクールの法学教授アラン・ローゼンシュタインは言う。これは、ソーシャルメディアの投稿、監視カメラの映像、有権者登録記録などの公開情報が対象となることを意味する。外国人の監視から偶発的に取得された米国民の情報も同様である。

最も注目すべき点は、政府が企業から商用データを購入できることであり、そこには携帯電話の位置情報やWeb閲覧履歴などの機密性の高い個人情報が含まれる可能性がある。近年、ICE（移民・関税執行局）やIRS（米国内国歳入庁）からFBI（連邦捜査局）、NSAに至るまで、さまざまな政府機関がこのデータ市場をますます利用するようになっている。この市場は、広告目的でユーザーデータを収集するインターネット経済によって拡大してきた。これらのデータセットにより、政府は通常であれば機密性の高い個人データを取得する際に必要となる令状や召喚状なしに、そうした情報へアクセスできる可能性がある。

「政府が米国民について収集できる情報は膨大にあり、その多くは憲法（具体的には憲法修正第4条）や法律によって規制されていません」とローゼンシュタインは言う。そして政府がそれらのデータで何ができるかについても、意味のある制限はほとんど存在しない。

それは、ここ数十年まで、人々が監視の新たな可能性を生み出すような膨大なデータを生成していなかったためである。不当な捜索と押収からの保護を定めた憲法修正第4条は、情報収集が人々の家に物理的に立ち入ることを意味していた時代に制定された。

1978年の外国情報監視法や1986年の電子通信プライバシー法などの後続の法律は、監視が電話の盗聴や電子メールの傍受を伴っていた時代に可決された。監視を規制する法律の大部分は、インターネットが普及する前に制定されていた。我々は膨大なオンラインデータの痕跡を生成しておらず、政府もデータを分析する高度なツールを持っていなかった。

今や我々はそれらを持っており、AIはどのような監視が実行できるかを飛躍的に向上させる。「AIができることは、それ自体では機密性がなく、したがってそれ自体では規制されていない多くの情報を取り、政府が以前は持っていなかった多くの権力を政府に与えることです」とローゼンシュタインは言う。

AIは個々の情報を集約してパターンを発見し、推論をし、人々の詳細なプロファイルを大規模に構築できる。そして、政府が合法的に情報を収集する限り、AIシステムに供給することを含め、その情報で何でもできる。「法律は技術的現実に追いついていません」とローゼンシュタインは言う。

監視は深刻なプライバシーの懸念を引き起こす可能性があるが、国防総省は米国民に関するデータの収集と分析において正当な国家安全保障上の利益を持つことができる。「米国民に関する情報を収集するためには、非常に特定の任務の一部でなければなりません」と、国防総省の元軍事情報将校ローレン・ヴォスは言う。

例えば、対諜報任務では、外国のために働いている、または国際テロ活動に従事することを計画している米国民に関する情報が必要になる場合がある。しかし、標的を絞った情報収集は時として、より多くのデータの収集に拡大することがある。「この種の収集は人々を不安にさせます」とヴォスは言う。

合法的使用

オープンAIは、同社のAIシステムが関連法律に従って「米国人および米国民の国内監視に意図的に使用されてはならない」と述べるよう契約を修正した。この修正は、「商業的に取得された個人または識別可能な情報の調達または使用を通じたものを含む、米国人または米国民の意図的な追跡、監視または監視」を禁止することを明確にしている。

しかし、追加された文言は、国防総省が同社のAIシステムをすべての合法的目的に使用できるという条項を覆すことはあまりできないかもしれない。これには機密性の高い個人情報の収集と分析が含まれる可能性がある。「オープンAIは契約で何でも言うことができますが、国防総省は合法だと認識することにその技術を使用するでしょう」と、ジョージワシントン大学ロースクールの法学教授ジェシカ・ティリップマンは言う。それには国内監視が含まれる可能性がある。「ほとんどの場合、企業は国防総省が何かをすることを止めることはできません」。

この文言はまた、「偶発的な」監視や、米国に住む外国人や不法移民の監視について疑問を残している。「法律が何であるかについて意見の相違がある場合、または法律が変わった場合はどうなるのでしょうか？」とティリップマンは言う。

オープンAIはコメント要請に応じなかった。同社は新しい契約の全文を公開していない。

契約を超えて、オープンAIは監視に対するレッドラインを強制するための技術的セーフガードを課すと述べており、禁止された使用を監視し阻止する「安全スタック」を含んでいる。同社はまた、国防総省と協力し、情報を共有し続けるために独自の従業員を配置すると述べている。しかし、安全スタックが国防総省のAI使用をどのように制約するのか、オープンAIの従業員がそのAIシステムがどのように使用されるかをどの程度把握できるのかは不明である。より重要なことは、契約がオープンAIに技術の合法的使用を阻止する権限を与えているかどうかが不明なことである。

しかし、それは悪いことではないかもしれない。AI企業に政府の運用の最中に技術のプラグを抜く権限を与えることも、それ自体のリスクを伴う。「米軍が正当にこの国の国家安全保障を守るための行動を取る必要がある状況で、民間企業が技術をオフにするような状況に米軍が置かれることは望ましくありません」とヴォスは言う。しかし、それは議会によって厳格な線引きがなされるべきではないということを意味するものではない、と彼女は言う。

これらの問題はどれも単純ではない。それらはプライバシーと国家安全保障の間の残酷なほど困難なトレードオフを伴う。だからこそ、行政府と少数のAI企業の間の密室での交渉ではなく、公衆によって決定されるべき理由である。現在、軍事AIは立法ではなく契約によって規制されている。

一部の議員が意見を述べ始めている。ロン・ワイデン上院議員（オレゴン州選出、民主党）は3月9日（月）、大規模監視に対処する法案への超党派の支持を求める予定である。彼は、2021年に初めて導入されたが法制化されていない憲法修正第4条は売り物ではない法を含む、政府の商用データ購入を制限する法案を支持してきた。「そのデータに基づいて米国民のAIプロファイルを作成することは、許可されるべきではない大規模監視の寒気のする拡大を表しています」と最近の声明で述べた。

• 0

人気の記事ランキング

1. This company claims a battery breakthrough. Now they need to prove it. すべてのパラメーターが矛盾——「出来すぎ」全固体電池は本物か？
2. How uncrewed narco subs could transform the Colombian drug trade 中には誰もいなかった—— コカイン密輸組織が作った 「自律潜水ドローン」の脅威
3. AI is rewiring how the world’s best Go players think 「アルファ碁」から10年、 AIは囲碁から 創造性を奪ったのか
4. OpenAI’s “compromise” with the Pentagon is what Anthropic feared アンソロピック排除の裏で進んだオープンAIの軍事契約、その代償は