崖っぷちのプライバシー、
AIエージェントが崩す
「摩擦」という最後の砦

あなたの人生の断片は、インターネット上のあちこちに散らばっており、その一部は売りに出されている。データブローカーは、数百万人の個人からWeb検索履歴、金融記録、位置情報データを収集し、米国政府を含むさまざまな顧客に販売している。最近のオンライン購入履歴や通勤経路といった情報が、世界中のハードディスクに保存され、利用される日を待っているかもしれない。

こうした断片を再統合することは容易ではないが、大規模言語モデル（LLM）がそれをはるかに簡単にする可能性を示す初期的な証拠が存在する。LLMエージェントは、情報アナリストの業務をごく短時間かつ低コストで実行できる可能性があり、その結果、国家は最優先ターゲットに限らず、あらゆる個人に対してその「全知の目」を向けられるようになる。

「私たちがプライバシー保護と考えているものの多くは、法律に明文化されたものというよりも、人について何かを知ることがどれほど困難で、どれほどコストがかかるかに依存しています」。コーネル大学のカレン・レヴィ教授（情報科学）は言う。「携帯電話が普及したことで、人々に関するデータの収集コストは大幅に下がりましたが、そのデータを活用することは依然として難しいままでした。強力なLLMはそれを変えてしまうかもしれません」。

LLMが大規模監視を促進し得るという懸念は最近、世界中で大きく報道された。ニューヨーク・タイムズとアトランティック誌（The Atlantic）の報道によると、アンソロピック（Anthropic）と米国国防総省（DOD）との契約交渉は2月下旬に決裂した。DODが米国市民に関する商業的に入手可能なデータの分析に同社のモデルを使用する裁量を求めたのに対し、アンソロピックが難色を示したためだ。その数時間後、競合のオープンAI（OpenAI）がDODとの契約に合意すると、アンソロピックが引いた一線をあっさりと越えたとして、オープンAIは世論の強い反発に直面した。圧力を受け、オープンAIとDODはその後、契約条件を修正した。

アンソロピックのダリオ・アモデイCEOの熱心なフォロワーにとって、同社の毅然とした姿勢はおそらく驚くことではなかっただろう。アモデイは1月に自身の個人Webサイトに公開した長文のエッセーの中で、AIを活用した大規模監視は人道に対する罪に相当しうると主張していた。DODとの対立の根底にある核心的な懸念は、政府がClaude（クロード）などのLLMベースのシステムを使ってブローカーから入手した膨大なデータを分析し、多数の米国市民の詳細な個人プロファイルを大規模に構築するかもしれない、というものだった。

AIが大規模監視に利用された前例は数多く存在する。最も顕著な例として、世界中の政府が顔認識技術を使って自国民や外国人を追跡しており、最近の報道では米国移民・関税執行局（ICE）の捜査官が、トランプ政権の大規模強制送還キャンペーンを実行するために顔認識アプリに大きく依存していることが明らかになっている。アモデイが警告するような形でLLMが監視に使用されているという決定的な証拠はまだ存在しないが、そうした能力への明確な需要があることは確かだ。

人工アナリスト

アモデイが警告するような監視が米国で可能なのは、法的抜け穴が存在するからだ。警察があなたを犯罪の容疑者とみなし、あなたが犯行現場にいたかどうかを確認するために携帯電話に保存された位置情報を調べたい場合、裁判官が署名した令状が必要となる。これは、合衆国憲法修正第4条が米国内の誰もが政府による「不合理な捜索」から保護されているためだ。

しかし、政府がブローカーから一括データを購入する場合、政府自身が捜索しているわけではなく、データを収集・整理した第三者による捜索結果を利用しているにすぎない。ここに一種のパラドックスが生じる。政府は令状なしにあなたの携帯電話の位置情報を閲覧することはできないが、政府が購入したデータセットにあなたの携帯電話の位置情報が含まれており、政府がそれをあなたと結びつけることができれば、事実上、合衆国憲法修正第4条を迂回できてしまう。

朗報は、これらのデータベースで個人の情報を見つけることは、単に名前を検索するほど簡単ではないということだ。ブローカーが販売するデータは多くの場合、明らかな識別子が取り除かれている。例えば、数百万台の携帯電話の位置情報の軌跡は含まれていても、対応する電話番号は含まれていないといった具合だ。しかし、それは乗り越えられない障壁ではない。2019年のニューヨーク・タイムズによる携帯電話の一括位置情報データの調査では、個々の端末の推定される職場と自宅の位置に注目することで、所有者を特定できる場合が多いことが分かった。

データの匿名化解除にはある程度の労力が必要だが、それは情報アナリスト、あるいは有能なインターネット・ユーザーであれば十分に対応できる範囲内であり、法執行機関も表向き匿名化された位置情報デ …

人気の記事ランキング

1. Trump’s AI protectionism has come for robotics 中国製ロボットを締め出す米国、その研究は中国製で回っている
2. How an overlooked geothermal plant got a second chance もっと深く掘れ——採算割れの地熱発電所を米新興企業が再生
3. How lasers could help provide fuel for nuclear reactors 核廃棄物は「地上ウラン鉱山」、レーザー濃縮で再生を狙う
4. A fundamental flaw leaves LLMs strikingly vulnerable to attack 「思考の連鎖」偽装でLLMを騙す新手法、訓練では防げない構造的欠陥