6カ月前、私は米国の警察署長が集まる最大の会合に出席した。彼らが人工知能（AI）をどのように使用しているかを確認するためだ。そこでは警官がAIに警察報告書を書かせるなど、大きな進展があることが 分かった。それ以来、警察向けAIがどれほど発展したかを示す新しい記事を公開した。

この記事では警察や連邦機関が人々を追跡するために見出した新しい方法について書いている。顔の代わりに体格、性別、髪の色とスタイル、服装、アクセサリーなどの属性を使用するAIツールだ。最近、顔認識の使用を制限する法律が増えており、同ツールはそれを回避する方法を提供するものだ。

米国自由人権協会（ACLU：American Civil Liberties Union）の関係者らは、MITテクノロジーレビューの記事でこのツールについて知り、米国で大規模に使用されているこのような追跡システムを見たのは初めてだとして、連邦機関による悪用の可能性が高いと述べている。トランプ政権が抗議者、移民、学生に対するさらなる監視を推し進めている時期に、AIがより強力な監視を可能にする見通しは特に憂慮すべきことだという。

詳細については記事全文を読んで、システムがどのように機能するかのデモ動画を見ていただきたい。だが、まず警察のテクノロジー開発について分かっていることや、AIの時代にこれらの組織がどのようなルールに従うのかについて考えてみよう。

6カ月前の記事で指摘したように、米国の警察は並外れた独立性を持っている。全国に1万8000以上の部門があり、予算をどのテクノロジーに使うかについて、概して大きな裁量権を持っている。近年、そのテクノロジーはますますAI中心のものになってきている。

フロック（Flock）やアクソン（Axon）のような企業は、カメラ、ナンバープレートリーダー、発砲音検知器、ドローンなどのセンサー一式を販売し、その膨大なデータから何がわかるかを理解するためのAIツールを提供している。2024年のカンファレンスでは、警察向けAIのスタートアップ企業と、展示会場でそれらを購入する警察署長との間で無数の会話が交わされているのを目にした。警察は、これらの技術によって時間が節約され、人員不足が緩和され、対応時間の短縮に役立つと述べている。

これらは立派な目標に聴こえるが、このような導入ペースでは明らかな疑問が生じる。ここでは誰がルールを作るのか？ AIの使用は、いつ効率化から監視へと移行するのか、そして一般市民にはどのような透明性が求められるのか？

場合によっては、AIを活用した警察の技術がすでに警察と地域社会の間に溝を生んでいるところもある。カリフォルニア州チュラビスタの警察は、連邦航空局（FAA：Federal Aviation Administration）から特別な許可を得て、通常よりも遠くまでドローンを飛ばすことができる全米初の警察である。犯罪の解決や緊急時の迅速な人命救助のためにドローンを展開すると説明しており、いくつかのうまくいった事例もある。

しかし、警察はドローン映像を公開するという約束を反故にしたとして地元メディアから訴えられており、住民からは頭上を飛ぶドローンはプライバシーの侵害のように感じられると言われている。調査によると、これらのドローンは貧困地区でより頻繁に展開され、大音量の音楽のような些細な問題に対しても使用されていたことがわかった。

米国自由人権協会の上級政策アナリストであるジェイ・スタンレーによると、私が記事で書いた追跡ソフトウェアのようなテクノロジーを地方警察が採用する方法を統括する連邦法は存在しない。警察は通常、まず試してみて、その後コミュニティがどのように反応するかを見る裁量を持っている。私が記事で取り上げたツールを作っているベリトーン（Veritone）は、ツールを使用している警察署の名前を明かしたり、私を警察署に紹介したりはできないと述べており、警察がそのツールをどのように展開しているかの詳細はまだ明らかになっていない。

時には、コミュニティが断固とした立場をとることがある。顔認識の警察による使用に反対する地域の法律が全国で可決されている。しかし、警察、あるいは警察が製品を購入している警察テック企業は、抜け道を見つけることができる。スタンレーは、私が記事で取り上げた新しい追跡ソフトウェアは、技術的に生体データを使用していないため精査を逃れているが、顔認識と同じような問題を多く引き起こすと述べている。

「コミュニティはこの種の技術に非常に懐疑的であるべきであり、最低限、多くの質問をすべきです」とスタンレーは言い、警察がAI技術を採用する前にすべきことのロードマップを示した。公聴会を開き、コミュニティの許可を得て、システムがどのように使用され、どのように使用されないかについて約束をすることである。さらに、この技術を作っている企業もまた、独立した第三者によってテストされることを許可すべきであると付け加えた。

「こうしたことはすべて急速に進んでいます」とスタンレーは言う。政策立案者や一般市民が追いつくのは難しいほどのスピードである。「私たちはこうした権限を、私たちに仕える立場にある警察や当局に与えてよいのでしょうか。もしそうだとしたら、どのような条件の下ででしょうか」。

• 2

人気の記事ランキング

1. How a 1980s toy robot arm inspired modern robotics 世界の工学者を魅了し続ける 80年代の日本のおもちゃ
2. Why Chinese manufacturers are going viral on TikTok 「ほぼエルメス」を工場直送 中国の下請け企業が ティックトックで反旗
3. Here’s why we need to start thinking of AI as “normal” AIは「普通」の技術、プリンストン大のつまらない提言の背景
4. A US court just put ownership of CRISPR back in play CRISPR特許訴訟で新展開、米国で再審理へ