顔認識技術、静かに浸透　大手テック撤退でも米警察は積極導入

デトロイト警察 がロバート・ウィリアムズを誤認逮捕した原因は顔認識システムによる誤判定だったというニュースが報じられたのは、6月下旬のことだった。このときデトロイトはすでに、1 カ月前に起こったジョージ・フロイドの死をめぐる混乱の只中にあった。そのすぐ後、さらに別の黒人男性マイケル・オリバーが、ウィリアムズと同様の状況で逮捕された。米国の大半が人種間の平等を叫び続ける一方で、顔認識技術と警察のかかわりについて形成されている議論はひそやかだ。よく耳を澄ましたほうがいいだろう。

MITテクノロジーレビュー（米国版）ポッドキャストの新番組「イン・マシーンズ・ウィ・トラスト（我ら機械を信ず）」で 、ジェニファー・ストロングと私が警察による顔認識技術の利用を取り上げ始めたとき、人工知能（AI）を用いた顔認識システムが米国や世界各国の警察に導入されていることは分かっていた。しかし、そのうちどれほどが世間の目の届かないところで進んでいるのかは知らなかった。

まず、米国では警察による顔認識の利用頻度が分からない。その理由は簡単で、ほとんどの管轄区域では顔認識を犯罪容疑者の特定に使用する際の報告が義務づけられていないからだ。直近の数字は2016年の推測値だが、これらの数字からは、当時、顔認識システム内に米国民のおよそ半数の写真があったことが読み取れる。フロリダ州のある郡では1カ月あたり8000回の検索が実行されていた。

さらに、どの警察が顔認識技術を導入しているのかも分からない。警察は設備の調達手順を非公開とすることがよくあるからだ。例えば、多くの警察が連邦補助金や非営利目的の寄付を使って顔認識テクノロジーを購入していること示す証拠がある。連邦補助金や寄付による購入は、情報開示を義務づけた法律の適用外となるのだ。そのほかにも、企業が警察に対して自社ソフトのトライアルを提供し、その期間中、警察は正式な認可や監督を受けることなくシステムを利用できるケースもある。そうすることで、顔認識システムの製造企業は自社製品が広く利用されていると主張でき、製品に対して、ポピュラーで信頼のおける犯罪解決ツールだという外向きの印象を付与できるのだ。

使い物にならない保護されたアルゴリズム

しかし、顔認識に関しては、それがいかに信頼できないかということがよく知られている。ポッドキャストの番組でも取り上げたとおり、ロンド …