Live facial recognition is tracking kids suspected of being criminals

アルゼンチン政府が未成年容疑者を公開DBに登録、顔認識で追跡も

国際人権NGOの調査により、アルゼンチン政府の犯罪容疑者データベースに未成年者が登録されており、リアルタイム顔認識システムと連携して追跡に使われていることがわかった。顔認識システムは一般に子どもの顔の認識性能が悪く、子どもたちは常に誤認逮捕の危険に晒されている。 by Karen Hao2020.10.14

アルゼンチンの国家データベースには、犯罪容疑者の氏名、生年月日、国民IDが詳細に何万件も登録されている。このデータベースは「逃亡者と逮捕者の国家登録簿（Consulta Nacional de Rebeldías y Capturas：CONARC）」と呼ばれ、凶悪犯罪に対する司法当局の改善に向けた取り組みとして2009年に運用が始まった。

だがCONARCには、いくつか問題がある。1つは、パスワード保護もされていないプレーンテキストのスプレッドシート・ファイルであり、グーグルで検索すれば簡単に見つかり、誰でもダウンロードできてしまうことだ。また、犯罪容疑の多くは万引きのようなそれほど深刻ではないものだが、容疑がまったく明記されていないものもある。

しかしながら、もっとも憂慮すべきなのは、データベースに記載されている最年少の容疑者の年齢だ。名前が「M.G.」とだけ明かされているこの人物は、「他人に対する（悪質な）犯罪を犯し、重傷を負わせた」とされる。M.G.は2016年10月17日生まれとされており、4歳になる1週間前に犯罪を犯したことになる。

現在、国際的な人権NGO（非政府組織）であるヒューマン・ライツ・ウォッチ（Human Rights Watch）の最新調査により、CONARCに子どものデータが定期的に追加されているだけでなく、首都ブエノスアイレスにおける市当局のリアルタイム顔認識システムにもこのデータベースが利用されていることがわかった。この種のシステムとしては、犯罪行為をした疑いのある子どもの追跡に利用されたことが明るみに出た初めての例になるだろう。

ヒューマン・ライツ・ウォッチで子どもの権利擁護を担当し、この研究を主導したヘ・ジョン・ハン研究員は、「とんでもない話です」と言う。

ブエノスアイレスのリアルタイム顔認識の実験は2019年4月に始められた。市民と協議することなく開始されたため、すぐに反発が起こった。同年10月に、国の公民権団体が訴訟を起こし、異議を申し立てた。これを受けて政府は、公共の場での顔認識を合法化する新たな法案を起草し、現在制定過程の途中だ。

このリアルタイム顔認識システムは当初からCONARCにつながるよう設計されている。CONARC自体に容疑者の写真は一切含まれないが、国家登録簿の写真付きIDと結び付けられている。このソフトウェアは容疑者の顔写真を使用し、市内の地下鉄に設置されたカメラを通じてリアルタイムで照合する。システムが人物を特定すると、逮捕するよう警察に通報する。

警察はこのシステムの扱い方の手順を確立しておらず、これまでに非常に多くの誤認逮捕（リンク先はスペイン語）につながった。誤って犯人と認識されたある男性は、6日間拘束され、あやうく最高警備レベルの刑務所に移送されかけたが、最終的に自分の身分を証明できた。自分が警察が捜索している人物でないことを証明しても、今後何度も警告を受けることになるだろうと言われた人もいる。その人は、取り違えの問題を解決するため、別の警官に止められたときに見せるためのパスを警察から渡された。

ハン研究員は「アルゴリズムやデータベースの間違いを修正できる仕組みは備えていないようです」と話す。「アルゼンチン政府が、技術的な意味でも人権的な意味でも、よく理解していない技術を導入したことがわかります」。

こうしたことはすべて非常に懸念されているが、ここに子どもが加わると状況はさらに悪化する。アルゼンチン政府はCONARCに未成年が含まれていることを公式に否定した（リンク先はスペイン語）。だがヒューマン・ライツ・ウォッチは、2017年5月から2020年5月までのさまざまなバージョンのデータベースを調べ、少なくとも166人の子どもが含まれているのを発見した。その中の多くはM.G.とは違い、フルネームで記載されていた。これは違法だ。国際人権法の下では、罪に問われた子どもは訴訟手続きの間、プライバシーが保護されなければならない。

またM.G.と違い、ほとんどはデータベース登録時に16～17歳だったが、不思議なことに1～3歳の子も数人含まれていた。データベースに登録された子どものデータで明らかになっているミスは年齢だけではない。目に余るようなタイプミス、矛盾した内容、時には同一人物に複数の国民IDが記載されていることもあった。子どもは大人より身体的変化が速いため、IDの写真は古くなってしまう危険性が高い。

そのうえ顔認証システムは、主に大人の顔を用いて訓練・テストされているため、理想的な実験環境下であっても子どもの顔を処理するのが下手だと言われている。ブエノスアイレスのシステムも同様だ。公文書（リンク先はスペイン語）によると、システムを導入する前に、成人した市の職員の顔でしかテストをしていない。以前、米政府が使用していたとされる特定のアルゴリズムのテストでは、子ども（10～16歳）の顔を認識する性能は、大人（24～40歳）の顔を認識する場合よりも性能が6倍劣ることもわかっている。

こうしたすべての要因により、子どもは誤認され、不法に逮捕される危険にさらされている。そのせいで、長期的に教育や雇用の機会に影響を与えるような不当な犯罪記録が作成されるかもしれない。子どもたちの行動にも影響する可能性がある。

ハン研究員は「顔認識が表現の自由を委縮させるという事実は、子どもではさらに顕著となります」と言う。「（誤認逮捕された）子どもが極端に自己検閲をしたり、人前での振る舞い方に慎重になったりすることは簡単に想像がつきます。長期にわたる心理的影響が子どもの世界観や考え方にどのような影響を及ぼすのか、現時点ではまだよく解明されていません」。

ブエノスアイレスは、子どもの追跡にリアルタイムの顔認識システムを利用していることをハン研究員が突き止めた初めての街だったが、他にも隠れて利用しているところがたくさんあるのではないかと同研究員は懸念している。今年の1月に、ロンドン市当局はある発表をした。それはリアルタイム顔認識システムと警察の捜査を統合するというものだ。数日も経たないうちに、モスクワは全域で同様のシステムを展開したと発表した。

このシステムが子どもを照合するために利用され、すでに子どもに影響を与えているのかどうかはまだわからない。2020年公開のドキュメンタリー映画「コーデッド・バイアス（Coded Bias）」では、リアルタイムの顔認識システムが別人と間違えたため、ある少年がロンドン警察に不当に拘束された。警察が未成年を捜していたのか、大人を捜していたのか、実際のところはわからない。

ハン研究員は、拘束されていない人でもプライバシーの権利を侵害されているという。「地下鉄に乗ろうとするだけで、子どもたちは全員、顔認識が可能なカメラの前を通ります」。

このようなシステムに関する議論では、子どもに特別な配慮が必要なことを忘れがちだ。しかし、懸念している理由はこれだけではないとハン研究員は言う。「こうした子どもたちが、権利を侵害するこの種の監視下に置かれているという事実があります。監視テクノロジーが人権や社会に与える影響はまだわかっていません」。言い換えれば、子どもに有害なものは最終的には、誰にとっても有害なのだ。

人気の記事ランキング

カーレン・ハオ [Karen Hao]米国版寄稿者: 受賞歴のあるフリー・ジャーナリスト。人工知能が社会に与える影響について取材している。ウォール・ストリート・ジャーナル紙の海外特派員として中国のテクノロジー業界を担当。2022年4月まではMITテクノロジーレビューのAI担当上級編集者を務めた。