止まらない負の連鎖、米警察の「不正データ問題」が問うAI社会の闇

米国の警察が使っている予測型取り締まりシステムの多くが、差別による不当逮捕などを含む過去のデータを用いて訓練されていることが明らかになった。中には意図的なデータの改ざんや操作も見られ、差別を継続させるだけでなく、それに基づく新たなデータを生み出す悪循環になる可能性がある。 by Karen Hao2019.02.21

2010年5月、世間の注目を浴びた一連のスキャンダルのあおりを受けて、ニューオリンズ市長は米司法省にニューオリンズ市警察（NOPD）の調査を依頼した。その10カ月後、米司法省は辛辣な分析結果をもたらした。調査対象とした2005年以降の期間、NOPDは何度となく合衆国憲法および連邦法に違反していたのだ。

NOPDは過剰に、しかも不等な割合で、黒人市民に対して暴力を行使していた。人種的少数派や英語を母国語としない人々、LGBTQの人々が標的となっていた。さらに、女性に対する暴力についても適切な対処をしていなかった。問題は、「深刻で多岐にわたっており、組織的で、かつ警察の風土に深く根付いている」ことである、と当時のトーマス・ペレス司法次官補は語った。

そうした懸念される結果報告にもかかわらず、その1年後、ニューオリンズ市はデータマイニング会社「パランティア（Palantir）」と秘密裏に契約し、「予測型取り締まりシステム」を配備した。パランティアおよびニューオリンズ市の資料によると、逮捕記録や電子警察レポートなどのデータ履歴を利用して犯罪の発生を予測したり、公共安全政策を整備したりするのに役立てるのが狙いだという。資料には、米司法省によって明らかにされた違法行為に対処するために、データを洗いなおして修正する取り組みについては一切触れられていない。過去の誤った考えに基づくデータがこのシステムに直接入力された結果として、警察の差別行使がさらに強化されたことが十分に予想される。

予測型取り締まりシステムは、全米の都市において一般的に導入されつつある。透明性の欠如によって正確な統計は把握しにくいが、主要ベンダーであるプレッドポール（PredPol）は、予測型取り締まりシステムによって33人に1人のアメリカ人を「保護」できると豪語する。同社のソフトウェアは、多忙な警察官たちがデータに基いて、より効率的な判断を下せるようにする手段として頻繁に売り込まれている。

しかし新たな調査によると、こうしたシステムを「汚染されたデータ」を使って訓練しているのはニューオリンズ市だけではないようだ。AIの社会的影響を研究するシンクタンクであるAIナウ研究所（AI Now Institute）の研究チームが2月13日に発表した論文（NYUロー・レビュー（NYU Law Review）に掲載予定）によると、調査した管轄区の間に「汚染データ」問題が蔓延しているという。このことは、予測型取り締まりシステムの …

こちらは会員限定の記事です。 メールアドレスの登録で続きを読めます。

有料会員にはメリットがいっぱい！

毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
重要テーマが押さえられる。
各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。

【夏割】実施中！年間購読料20%オフ！

人気の記事ランキング