米国の通信会社であるセキュラス・テクノロジーズ（Securus Technologies）が、刑務所収監者の電話や動画通話を数年間にわたって記録したデータで人工知能（AI）モデルを訓練した。現在、そのモデルを使って収監者の通話、テキスト、電子メールをスキャンし、犯罪の予測と防止を目指す試験運用をしている。

セキュラス・テクノロジーズのケビン・エルダー社長は、MITテクノロジーレビューに対し、同社は2023年にAIツールの構築を開始し、記録された通話の膨大なデータベースを使用してAIモデルを訓練して犯罪活動を検出していると語った。例えば、テキサス州刑務所システムの収監者による7年間の通話を使用したモデルを作成しており、他の州や郡に特化したモデルの構築にも取り組んでいるという。

エルダー社長によると、セキュラスはこれまで1年間かけて、収監者の会話をリアルタイムで監視するAIツールの試験運用をしている（どこで実施されているかの詳細は明かすことを拒否したが、同社の顧客には裁判待ちの人々を収容する拘置所、刑期を務める人々のための刑務所、移民税関執行局の収容施設が含まれている）。

「私たちはその大規模言語モデル（LLM）を、宝の山であるデータ全体に向けることができます。犯罪が考えられたり企てられたりしている時に、それを検出して理解することで、サイクルのはるかに早い段階でそれを捕捉できるのです」。

エルダー社長によると、他の監視ツールと同様に、収容施設の捜査官は、ランダムに選択された会話や、施設の捜査官が犯罪活動を疑っている個人の会話を監視するためにAI機能を展開できる。モデルは電話や動画通話、テキストメッセージ、電子メールを分析し、人間の担当者がレビューすべき個所にフラグを立てた後、フォローアップのために捜査官に送付する。

エルダー社長はインタビューで、セキュラスの監視活動が刑務所内で組織される人身売買やギャング活動などの犯罪の阻止に役立っており、同社のツールは密輸品を持ち込む刑務所職員の特定にも使用されていると述べた。しかし、新しいAIモデルによって具体的に発見された事例については語らなかった。

刑務所の人々と、彼らが電話をかける相手は、会話が記録されることを通知される。しかし、「それらの会話がAIモデルの訓練に使用される可能性があることを認識しているわけではありません」と、刑務所権利擁護団体ワース・ライゼス（Worth Rises）のビアンカ・タイレク事務局長は述べる。

「それは強制的な同意です。家族とコミュニケーションを取る他の方法は文字通り存在しないのですから」とタイレク事務局長は言う。そして、大多数の州において収監者がこれらの通話に料金を支払っているため、「データの使用に対して収監者に補償しないだけでなく、実際には、収監者のデータを収集しながら料金を請求しているのです」と付け加えた。

セキュラスの広報担当者は、矯正施設が独自の記録・監視方針を決定し、同社はその決定に従っているのだと述べた。収監者が自分の記録をAI訓練に使用することをオプトアウトできるかどうかについては直接回答しなかった。

他の収監者擁護団体たちは、セキュラスが収監者の市民的自由を侵害してきた歴史があると述べている。例えば、セキュラスの記録データベースが漏えいしたことで、同社が収監者と弁護士の間の数千件の通話を不適切に記録していたことが明らかになった。米国自由人権協会（ACLU）全国刑務所プロジェクトのコリーン・ケンドリック副所長は、新しいAIシステムにより人権を侵害する監視が可能になり、裁判所はシステムの使用に対してほとんど制限を設けていないと述べている。

「収監者のあらゆる発言と思考を監視することで、犯罪が起こる前にそれを阻止するつもりなのでしょうか？」とケンドリック副所長は述べる。「これは技術が法律をはるかに先行している多くの状況の一つだと思います」。

セキュラスの広報担当者は、このツールは「特定の個人を監視したり標的にしたりすることに焦点を当てているのではなく、通信システム全体にわたるより広範なパターン、異常、違法行為を特定することに焦点を当てています」と述べた。さらに、その機能は人員不足の中で監視をより効率的にすることであり、「理由なく個人を監視することではありません」と付け加えた。”

セキュラスは最近、通信会社が収監者の通話から徴収する資金をどのように使うことができるかをめぐる規制当局との戦いで勝利を収めた。そのおかげで、AIツールの資金調達がより容易になるだろう。

2024年、連邦通信委員会（FCC）は、囚人の権利擁護者によって形作られ称賛された大きな改革を発表し、通信会社が通話の記録と監視のコストを収監者に転嫁することを禁止した。企業は収監者に上限付きの料金で通話を請求し続けることは許可されたが、刑務所と拘置所は大部分のセキュリティコストを自分たちの予算から支払うよう命じられた。

この変更に対する否定的な反応は迅速だった。通常は郡の拘置所を運営する保安官協会は、もはや通話の適切な監視をする余裕がないと苦情を述べ、14州の司法長官がこの裁定について訴訟を起こした。一部の刑務所と拘置所は、収監者が電話を利用できないようにすると警告した。

セキュラスは、AIツールを構築し、試験運用をしている間にFCCとの会議を開いた。そして、2024年の改革が行き過ぎであると主張し、企業が収監者から徴収した料金をセキュリティの支払いに使用するのを再び認める規則変更を求めてロビー活動をした。

6月、ドナルド・トランプ大統領がFCCの委員長に任命したブレンダン・カーは、拘置所と刑務所が2024年の改革を採用するためのすべての期限を延期すると述べ、さらに通信会社のAI監視活動を収監者が支払う料金で資金調達することをFCCが支援したいと示唆した。プレスリリースで、カー委員長は2024年の改革を撤回することで「高度なAIと機械学習を含む有益な公共安全ツールのより広範な採用につながる」と書いた。

10月28日、FCCはさらに進んだ。新しい、より高い料金上限を可決し、セキュラスのような企業が通話の記録と監視に関連するセキュリティコスト（例えば、記録の保存、転写、またはそのような通話を分析するAIツールの構築など）を収監者に転嫁することを許可することを可決した。セキュラスの広報担当者は、MITテクノロジーレビューに対し、同社は手頃な価格と、必要不可欠な安全・セキュリティツールの資金調達の必要性のバランスを取ることを目指していると述べた。「高度な監視とAI機能を含むこれらのツールは、収監者と矯正職員のための安全な施設を維持し、公衆を保護するために基本的なものです」。

FCC委員のアンナ・ゴメスは10月の裁定に反対し、「収監者に無関係なセキュリティと安全のコストの請求書を支払うべきなのは法執行機関であり、収監者の家族ではありません」とする声明を出した

FCCは、これらの新しい規則が最終的に発効する前に、コメントを求める予定である。

• 2

人気の記事ランキング

1. Anthropic’s Code with Claude showed off coding’s future—whether you like it or not 「Claudeに任せてしまおう」 たった1年で激変したソフトウェア開発
2. Promotion Hirosima Special Issue has now arrived 特別編集版『ポスト都市時代の社会デザイン 社会実装都市 ひろしま』発行のお知らせ
3. It’s time to address the looming crisis in entry-level work. 「コーディングを学べ」もう通用せず、AIが若者の雇用を奪い始めた
4. A reality check on the AI jobs hysteria 「ホワイトカラー消滅」 まだデータに兆候なし ——ただし若者に警戒信号
5. Inside the stealthy startup that pitched brainless human clones 「臓器袋」から全身置換へ ステルス企業R3が隠す 「脳なし」クローン計画