司法を侵食するAIの功罪、
米国では判事も
ハルシネーションに騙された
AIツールが司法の現場で使用されるようになるにつれて、AIが犯したミスを人間が見過ごす事例が増えつつある。AIが担当すべき領域と人間が担当すべき領域の境界はあいまいであり、特に、判事がAIを使ってミスを犯した場合、その代償はより大きなものになる。 by James O'Donnell2025.08.18
- この記事の3つのポイント
-
- 米国司法制度で弁護士がAIの誤った判例を引用し判事が処罰を科した
- 判事もAI活用を開始したが誤りを見逃し命令書を再発行する事態が発生
- 特に判事のAI誤用は影響が大きく、司法制度の信頼を損なう可能性
近ごろ米国の司法制度では、人工知能（AI）システムがミスを犯し、人間がそのミスを見逃すという傾向が顕著になっている。この傾向は、一流法律事務所の弁護士までが、実在しない判例を引用した文書を提出したことから始まった。同様のミスはすぐに弁護士以外の裁判関係者の間にも広がった。12月には、スタンフォード大学の教授が、AIと誤情報の専門家であるにもかかわらず、ディープフェイクに関する訴訟でハルシネーション（幻覚）や誤情報を含む宣誓供述書を提出した。
このようなミスの最終責任は判事が取った。AIによるミスに気づいたのがミスを犯した弁護士か、相手方の弁護士かに関わらず、判事は戒告や罰金を科した。そして、おそらく弁護士にAIを再び信用するのを躊躇させるのに十分なほどの恥をかかせた。
しかし現在では、判事も生成AIの活用を試みるようになった。適切な予防措置を講じれば、AIテクノロジーは法的調査の迅速化、訴訟内容の要約、定型的な裁判所命令書の起草、そして米国の多くの地域で訴訟の深刻なバックログを抱える裁判システムの全体的なスピードアップに貢献できると確信している人もいる。しかし、この夏、AIが原因のミスが見過ごされ、判事によって引用されるという事態がすでに発生した。ニュージャージー州の連邦判事は、AIに起因するとみられる誤りだらけの命令書を再発行せざるを得なくなった。また、ミシシッピ州の判事は、これまたAIによる幻覚と思われる誤りが自身の命令書に含まれていた理由について説明を拒否した。
このような早期導入実験の結果は、2つの点を明らかにしている。1つは、AIが人間の判断を必要とせずに支援できる日常的な業務の範疇を定義するのが困難であるということだ。もう1つは、弁護士はAIの活用によってミスが発生した場合、厳しい詮索にさらされる一方で、判事の場合は同様の説明責任を追求されない可能性があり、損害が発生する前にミスを取り消すのがはるかに困難なことだ。
線引き
テキサス州西部地区連邦判事のザビエル・ロドリゲスには、AIに対して懐疑的になるのに十分な理由がある。ロドリゲス判事は、ChatGPT（チャットGPT）の登場より4年も早い2018年に、AIについて学び始めた（テクノロジー業界で働く双子の兄弟の影響もあった）。それでも、自身が担当する裁判でも、AIによるミスに直面してきた。
保険金の受取人をめぐる最近の紛争では、原告と被告の双方が弁護士を介さずに自らの弁護をした（これは珍しいことではない。連邦裁判所の民事訴訟の約4分の1で、少なくとも一方の当事者が代理人を立てずに裁判を進めている）。双方はそれぞれ独自の訴状を作成し、独自の主張を展開した。
「双方ともAIツールを使っていました」とロドリゲス判事は説明する。そして、どちらも架空の判例を引用した書類を提出した。ロドリゲス判事には彼らを戒告する権限があったが、彼らが弁護士ではないことを考慮し、そうしないことにした。
「多くの判事がこのような処罰に対して過剰反応していると思います。私は講演の場で、『弁護士はAIが登場するずっと前から幻覚を見ていた』という冗談をよく言っています」とロドリゲス判事は語る。AIモデルのミスを見逃すことは、新人弁護士のミスを見逃すことと大して変わらないと同判事は考えている。「私は皆ほど深く憤慨していません」。
ロドリゲス判事は担当する裁判で、訴訟内容の要約に生成AIツールを活用している（推奨しているように思われることを避けるため、使用ツールの公表は控えた）。そこで、AIに主要関係者を特定するよう求め、主要な出来事のタイムラインを作成させている。特定の審理に先立って、AIに弁護士が提出した資料に基づいて弁護士への質問を作成させることもある。
このような作業は人間の判断に頼るものではないとロドリゲス判事は考えている。法廷に持ち込まれる前にロドリゲス判事が介入してミスを発見する機会も豊富にある。 「最終的な決定が下されるわけではないので、比較的安全です」と同判事は語る。一方で、誰かが保釈の対象となるかどうかを予測するためにAIを使用するこ …
- こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。 -
- 有料会員にはメリットがいっぱい！
-
- 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
- オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
重要テーマが押さえられる。 - 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
- 人気の記事ランキング
-
- It’s time to address the looming crisis in entry-level work. 「コーディングを学べ」もう通用せず、AIが若者の雇用を奪い始めた
- Promotion Call for entries for Innovators Under 35 Japan 2026 「Innovators Under 35 Japan」2026年度候補者募集のお知らせ
- Anthropic’s Code with Claude showed off coding’s future—whether you like it or not 「Claudeに任せてしまおう」 たった1年で激変したソフトウェア開発
- A reality check on the AI jobs hysteria 「ホワイトカラー消滅」 まだデータに兆候なし ——ただし若者に警戒信号
- Inside the stealthy startup that pitched brainless human clones 「臓器袋」から全身置換へ ステルス企業R3が隠す 「脳なし」クローン計画
