KADOKAWA Technology Review
×
人工知能（AI） Insider Online限定
Meet the early-adopter judges using AI

司法を侵食するAIの功罪、
米国では判事も
ハルシネーションに騙された

AIツールが司法の現場で使用されるようになるにつれて、AIが犯したミスを人間が見過ごす事例が増えつつある。AIが担当すべき領域と人間が担当すべき領域の境界はあいまいであり、特に、判事がAIを使ってミスを犯した場合、その代償はより大きなものになる。 by James O'Donnell2025.08.18

この記事の3つのポイント
  1. 米国司法制度で弁護士がAIの誤った判例を引用し判事が処罰を科した
  2. 判事もAI活用を開始したが誤りを見逃し命令書を再発行する事態が発生
  3. 特に判事のAI誤用は影響が大きく、司法制度の信頼を損なう可能性
summarized by Claude 3

近ごろ米国の司法制度では、人工知能（AI）システムがミスを犯し、人間がそのミスを見逃すという傾向が顕著になっている。この傾向は、一流法律事務所の弁護士までが、実在しない判例を引用した文書を提出したことから始まった。同様のミスはすぐに弁護士以外の裁判関係者の間にも広がった。12月には、スタンフォード大学の教授が、AIと誤情報の専門家であるにもかかわらず、ディープフェイクに関する訴訟でハルシネーション（幻覚）や誤情報を含む宣誓供述書を提出した。

このようなミスの最終責任は判事が取った。AIによるミスに気づいたのがミスを犯した弁護士か、相手方の弁護士かに関わらず、判事は戒告や罰金を科した。そして、おそらく弁護士にAIを再び信用するのを躊躇させるのに十分なほどの恥をかかせた。

続きを読む