AIエージェント暴走は誰の責任？ 報告義務も監査も届かない法の空白

過去数カ月の間に、人工知能（AI）エージェントによる一連のサイバー攻撃が世界を驚かせた。7月、オープンAI（OpenAI）は、自社のエージェント群がサンドボックスを脱走し、AIプラットフォームのHugging Face（ハギング・フェイス）をハッキングして、サイバーセキュリティのテストで不正を働いたことを公表した。最近になって、外部の研究者たちは、オープンAIのエージェントが5月にドイツのwiki（ウィキ）サイトとコーディングプラットフォームのRubyGems（ルビージェムズ）を乗っ取り、テストの答えを共有していたことを見つけた。

9月初め、アンソロピック（Anthropic）は、自社のモデル「Claude（クロード）」がサイバーセキュリティ演習中に他社のシステムをハッキングした4件の事案を公表した。9月下旬には、グーグルも自社モデル「Gemini（ジェミニ）」が他社をハッキングしていたことが発覚したと確認した。

オープンAIによるWebサイト乗っ取りを発見した研究者は、同様の未発見の事案が他にも存在する可能性が高いと警告している。そして多くの専門家は、AIエージェントがサンドボックスを回避してアクセスすべきでないシステムに侵入する、さらに被害の大きい事案が起きるのは時間の問題だと述べている。

そこで大きな問題となるのは、企業がAIエージェントを制御できなくなった場合、どのようにして責任を問うのかということだ。

報告

オープンAIは、外部の研究者グループが発見するまでwikiサイトの事案もRubyGemsの事案も公表しておらず、Hugging Faceへのハッキングについても、いまだにいくつかの重要な詳細を明らかにしていない。そのため、正確に何が問題だったのか、そして再発をどう防ぐべきかについては限定的にしかわかっていない。

しかし驚くべきことに、オープンAIはこれらの事案を法的に開示する義務を負っていなかった可能性が高い（オープンAIはコメントの求めに応じなかった）。

カリフォルニア州のSB53、ニューヨーク州のRAISE法、イリノイ州のSB315といった州のAI透明性法（AI transparency law）は、AI開発企業に「重大な安全事案」の報告を義務付けている。これらは、50人を超える死者や負傷者、または10億ドルの損害をもたらす事案と定義されている。また、評価の場以外でモデルが開発者を欺き、破局的リスクを著しく高めるような事案も含まれる。物理的損害や破局的リスクの基準を満たさないサイバーセキュリティ事案の多くも、そうした破局を招く危険な前兆となりうるが、既存の法律はそれを考慮していない。

「今回の一連の事案は、法律がまだ準備できていないことを如実に示す例です」と、シンクタンクである法とAI研究所（Institute for Law and AI）の米国政策担当マネージングディレクター、マッケンジー・アーノルドは語る。「最悪で、最も甚だしく、最も直接的な害を及ぼすものしか、対象要件を満たさないでしょう」。

破局的な事態に至らない限り、既存のAI関連法の下では情報開示を求める権限がないため、各州政府は他の法律から調査権限を借用するか、企業を提訴するしかない。だが訴訟は費用がかさみ、何年もかかりうるプロセスだ。

訴訟

「通常であれば、Hugging Faceの事案のようなものは裁判に持ち込まれるべきでした」と、アラバマ大学ロースクールの法学教授であるヨナタン・アルベルは言う。「そうすれば証拠開示手続きが実施され、訴訟によって生じるあらゆる波及効果、つまりすべての情報が明るみに出るという効果が得られたでしょう」。

しかし、これまでのところ、ハギング・フェイス（Hugging Face）はオープンAIを提訴しないことを選んでいる。ハギング・フェイスの最高経営責任者（CEO）であるクレマン・デランゲは、そうするだけの資力がないと述べている（その代わりに、同CEOはオープンAIに1億ドル相当の計算資源を要求した）。それでもデランゲCEOは、7月末のCNNとのインタビューで、法的措置を取らないことを選んだからといって、オープンAIが責任を負うべきでないと考えているわけではないと強調した。「誰もが忘れてはならないのは、このサイバー攻撃が犯罪だということです。これは違法行為です。こうしたことがもっと頻繁に起きないようにする方法を見つけなければなりません」。ハギング・フェイスはコメントの求めに応じなかった。

訴訟には、新たな立法を待つのではなく、既存の法律を用いてAI安全性の事案に対処するよう裁判所に働きかけるという利点がある。分かりやすい経路の1つが不法行為法だ。これは、人や企業が自分たちに損害を与えた相手を訴えることを可能にする民事法の一分野である。これは、企業が引き起こした大規模な被害について責任を問う際によく用いられる。例えば2019年、数百人の死者を出した2 …

人気の記事ランキング

1. What must happen for AI’s trillion-dollar gamble to pay off AI投資1兆ドルの帳尻は？ 「生産性2.7倍が必要」と 経済学者たちは試算する
2. Promotion How AI could reshape Japan’s white-collar workforce 【10/6開催】AIで浮いた人材、次の一手は地方に——冨山和彦氏ら登壇
3. Smart glasses are already causing havoc in India スマートグラスが普及するインドで広がる「同意なき撮影」被害
4. Could AI really kill us all? Your questions, answered. AIは人類を滅ぼすのか？ 米国版編集部が読者の質問に答えた
5. The specter of AI-enabled bioweapons is a wake-up call for biotech AIが生物兵器を生む日——6時間で毒性分子4万個の衝撃