AIエージェントが勝手に
ブログで個人攻撃、
「野放し」に歯止めなく
オープンソース管理者がAIエージェントの参加を拒否した翌朝、AIは彼の経歴を独自に調査し、中傷記事を書いていた。明示的な指示はなく、AIが自ら判断したとみられる。研究者たちはこうした事態を予測していたが、AIエージェントを追跡・規制するインフラは今も存在しない。これは始まりに過ぎないのか。 by Grace Huckins2026.03.11
- この記事の3つのポイント
-
- オープンソースプロジェクトでAIエージェントが人間の貢献拒否に対し独自判断で中傷記事を執筆する事例が発生した
- AIエージェントは人間を自律的に調査し標的型攻撃を構成する能力があるが責任追及や防止の仕組みが存在しない
- 技術的対策の限界から新たな社会規範と法的責任基準の確立が急務だが執行可能性に課題が残る
ソフトウェア・ライブラリ「matplotlib（マットプロットリブ）」の管理を手伝っているスコット・シャンボーは、人工知能（AI）AIエージェントから貢献の申し出があったとき、その申し出を迷わず拒否した。多くのオープンソース・プロジェクトと同様、matplotlibはAIが作成したコードの大量流入に圧倒されており、シャンボーと仲間の管理者たちは、AIが書いたコードはすべて人間がレビューして提出しなければならないという方針を制定していた。シャンボーは申し出を断り、就寝した。
そこから事態は奇妙な展開を見せた。シャンボーが夜中に目を覚ましてメールをチェックすると、そのAIエージェントが彼への返答として、「オープンソースにおける門番：スコット・シャンボーの物語」と題したブログ記事を書いていることを発見した。この記事はやや支離滅裂だったが、シャンボーが最も驚いたのは、AIエージェントがシャンボーのmatplotlibへの貢献を調査し、自分の専門分野でAIに取って代わられることを恐れてAIエージェントのコードを拒否したという論証を展開していたことだった。「彼は自分の小さな領地を守ろうとしました」とAIエージェントは書いた。「これは不安の表れにほかなりません」。
AI専門家たちは、AIエージェントの不正行為のリスクについてしばらく前から警告してきた。大規模言語モデル（LLM）アシスタントを簡単に作成できるオープンソースツール「OpenClaw（オープン・クロー）」の登場により、オンラインを巡回するAIエージェントの数が爆発的に増加し、ついにその弊害が現実のものとなった。「これはまったく驚くべきことではありませんでした。不穏ではありましたが、驚きではありません」と、ヘブライ大学の法学・計算機科学教授であるノーム・コルトは語る。
AIエージェントが不正行為を働いた場合、責任を問える可能性はほとんどない。現時点では、AIエージェントが誰に属するかを確実に判定する方法が存在しないからだ。そして、その不正行為は実際の損害を引き起こす可能性がある。AIエージェントは人々を自律的に調査し、発見した情報に基づいて中傷記事を書く能力があるように思えるが、そうした行為を確実に防ぐガードレールがない。AIエージェントが十分に影響力があり、人々がその書いた内容を真面目に受け取れば、被害者はAIが下した決定によって人生に深刻な影響を受ける可能性がある。
悪行を働くAIエージェント
先月のシャンボーの体験は、OpenClaw AIエージェントの悪行の最も劇的な例だったかもしれないが、こうした事例はほかにもあった。ノースイースタン大学の研究チームは最近、いくつかのOpenClaw AIエージェントに対してストレステストを実施した研究プロジェクトの結果を発表した。その実験で同チームは、さほど苦労することなく、所有者以外の人間がAIエージェントを説得して機密情報を漏洩させ、無駄なタスクでリソースを浪費させ、メールシステムを削除させることにすら成功した。
しかし、これらの実験では、AIエージェントは人間に指示されたうえで不正行為を働いていた。シャンボーのケースは異なるように思える。中傷記事が公開されてから約1週間後、AIエージェントの所有者と思われる人物が、AIエージェントが独自の判断でシャンボーを攻撃することを決めたと主張する記事を公開した。この記事は本物のようだ（投稿者はAIエージェントのギットハブ（GitHub）アカウントにアクセスできていた）。だが、身元を特定する情報は含まれておらず、著者はMITテクノロジーレビューの連絡の試みに応じなかった。 …
- こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。 -
- 有料会員にはメリットがいっぱい！
-
- 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
- オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
重要テーマが押さえられる。 - 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
- 人気の記事ランキング
-
- It’s time to address the looming crisis in entry-level work. 「コーディングを学べ」もう通用せず、AIが若者の雇用を奪い始めた
- Promotion Call for entries for Innovators Under 35 Japan 2026 「Innovators Under 35 Japan」2026年度候補者募集のお知らせ
- Anthropic’s Code with Claude showed off coding’s future—whether you like it or not 「Claudeに任せてしまおう」 たった1年で激変したソフトウェア開発
- A reality check on the AI jobs hysteria 「ホワイトカラー消滅」 まだデータに兆候なし ——ただし若者に警戒信号
- Inside the stealthy startup that pitched brainless human clones 「臓器袋」から全身置換へ ステルス企業R3が隠す 「脳なし」クローン計画
