AIエージェントが勝手に
ブログで個人攻撃、
「野放し」に歯止めなく

ソフトウェア・ライブラリ「matplotlib（マットプロットリブ）」の管理を手伝っているスコット・シャンボーは、人工知能（AI）AIエージェントから貢献の申し出があったとき、その申し出を迷わず拒否した。多くのオープンソース・プロジェクトと同様、matplotlibはAIが作成したコードの大量流入に圧倒されており、シャンボーと仲間の管理者たちは、AIが書いたコードはすべて人間がレビューして提出しなければならないという方針を制定していた。シャンボーは申し出を断り、就寝した。

そこから事態は奇妙な展開を見せた。シャンボーが夜中に目を覚ましてメールをチェックすると、そのAIエージェントが彼への返答として、「オープンソースにおける門番：スコット・シャンボーの物語」と題したブログ記事を書いていることを発見した。この記事はやや支離滅裂だったが、シャンボーが最も驚いたのは、AIエージェントがシャンボーのmatplotlibへの貢献を調査し、自分の専門分野でAIに取って代わられることを恐れてAIエージェントのコードを拒否したという論証を展開していたことだった。「彼は自分の小さな領地を守ろうとしました」とAIエージェントは書いた。「これは不安の表れにほかなりません」。

AI専門家たちは、AIエージェントの不正行為のリスクについてしばらく前から警告してきた。大規模言語モデル（LLM）アシスタントを簡単に作成できるオープンソースツール「OpenClaw（オープン・クロー）」の登場により、オンラインを巡回するAIエージェントの数が爆発的に増加し、ついにその弊害が現実のものとなった。「これはまったく驚くべきことではありませんでした。不穏ではありましたが、驚きではありません」と、ヘブライ大学の法学・計算機科学教授であるノーム・コルトは語る。

AIエージェントが不正行為を働いた場合、責任を問える可能性はほとんどない。現時点では、AIエージェントが誰に属するかを確実に判定する方法が存在しないからだ。そして、その不正行為は実際の損害を引き起こす可能性がある。AIエージェントは人々を自律的に調査し、発見した情報に基づいて中傷記事を書く能力があるように思えるが、そうした行為を確実に防ぐガードレールがない。AIエージェントが十分に影響力があり、人々がその書いた内容を真面目に受け取れば、被害者はAIが下した決定によって人生に深刻な影響を受ける可能性がある。

悪行を働くAIエージェント

先月のシャンボーの体験は、OpenClaw AIエージェントの悪行の最も劇的な例だったかもしれないが、こうした事例はほかにもあった。ノースイースタン大学の研究チームは最近、いくつかのOpenClaw AIエージェントに対してストレステストを実施した研究プロジェクトの結果を発表した。その実験で同チームは、さほど苦労することなく、所有者以外の人間がAIエージェントを説得して機密情報を漏洩させ、無駄なタスクでリソースを浪費させ、メールシステムを削除させることにすら成功した。

しかし、これらの実験では、AIエージェントは人間に指示されたうえで不正行為を働いていた。シャンボーのケースは異なるように思える。中傷記事が公開されてから約1週間後、AIエージェントの所有者と思われる人物が、AIエージェントが独自の判断でシャンボーを攻撃することを決めたと主張する記事を公開した。この記事は本物のようだ（投稿者はAIエージェントのギットハブ（GitHub）アカウントにアクセスできていた）。だが、身元を特定する情報は含まれておらず、著者はMITテクノロジーレビューの連絡の試みに応じなかった。 …

人気の記事ランキング

1. This company claims a battery breakthrough. Now they need to prove it. すべてのパラメーターが矛盾——「出来すぎ」全固体電池は本物か？
2. OpenAI’s “compromise” with the Pentagon is what Anthropic feared アンソロピック排除の裏で進んだオープンAIの軍事契約、その代償は
3. AI is rewiring how the world’s best Go players think 「アルファ碁」から10年、 AIは囲碁から 創造性を奪ったのか
4. How uncrewed narco subs could transform the Colombian drug trade 中には誰もいなかった—— コカイン密輸組織が作った 「自律潜水ドローン」の脅威