高度な「AIハッカー」心配の影で、あまりにもお粗末にAIは騙されていた

今年4月、アンソロピックはハッキング能力が高すぎるとして「Mythos」の一般公開を見送った。超高性能なAIが情報インフラを脅かす——そんな懸念が広がる一方、現実の被害ははるかにお粗末な手口から生まれた。攻撃者はメタのAIサポート・エージェントに「アカウントのメールを変えて」と頼むだけで、Instagramを次々と乗っ取ったのだ。 by Grace Huckins2026.06.08

この記事の3つのポイント

メタのAIカスタマーサポートが単純な手法で突破され、著名Instagramアカウントが乗っ取られた
AIエージェントは柔軟性ゆえに人間なら見抜ける欺瞞に脆弱であり、展開前のレッドチーミング不足が根本原因とされる
セキュリティと利便性のトレードオフや競争圧力が安全対策を阻み、エージェントの権限拡大とともにリスクは増大する

summarized by Claude 3

独立系ニュースサイトの404メディア（404 Media）は6月5日、メタ（Meta）の人工知能（AI）カスタマーサポート・エージェントが攻撃者に悪用され、Instagram（インスタグラム）アカウントが乗っ取られたケースを報じた。その手口は単純なものだった。攻撃者はエージェントに対し、標的のアカウントを自分たちが管理するメールアドレスに紐付けるよう要求し、エージェントはその指示に従った。ある攻撃者は休眠状態にあったオバマ政権のホワイトハウス公式アカウントに侵入し、親イラン的な内容を投稿した。また別の攻撃者たちは、転売目的とみられる価値の高い一語のユーザーネームを持つアカウントを次々と乗っ取った。

AIのサイバーセキュリティに関する懸念は今に始まったことではない。アンソロピック（Anthropic）が今年4月、ハッキング能力が高すぎることを理由に同社の「Mythos（ミュトス）」モデルの一般公開を見送ると発表して以来、評論家、研究者、連邦政府当局者たちは、超高性能なAIシステムがコンピューター・インフラを壊滅させる可能性を強く意識してきた。だが、今回のInstagramハッキングはそれとは少し異なる。AIは攻撃者ではなく標的となっており、その手口もMythosが考え出しそうなものに比べればはるかに単純なものだ。しかし、企業がAIにより多くの業務を委ねるようになるにつれ、こうした比較的単純な攻撃であっても深刻な被害をもたらす可能性がある。

「AIの利用がますます広がり、特にアカウント回復のような業務フローの自動化にAIが広く使われるようになるにつれて、攻撃者はAIそのものを攻撃しようとする動機をますます強めていくと思います」。デューク大学の電気・コンピューター工学教授であるニール・ゴンは語る。

ゴン教授をはじめとする研究者たちは、AIエージェントの脆弱性について以前から警鐘を鳴らしてきた。論文やブログ記事を通じて、Webサイト、メール、その他一見無害なデータソースに隠されたコマンドを使ってエージェントを乗っ取る「間接プロンプトインジェクション」などの攻撃手法を詳しく説明している。こうした手法と比べると、今回のメタへの攻撃はほとんど頭を使わないレベルのものだ。ハッカーが乗り越えなければならなかった唯一の障壁は、本来のアカウント所有者の所在地に一致するVPNを使用することだけであり、その …

こちらは有料会員限定の記事です。 有料会員になると制限なしにご利用いただけます。

有料会員にはメリットがいっぱい！

毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
重要テーマが押さえられる。
各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。

人気の記事ランキング