AI強化型詐欺：犯罪は「手軽」になり、「巧妙」にもなった

フィッシングメールの生成、ディープフェイク、マルウェア改変——。AIはサイバー犯罪を速く、安く、巧妙にした。手口の高度化と大衆化が同時に進んでいる。 by Rhiannon Williams2026.05.02

この記事の3つのポイント

AIはフィッシング・マルウェア改ざん・脆弱性探索など多様なサイバー犯罪を低コストで可能にしている
アンソロピックの新モデルが数千件の重大脆弱性を発見するなど、AIの攻撃能力は急速に高度化しつつある
防御側もAIで対抗しているが、高度化する攻撃への長期的有効性は依然として不透明だ

summarized by Claude 3

シンプルなプロンプトを与えるだけで、生成AIは人間が書いたようなテキストを大量かつ簡単に生み出せる。2022年末にChatGPT（チャットGPT）が一般公開されると、このことは広く認識されるようになった。すぐに犯罪者たちも注目し、大規模言語モデル（LLM）を使って悪意のあるメールを生成するようになった。その内容は、無差別に送りつけるスパムから、金銭や機密情報の窃取を目的として設計された、より巧妙な標的型の攻撃まで多岐にわたる。

それ以来、サイバー犯罪者たちは人工知能（AI）ツールを活用して犯罪活動を強化してきた。フィッシングメールの作成や、超リアルで説得力のあるディープフェイク動画の生成から、悪意のあるソフトウェア（一般にマルウェアと呼ばれる）を検出されにくいよう改変することまで、あらゆる用途にこの技術は利用されている。さらにAIを使ってネットワークやコンピューター・システムの脆弱性を自動的に探索したり、身代金要求文書をすばやく生成したり、盗み出した膨大なデータを分析して最も価値の高い情報を特定したりすることも可能だ。

ハッキング行為そのものに対するAIの影響は、必ずしも明確ではない。しかし、AIが攻撃を試みようとする者たちの参入障壁を下げ、常に進化する新たな能力を提供し、標的への侵入をこれまで以上に速く、安く、容易にしていることは確かだ。例えば、東南アジア全域に広がる詐欺拠点が、安価なAIツールを活用してより多くの潜在的な被害者をすばやく狙い、新たな拠点へと迅速に移転していると、インターポール（国際刑事警察機構）は警告している。同様に、アラブ首長国連邦も最近、重要インフラを狙った一連の不透明なAI支援型攻撃を阻止したと発表した。こうした無差別型の大量攻撃は巨大な規模で展開可能であり、高度な手口でなくても十分な効果を上げられる。防御が手薄なマシンや、無警戒な被害者の受信トレイに、タイミングよく到達すればよいのだ。

多くの組織は、自組織を標的とする膨大なサイバー攻撃への対応にすでに苦慮している。犯罪者が増加し、一般公開されている生成AIシステムの能力が向上し続けるにつれ、この問題はさらに深刻化する可能性が高い。4月初め、AI企業のアンソロピック（Anthropic）は、自社が開発・テスト中のモデル「Mythos（ミュトス）」が、主要なすべてのOSおよびWebブラウザーを含む数千件の重大な脆弱性を発見したと発表した。アンソロピックは声明の中で、これらすべてにパッチが適用済みであると述べているが、こうした新たな能力を踏まえてモデルの公開を延期するとともに、「プロジェクト・グラスウィング（Project Glasswing）」と呼ばれるテック企業のコンソーシアムを設立した。同コンソーシアムは当面、これらの能力を防御目的に活用することを目指すとしている。

現時点では、サイバーセキュリティ研究者たちは、粗雑な攻撃であれば基本的な防御策で阻止できると楽観視しており、ソフトウェアのアップデートを常に最新の状態に保ち、ネットワーク・セキュリティのプロトコルを遵守することの重要性を強調している。一方、将来的により高度な攻撃に対してどれほど有効に対処できるかは、はるかに不透明だ。

明るいニュースとして、AIは防御にも活用されている。一例だがマイクロソフトは、同社のAIシステムが悪意のある、あるいは不審な活動として検知したシグナルを毎日100兆件以上処理している。同社によれば、2024年4月から2025年4月の間に、40億ドル相当の詐欺や不正取引を阻止したとしており、その多くにAIが生成したコンテンツが関与していた可能性があるという。こうした攻撃を可能にする技術が、今後数年間にわたって私たちを守る最善の手段となり得るのだ。

人気の記事ランキング

リアノン・ウィリアムズ [Rhiannon Williams]米国版ニュース担当記者: 米国版ニュースレター「ザ・ダウンロード（The Download）」の執筆を担当。MITテクノロジーレビュー入社以前は、英国「i （アイ）」紙のテクノロジー特派員、テレグラフ紙のテクノロジー担当記者を務めた。2021年には英国ジャーナリズム賞の最終選考に残ったほか、専門家としてBBCにも定期的に出演している。