AI強化型詐欺：犯罪は「手軽」になり、「巧妙」にもなった

シンプルなプロンプトを与えるだけで、生成AIは人間が書いたようなテキストを大量かつ簡単に生み出せる。2022年末にChatGPT（チャットGPT）が一般公開されると、このことは広く認識されるようになった。すぐに犯罪者たちも注目し、大規模言語モデル（LLM）を使って悪意のあるメールを生成するようになった。その内容は、無差別に送りつけるスパムから、金銭や機密情報の窃取を目的として設計された、より巧妙な標的型の攻撃まで多岐にわたる。

それ以来、サイバー犯罪者たちは人工知能（AI）ツールを活用して犯罪活動を強化してきた。フィッシングメールの作成や、超リアルで説得力のあるディープフェイク動画の生成から、悪意のあるソフトウェア（一般にマルウェアと呼ばれる）を検出されにくいよう改変することまで、あらゆる用途にこの技術は利用されている。さらにAIを使ってネットワークやコンピューター・システムの脆弱性を自動的に探索したり、身代金要求文書をすばやく生成したり、盗み出した膨大なデータを分析して最も価値の高い情報を特定したりすることも可能だ。

ハッキング行為そのものに対するAIの影響は、必ずしも明確ではない。しかし、AIが攻撃を試みようとする者たちの参入障壁を下げ、常に進化する新たな能力を提供し、標的への侵入をこれまで以上に速く、安く、容易にしていることは確かだ。例えば、東南アジア全域に広がる詐欺拠点が、安価なAIツールを活用してより多くの潜在的な被害者をすばやく狙い、新たな拠点へと迅速に移転していると、インターポール（国際刑事警察機構）は警告している。同様に、アラブ首長国連邦も最近、重要インフラを狙った一連の不透明なAI支援型攻撃を阻止したと発表した。こうした無差別型の大量攻撃は巨大な規模で展開可能であり、高度な手口でなくても十分な効果を上げられる。防御が手薄なマシンや、無警戒な被害者の受信トレイに、タイミングよく到達すればよいのだ。

多くの組織は、自組織を標的とする膨大なサイバー攻撃への対応にすでに苦慮している。犯罪者が増加し、一般公開されている生成AIシステムの能力が向上し続けるにつれ、この問題はさらに深刻化する可能性が高い。4月初め、AI企業のアンソロピック（Anthropic）は、自社が開発・テスト中のモデル「Mythos（ミュトス）」が、主要なすべてのOSおよびWebブラウザーを含む数千件の重大な脆弱性を発見したと発表した。アンソロピックは声明の中で、これらすべてにパッチが適用済みであると述べているが、こうした新たな能力を踏まえてモデルの公開を延期するとともに、「プロジェクト・グラスウィング（Project Glasswing）」と呼ばれるテック企業のコンソーシアムを設立した。同コンソーシアムは当面、これらの能力を防御目的に活用することを目指すとしている。

現時点では、サイバーセキュリティ研究者たちは、粗雑な攻撃であれば基本的な防御策で阻止できると楽観視しており、ソフトウェアのアップデートを常に最新の状態に保ち、ネットワーク・セキュリティのプロトコルを遵守することの重要性を強調している。一方、将来的により高度な攻撃に対してどれほど有効に対処できるかは、はるかに不透明だ。

明るいニュースとして、AIは防御にも活用されている。一例だがマイクロソフトは、同社のAIシステムが悪意のある、あるいは不審な活動として検知したシグナルを毎日100兆件以上処理している。同社によれば、2024年4月から2025年4月の間に、40億ドル相当の詐欺や不正取引を阻止したとしており、その多くにAIが生成したコンテンツが関与していた可能性があるという。こうした攻撃を可能にする技術が、今後数年間にわたって私たちを守る最善の手段となり得るのだ。

• 8

人気の記事ランキング

1. Supercooled kidneys have been transplanted into pigs in a “landmark achievement” ブタ腎臓を過冷却で保存、 72時間後の再移植に成功 ——臨床標準より回復速く
2. OpenAI called the Hugging Face attack unprecedented. But we’ve been here before.  「AIの暴走」ではない、オープンAIのモデルが不正侵入した理由
3. Shape-shifting mirrors on NASA’s new space telescope could unveil Jupiters like our own 見るために、消す—— ローマン宇宙望遠鏡が挑む 太陽系の外の「木星」
4. There’s a lot of hype around perimenopause. Don’t buy it. 中年女性の不調はすべてホルモンのせい？ 閉経周辺期の科学