武器化されたディープフェイク：「不信感」が社会を揺るがす

誰もが現実を偽造できる時代が来た。AI生成のディープフェイクは性的画像から政治プロパガンダまで急拡大し、見破ることもますます難しくなっている。技術的対策も法規制も限界があり、2026年の米中間選挙を前に脅威はさらに高まりつつある。 by Eileen Guo2026.05.07

この記事の3つのポイント

ディープフェイクは性的画像から政治プロパガンダまで多岐にわたり、その悪用が現実の脅威となっている
技術的保護・法規制・行動変容いずれの対策も限界を抱え、政府自身が悪用する矛盾も露呈している
2026年中間選挙を前に監視機能が弱体化しており、問題の深刻化が強く懸念される

summarized by Claude 3

長年にわたり、専門家たちはディープフェイクが悪意ある形で利用される可能性について警告してきた。ディープフェイクとは、実際にはしていないことや言っていないことを、あたかもしているかのように見せる人工知能（AI）が生成した動画や画像、音声録音である。

その危険性は、今や現実のものとなっている。ディープフェイク技術の進歩と、使いやすく安価（あるいは無料）な生成モデルの広範な普及により、誰もがかつてないほど容易に現実を偽造できるようになった。しかもその精巧さは、見破ることがますます難しくなっている。

ここで問題にしているのは、インターネットを席巻している明らかに偽物とわかるAIスロップ（AI slop）だけではない。性的に露骨な画像から詐欺投稿、政治的プロパガンダに至るまで、武器化されたディープフェイクは驚くほどリアルに見えることがある。世界各地ではすでに、暴力を煽る、人々の考えを変えようとする（さらには投票結果にまで影響を与えようとする）、そして社会全体に不信感を広めるといった事例が生じている。

だからこそ専門家たちは、武器化されたディープフェイクが批判的思考能力をさらに低下させ、制度や人々への信頼を損なうことを懸念している。これは社会やガバナンスにとって深刻な影響をもたらすだけでなく、標的にされた人々にとっても同様だ。テクノロジーがもたらす害の多くの事例と同様に、その人的影響は女性や社会的マイノリティに不均衡に重くのしかかる。技術は過去数年で進化しているが、2023年の調査によれば、ディープフェイクの98%がポルノ的な内容であり、99%が女性を描写したものだった。

Grok（グロック）の事例を見てみよう。イーロン・マスクが2025年末にこのAIチャットボットの「画像編集」機能を公開して以来、ユーザーたちは子どもや女性を含む数百万枚の性的な画像を生成してきた。ある報告書によれば、Grokが生成したこれらの画像の81%が女性を描写していたと推定されている。広範な批判にもかかわらず、xAIの当初の対応は有料会員のみにこの機能を制限するというものだった。だが、その後、ヌード機能が違法とされる法域ではブロックするようになった。

政治的なディープフェイクも急増している。例えばトランプ政権は、AI生成の画像や動画を定期的に制作・拡散してきた。そのすべてがリアルに見せることを意図しているわけではないが、世論を誘導したり、描写された人物を辱めたりすることを目的として設計されているように見えるものもある。

一方、2026年1月にはテキサス州司法長官のケン・パクストンが、米国上院議員選挙の共和党予備選における対立候補のジョン・コーニン上院議員が民主党候補の一人であるジャスミン・クロケット下院議員と踊っているように見える動画を拡散した。しかしこのような事実は存在せず、その広告にはそのことが明確に開示されていなかった。

提案されている解決策としては、大手AI企業における新たな技術的保護措置や検出手法の導入、ユーザーによる自衛行動の促進、新たな法整備や著作権法などの既存の規制枠組みの適用などが挙げられる。

しかし、これらにはいずれも限界がある。技術的な解決策は回避される可能性がある。例えば、悪意ある行為者は保護措置を持たないオープンモデルに切り替えるだけでよい。写真に電子透かしを入れたり、オンラインに投稿する個人情報を減らしたりといった行動変容を人々に求めることは、現実的ではない。より強力な規制には執行が伴わなければならないが、トランプ大統領がディープフェイクポルノを犯罪とする法律に署名した一方で、その政権は他の種類の有害なディープフェイクを投稿し続けている。例えば1月下旬、ホワイトハウスはミネアポリスの公民権弁護士の画像を改ざんし、肌の色を暗くし、穏やかな表情を誇張した泣き顔に変えた画像を拡散した。

この問題は、近い将来さらに深刻化する可能性がある。2026年後半には米国で重要な中間選挙が控えているが、選挙に関連する情報の健全性に従来から取り組んできた連邦機関は弱体化している。選挙関連の偽情報のファクトチェックや対策に専念してきた多くの外部研究グループも同様だ。

人気の記事ランキング

アイリーン・グオ [Eileen Guo]米国版特集・調査担当上級記者: 特集・調査担当の上級記者として、テクノロジー産業がどのように私たちの世界を形作っているのか、その過程でしばしば既存の不公正や不平等を定着させているのかをテーマに取材している。以前は、フリーランスの記者およびオーディオ・プロデューサーとして、ニューヨーク・タイムズ紙、ワシントン・ポスト紙、ナショナル・ジオグラフィック誌、ワイアードなどで活動していた。