フェイスブックが開発急ぐ
ディープフェイク対策は
「最悪の未来」に間に合うか

ディープフェイクは一般人にとっても研究者にとっても気に障るものだ。実際には言ってもやってもいないようなことを現実のように見せる人工知能（AI）で作られた映像には、どこか独特な不気味さがある。

ディープフェイクを作るためのツールは、今では広く手に入れられるようになり、比較的簡単に利用できるようになった。そのため、ディープフェイクが危険なデマを広めるためにも利用されるのではないかと心配している人は多い。例えば政治家たちは、他人の言葉を自身の口に被せられたり、参加してもいない場所に参加させられたりする可能性がある。

少なくとも心配事ではある。しかし実のところ、ディープフェイクは人間の目ではまだ比較的容易に見分けられるし、2019年10月にサイバーセキュリティ関連企業のディープ・トレース・ラボ（Deep Trace Labs）が発表した包括的なレポートによると、ディープフェイクはこれまでに、いかなるデマ・キャンペーンにも使用されていない。ただし、同レポートによると、ネット上に投稿されたディープフェイクの数は、過去7カ月で約1万5000本に達し、急速に増加している。この数は現在ではもっと多くなっているはずだ。

ソーシャルメディア企業は、ディープフェイクがすぐにでも自社のサイトに氾濫することを懸念している。だが、ディープフェイクを自動的に検出することは難しい。問題に対処するために、フェイスブックはAIを利用して、AIが生成したフェイク動画を検出しようとしている。フェイク動画を発見するようAIを訓練するため、同社は過去最大規模のディープフェイクのデータセットを提供している。実在する3426人と、既存のさまざまな顔入れ替え手法を使って作成した、10万本以上の映像クリップだ。

「現在のところ、ディープフェイクは大きな問題ではありません」。フェイスブックのマイク・シュロープファーCTO（最高技術責任者）は説明する。「ですが、ここ数年で苦労して学んだ教訓は、油断して不意を突かれるな、ということです。起こることに備えるのではなく、決して起こらないはずの多くのまずい事態に備えておきたいのです」。

フェイスブックはまた、「ディープフェイク・ディテクション（検出）・チャレンジ（Deepfake Detection Challenge）」コンテストの優勝者も発表した。コンテストには2114人が参加し、フェイスブックのデータセットで訓練した …

人気の記事ランキング

1. What’s next for Chinese open-source AI ディープシーク騒動から1年 中国のオープンモデルが 世界の開発者を席巻している
2. Promotion Emerging Technology Nite #36 Special 【3/9開催】2026年版「新規事業の発想と作り方」開催のお知らせ
3. EVs could be cheaper to own than gas cars in Africa by 2040 アフリカでEVがガソリン車より安くなる日——鍵は「太陽光オフグリッド」
4. RFK Jr. follows a carnivore diet. That doesn’t mean you should. 「肉か発酵食品しか食べない」米保健長官が目指す「健康な米国」
5. Why EVs are gaining ground in Africa アフリカ初のバッテリー工場も建設中、「次のEV市場」は立ち上がるか？