FBがディープフェイク検出に1000万ドル、大統領選見据え本腰

フェイスブックが本格的なフェイク映像対策に乗り出した。ディープフェイク検出ツールの検証や評価のためのデータセットを社内で作成し、賞金付きのコンテストを共同で立ち上げる。 by Will Knight2019.09.17

フェイスブックは、人工知能（AI）で作成された「ディープフェイク」映像が次なるデマの大規模拡散につながり、ユーザー間に流布されることで、米国の次期大統領選に壊滅的な結果をもたらすのではないかと危惧している。

そこで打ち出した解決策が、自らディープフェイクを大量に作成し、研究者の検出ツールの構築や改良を支援することだ。

フェイスブックのAI研究チームは、一定の動作をしたり、決まったセリフをしゃべったりする俳優を主人公とした、高度にリアルなフェイク映像を作成中だ。これらの映像は、ディープフェイク検出ツールの検証や評価のためのデータセットとして使われることになる。フェイスブックの数々のディープフェイク映像は、年末の大規模なAI会議でお披露目される予定だ。

ディープフェイクの興盛を加速しているのが、機械学習の最近の進歩だ。映画スタジオがソフトウェアやコンピューターを使って画像や動画に手を加えることは、以前から可能だった。ある人物に似た画像をキャプチャして再現できるアルゴリズムはすでに、人の顔を別人に貼り付けるためのポイント・アンド・クリック式ツールで使用されている。

偽造映像を見つけ出す手法は存在するが、専門家の入念な分析が必要になることも多い。ディープフェイクを自動的に検出するツールは、まさに登場し始めたばかりだ。

フェイスブックのマイク・シュローファー最高技術責任者（CTO）は、ディープフェイクは急速に進化しており、ねつ造の可能性のある映像を見分けたり、ブロックしたりできる、よりよい方法が不可欠だと語る。

「フェイスブックのプラットフォームではまだ大きな問題にはなっていません。しかし、こうした映像を安く、簡単に、すばやく作成できるようになれば、悪意ある方法で使われるリスクが明らかに高まるでしょう」。対策を主導するシュローファーCTOは9月4日の夜、そう語った。「フェイク映像が大問題になるような状況は望んでいませんが、当社はこれまで、この問題の研究開発に大きな投資をしてきませんでした」。

ディープフェイクへの取り組みは、スパムメールとの戦いと異なり、最も高度なフェイク映像は検出できない可能性があるとシュローファーCTOは語る。「明確な偽物は検出できるでしょう」。しかし、偽造技術が急速に進歩しているため、フェイスブックはフェイク映像の検 …

こちらは有料会員限定の記事です。 有料会員になると制限なしにご利用いただけます。

有料会員にはメリットがいっぱい！

毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
重要テーマが押さえられる。
各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。

人気の記事ランキング