KADOKAWA Technology Review
×
発表!MITテクノロジーレビューが選ぶ
2022年のイノベーター14人。
【12/15 Summit開催】
知性を宿す機械 Insider Online限定
The US military is funding an effort to catch deepfakes and other AI trickery

AI同士の騙し合い、
GANが作り出すフェイクに
米軍は勝てるのか?

人工知能(AI)テクノロジーの進化によってフェイク画像や音声の生成が簡単になってきた。何が真実なのか? 米軍の研究機関であるDARPAはAIによる偽造を見抜くAIの開発を模索している。 by Will Knight2018.06.19

人工知能(AI)はフェイクニュース問題の解決に役立つだろうか? 米軍はあまり確信がないようだ。

米国防総省はAIによって作られた映像や音声を見抜くプロジェクトに投資している。AIが生成する映像や音声はますます本物そっくりになっており、別のAIシステムを使って本物かどうかを区別するのは難しいかもしれない。

この夏、米国国防先端研究計画局(DARPA)が資金を提供したプロジェクトにデジタル・フォレンジック(法医学、科学捜査)の専門家が集まり、AIによるデータ偽造データ生成コンテストが開催される。このコンテストで、専門家はAIを使って最も本物らしい偽造映像や画像、音声の生成を目指して競い合い、それらの偽造データを自動検出するツールの開発にも取り組む。

コンテストには、動画の人物の顔を別の人物の顔にすげ替える「ディープフェイク(Deepfakes)」も含まれる。容易に想像がつくように、この技術はすでにセレブの出演を謳ったポルノ動画の偽造に数多く用いられており、政治家がとんでもないことを口にしたり、不適切な行動をとったりする動画の作成にも利用できる。

DARPAの技術者は、AIによって生成された偽造データの自動検出をほぼ不可能にしてしまう、比較的新しいAI手法に関して特に大きな懸念を抱いている。競争式生成ネットワーク(GAN: Generative Adversarial Networks)として知られるこの手法によって、驚くほど本物のような偽造画像を生成できるのだ。

https://www.youtube.com/watch?v=cQ54GDm1eL0

プロジェクトを統括するDARPAのデヴィッド・ガニングプ技術責任者は「理論上、私たちが知る限りのあらゆる検出手法をGANに適用しても、GANはそのすべてをすり抜けてしまうかもしれません」と語る。「どこかで阻止できるかもしれませんが、分かりません」。

GANは2つの要素で構成されている。1つは「アクター(俳優)」と呼ばれるもので、画像や動画などのデータ・セットから統計的パターンを学習し、本物そっくりの合成データを生成しようとする。 …

こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
日本発「世界を変える」35歳未満のイノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を発信する。

記事一覧を見る
MITテクノロジーレビュー[日本版] Vol.8
MITテクノロジーレビュー[日本版] Vol.8脱炭素イノベーション

2050年のカーボンニュートラル(炭素中立)の実現に向けて、世界各国で研究開発が加速する脱炭素技術、社会実装が進む気候変動の緩和・適応策などGX(グリーン・トランスフォーメーション)の最新動向を丸ごと1冊取り上げる。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る