KADOKAWA Technology Review
×
自動運転のキーパーソンが集結「Future of Society Conference」11/30開催! チケット販売中 「Future of Society Conference」
11/30開催! チケット販売中
テクノロジーが変える
 「現実」の概念
私たちは何を信じるべきか
知性を宿す機械 Fake America great again

テクノロジーが変える
「現実」の概念
私たちは何を信じるべきか

GAN(競争式生成ネットワーク)に代表される最新のAIテクノロジーによって、特別なスキルがなくても質の高いフェイク画像や動画を作り出せるようになった。ウソを見抜くのはますます難しくなり、真実に対する信頼性が次第に損なわれる可能性がある。 by Will Knight2018.09.07

何を手に入れたと思う?テキサス州選出のテッド・クルーズ上院議員がティナ・ターナーの曲に合わせて歌い踊る、バツの悪い映像だ。11月の中間選挙では、クルーズ上院議員のライバル候補たちがこの映像を流して茶化すことだろう。ドナルド・トランプがクルーズ上院議員を「ダンシング・テッド」と呼ぶ姿が目に浮かぶ。

オーケー、白状しよう。この動画を作ったのは私だ。だがここで厄介なのは、この動画を編集するのに特別なスキルは必要ないということだ。私は、機械学習を使って本物らしく見えるデジタル顔交換(フェイススワップ)を実行するソフトウェアをダウンロードし、設定した。こうして出来上がった「ディープフェイク」と呼ばれる映像では、クルーズ上院議員特有の垂れ目顔が、クチパクで歌う俳優のポール・ラッドの顔とすげ替えられている。若干不自然で、完璧ではないが、騙される人がいるかもしれない。

写真の偽造に目新しさはないが、人工知能(AI)によって状況は一変するだろう。つい最近まで、フェイススワップ映像を作り出せるのは、莫大な予算のある映画スタジオだけだった。おそらく数百万ドルの費用がかかったはずだ。今ではAIのおかげで、まともなコンピューターを持つ人なら誰でも2〜3時間で同様のことができる。さらに、機械学習の進歩でさらに複雑な偽造が可能になり、本物と見分けるのは困難になるだろう。

こういった進歩により、政界における、真実とフィクションの間の一線がますます曖昧になるおそれがある。すでにインターネット上の偽のソーシャルメディア・アカウントを通して、虚偽情報の流布が加速し増加している。「もう1つの事実(オルタナティブ・ファクト)」や陰謀説は一般的になり、広く信じられている。フェイクニュースは、前回の米国大統領選挙に影響を及ぼした可能性があるだけでなく、ここ一年でミャンマーやスリランカでの民族紛争を引き起こした。本物らしく見える新しい種類のフェイク映像を混乱の中に投じたと想定してみよう。たとえば、ばかげたことや民族を侮辱するようなことを言う政治家や、不適切な振る舞いをとらえられた政治家のフェイク映像だ。もちろん、実際にそんなことは起きていない。

「ディープフェイクは政治演説を妨害する可能性を秘めています」というのは、『Virtual Unreality: Just Because the Internet Told You, How Do You Know It's True?(バーチャル・アンリアリティ)』(2014年、未邦訳)の著者であるニューヨーク大学のチャールズ・セアイフ教授だ。セアイフ教授は、本を出版した2014年から、世の中が大きく進歩したことに驚いているという。「テクノロジーは驚異的な速さで「現実」に対する私たちの概念を変えています」(セアイフ教授)。

本当の「ニュース」を映しているように見える本物のような映像ですら疑うような、何も信じられなくなる時代へ突入しようとしているのだろうか? 何を信頼すべきかを、どう決めたら良いのだろうか? 誰を信じたらいいのだろうか?

リアルなフェイク

いくつかのテクノロジーを集めれば、偽造は簡単だ。誰でもスマホで動画を撮影できるし、高性能なコンピューター・グラフィックス・ツールの価格は極めて安くなった。テクノロジーを入手することも容易なのだ。これにAIソフトウェアを加えてみよう。AIソフトウェアは圧倒的に新しい方法で、映像をひずませたり、混ぜ合わせたり、合成したりする。AIはフォトショップ(Photoshop)やアイムービー(iMovie)の高性能版ではない。AIによってコンピューターは、世界がどのように見え、どのように聞こえるかを学習し、本物そっくりの画像を描き出すのだ。

私は、無料でダウンロードできるフェイススワッピング・プログラムの1つ「オープン・フェイス・スワップ(OpenFaceSwap)」を用いてクルーズ上院議員の映像を作った。数千ドルかかる高性能グラフィックチップを搭載したコンピューターが必要だが、「ペーパースペース(Paperspace)」のようなクラウド機械学習プラットフォームを利用すれば、分当たり2〜3セントで仮想マシンへのアクセス権を得られる。2つの映像を入力し、2〜3時間放っておけば、アルゴリズムがそれぞれの顔の特徴や動きを解析し、片方をもう1つの顔に貼り付けてくれる。成功させるにはセンスが必要だ。あまりにも異なる映像を選んでしまうと、鼻や耳、あごなどが一緒くたになり散々な結果になってしまう。

しかし、その工程は極めて簡単だ …

こちらは会員限定の記事です。
無料登録すると1カ月10本までご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月150本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月150本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
2018.11.30
外苑前TEPIAホール
FUTURE of SOCIETY
自動運転のトップ研究者と都市デザインのスペシャリストが集結
100年ぶりの「移動手段の進化」が社会や人々の生活にどのような変化をもたらすのか?自動運転が創り出す未来を産業界・アカデミック界のキーパーソンとともに考える、MITTR発のテクノロジー・カンファレンス。
Special Guest原研哉
チケット好評発売中
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る