KADOKAWA Technology Review
×
その映像は信頼できるのか?
苦悩する才能
ディープフェイク作家の闘い
VIDEO EDITED BY HAO LI
人工知能(AI) Insider Online限定
The world’s top deepfake artist is wrestling with the monster he created

その映像は信頼できるのか?
苦悩する才能
ディープフェイク作家の闘い

ディープフェイクの技術が進むにつれて、フェイク映像が政治や社会に及ぼす影響が大きくなることが懸念されている。ディープフェイク開発の先駆者であるハオ・リーは、大作映画などでデジタルねつ造の精度を高めるためにキャリアを費やしてきたが、現在は、よりシームレスなねつ造が至る所で可能になったことで生じる問題にも取り組んでいる。 by Will Knight2019.09.13

黄海に突き出た半島に位置し、北京からも北朝鮮との国境からも数百キロ離れた中国の都市、大連で6月、世界経済フォーラムの年次総会が開催された。ハオ・リーはジェームズ・ボンド映画の悪役の隠れ家を思わせる角張った洞窟のような建物の内部に立っている。外ではうだるような暑さが続き、厳しい警備体制が敷かれていた。

AI Issue
この記事はマガジン「AI Issue」に収録されています。 マガジンの紹介

リーの近くでは、世界中から集まった政治家や企業経営者らが順番にブースに足を踏み入れる。そして、ブース内で自分の顔がブルース・リーやニール・アームストロング、オードリー・ヘップバーンといった有名人の顔に変換されるのを見て笑う。変換はリアルタイムで実行され、ほぼ完璧に機能している。

この驚くべき顔交換機は、単に世界の金持ちや権力者の気晴らしや娯楽のために設置されているのではない。リーは、人工知能(AI)の「ディープフェイク」で処理された映像が自分たちや世界のすべての人々にもたらす影響を権力者に考えてもらいたかったのだ。

デマは長い間、地政学的闘争における妨害行為としてよく用いられてきた。だが、ソーシャルメディアの台頭によってフェイクニュースの拡散には拍車がかかっている。フェイクニュース記事と同じくらい簡単にビデオ映像がねつ造できるようになれば、それが武器として使用されることは事実上、間違いない。選挙結果を左右したり、敵の経歴や評判や台無しにしたり、民族的な暴力行為を扇動したりすることを意図している場合、本物のように見えるビデオクリップほど効果的な手段はないだろう。フェイスブックやワッツアップ(Whatsapp)、ツイッター経由で野火のように広がり、人々が騙されたと気づいた頃にはとうに拡散されているからだ。

デジタルねつ造の先駆者であるリーは、ディープフェイクが単に始まりに過ぎないのではないかと懸念している。リーは、「自分の目が必ずしも信頼できるとは限らない」時代の到来に一役買ったものの、ほぼ完璧なねつ造映像が可能になることによって生じる問題の解決に自分のスキルを活かしたいと考えている。

ただ問題は、すでに手遅れではないかということだ。

現実を書き換える

リーは一般的に想定される典型的なディープフェイク作成者ではない。つまり、ポルノをねつ造したり、有名な映画にニコラス・ケイジの顔を合成したりしてレディット(Reddit)に投稿している訳ではない。リーは、自然な出来栄えの顔合成をより容易にするため、最先端技術の開発にキャリアを費やしてきた。また、現代の超大作映画で世界の有名人の顔をいくつも加工して、実際には存在しない笑顔やウィンクを作り出し、何百万人もの人々にそれを本物だと信じ込ませてきた。ある日の午後、ロサンゼルスのオフィスにいるリーとスカイプで話している際には、最近、自分が取り組んでいる映画の件でウイル・スミスが立ち寄ったとさりげなく言及している。

俳優たちはしばしば、顔のデジタルスキャンをするため、南カリフォルニア大学(USC)にあるリーの研究室を訪れる。そして、照明やマシン・ビジョンカメラが球形に配置された部屋の中で、顔の輪郭や表情、肌の色や質感を一つひとつの毛穴のレベルまで撮影される。映画の特殊効果チームはそれを基にして、すでに撮影したシーンを加工したり、ポストプロダクションで俳優を追加したりさえできる。

このようなデジタル加工は現在、大予算の映画では一般的だ。デジタルレンダリングによる背景が使用されることも多く、アクションシーンでは俳優の顔をスタント・パーソンの上に貼ることはよくある。デジタル加工が映画ファンにとって感動的な瞬間を生み出すことにつながる場合もある。「ローグワン/スター・ウォーズ・ストーリー」の最後の部分でちょっとの間、10代のレイア姫が登場したが、同映画の撮影時、スターウォーズのレイア姫を演じたキャリー・フィッシャーは60歳近くだった。

これらのエフェクトで自然な画像を作るには通常、かなりの専門知識と莫大な資金が必要だ。しかし、AIの進歩のおかげで、今では、ノートPC程度の機器を使用しても簡単に映像で顔の入れ替えができる。ちょっとしたノウハウがあれば、政治家や最高経営責任者(CEO)、個人的な敵に、好きなように何かを言わせたりさせたりできるのだ(下の動画では、リーが私の顔にイーロン・マスクの顔をマッピングしている)。

顔合成の歴史

リー本人は「サンセット大通り」よりもサイバーパンクが似つかわしい。モヒカン刈りにして残した髪を頭の片側に下ろし、黒いTシャツとレザージャケットを着ていることが多い。話しながらまばたきをする妙な癖があり、コンピューター画面の暖色系の光の中で深夜まで作業しているのがわかる。自分の技術の素晴らしさや自分が仕事で取り組んでいることについて堂々と誇らしげに話す。会話中、スマホを取り出して何か新しいものを見せるのを好む。

リーは台湾移民の息子として、ドイツのザールブリュッケンで育った。フレンチ・ジャーマン高校に通ったので、フランス語、ドイツ語、英語、そして標準中国語の4言語を流暢に話せるようになった。現実と幻想の境界を曖昧にするために時間を費やすことを決断した瞬間をリーは記憶している。それは1993年、スティーブン・スピルバーグの「ジュラシック・パーク」で、巨大な恐竜が画面に登場するのを見たときだった。俳優たちがコンピューターが生成した恐竜を呆然と見つめる中て …

こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
10 Breakthrough Technologies 2024

MITテクノロジーレビューは毎年、世界に真のインパクトを与える有望なテクノロジーを探している。本誌がいま最も重要だと考える進歩を紹介しよう。

記事一覧を見る
気候テック企業15 2023

MITテクノロジーレビューの「気候テック企業15」は、温室効果ガスの排出量を大幅に削減する、あるいは地球温暖化の脅威に対処できる可能性が高い有望な「気候テック企業」の年次リストである。

記事一覧を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る