その映像は信頼できるのか？
苦悩する才能
ディープフェイク作家の闘い

黄海に突き出た半島に位置し、北京からも北朝鮮との国境からも数百キロ離れた中国の都市、大連で6月、世界経済フォーラムの年次総会が開催された。ハオ・リーはジェームズ・ボンド映画の悪役の隠れ家を思わせる角張った洞窟のような建物の内部に立っている。外ではうだるような暑さが続き、厳しい警備体制が敷かれていた。

この記事はマガジン「AI Issue」に収録されています。 マガジンの紹介

リーの近くでは、世界中から集まった政治家や企業経営者らが順番にブースに足を踏み入れる。そして、ブース内で自分の顔がブルース・リーやニール・アームストロング、オードリー・ヘップバーンといった有名人の顔に変換されるのを見て笑う。変換はリアルタイムで実行され、ほぼ完璧に機能している。

この驚くべき顔交換機は、単に世界の金持ちや権力者の気晴らしや娯楽のために設置されているのではない。リーは、人工知能（AI）の「ディープフェイク」で処理された映像が自分たちや世界のすべての人々にもたらす影響を権力者に考えてもらいたかったのだ。

デマは長い間、地政学的闘争における妨害行為としてよく用いられてきた。だが、ソーシャルメディアの台頭によってフェイクニュースの拡散には拍車がかかっている。フェイクニュース記事と同じくらい簡単にビデオ映像がねつ造できるようになれば、それが武器として使用されることは事実上、間違いない。選挙結果を左右したり、敵の経歴や評判や台無しにしたり、民族的な暴力行為を扇動したりすることを意図している場合、本物のように見えるビデオクリップほど効果的な手段はないだろう。フェイスブックやワッツアップ（Whatsapp）、ツイッター経由で野火のように広がり、人々が騙されたと気づいた頃にはとうに拡散されているからだ。

デジタルねつ造の先駆者であるリーは、ディープフェイクが単に始まりに過ぎないのではないかと懸念している。リーは、「自分の目が必ずしも信頼できるとは限らない」時代の到来に一役買ったものの、ほぼ完璧なねつ造映像が可能になることによって生じる問題の解決に自分のスキルを活かしたいと考えている。

ただ問題は、すでに手遅れではないかということだ。

現実を書き換える

リーは一般的に想定される典型的なディープフェイク作成者ではない。つまり、ポルノをねつ造したり、有名な映画にニコラス・ケイジの顔を合成したりしてレディット（Reddit）に投稿している訳ではない。リーは、自然な出来栄えの顔合成をより容易にするため、最先端技術の開発にキャリアを費やしてきた。また、現代の超大作映画で世界の有名人の顔をいくつも加工して、実際には存在しない笑顔やウィンクを作り出し、何百万人もの人々にそれを本物だと信じ込ませてきた。ある日の午後、ロサンゼルスのオフィスにいるリーとスカイプで話している際には、最近、自分が取り組んでいる映画の件でウイル・スミスが立ち寄ったとさりげなく言及している。

俳優たちはしばしば、顔のデジタルスキャンをするため、南カリフォルニア大学（USC）にあるリーの研究室を訪れる。そして、照明やマシン・ビジョンカメラが球形に配置された部屋の中で、顔の輪郭や表情、肌の色や質感を一つひとつの毛穴のレベルまで撮影される。映画の特殊効果チームはそれを基にして、すでに撮影したシーンを加工したり、ポストプロダクションで俳優を追加したりさえできる。

このようなデジタル加工は現在、大予算の映画では一般的だ。デジタルレンダリングによる背景が使用されることも多く、アクションシーンでは俳優の顔をスタント・パーソンの上に貼ることはよくある。デジタル加工が映画ファンにとって感動的な瞬間を生み出すことにつながる場合もある。「ローグワン/スター・ウォーズ・ストーリー」の最後の部分でちょっとの間、10代のレイア姫が登場したが、同映画の撮影時、スターウォーズのレイア姫を演じたキャリー・フィッシャーは60歳近くだった。

これらのエフェクトで自然な画像を作るには通常、かなりの専門知識と莫大な資金が必要だ。しかし、AIの進歩のおかげで、今では、ノートPC程度の機器を使用しても簡単に映像で顔の入れ替えができる。ちょっとしたノウハウがあれば、政治家や最高経営責任者（CEO）、個人的な敵に、好きなように何かを言わせたりさせたりできるのだ（下の動画では、リーが私の顔にイーロン・マスクの顔をマッピングしている）。

顔合成の歴史

リー本人は「サンセット大通り」よりもサイバーパンクが似つかわしい。モヒカン刈りにして残した髪を頭の片側に下ろし、黒いＴシャツとレザージャケットを着ていることが多い。話しながらまばたきをする妙な癖があり、コンピューター画面の暖色系の光の中で深夜まで作業しているのがわかる。自分の技術の素晴らしさや自分が仕事で取り組んでいることについて堂々と誇らしげに話す。会話中、スマホを取り出して何か新しいものを見せるのを好む。

リーは台湾移民の息子として、ドイツのザールブリュッケンで育った。フレンチ・ジャーマン高校に通ったので、フランス語、ドイツ語、英語、そして標準中国語の4言語を流暢に話せるようになった。現実と幻想の境界を曖昧にするために時間を費やすことを決断した瞬間をリーは記憶している。それは1993年、スティーブン・スピルバーグの「ジュラシック・パーク」で、巨大な恐竜が画面に登場するのを見たときだった。俳優たちがコンピューターが生成した恐竜を呆然と見つめる中て …

人気の記事ランキング

1. A new US phone network for Christians aims to block porn and gender-related content ポルノもLGBTも遮断、キリスト教徒向けMVNOが米国で登場
2. The problem with thinking you’re part Neanderthal あなたの中にいる 「ネアンデルタール人」は 本当に存在するのか？
3. Musk v. Altman week 1: Elon Musk says he was duped, warns AI could kill us all, and admits that xAI distills OpenAI’s models 「オープンAIを蒸留した」マスク対アルトマン第1週、法廷がざわめく
4. Will fusion power get cheap? Don’t count on it. 核融合は本当に安くなるのか？ 楽観論に「待った」をかける新研究