テクノロジーで解決できない
ディープフェイク3つの問題

完璧な正確さでディープフェイクを検知する機器が、ついに誕生したと想像してみてほしい。その検知器は、どれほど繋ぎ目が無く本物っぽく見える映像であっても、人工知能（AI）によって加工されたあらゆる映像に赤く巨大な「ディープフェイク」というラベルを貼り付ける。

こうした検知器は、ディープフェイクに対抗するためにまさに必要なものに思えるかもしれない。人々はディープフェイクによって、真実の終わりがもたらされ、民主主義の死が到来するのではないかと懸念している。「完璧にリアル」に改ざんされた動画が、今後わずか6カ月以内にも登場するかもしれない。つまり、2020年の米国大統領選挙がフェイク映像の戦場になる可能性があるということだ。フェイク映像の中では、ドナルド・トランプ大統領がロシアとの買収取引を認め、エリザベス・ウォーレン上院議員が完全な銃の禁止を訴え、米大統領選の民主党有力候補であるカマラ・ハリスが白人を軽蔑する発言をしているかもしれない。

テクノロジストたちは、より多くのテクノロジーによって、ディープフェイクに対抗してきた。「メディア・フォレンジック」に関するあるプロジェクトに対し、米国政府が予算を援助しているほか、フェイスブックとマイクロソフトは先日「ディープフェイク検出チャレンジ」を発表し、グーグルはディープフェイクの巨大なデータベースを公開した。しかし、ディープフェイクは作成手法こそ新しいものの、実際に及ぼす被害、つまりデマとハラスメントは新しいものではない。そう話すのは、ディープフェイクに関するデータ＆ソサエティ研究所（Data & Society Research）の最新の報告書の共同執筆者であるラトガース大学情報学部のブリット・パリス助教授だ。完璧な正確さを誇るディープフェイク検知器は、そうした実害には対処できない。その理由を以下に挙げて行こう。

問題その1：ディープフェイク検知器は何を削除すべきで、何を削除すべきでないのかを教えてくれない

速度を落としたナンシー・ペロシ米国下院議長の映像を覚えているだろうか？ これはディープフェイクではなかったが、その映像は真実ではないものを拡散していた。この映像に対してフェイスブックは、削除しないという決定を下した。ディープフェイク検知器はそうした判断の役には立たない。「自動化された使い方が進めば進むほど、検知の不正確さや検閲につながる可能性が高まります」。セント・ジョンズ大学のプラットフォーム・ガバナンスの専門家であるケイト・クロニック助教授はそう話す。「風刺、フェイクニュース、フィクションを定義することは、非常に大きな哲学的問いです」

解決策：より良いモデレーション

社会がこうした問題に取り組まねばならないのはもちろんだが、それまでは、1つの解決策として、判断を下せる人間である「コンテンツ・モデレ …

人気の記事ランキング

1. The UK’s generational tobacco ban might not work. I’m supporting it anyway. 2009年以降生まれには一生売らない——英「たばこ根絶」への賭け
2. Promotion Call for entries for Innovators Under 35 Japan 2026 「Innovators Under 35 Japan」2026年度候補者募集のお知らせ
3. Inside the world’s deepest and longest subsea road tunnel 世界最長の海底道路トンネル 海面下300mの掘削現場に 本誌記者が潜入
4. Four nuclear reactors hit a big milestone in the US 米原子炉スタートアップ4社が臨界達成、原発新時代の幕開けか？
5. The $400 million machine powering the future of chipmaking 世界の半導体を支える 見えざる巨人ASML その牙城は崩せるか？