テクノロジーで解決できない
ディープフェイク3つの問題

完璧な正確さでディープフェイクを検知する機器が、ついに誕生したと想像してみてほしい。その検知器は、どれほど繋ぎ目が無く本物っぽく見える映像であっても、人工知能（AI）によって加工されたあらゆる映像に赤く巨大な「ディープフェイク」というラベルを貼り付ける。

こうした検知器は、ディープフェイクに対抗するためにまさに必要なものに思えるかもしれない。人々はディープフェイクによって、真実の終わりがもたらされ、民主主義の死が到来するのではないかと懸念している。「完璧にリアル」に改ざんされた動画が、今後わずか6カ月以内にも登場するかもしれない。つまり、2020年の米国大統領選挙がフェイク映像の戦場になる可能性があるということだ。フェイク映像の中では、ドナルド・トランプ大統領がロシアとの買収取引を認め、エリザベス・ウォーレン上院議員が完全な銃の禁止を訴え、米大統領選の民主党有力候補であるカマラ・ハリスが白人を軽蔑する発言をしているかもしれない。

テクノロジストたちは、より多くのテクノロジーによって、ディープフェイクに対抗してきた。「メディア・フォレンジック」に関するあるプロジェクトに対し、米国政府が予算を援助しているほか、フェイスブックとマイクロソフトは先日「ディープフェイク検出チャレンジ」を発表し、グーグルはディープフェイクの巨大なデータベースを公開した。しかし、ディープフェイクは作成手法こそ新しいものの、実際に及ぼす被害、つまりデマとハラスメントは新しいものではない。そう話すのは、ディープフェイクに関するデータ＆ソサエティ研究所（Data & Society Research）の最新の報告書の共同執筆者であるラトガース大学情報学部のブリット・パリス助教授だ。完璧な正確さを誇るディープフェイク検知器は、そうした実害には対処できない。その理由を以下に挙げて行こう。

問題その1：ディープフェイク検知器は何を削除すべきで、何を削除すべきでないのかを教えてくれない

速度を落としたナンシー・ペロシ米国下院議長の映像を覚えているだろうか？ これはディープフェイクではなかったが、その映像は真実ではないものを拡散していた。この映像に対してフェイスブックは、削除しないという決定を下した。ディープフェイク検知器はそうした判断の役には立たない。「自動化された使い方が進めば進むほど、検知の不正確さや検閲につながる可能性が高まります」。セント・ジョンズ大学のプラットフォーム・ガバナンスの専門家であるケイト・クロニック助教授はそう話す。「風刺、フェイクニュース、フィクションを定義することは、非常に大きな哲学的問いです」

解決策：より良いモデレーション

社会がこうした問題に取り組まねばならないのはもちろんだが、それまでは、1つの解決策として、判断を下せる人間である「コンテンツ・モデレ …

人気の記事ランキング

1. Inside the tedious effort to tally AI’s energy appetite 動画生成は別次元、思ったより深刻だったAIの電力問題
2. Promotion Call for entries for Innovators Under 35 Japan 2025 「Innovators Under 35 Japan」2025年度候補者募集のお知らせ
3. What’s next for AI and math 数学オリンピックで「人間超え」のAIは数学者になれるか？
4. IBM aims to build the world’s first large-scale, error-corrected quantum computer by 2028 IBM、世界初の大規模誤り訂正量子コンピューター　28年実現へ
5. What is vibe coding, exactly? バイブコーディングとは何か？ AIに「委ねる」プログラミング新手法