ディープフェイク問題、真の脅威は「フェイク」というレッテル

人工知能（AI）を使って作成した本物と見まがうほどにリアルな映像、いわゆる「ディープフェイク」が社会に及ぼす影響に対する懸念が強まっている。しかし、ディープフェイクの真の脅威は、偽情報を人々に事実だと思い込ませることよりはむしろ、事実を事実だと信じられなくさせることにあるという。 by Karen Hao2019.10.18

それは2018年の年末のことだった。ガボン共和国のアリ・ボンゴ大統領が数か月のあいだ人々の前に姿を見せておらず、一部の国民は、大統領は病気を患っているのか、本当は亡くなっているのに政府が事実を隠蔽しているのではと疑い始めた。政府は憶測の広まりを止めるべく、大統領は脳卒中に見舞われたが大事には至らなかったとの声明を出し、その後まもなくして、新年の挨拶を述べる大統領の映像を公開した。

ところが、その映像は緊張緩和とは全く逆の効果をもたらした。多くの人々がボンゴ大統領の様子に違和感を覚え、この映像はディープフェイク、つまり人工知能（AI）を使って偽造または改ざんされたものではないかと即座に疑ったのだ。この考えは、政府が何かを隠しているという疑いに油を注いだ。1週間後にクーデター未遂を起こした軍兵士は、犯行動機の一つとしてこの映像を挙げた。

その後の法科学分析の結果、映像には何の改ざんも不正操作なかった。しかし、その事実は問題ではなかった。すでに不安定な政治情勢をさらに悪化させるには、「これはディープフェイクかもしれない」というその考えだけで十分だったのだ。

2020年の米国大統領選挙が迫るなか、ディープフェイクのテクノロジーはますます説得力を増し、偽造メディアが政治的意見に影響を及ぼすのではないかとの懸念が高まっている。ところが、ディープフェイクの検出に取り組むサイバーセキュリティ企業のディープトレース・ラボ（Deeptrace Labs）が新たに公表したレポートによると、ディープフェイクが実際に虚偽情報による不正工作に利用された事例は見つかっていない。より強力な影響をもたらしたのは、ディープフェイクがそのように「悪用され得る」という知識の方だったのだ。

レポートの執筆者の一人であるヘンリー・エイダーは、「ディープフェイクが、まるで本物のような虚偽の映像によって政治的なリスクをもたらすことは事実です。しかし現時点でより具体的な脅威は、ディープフェイクという発想自体を利用して、現実の出来事をねつ造されたもののように見せられるということなのです」と語る。「ディープフェイクの大きな話題性と、政治への影響を予想する過度に扇情的な報道のために、ディープフェイクによる被害が生じた実際のケースが覆い隠される結果になっています」。

証拠資料の実効性が揺らぐ

ディープフェイクの登場以来、人権活動家や虚偽情報の専門家は、これらの別個でありつつも絡まり合った脅威について警鐘を鳴らしてきた。過去2年間、米国のテック企業や政治家たちはほとんど、エイダーが最初に挙げた問題、つまり、ねつ造された …

こちらは会員限定の記事です。 メールアドレスの登録で続きを読めます。

有料会員にはメリットがいっぱい！

毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
重要テーマが押さえられる。
各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。

【春割】実施中！年間購読料20%オフ！

人気の記事ランキング