KADOKAWA Technology Review
×
テクノロジーで解決できない
ディープフェイク3つの問題
MIT Technology Review
倫理/政策 Insider Online限定
Three threats posed by deepfakes that technology won’t solve

テクノロジーで解決できない
ディープフェイク3つの問題

ディープフェイクがより巧妙化する中、企業は検知テクノロジーの開発を急いでいる。しかし、社会や法律による解決策なしに、その潜在的な被害をなくしていくことはほとんど不可能だ。 by Angela Chen2019.10.09

完璧な正確さでディープフェイクを検知する機器が、ついに誕生したと想像してみてほしい。その検知器は、どれほど繋ぎ目が無く本物っぽく見える映像であっても、人工知能(AI)によって加工されたあらゆる映像に赤く巨大な「ディープフェイク」というラベルを貼り付ける。

こうした検知器は、ディープフェイクに対抗するためにまさに必要なものに思えるかもしれない。人々はディープフェイクによって、真実の終わりがもたらされ、民主主義の死が到来するのではないかと懸念している。「完璧にリアル」に改ざんされた動画が、今後わずか6カ月以内にも登場するかもしれない。つまり、2020年の米国大統領選挙がフェイク映像の戦場になる可能性があるということだ。フェイク映像の中では、ドナルド・トランプ大統領がロシアとの買収取引を認め、エリザベス・ウォーレン上院議員が完全な銃の禁止を訴え、米大統領選の民主党有力候補であるカマラ・ハリスが白人を軽蔑する発言をしているかもしれない。

テクノロジストたちは、より多くのテクノロジーによって、ディープフェイクに対抗してきた。「メディア・フォレンジック」に関するあるプロジェクトに対し、米国政府が予算を援助しているほか、フェイスブックとマイクロソフトは先日「ディープフェイク検出チャレンジ」を発表し、グーグルはディープフェイクの巨大なデータベースを公開した。しかし、ディープフェイクは作成手法こそ新しいものの、実際に及ぼす被害、つまりデマとハラスメントは新しいものではない。そう話すのは、ディープフェイクに関するデータ&ソサエティ研究所(Data & Society Research)の最新の報告書の共同執筆者であるラトガース大学情報学部のブリット・パリス助教授だ。完璧な正確さを誇るディープフェイク検知器は、そうした実害には対処できない。その理由を以下に挙げて行こう。

問題その1:ディープフェイク検知器は何を削除すべきで、何を削除すべきでないのかを教えてくれない

速度を落としたナンシー・ペロシ米国下院議長の映像を覚えているだろうか? これはディープフェイクではなかったが、その映像は真実ではないものを拡散していた。この映像に対してフェイスブックは、削除しないという決定を下した。ディープフェイク検知器はそうした判断の役には立たない。「自動化された使い方が進めば進むほど、検知の不正確さや検閲につながる可能性が高まります」。セント・ジョンズ大学のプラットフォーム・ガバナンスの専門家であるケイト・クロニック助教授はそう話す。「風刺、フェイクニュース、フィクションを定義することは、非常に大きな哲学的問いです」

解決策:より良いモデレーション

社会がこうした問題に取り組まねばならないのはもちろんだが、それまでは、1つの解決策として、判断を下せる人間である「コンテンツ・モデレ …

こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
10 Breakthrough Technologies 2024

MITテクノロジーレビューは毎年、世界に真のインパクトを与える有望なテクノロジーを探している。本誌がいま最も重要だと考える進歩を紹介しよう。

記事一覧を見る
気候テック企業15 2023

MITテクノロジーレビューの「気候テック企業15」は、温室効果ガスの排出量を大幅に削減する、あるいは地球温暖化の脅威に対処できる可能性が高い有望な「気候テック企業」の年次リストである。

記事一覧を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る