KADOKAWA Technology Review
×
ディープフェイク・ポルノ、
やっと動き出した規制への道
Franziska Barczyk
ビジネス・インパクト 無料会員限定
Deepfake porn is ruining women's lives. Now the law may finally ban it

ディープフェイク・ポルノ、
やっと動き出した規制への道

ディープフェイクで作成されたポルノ画像による性暴力は、被害者に破滅をもたらす可能性があるにもかかわらず、これまで規制の対象とはされてこなかった。しかし、被害者を守るために活動家らが長年に渡って戦ってきた中で、議員らが注目せざるを得ない状況がようやく生まれている。 by Karen Hao2021.02.19

ヘレン・モルトは耳を疑った。彼女の裸の写真がポルノサイトに掲載されていると、知人から聞かされたのだ。だが、彼女は人生で一度も性的な写真を撮影したりシェアしたことはなかった。きっと何かの間違いではないだろうか? なんとか勇気を出してその写真を確認した彼女は、恐怖と屈辱を感じた。

英国シェフィールド在住の詩人でブロードキャスターであるモルトは、フェイクポルノの被害者だった。彼女が最もショックを受けたのは、そうした画像が、彼女がすでに削除していたフェイスブックのプロフィール画像を含め、2017年から2019年にかけて彼女がプライベートなソーシャルメディア・アカウントに投稿していた写真をベースにしていたことだった。

加害者はそうした非性的な写真(モルトの休暇中の写真や妊娠中の写真、さらには10代の頃の写真までがあった)をアップロードし、他のユーザーに彼女の顔を暴力的なポルノ写真に差し替えるよう促していた。フォトショップによる粗雑なものもあったが、中には身も凍るようなリアルなものもあった。何が起こったのか調査を始めたモルトは、「ディープフェイク」という新たな言葉を知った。ディープフェイクとは、人工知能(AI)によって生成・操作されたメディア(画像・動画)を指す。

「鼻を折られたような気分で、本当に無力感を感じさせられます」とモルトは言う。「公の場で発言する女性である、という理由でひどい目にあわされたというのが、自分としては一番しっくりくる説明です。『ほら見ろ。自分たちはいつでもお前にこういうことをできるんだぞ』、と」。

事実の発覚を受けてモルトは支援を求めたが、その過程は苛立たしいものとなった。警察に連絡したが、警官は自分たちにできることは何もないと言った。Webから完全に姿を消すことも考えたが、彼女の仕事にとってWebは欠かせないものだった。

また、モルトにはこの投稿をしたのが誰なのか分からなかった。彼女は自分が親しいと考えている人間の仕業ではないかと考えて恐ろしくなった。モルトは全ての人間を疑い始めた。だが、最も辛かったのは、元夫を疑い始めてしまったことだった。彼らは良き友人同士だったが、加害者は仮名に彼のファーストネームを使っていた。「彼ではない――絶対にありえません。でも本当に悲しいことです」とモルトは話す。「そもそもそんなことを考え始めてしまったという事実が、自分の現実の全てを疑い始めている兆候でした」。

ディープフェイクは、潜在的な政治的危険性に関して大きな注目を集めているが、圧倒的多数は女性を標的にして利用されている。2018年12月からオンラインのディープフェイク映像の追跡をしている調査会社のセンシティAI(Sensity AI)は、ディープフェイク映像の90%から95%が合意のないポルノであることを一貫して発見してきた。そのうちの約90%は、合意のない女性たちのポルノだ。テクノロジーを利用した虐待に関する啓蒙活動をしている非営利団体「エンドタブ(EndTAB)」の創設者であるアダム・ダッジは、「これは女性に対する暴力の問題です」と言う。

結果的に、こうした侵害行為はリベンジポルノ(同意なく公開された、本物の性的な写真のこと)と同様に、被害者の破滅を招く可能性がある。ディープフェイクのポルノ画像が被害者にどのような損害をもたらすかについては、十分な立証がある。被害者が名前を変えざるを得なくなるケースもあれば、インターネットから完全に自分を消さなければならなくなったケースもあった。そうした画像がいつ再び姿を現し自分たちの人生を破滅に追い込むかわからないことから、彼女たちは再び心に傷を負わされるのではないかと恐怖を常に抱えている。

幸いにも、合意のないディープフェイク・ポルノを規制しようという米国と英国の並行的な動きは勢いを増している。ディープフェイク・ポルノが注目されたことで、これまで無視されてきた、画像による別の形の性暴力を規制する動きにつながる可能性もある。長年にわたり活動家たちは、このような重大な法の隙間に関する警鐘を議員たちに鳴らしてきたが、ディープフェイクによってようやく議員たちも注目せざるを得ない状況が生まれている。

「私たちは大きな波をただ待っているだけ」

ディープフェイクはポルノと共に始まった。2017年12月、マザーボード(Motherboard)の記者であるサマンサ・コールは、レディット(Reddit)で「ディープフェイクス(deepfakes)」というハンドルネームのユーザーが、AI研究者が開発してオープンソース化した手法を用いて、ポルノ動画に女性有名人の顔を差し替えているのを発見した。コールは、次は他の女性たちが標的になると読者に警鐘を鳴らそうとした。

ディープフェイクの問題は世論の注目をいくらか集めたものの、その理由の大半はテクノロジーの新奇性によるものだった。結局のところ、有名人のフェイクポルノは何年も前からインターネット上に存在してきたのだ。だが、家庭内暴力の被害者たちと密接に関わってきた主唱者たちにとって、この技術の開発は危険を示す直接要 …

こちらは会員限定の記事です。
メールアドレスの登録で続きを読めます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
Innovators Under 35 Japan 2020

MITテクノロジーレビューが主催するグローバル・アワード「Innovators Under 35」が2020年、日本に上陸する。特定の分野や業界だけでなく、世界全体にとって重要かつ独創的なイノベーターを発信していく取り組みを紹介しよう。

記事一覧を見る
MITテクノロジーレビュー[日本版] Vol.2/Winter 2020
MITテクノロジーレビュー[日本版] Vol.2/Winter 2020SDGs Issue

今、世界中の企業や機関の技術者・研究者たちが各地で抱える社会課題を解決し、持続可能な世界の実現へ向けて取り組んでいる「SDGs(持続可能な開発目標)」。
気候変動や貧困といった地球規模の課題の解決策としての先端テクノロジーに焦点を当て、解決に挑む人々の活動や、日本企業がSDGsを経営にどう取り入れ、取り組むべきか、日本が国際社会から期待される役割について、専門家の提言を紹介します。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る