KADOKAWA Technology Review
×
10/9「生成AIと法規制のこの1年」開催!申込み受付中
ディープフェイク・ポルノ、
やっと動き出した規制への道
Franziska Barczyk
倫理/政策 無料会員限定
Deepfake porn is ruining women's lives. Now the law may finally ban it

ディープフェイク・ポルノ、
やっと動き出した規制への道

ディープフェイクで作成されたポルノ画像による性暴力は、被害者に破滅をもたらす可能性があるにもかかわらず、これまで規制の対象とはされてこなかった。しかし、被害者を守るために活動家らが長年に渡って戦ってきた中で、議員らが注目せざるを得ない状況がようやく生まれている。 by Karen Hao2021.02.19

ヘレン・モルトは耳を疑った。彼女の裸の写真がポルノサイトに掲載されていると、知人から聞かされたのだ。だが、彼女は人生で一度も性的な写真を撮影したりシェアしたことはなかった。きっと何かの間違いではないだろうか? なんとか勇気を出してその写真を確認した彼女は、恐怖と屈辱を感じた。

英国シェフィールド在住の詩人でブロードキャスターであるモルトは、フェイクポルノの被害者だった。彼女が最もショックを受けたのは、そうした画像が、彼女がすでに削除していたフェイスブックのプロフィール画像を含め、2017年から2019年にかけて彼女がプライベートなソーシャルメディア・アカウントに投稿していた写真をベースにしていたことだった。

加害者はそうした非性的な写真(モルトの休暇中の写真や妊娠中の写真、さらには10代の頃の写真までがあった)をアップロードし、他のユーザーに彼女の顔を暴力的なポルノ写真に差し替えるよう促していた。フォトショップによる粗雑なものもあったが、中には身も凍るようなリアルなものもあった。何が起こったのか調査を始めたモルトは、「ディープフェイク」という新たな言葉を知った。ディープフェイクとは、人工知能(AI)によって生成・操作されたメディア(画像・動画)を指す。

「鼻を折られたような気分で、本当に無力感を感じさせられます」とモルトは言う。「公の場で発言する女性である、という理由でひどい目にあわされたというのが、自分としては一番しっくりくる説明です。『ほら見ろ。自分たちはいつでもお前にこういうことをできるんだぞ』、と」。

事実の発覚を受けてモルトは支援を求めたが、その過程は苛立たしいものとなった。警察に連絡したが、警官は自分たちにできることは何もないと言った。Webから完全に姿を消すことも考えたが、彼女の仕事にとってWebは欠かせないものだった。

また、モルトにはこの投稿をしたのが誰なのか分からなかった。彼女は自分が親しいと考えている人間の仕業ではないかと考えて恐ろしくなった。モルトは全ての人間を疑い始めた。だが、最も辛かったのは、元夫を疑い始めてしまったことだった。彼らは良き友人同士だったが、加害者は仮名に彼のファーストネームを使っていた。「彼ではない――絶対にありえません。でも本当に悲しいことです」とモルトは話す。「そもそもそんなことを考え始めてしまったという事実が、自分の現実の全てを疑い始めている兆候でした」。

ディープフェイクは、潜在的な政治的危険性に関して大きな注目を集めているが、圧倒的多数は女性を標的にして利用されている。2018年12月からオンラインのディープフェイク映像の追跡をしている調査会社のセンシティAI(Sensity AI)は、ディープフェイク映像の90%から95%が合意のないポルノであることを一貫して発見してきた。そのうちの約90%は、合意のない女性たちのポルノだ。テクノロジーを利用した虐待に関する啓蒙活動をしている非営利団体「エンドタブ(EndTAB)」の創設者であるアダム・ダッジは、「これは女性に対する暴力の問題です」と言う。

結果的に、こうした侵害行為はリベンジポルノ(同意なく公開された、本物の性的な写真のこと)と同様に、被害者の破滅を招く可能性がある。ディープフェイクのポルノ画像が被害者にどのような損害をもたらすかについては、十分な立証がある。被害者が名前を変えざるを得なくなるケースもあれば、インターネットから完全に自分を消さなければならなくなったケースもあった。そうした画像がいつ再び姿を現し自分たちの人生を破滅に追い込むかわからないことから、彼女たちは再び心に傷を負わされるのではないかと恐怖を常に抱えている。

幸いにも、合意のないディープフェイク・ポルノを規制しようという米国と英国の並行的な動きは勢いを増している。ディープフェイク・ポルノが注目されたことで、これまで無視されてきた、画像による別の形の性暴力を規制する動きにつながる可能性もある。長年にわたり活動家たちは、このような重大な法の隙間に関する警鐘を議員たちに鳴らしてきたが、ディープフェイクによってようやく議員たちも注目せざるを得ない状況が生まれている。

「私たちは大きな波をただ待っているだけ」

ディープフェイクはポルノと共に始まった。2017年12月、マザーボード(Motherboard)の記者であるサマンサ・コールは、レディット(Reddit)で「ディープフェイクス(deepfakes)」というハンドルネームのユーザーが、AI研究者が開発してオープンソース化した手法を用いて、ポルノ動画に女性有名人の顔を差し替えているのを発見した。コールは、次は他の女性たちが標的になると読者に警鐘を鳴らそうとした。

ディープフェイクの問題は世論の注目をいくらか集めたものの、その理由の大半はテクノロジーの新奇性によるものだった。結局のところ、有名人のフェイクポルノは何年も前からインターネット上に存在してきたのだ。だが、家庭内暴力の被害者たちと密接に関わってきた主唱者たちにとって、この技術の開発は危険を示す直接要 …

こちらは会員限定の記事です。
メールアドレスの登録で続きを読めます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
人気の記事ランキング
  1. Promotion MITTR Emerging Technology Nite #30 MITTR主催「生成AIと法規制のこの1年」開催のご案内
  2. A brief guide to the greenhouse gases driving climate change CO2だけじゃない、いま知っておくべき温室効果ガス
  3. Why OpenAI’s new model is such a big deal GPT-4oを圧倒、オープンAI新モデル「o1」に注目すべき理由
  4. Sorry, AI won’t “fix” climate change サム・アルトマンさん、AIで気候問題は「解決」できません
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。2024年も候補者の募集を開始しました。 世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。

特集ページへ
MITTRが選んだ 世界を変える10大技術 2024年版

「ブレークスルー・テクノロジー10」は、人工知能、生物工学、気候変動、コンピューティングなどの分野における重要な技術的進歩を評価するMITテクノロジーレビューの年次企画だ。2024年に注目すべき10のテクノロジーを紹介しよう。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る