KADOKAWA Technology Review
×
写真の女性をワンクリックでポルノ女優に、「一線越えた」AIアプリ
Pedro Nekoi
人工知能(AI) 無料会員限定
A horrifying new AI app swaps women into porn videos with a click

写真の女性をワンクリックでポルノ女優に、「一線越えた」AIアプリ

顔写真をブラウザーからアップロードするだけでポルノビデオを生成するWebアプリが登場した。ディープフェイク技術を使ったこのサイトはすでに利用できなくなっているが、研究者やフェイクポルノの元被害者からは「一線を越えた」との声が上がっている。 by Karen Hao2021.09.16

白い背景に置かれた巨大な青いボタンが、顔写真をアップロードするよう誘う。シンプルさが目を引くWebサイトだ。ボタンの下には、サービスを試すために人工知能(AI)によって生成された4つの顔が提供されている。ボタンの上にあるタグラインは、堂々とその目的を宣言している。「ディープフェイク・テクノロジーを使ってアダルトビデオの出演者と顔を交換することで、誰でもポルノ・スターになれます」。必要なのは顔写真とボタンのクリックだけだ。

MITテクノロジーレビューはサイトへのアクセスを防ぐため、このサービスの名前をあえて伏せ、記事中では「Y」と表記する。コンテンツやスクリーンショットなどの引用も一切控える。Yは、ネット上の合成メディアの進化と発展を追跡してきたディープフェイク研究者、ヘンリー・アジャーによって発見され、本誌にその情報が寄せられた。

現時点でYは比較的無名で、少数の常連ユーザーがオンライン・フォーラムを通じて開発者へ活発なフィードバックを送っているにとどまっている。しかし、このようなサービスが出現したことで、研究者たちはこれまでは越えなかった倫理的一線を越えてしまう事態を懸念している。

当初からディープフェイク、あるいはAIによって生成された合成メディアは、主に女性をポルノに登場させる目的で使われてきた。標的にされた女性は多くの場合、大きな心理的苦痛を受ける。ディープフェイクを最初に広めたレディット(Reddit)のクリエイターは、有名女性の顔をポルノビデオの出演者の顔と入れ替えた。センシティAI(Sensity AI)の調査によると、ネット上のディープフェイク・ビデオの90〜95%は当事者の同意がないポルノで、そのうちの約90%が女性と推定されている。

ディープフェイク・テクノロジーが進歩するにつれて、簡単に使えるコーディング不要のツールも出現し、女性の着衣画像から服を「脱がす」ことも可能になった。これらのサービスの多くはその後Web上から排除されたが、コードはオープンソースのリポジトリに存在し、姿形を変えて繰り返し出現している。研究者のジェネビーブ・オーが最近発見したサイトは、8月に670万人の訪問数を記録しており、いまだオフラインになっていない。

単一写真の顔交換アプリは以前から存在する。例えば、ユーザーが人気映画や音楽ビデオの特定のシーンに登場しているかのように見せる、「ザオ(ZAO)」や「リフェイス(ReFace)」などだ。しかし、初のポルノ画像に特化した顔交換アプリとして登場したYは、新たなレベルに到達している。テクノロジーの濫用による虐待について教育する非営利団体エンドタブ(EndTAB)の創設者アダム・ドッジは、Yが当事者の同意なしにポルノ画像を作成するために「オーダーメード」されているからだという。ポルノという特殊な用途に特化したことで、開発者は用途に合わせたテクノロジーの改良がしやすくなり、ディープフェイクでポ …

こちらは会員限定の記事です。
メールアドレスの登録で続きを読めます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
人気の記事ランキング
  1. The coolest thing about smart glasses is not the AR. It’s the AI. ようやく物になったスマートグラス、真価はARではなくAIにある
  2. A tiny new open-source AI model performs as well as powerful big ones 720億パラメーターでも「GPT-4o超え」、Ai2のオープンモデル
  3. Geoffrey Hinton, AI pioneer and figurehead of doomerism, wins Nobel Prize in Physics ジェフリー・ヒントン、 ノーベル物理学賞を受賞
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。2024年受賞者は11月発表予定です。 世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。

特集ページへ
MITTRが選んだ 世界を変える10大技術 2024年版

「ブレークスルー・テクノロジー10」は、人工知能、生物工学、気候変動、コンピューティングなどの分野における重要な技術的進歩を評価するMITテクノロジーレビューの年次企画だ。2024年に注目すべき10のテクノロジーを紹介しよう。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る