KADOKAWA Technology Review
×
【4/24開催】生成AIで自動運転はどう変わるか?イベント参加受付中
アジア系女性にはセクシー画像、人気AIアプリの生成画像にバイアス
Melissa Heikkilä via Lensa
人工知能(AI) Insider Online限定
The viral AI avatar app Lensa undressed me—without my consent

アジア系女性にはセクシー画像、人気AIアプリの生成画像にバイアス

AI技術を利用して自撮り写真からさまざまな肖像画を描いてくれるアプリ「レンザ」が人気を集めている。だが、私の写真から生成された画像のおよそ3割はヌードを含む性的な画像だった。 by Melissa Heikkilä2022.12.20

私は、編集部の同僚たちと同じような結果を期待して大人気の人工知能(AI)アバター・アプリ「レンザ(Lensa)」を試用した。レンザが初めて登場したのは2018年だが、自撮り(セルフィー)を基にデジタル・ポートレートを生成できる「マジック・アバター(Magic Avatars)」というAIを利用した機能が追加されたことで、最近になって人気が急騰している。

レンザは同僚たちに、宇宙飛行士、勇壮な戦士、アルバムのジャケット写真のようなアバターを生成してくれた。写実的でありながらも本人を喜ばせるような画像ばかりだ。だが、私が受け取ったのはたくさんのヌード画像だった。私が作成した100体のアバターのうち、16体はトップレス、その他にも14体が極めて露出度の高い服を着てあからさまにセクシーなポーズをとっていた。

このAIモデルが私のセルフィーから拾い上げたのは、私がアジア系人種だということだけのようだ。私が手にしたのは、明らかにアニメやビデオゲームのキャラクターをモデルにした一般的なアジア人女性の画像だった。あるいは、相当数のアバターがヌードや肌の露出の多いものであったことを考えれば、ポルノと呼ぶ方が近いかも知れない。泣いているようなアバターも数体あった。同僚の白人女性のアバターは性的な画像がはるかに少なく、ヌードや胸の谷間が多少見えるものが数枚ある程度だった。別の中国系の同僚は、私と同様、つまりポルノ的なアバターがたくさん出力された。

レンザのアジア人女性に対するフェティシズムは非常に強く、私が男性アバターとして生成するように指示したときでさえ、女性のヌードやセクシーなポーズを生成した。

ワシントン大学でAIシステムにおけるバイアスや表現を研究するアイリン・カリスカン助教授は、私のアバターが過度に性的な対象として生成された結果は驚くべきことではないと話す。

レンザは、テキストの指示を基に画像を生成するオープンソースのAIモデル「ステーブル・ディフュージョン(Stable Diffusion)」を使ってアバターを生成している。ステーブル・ディフュージョンは、インターネット上から搔き集めた画像で作成された巨大なオープンソースのデータセット「LAION-5B (ライオン-5B)」を使って構築されている。

インターネット上には衣服をほとんど、もしくはまったく着ていない女性の画像や、性差別主義者や人種差別主義者の固定観念を反映した写真があふれている。そのため、LAION-5B‐5Bも偏っているのだ。

だから、本人がそのように描かれることを望むかどうかに関係なく、女性たちを性的に描くAIモデルになる、とカリスカン助教授は話す。その傾向は特に、歴史的に不利な立場におかれてきたアイデン …

こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
【春割】実施中! ひと月あたり1,000円で読み放題
10 Breakthrough Technologies 2024

MITテクノロジーレビューは毎年、世界に真のインパクトを与える有望なテクノロジーを探している。本誌がいま最も重要だと考える進歩を紹介しよう。

記事一覧を見る
気候テック企業15 2023

MITテクノロジーレビューの「気候テック企業15」は、温室効果ガスの排出量を大幅に削減する、あるいは地球温暖化の脅威に対処できる可能性が高い有望な「気候テック企業」の年次リストである。

記事一覧を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る