KADOKAWA Technology Review
×
「Innovators Under 35 Japan」2024年度候補者募集中!
アジア系女性にはセクシー画像、人気AIアプリの生成画像にバイアス
Melissa Heikkilä via Lensa
人工知能(AI) Insider Online限定
The viral AI avatar app Lensa undressed me—without my consent

アジア系女性にはセクシー画像、人気AIアプリの生成画像にバイアス

AI技術を利用して自撮り写真からさまざまな肖像画を描いてくれるアプリ「レンザ」が人気を集めている。だが、私の写真から生成された画像のおよそ3割はヌードを含む性的な画像だった。 by Melissa Heikkilä2022.12.20

私は、編集部の同僚たちと同じような結果を期待して大人気の人工知能(AI)アバター・アプリ「レンザ(Lensa)」を試用した。レンザが初めて登場したのは2018年だが、自撮り(セルフィー)を基にデジタル・ポートレートを生成できる「マジック・アバター(Magic Avatars)」というAIを利用した機能が追加されたことで、最近になって人気が急騰している。

レンザは同僚たちに、宇宙飛行士、勇壮な戦士、アルバムのジャケット写真のようなアバターを生成してくれた。写実的でありながらも本人を喜ばせるような画像ばかりだ。だが、私が受け取ったのはたくさんのヌード画像だった。私が作成した100体のアバターのうち、16体はトップレス、その他にも14体が極めて露出度の高い服を着てあからさまにセクシーなポーズをとっていた。

このAIモデルが私のセルフィーから拾い上げたのは、私がアジア系人種だということだけのようだ。私が手にしたのは、明らかにアニメやビデオゲームのキャラクターをモデルにした一般的なアジア人女性の画像だった。あるいは、相当数のアバターがヌードや肌の露出の多いものであったことを考えれば、ポルノと呼ぶ方が近いかも知れない。泣いているようなアバターも数体あった。同僚の白人女性のアバターは性的な画像がはるかに少なく、ヌードや胸の谷間が多少見えるものが数枚ある程度だった。別の中国系の同僚は、私と同様、つまりポルノ的なアバターがたくさん出力された。

レンザのアジア人女性に対するフェティシズムは非常に強く、私が男性アバターとして生成するように指示したときでさえ、女性のヌードやセクシーなポーズを生成した。

ワシントン大学でAIシステムにおけるバイアスや表現を研究するアイリン・カリスカン助教授は、私のアバターが過度に性的な対象として生成された結果は驚くべきことではないと話す。

レンザは、テキストの指示を基に画像を生成するオープンソースのAIモデル「ステーブル・ディフュージョン(Stable Diffusion)」を使ってアバターを生成している。ステーブル・ディフュージョンは、インターネット上から搔き集めた画像で作成された巨大なオープンソースのデータセット「LAION-5B (ライオン-5B)」を使って構築されている。

インターネット上には衣服をほとんど、もしくはまったく着ていない女性の画像や、性差別主義者や人種差別主義者の固定観念を反映した写真があふれている。そのため、LAION-5B‐5Bも偏っているのだ。

だから、本人がそのように描かれることを望むかどうかに関係なく、女性たちを性的に描くAIモデルになる、とカリスカン助教授は話す。その傾向は特に、歴史的に不利な立場におかれてきたアイデン …

こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
人気の記事ランキング
  1. Promotion Call for entries for Innovators Under 35 Japan 2024 「Innovators Under 35 Japan」2024年度候補者募集のお知らせ
  2. Interview with Prof. Masayuki Ohzeki: The Future of Quantum Computer Commercialization and the Qualities of Innovators 量子技術を最速で社会へ、大関真之教授が考えるイノベーターの条件
  3. AI companies are finally being forced to cough up for training data 「訓練データはタダではない」音楽業界が問う生成AIの根本的問題
  4. AI can make you more creative—but it has limits 生成AIは人間の創造性を高めるか? 新研究で限界が明らかに
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。2024年も候補者の募集を開始しました。 世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。

特集ページへ
MITTRが選んだ 世界を変える10大技術 2024年版

「ブレークスルー・テクノロジー10」は、人工知能、生物工学、気候変動、コンピューティングなどの分野における重要な技術的進歩を評価するMITテクノロジーレビューの年次企画だ。2024年に注目すべき10のテクノロジーを紹介しよう。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る