KADOKAWA Technology Review
×
アジア系女性にはセクシー画像、人気AIアプリの生成画像にバイアス
Melissa Heikkilä via Lensa
人工知能(AI) Insider Online限定
The viral AI avatar app Lensa undressed me—without my consent

アジア系女性にはセクシー画像、人気AIアプリの生成画像にバイアス

AI技術を利用して自撮り写真からさまざまな肖像画を描いてくれるアプリ「レンザ」が人気を集めている。だが、私の写真から生成された画像のおよそ3割はヌードを含む性的な画像だった。 by Melissa Heikkilä2022.12.20

私は、編集部の同僚たちと同じような結果を期待して大人気の人工知能(AI)アバター・アプリ「レンザ(Lensa)」を試用した。レンザが初めて登場したのは2018年だが、自撮り(セルフィー)を基にデジタル・ポートレートを生成できる「マジック・アバター(Magic Avatars)」というAIを利用した機能が追加されたことで、最近になって人気が急騰している。

レンザは同僚たちに、宇宙飛行士、勇壮な戦士、アルバムのジャケット写真のようなアバターを生成してくれた。写実的でありながらも本人を喜ばせるような画像ばかりだ。だが、私が受け取ったのはたくさんのヌード画像だった。私が作成した100体のアバターのうち、16体はトップレス、その他にも14体が極めて露出度の高い服を着てあからさまにセクシーなポーズをとっていた。

このAIモデルが私のセルフィーから拾い上げたのは、私がアジア系人種だということだけのようだ。私が手にしたのは、明らかにアニメやビデオゲームのキャラクターをモデルにした一般的なアジア人女性の画像だった。あるいは、相当数のアバターがヌードや肌の露出の多いものであったことを考えれば、ポルノと呼ぶ方が近いかも知れない。泣いているようなアバターも数体あった。同僚の白人女性のアバターは性的な画像がはるかに少なく、ヌードや胸の谷間が多少見えるものが数枚ある程度だった。別の中国系の同僚は、私と同様、つまりポルノ的なアバターがたくさん出力された。

レンザのアジア人女性に対するフェティシズムは非常に強く、私が男性アバターとして生成するように指示したときでさえ、女性のヌードやセクシーなポーズを生成した。

ワシントン大学でAIシステムにおけるバイアスや表現を研究するアイリン・カリスカン助教授は、私のアバターが過度に性的な対象として生成された結果は驚くべきことではないと話す。

レンザは、テキストの指示を基に画像を生成するオープンソースのAIモデル「ステーブル・ディフュージョン(Stable Diffusion)」を使ってアバターを生成している。ステーブル・ディフュージョンは、インターネット上から搔き集めた画像で作成された巨大なオープンソースのデータセット「LAION-5B (ライオン-5B)」を使って構築されている。

インターネット上には衣服をほとんど、もしくはまったく着ていない女性の画像や、性差別主義者や人種差別主義者の固定観念を反映した写真があふれている。そのため、LAION-5B‐5Bも偏っているのだ。

だから、本人がそのように描かれることを望むかどうかに関係なく、女性たちを性的に描くAIモデルになる、とカリスカン助教授は話す。その傾向は特に、歴史的に不利な立場におかれてきたアイデン …

こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
人気の記事ランキング
  1. IU35 Japan Summit 2024: Nobuyuki Yoshioka 「量子コンピューターの用途解明、新たな応用へ」吉岡信行
  2. Why the next energy race is for underground hydrogen 水素は「掘る」時代に? 地下水素は地球を救うか
  3. AI crawler wars threaten to make the web more closed for everyone 失われるWebの多様性——AIクローラー戦争が始まった
MITTRが選んだ 世界を変える10大技術 2025年版

本当に長期的に重要となるものは何か?これは、毎年このリストを作成する際に私たちが取り組む問いである。未来を完全に見通すことはできないが、これらの技術が今後何十年にもわたって世界に大きな影響を与えると私たちは予測している。

特集ページへ
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を発信する。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る