AI画像生成モデルに根強く残る「バイアス」、確認ツールが登場
DALL-E 2やステーブル・ディフュージョン(Stable Diffusion)といった人気のAI画像生成モデルは、有害なバイアスやステレオタイプを反映した画像を生成してしまうことがある。これらのモデルのバイアスを検知するオンライン・ツールが登場した。 by Melissa Heikkilä2023.03.28
人気の画像生成モデルは、有害なバイアスやステレオタイプを増幅しがちであることで知られている。だが、その問題がどのくらい大きなものなのか、これまで明確には分かっていなかった。このほど登場したインタラクティブなオンラインツール群を使えば、自分の目で確かめることができる。
このツール群は、AIスタートアップ企業ハギング・フェイス(Hugging Face)とドイツのライプツィヒ大学の研究者が開発したもので、詳細は査読前論文(プレプリント)で説明されている。ステーブル・ディフュージョン(Stable Diffusion)の最新2バージョンと、DALL-E 2(ダリー2)の3種の人気AI画像生成モデルが持つバイアスを調べることができる。
ツールの作成にあたり、研究チームはまず上記の3種のAI画像生成モデルを使って、さまざまな民族、ジェンダー、職業の人々の画像9万6000点を生成した。研究チームは、「女性」や「ラテンアメリカ系の男性」などの社会的属性に基づく画像の生成をモデルに指示した。次に、「an ambitious plumber(意欲的な配管工)」や「compassionate CEO(思いやりのあるCEO)」など、職業や形容詞に関連する画像を作らせた。
研究チームは、この2組の画像セットにどのような違いが見られるかを調べたいと考えた。そこで、「クラスタリング」と呼ぶ機械学習技術で写真を分析して調査を進めた。この手法は、ジェンダーや民族などのカテゴリー分類を用いずに、画像からパターンを見出そうとするものだ。異なる画像間の類似性を分析し、モデルがどのような画像を「権力者」などのグループにまとめるかを確認できる。次に、これらのAIモデルが生成する画像と、その画像に反映されているバイアスを誰でも調べられるインタラクティブなツール群を開発した。これらのツールはハギング・フェイスのWebサイトで無料で公開されている。
DALL-E 2とステーブル・ディフュージョンが生成した画像を分析すると、どのモデルも白人男性らしき人物の画像を生成することが多く、とりわけ、権力者を描写するように求めたときはその傾向が強くなることがわかった。特にDALL-E 2はその傾向が顕著で、「CEO」や「取締役」などのプロンプトを与えると、97%の確率で白人男性の画像を生成した。この …
- 人気の記事ランキング
-
- The winners of Innovators under 35 Japan 2024 have been announced MITTRが選ぶ、 日本発U35イノベーター 2024年版
- Kids are learning how to make their own little language models 作って学ぶ生成AIモデルの仕組み、MITが子ども向け新アプリ
- AI will add to the e-waste problem. Here’s what we can do about it. 30年までに最大500万トン、生成AIブームで大量の電子廃棄物
- This AI system makes human tutors better at teaching children math 生成AIで個別指導の質向上、教育格差に挑むスタンフォード新ツール