KADOKAWA Technology Review
×
【4/24開催】生成AIで自動運転はどう変わるか?イベント参加受付中
ミッドジャーニーが生殖器官の入力を禁止、生成AIの悪用防ぐには
Julia Rockwell
人工知能(AI) 無料会員限定
AI image generator Midjourney blocks porn by banning words about the human reproductive system

ミッドジャーニーが生殖器官の入力を禁止、生成AIの悪用防ぐには

画像生成AI「ミッドジャーニー」で、プロンプト(指示テキスト)に生殖器官を指す言葉を使うことが禁じられていることが分かった。性的な画像や猟奇的な画像の生成を防ぐための一時的な措置だという。 by Melissa Heikkilä2023.03.01

人気の人工知能(AI)画像生成ツール「ミッドジャーニー(Midjourney)」が、人間の生殖器官に関するさまざまな言葉を、プロンプト(指示テキスト)として使用禁止にしていることが、MITテクノロジーレビューの取材で分かった。

「胎盤」「卵管」「乳腺」「精子」「子宮」「尿道」「子宮頸部」「処女膜」「外陰部」などの言葉をユーザーが入力すると、ミッドジャーニーはこれらの言葉が禁止されていると警告を出し、使用を認めない。これらの単語を試したユーザーは、禁止コンテンツの生成を試みたとして、一定期間使用禁止となることもある。一方で、「肝臓」や「腎臓」など、人体に関連する他の単語は許可されている。

ミッドジャーニーのデイヴィッド・ホルツ創業者兼最高経営責任者(CEO)は、生殖器官に関連する言葉を禁止することについて、同社が「AIを改善する」間、ユーザーがショッキングなコンテンツ、あるいは猟奇的なコンテンツを生成してしまうことを防ぐための応急処置だとしている。ホルツCEOによると、ユーザーの言葉の使い方や、ミッドジャーニーが生成している画像の内容をモデレーターが観察し、定期的に禁止用語を調整しているとのことだ。同社はコミュニティ・ガイドラインのページで、この方式でブロックされるコンテンツの種類を挙げている。その中には、性的・猟奇的な画像のみならず、お尻のシンボルとしてネット上でよく使われている絵文字🍑まで含まれている。

ミッドジャーニー、ダリー2(DALL-E 2)、ステーブル・ディフュージョン(Stable Diffusion)などのAIモデルは、インターネットから収集された何十億もの画像を学習している。ワシントン大学のチームによる研究では、こうしたAIモデルが女性を性的な対象物とするバイアスを学習し、そのバイアスが生成画像に反映されていることが判明している。データ・セットの規模が膨大であるため、性的な画像、猟奇的な画像、バイアスがかかった出力につながる可能性のある画像など、望ましくない画像を排除することは、ほぼ不可能に等しい。データ・セットに頻繁に登場する画像ほど、AIモデル内で強いつながりが形成され、モデルが生成する画像に現れる可能性が高くなる。

ミッドジャーニーの禁止用語は、この問題に対処するための暫定的な試みだ。「精子」や「睾丸」など、男性の生殖器官に関連する単語も禁止となっている …

こちらは会員限定の記事です。
メールアドレスの登録で続きを読めます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
【春割】実施中! ひと月あたり1,000円で読み放題
10 Breakthrough Technologies 2024

MITテクノロジーレビューは毎年、世界に真のインパクトを与える有望なテクノロジーを探している。本誌がいま最も重要だと考える進歩を紹介しよう。

記事一覧を見る
気候テック企業15 2023

MITテクノロジーレビューの「気候テック企業15」は、温室効果ガスの排出量を大幅に削減する、あるいは地球温暖化の脅威に対処できる可能性が高い有望な「気候テック企業」の年次リストである。

記事一覧を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る