2022年初頭、ダリー（DALL-E）2、ミッドジャーニー（Midjourney）、ステーブル・ディフュージョン（Stable Diffusion）といった画像生成モデルが生成AIブームを巻き起こした。この頃から、多くのアーティストが、人工知能（AI）が生成した画像に自分の作品と奇妙なほど似たものがあることに気づき始めた。調査の結果、彼らの作品が無断でデータセットに収集され、AIモデルの学習に利用されていたことが判明した。そして、AIが彼らの独自のスタイルを模倣した作品を生成していたのである。
これに対し、アーティストたちは反撃に出た。そして、そのための最も強力なツールの一部を開発したのが、シカゴ大学でコンピュータサイエンスの博士課程に在籍するショーン・シャン（26歳）である。
アーティストの作品が無断で利用されている実態を知ったシャンは、「35歳未満のイノベーター」に2005年に選ばれたヘザー・チェン教授と、2006年に選ばれたベン・ジャオ教授とともに、アーティストを保護するツールの開発に乗り出した。そして、シャンが開発したのが「グレイズ（Glaze）」というアルゴリズムだ。
グレイズは、アーティストの個性的なスタイルをAIの模倣から守るためのツールであり、2023年初頭に公開された。さらに同年10月、シャンとそのチームは「ナイトシェード（Nightshade）」という別のツールを発表した。ナイトシェードは、画像に「見えない毒素」を埋め込むことで、AIがその画像を学習データに取り込んだ際に誤った学習をさせる仕組みだ。十分な量の「毒素」を学習したAIモデルは、永久的に破損し、出力が不安定になる可能性がある。これらのアルゴリズムは、画像のピクセルに微細な変更を加えることで、AIの解析を妨害する仕組みとなっている。
グレイズのリリース後、その反響は「圧倒的で、同時にストレスの多いものでした」とシャンは語る。生成AIを推進する一部のグループからは強い反発があり、グレイズの防御を突破しようとする試みも相次いだ。
しかし、アーティストたちはこのツールを絶賛した。グレイズはこれまでに約350万回ダウンロードされ、ナイトシェードも70万回以上ダウンロードされている。また、新しいアート・プラットフォーム「カーラ（Cara）」にも統合され、アーティストが画像をアップロードする際にグレイズの保護を適用できるようになった。
次なる目標として、シャンはAIモデルの監査を支援し、法規制の施行を強化するツールを開発する計画を立てている。さらに、グレイズやナイトシェードをゲーム業界、音楽業界、ジャーナリズムなど、他の分野にも適用できるよう改良を続ける予定だ。「生涯をかけてこのプロジェクトに取り組んでいくつもりです」と彼は話している。
関連記事：
生成AIの「搾取」に対抗する力をアーティストに与えた研究者
- 人気の記事ランキング
-
- Quantum physicists have shrunk and “de-censored” DeepSeek R1 量子技術でDeepSeekを55%小型化、「検閲解除」にも成功
- Promotion Innovators Under 35 Japan Summit 2025 2025年のイノベーターが集結「IU35 Summit」参加者募集
- Google’s new Gemini 3 “vibe-codes” responses and comes with its own agent グーグルが「Gemini 3」発表、質問に応じて回答形式もAIが判断
- How to help friends and family dig out of a conspiracy theory black hole 家族が陰謀論にハマったら： 専門家が語る、 5つの現実的アプローチ
- What is the chance your plane will be hit by space debris? 空からゴミが降ってくる—— 衛星10万基時代のリスク、 航空への影響は？【解説】
