画像生成AI、元データをほぼそのまま出力　著作権侵害の恐れ

人気の画像生成AI（ジェネレーティブAI）モデルを使って、実在人物を特定できるような写真を生成できることが新たな研究によって明らかになった。プライバシーの侵害につながる恐れがある。また、著作権で保護されたアート作品や医用画像の正確なコピーも生成可能であることが明らかになり、人工知能（AI）企業を著作権侵害で訴えているアーティストたちの主張を補強する可能性がある。

グーグル、ディープマインド（DeepMind）、カリフォルニア大学バークレー校、チューリッヒ工科大学、プリンストン大学からなる研究チームは、ステーブル・ディフュージョン（ Stable Diffusion）とグーグルのイメージェン（Imagen）に対して、個人名などの画像キャプションを入力し、その結果を得る実験を何度も繰り返した。次に、そうして生成された画像の中に、AIモデルのデータベース内にある元画像と一致するものがあるかどうかを分析した。その結果、訓練用データセットに含まれる画像の複製を100枚以上抽出することに成功した。

これらの画像生成AIモデルは、インターネット上から収集したテキスト説明付き画像からなる膨大なデータセットで訓練されている。最新の画像生成技術は、データセット内から取り出した元画像を1ピクセルずつ変化させ、ランダムなピクセル集合体へと変える。次に、そのプロセスを逆行させ、混とんとしたそのピクセル集合体を新たな画像へと作り替える。

フランスのカーン・ノルマンディー大学の博士課程生であるライアン・ウェブスターによると、今回の論文は、こうしたAIモデルが訓練用データセット内の画像を記憶していることを初めて証明する研究結果だという。ウェブスターは今回の研究には関与していないが、他の画像生成モデルでプライバシーについて研究している。今回の結果は、こうしたシス …

人気の記事ランキング

1. It’s time to address the looming crisis in entry-level work. 「コーディングを学べ」もう通用せず、AIが若者の雇用を奪い始めた
2. Promotion Call for entries for Innovators Under 35 Japan 2026 「Innovators Under 35 Japan」2026年度候補者募集のお知らせ
3. Anthropic’s Code with Claude showed off coding’s future—whether you like it or not 「Claudeに任せてしまおう」 たった1年で激変したソフトウェア開発
4. A reality check on the AI jobs hysteria 「ホワイトカラー消滅」 まだデータに兆候なし ——ただし若者に警戒信号
5. Inside the stealthy startup that pitched brainless human clones 「臓器袋」から全身置換へ ステルス企業R3が隠す 「脳なし」クローン計画

▼Promotion