画像生成AI、元データをほぼそのまま出力　著作権侵害の恐れ

人気の画像生成AI（ジェネレーティブAI）モデルを使って、実在人物を特定できるような写真を生成できることが新たな研究によって明らかになった。プライバシーの侵害につながる恐れがある。また、著作権で保護されたアート作品や医用画像の正確なコピーも生成可能であることが明らかになり、人工知能（AI）企業を著作権侵害で訴えているアーティストたちの主張を補強する可能性がある。

グーグル、ディープマインド（DeepMind）、カリフォルニア大学バークレー校、チューリッヒ工科大学、プリンストン大学からなる研究チームは、ステーブル・ディフュージョン（ Stable Diffusion）とグーグルのイメージェン（Imagen）に対して、個人名などの画像キャプションを入力し、その結果を得る実験を何度も繰り返した。次に、そうして生成された画像の中に、AIモデルのデータベース内にある元画像と一致するものがあるかどうかを分析した。その結果、訓練用データセットに含まれる画像の複製を100枚以上抽出することに成功した。

これらの画像生成AIモデルは、インターネット上から収集したテキスト説明付き画像からなる膨大なデータセットで訓練されている。最新の画像生成技術は、データセット内から取り出した元画像を1ピクセルずつ変化させ、ランダムなピクセル集合体へと変える。次に、そのプロセスを逆行させ、混とんとしたそのピクセル集合体を新たな画像へと作り替える。

フランスのカーン・ノルマンディー大学の博士課程生であるライアン・ウェブスターによると、今回の論文は、こうしたAIモデルが訓練用データセット内の画像を記憶していることを初めて証明する研究結果だという。ウェブスターは今回の研究には関与していないが、他の画像生成モデルでプライバシーについて研究している。今回の結果は、こうしたシス …

人気の記事ランキング

1. AI can make you more creative—but it has limits 生成AIは人間の創造性を高めるか？ 新研究で限界が明らかに
2. Promotion Call for entries for Innovators Under 35 Japan 2024 「Innovators Under 35 Japan」2024年度候補者募集のお知らせ
3. A new weather prediction model from Google combines AI with traditional physics グーグルが気象予測で新モデル、機械学習と物理学を統合
4. How to fix a Windows PC affected by the global outage 世界規模のウィンドウズPCトラブル、IT部門「最悪の週末」に
5. The next generation of mRNA vaccines is on its way 日本で承認された新世代mRNAワクチン、従来とどう違うのか？