KADOKAWA Technology Review
×
「Innovators Under 35 Japan」2024年度候補者募集中!
「実在しない顔」は実在しない? AIが作った架空の顔を巻き戻す
Ms Tech | Pexels, thispersondoesnotexist.com
人工知能(AI) Insider Online限定
AI fake-face generators can be rewound to reveal the real faces they trained on

「実在しない顔」は実在しない? AIが作った架空の顔を巻き戻す

深層学習モデルは内部で何が起こっているのかが明らかにならない「ブラック・ボックス」であり、情報は漏れない。こうした一般的な考え方に疑問を投げかける研究成果が発表されている。 by Will Douglas Heaven2021.10.19

「この人は実在していません(This Person Does Not Exist)」というWebサイトを読み込むと、人の顔が表示される。実在する人の顔に限りなく近いが、まったくの架空の顔だ。ページをリロードするたびに、裏で作動しているニューラル・ネットワークが、次から次へと新しい架空の顔を表示する。人工知能(AI)が作成する無限に続く架空の顔は、GAN(敵対的生成ネットワーク)によって生成されているものだ。GANは、訓練データから本物そっくりの偽のサンプルを作成するように学習する、AIの一種である。

こうしたAIによって作成された顔は、CGを使った映画や広告に使われ始めている。だが、実は見た目ほど唯一無二な顔ではないのかもしれない。フランス・カーン大学のライアン・ウェブスターらが発表した論文『この人は(おそらく)実在しています(This Person (Probably) Exists)』は、GANにより生成された架空の顔の多くには、実在する人の顔を使った訓練データとの間に著しい類似点があると指摘している。架空の顔はGANの訓練に用いられた実在する顔を事実上明らかにでき、訓練データとして使われた個人の身元の公開を可能にしてしまう。AIモデルは一般に内部で何が起こっているか分からない「ブラック・ボックス」だとされるが、こうした考え方に疑問を投げかける最新の研究である。

ウェブスターら研究チームは、訓練データに隠されている個人の正体を明らかにするために、「メンバーシップ攻撃(Membership attack)」を使った。メンバーシップ攻撃は、あるデータがAIモデルの訓練に使われたかどうかを判別するのに使える手法だ。この攻撃では一般的に、あるAIモデルを訓練したデータ、つまりすでに数千回も目にしたデータと初見のデータとの間の、微妙な違いをうまく利用する。例えば、あるモデルは以前見たことがない画像を正確に識別できるが、訓練に使われた画像と比べるとわずかに信頼度が落ちる。2つ目のモデルは、最初のモデルの振る舞いからヒントを得て、写真などの特定のデータが訓練データセットに含まれているか予測することを学習できる。

このような攻撃は、深刻な情報漏れにつながる恐れがある。例えば、ある人の医療データが疾病と関係するモデルの訓練に使われていたことが …

こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
人気の記事ランキング
  1. Lego bricks are making science more accessible 科学を身近にするレゴブロック、大学の実験装置にも応用
  2. Promotion Call for entries for Innovators Under 35 Japan 2024 「Innovators Under 35 Japan」2024年度候補者募集のお知らせ
  3. Why artists are becoming less scared of AI 見えてきた「生成AIの限界」がアーティストの不安を取り除く
  4. A way to let robots learn by listening will make them more useful 見落とされてきた「耳」、音を学んだロボットはもっと賢くなる
  5. How fish-safe hydropower technology could keep more renewables on the grid 水力発電の環境負荷を軽減、魚と共生する次世代タービン
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。2024年も候補者の募集を開始しました。 世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。

特集ページへ
MITTRが選んだ 世界を変える10大技術 2024年版

「ブレークスルー・テクノロジー10」は、人工知能、生物工学、気候変動、コンピューティングなどの分野における重要な技術的進歩を評価するMITテクノロジーレビューの年次企画だ。2024年に注目すべき10のテクノロジーを紹介しよう。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る