KADOKAWA Technology Review
×
「実在しない顔」は実在しない? AIが作った架空の顔を巻き戻す
Ms Tech | Pexels, thispersondoesnotexist.com
知性を宿す機械 Insider Online限定
AI fake-face generators can be rewound to reveal the real faces they trained on

「実在しない顔」は実在しない? AIが作った架空の顔を巻き戻す

深層学習モデルは内部で何が起こっているのかが明らかにならない「ブラック・ボックス」であり、情報は漏れない。こうした一般的な考え方に疑問を投げかける研究成果が発表されている。 by Will Douglas Heaven2021.10.19

「この人は実在していません(This Person Does Not Exist)」というWebサイトを読み込むと、人の顔が表示される。実在する人の顔に限りなく近いが、まったくの架空の顔だ。ページをリロードするたびに、裏で作動しているニューラル・ネットワークが、次から次へと新しい架空の顔を表示する。人工知能(AI)が作成する無限に続く架空の顔は、GAN(敵対的生成ネットワーク)によって生成されているものだ。GANは、訓練データから本物そっくりの偽のサンプルを作成するように学習する、AIの一種である。

こうしたAIによって作成された顔は、CGを使った映画や広告に使われ始めている。だが、実は見た目ほど唯一無二な顔ではないのかもしれない。フランス・カーン大学のライアン・ウェブスターらが発表した論文『この人は(おそらく)実在しています(This Person (Probably) Exists)』は、GANにより生成された架空の顔の多くには、実在する人の顔を使った訓練データとの間に著しい類似点があると指摘している。架空の顔はGANの訓練に用いられた実在する顔を事実上明らかにでき、訓練データとして使われた個人の身元の公開を可能にしてしまう。AIモデルは一般に内部で何が起こっているか分からない「ブラック・ボックス」だとされるが、こうした考え方に疑問を投げかける最新の研究である。

ウェブスターら研究チームは、訓練データに隠されている個人の正体を明らかにするために、「メンバーシップ攻撃(Membership attack)」を使った。メンバーシップ攻撃は、あるデータがAIモデルの訓練に使われたかどうかを判別するのに使える手法だ。この攻撃では一般的に、あるAIモデルを訓練したデータ、つまりすでに数千回も目にしたデータと初見のデータとの間の、微妙な違いをうまく利用する。例えば、あるモデルは以前見たことがない画像を正確に識別できるが、訓練に使われた画像と比べるとわずかに信頼度が落ちる。2つ目のモデルは、最初のモデルの振る舞いからヒントを得て、写真などの特定のデータが訓練データセットに含まれているか予測することを学習できる。

このような攻撃は、深刻な情報漏れにつながる恐れがある。例えば、ある人の医療データが疾病と関係するモデルの訓練に使われていたことが …

こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
日本発「世界を変える」35歳未満のイノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を発信する。

記事一覧を見る
MITテクノロジーレビュー[日本版] Vol.5
MITテクノロジーレビュー[日本版] Vol.5Cities Issue

新型コロナのパンデミックによって激変した都市生活は、ポストコロナでどう変わるのか? 都市部への人口集中が世界で加速する中、環境、災害、貧困といった負の側面をテクノロジーは解決できるのか? 多様な人々が集まり、化学反応が起きるイノベーションの集積地としての役割を都市は今後も果たし続けるのか? 世界の豊富な事例と識者への取材を通して、新しい都市の未来像を描く。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る