KADOKAWA Technology Review
×
顔認識を突破するフェイク画像の作成に成功、マカフィー
Michael Aleo/Unsplash
The hack that could make face recognition think someone else is you

顔認識を突破するフェイク画像の作成に成功、マカフィー

目視では同一人物に見えるのに、顔認識システムには別の人物と判定させるフェイク画像を作り出すことにマカフィーが成功した。高度なセキュリティが求められる状況への顔認識の闇雲な導入に警鐘を鳴らしている。 by Patrick Howell O'Neill2020.08.12

最新の顔認識システムを欺き、別の人物の顔として認識させられることが、研究者らによって実証された。

サイバーセキュリティ企業であるマカフィーの研究チームは、現在空港でパスポートの照合に利用されているものと同様の顔認識システムに対して攻撃を仕掛けた。同チームは機械学習を利用して、人間の目にはある人と同一人物に見えるが、顔認識アルゴリズムには別人と判定される人物の画像を生成した。つまり、ある人物が搭乗拒否リストに載っているにもかかわらず、機械を騙してその人物の搭乗を許可させることが可能になる。

「顔認識を利用して人物を識別し、顔を読み取ってパスポート写真と照合するライブカメラを使っている場合、現実的に、特定の人物をターゲットとするこの種の誤判定が何度も発生する可能性があります」。研究論文の主執筆者であるスティーブ・ポヴォルニーは言う。

誤判定の仕組み

アルゴリズムに誤った判定を出させるために、研究チームは「サイクルガン(CycleGAN)」と呼ばれる画像変換アルゴリズムを利用した。サイクルガンは写真のスタイルを変化させることに長けていて、例えば港の風景を写した写真をモネの絵のようにしたり、夏に撮られた山の写真を冬に撮られたように見せたりできる。

Examples of how cycleGAN morphs photos from one style into another, including turning a photo into a Monet, a horse into a zebra, and a summer landscape into a winter landscape.

マカフィーの研究チームはこのプロジェクトを主導した2人の写真を1500枚ずつ使い、画像をサイクルガンに読み込ませて、互いにモーフィングさせた。 同時に顔認識アルゴリズムを使って、サイクルガンが生成した画像をどのように認識するかをチェックした。数百の画像生成を経て、サイクルガンはついに、肉眼では人物Aに見えるにもかかわらず、顔認識システムには人物Bだと判定されるフェイク画像を作り出すことに成功した。

The intermediate stages of CycleGAN morphing person A into person B

この研究は顔認識システムのセキュリティに対して明確な懸念を投げかけているが、注記しておくべきこともある。第一に、研究チームは空港で搭乗客の本人確認に用いられている実際のシステムを使用したわけではなく、オープンソース化された最先端のアルゴリズムをそれとほぼ同等とみなして使用している。「攻撃者側にとって一番の難関となるのは、攻撃対象とするシステムへのアクセス手段がないという点だと思います」とポヴォルニーは語る。それでも、顔認識アルゴリズム間の類似性の高さを考えれば、実際の空港のシステムを攻撃できる可能性は高いと考えている。

第二に、現状ではこういった攻撃には多くの時間とリソースが必要となる。高性能のコンピューターと、顔認識アルゴリズムの訓練や処理実行に関する専門知識がなければ、サイクルガンを扱うことはできない。

しかし、顔認識システムと自動入国審査は、世界中の空港の安全管理にますます多く導入されている。この動きは新型コロナウイルス感染症(COVID-19)のパンデミックと、非接触型システムへの需要の高まりでますます加速している。また、顔認識テクノロジーはすでに、取り締まり雇用イベントのセキュリティ管理などの幅広い分野で、政府や企業に使われている。だが一方で、多くの団体が顔認識システムの開発の一時停止を求めており、顔認識テクノロジーの使用を禁止した都市もある。

顔認識システムの信頼性を覆す技術的試みは他にもある。シカゴ大学の研究チームは最近、「ファークス(Fawkes)」というツールをリリースした。ファークスはソーシャルメディアに投稿された写真に微細な加工を施すことで顔を「被い隠す」ツールで、ネット上からかき集めた何十億という画像のデータベースに支えられるAIシステムを欺くことができる。また、人工知能(AI)関連企業であるネロン(Kneron)の研究チームも、すでに世界中で実用されている顔認識システムを、マスクによってどのようにごまかせるのかを明らかにした

顔認識AIシステムに内在する脆弱性を実証し、顔認識技術に関する最新情報を共有して議論を続けていく必要性を明確に示すことが最終目標であると、マカフィーの研究チームは述べている。

「AIと顔認識は、本人の確認と承認の手続きを補助してくれる非常に強力なツールです」とポヴォルニーは言う。「しかし、何らかの2次的なチェックを経ることもなく、やみくもに導入して人間の手による従来のシステムをすべて置き換えてしまうと、突如として、おそらく以前よりも大きな弱みを抱えてしまうことになります」。

人気の記事ランキング
  1. OSIRIS-REx collected too much asteroid material and now some is floating away NASA探査機、小惑星のサンプル採取に成功も多過ぎて蓋が閉まらず
  2. Half the Milky Way’s sun-like stars could be home to Earth-like planets 「地球2.0」候補、天の川銀河に3億個以上存在か? 最新研究
  3. We just found a source for one of the most mysterious phenomena in astronomy 謎の天文現象「高速電波バースト」の発生源、最新研究で明らかに
  4. One in five covid-19 patients are diagnosed with a mental illness within 90 days 新型コロナ患者の5人に1人、回復後に精神疾患と診断
  5. How to make restaurants safer 間違いだらけの新型コロナ対策、飲食店の感染リスクを最小化する方法
パトリック・ハウエル・オニール [Patrick Howell O'Neill]米国版 サイバーセキュリティ担当記者
国家安全保障から個人のプライバシーまでをカバーする、サイバーセキュリティ・ジャーナリスト。
Innovators Under 35 Japan 2020

MITテクノロジーレビューが主催するグローバル・アワード「Innovators Under 35」が2020年、日本に上陸する。特定の分野や業界だけでなく、世界全体にとって重要かつ独創的なイノベーターを発信していく取り組みを紹介しよう。

記事一覧を見る
人気の記事ランキング
  1. OSIRIS-REx collected too much asteroid material and now some is floating away NASA探査機、小惑星のサンプル採取に成功も多過ぎて蓋が閉まらず
  2. Half the Milky Way’s sun-like stars could be home to Earth-like planets 「地球2.0」候補、天の川銀河に3億個以上存在か? 最新研究
  3. We just found a source for one of the most mysterious phenomena in astronomy 謎の天文現象「高速電波バースト」の発生源、最新研究で明らかに
  4. One in five covid-19 patients are diagnosed with a mental illness within 90 days 新型コロナ患者の5人に1人、回復後に精神疾患と診断
  5. How to make restaurants safer 間違いだらけの新型コロナ対策、飲食店の感染リスクを最小化する方法
MITテクノロジーレビュー[日本版] Vol.1/Autumn 2020
MITテクノロジーレビュー[日本版] Vol.1/Autumn 2020AI Issue

技術動向から社会実装の先進事例、倫理・ガバナンスまで、
AI戦略の2020年代のあたらしい指針。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る