最新の顔認識システムを欺き、別の人物の顔として認識させられることが、研究者らによって実証された。

サイバーセキュリティ企業であるマカフィーの研究チームは、現在空港でパスポートの照合に利用されているものと同様の顔認識システムに対して攻撃を仕掛けた。同チームは機械学習を利用して、人間の目にはある人と同一人物に見えるが、顔認識アルゴリズムには別人と判定される人物の画像を生成した。つまり、ある人物が搭乗拒否リストに載っているにもかかわらず、機械を騙してその人物の搭乗を許可させることが可能になる。

「顔認識を利用して人物を識別し、顔を読み取ってパスポート写真と照合するライブカメラを使っている場合、現実的に、特定の人物をターゲットとするこの種の誤判定が何度も発生する可能性があります」。研究論文の主執筆者であるスティーブ・ポヴォルニーは言う。

誤判定の仕組み

アルゴリズムに誤った判定を出させるために、研究チームは「サイクルガン（CycleGAN）」と呼ばれる画像変換アルゴリズムを利用した。サイクルガンは写真のスタイルを変化させることに長けていて、例えば港の風景を写した写真をモネの絵のようにしたり、夏に撮られた山の写真を冬に撮られたように見せたりできる。

マカフィーの研究チームはこのプロジェクトを主導した2人の写真を1500枚ずつ使い、画像をサイクルガンに読み込ませて、互いにモーフィングさせた。 同時に顔認識アルゴリズムを使って、サイクルガンが生成した画像をどのように認識するかをチェックした。数百の画像生成を経て、サイクルガンはついに、肉眼では人物Aに見えるにもかかわらず、顔認識システムには人物Bだと判定されるフェイク画像を作り出すことに成功した。

この研究は顔認識システムのセキュリティに対して明確な懸念を投げかけているが、注記しておくべきこともある。第一に、研究チームは空港で搭乗客の本人確認に用いられている実際のシステムを使用したわけではなく、オープンソース化された最先端のアルゴリズムをそれとほぼ同等とみなして使用している。「攻撃者側にとって一番の難関となるのは、攻撃対象とするシステムへのアクセス手段がないという点だと思います」とポヴォルニーは語る。それでも、顔認識アルゴリズム間の類似性の高さを考えれば、実際の空港のシステムを攻撃できる可能性は高いと考えている。

第二に、現状ではこういった攻撃には多くの時間とリソースが必要となる。高性能のコンピューターと、顔認識アルゴリズムの訓練や処理実行に関する専門知識がなければ、サイクルガンを扱うことはできない。

しかし、顔認識システムと自動入国審査は、世界中の空港の安全管理にますます多く導入されている。この動きは新型コロナウイルス感染症（COVID-19）のパンデミックと、非接触型システムへの需要の高まりでますます加速している。また、顔認識テクノロジーはすでに、取り締まりや雇用、イベントのセキュリティ管理などの幅広い分野で、政府や企業に使われている。だが一方で、多くの団体が顔認識システムの開発の一時停止を求めており、顔認識テクノロジーの使用を禁止した都市もある。

顔認識システムの信頼性を覆す技術的試みは他にもある。シカゴ大学の研究チームは最近、「ファークス（Fawkes）」というツールをリリースした。ファークスはソーシャルメディアに投稿された写真に微細な加工を施すことで顔を「被い隠す」ツールで、ネット上からかき集めた何十億という画像のデータベースに支えられるAIシステムを欺くことができる。また、人工知能（AI）関連企業であるネロン（Kneron）の研究チームも、すでに世界中で実用されている顔認識システムを、マスクによってどのようにごまかせるのかを明らかにした。

顔認識AIシステムに内在する脆弱性を実証し、顔認識技術に関する最新情報を共有して議論を続けていく必要性を明確に示すことが最終目標であると、マカフィーの研究チームは述べている。

「AIと顔認識は、本人の確認と承認の手続きを補助してくれる非常に強力なツールです」とポヴォルニーは言う。「しかし、何らかの2次的なチェックを経ることもなく、やみくもに導入して人間の手による従来のシステムをすべて置き換えてしまうと、突如として、おそらく以前よりも大きな弱みを抱えてしまうことになります」。

• 88
• 26
• 2
• 4

人気の記事ランキング

1. The Biggest Questions: Are we alone in the universe? 地球外生命体は存在するか？ 人類の先入観を超えた探索
2. Google DeepMind wants to define what counts as artificial general intelligence 汎用人工知能（AGI）とは何か？ ディープマインドが定義を提案
3. Huawei’s 5G chip breakthrough needs a reality check 中国テック事情：ファーウェイ「独自チップ」衝撃も厳しい現実
4. Text-to-image AI models can be tricked into generating disturbing images AIモデル、「脱獄プロンプト」で不適切な画像生成の新手法