KADOKAWA Technology Review
×

ニューズラインエマージング・テクノロジーの最新情報をお届け。

カラープリントした紙で「AIの監視」から逃れる方法
KU Leuven.
How to hide from the AI surveillance state with a color printout

カラープリントした紙で「AIの監視」から逃れる方法

人工知能(AI)を利用した映像技術が、店舗やオフィス、公共スペースなど、あらゆる場所で利用されるようになり、私たちの顔や行動を追跡している。中には、治安維持や政府による監視活動を強化する目的でこうした技術を取り入れている国もある。

だが幸いなことに、ベルギーのルーベン・カトリック大学の研究チームが先日、発表した研究のように、単純なカラー印刷物を使ってAI映像システムから逃れられることも多い。

研究チームは、独自に設計した画像を使って、AIベースのコンピューター・ビジョン・システムから人間全体を隠す方法を考案。著名なオープンソースの物体認識システムである「YoLo(v2)」でその効果を実証した。

このトリックによって、犯罪者が防犯カメラから隠れたり、反政府活動家が政府の監視を逃れたりできる可能性がある。著者の1人であるウィーブ・ファン・ランスト(博士課程生)は、「私たちの研究は、敵対的パッチを使うことでカメラ監視システムを回避できることを証明するものです」と述べている。

ファン・ランストによると、市販の映像監視システムにこの手法を適用するのは、それほど難しいことではないという。MITテクノロジーレビューの取材に対し、次のように説明する。「現時点では、使われている検知器が何かを知る必要があります。今後、私たちが目指しているのは、複数の検知器で同時に機能するパッチを生成することです。このパッチが機能すれば、監視システムで使われている検知器にも対応できる可能性が高くなります」。

ベルギーの研究チームによって実証されたこのトリックは、敵対的機械学習として知られている技術を活用している。ほとんどのコンピューター・ビジョンは、(畳み込み)ニューラル・ネットワークが物体を正しく分類できるようになるまで、教師データを与え、パラメーターを調整して、異なる物体を分類できるように学習させる必要がある。訓練済みの深層ニューラル・ネットワークにデータを与えた結果をモニタリングすることで、どのようなタイプの画像がシステムを混乱させたり、欺いたりできるか、推測は可能だ。

日常的に使われている監視カメラやソフトウェアにAI技術が利用されることが増えてきている現在、意義のある研究だと言える。こうしたAI技術は、アマゾンが運営している店舗など、いくつかの実験的店舗においてレジ待ちをなくすためにも使われている。中国では犯罪者を捕まえたり、さらに厄介なことに特定の民族を追跡したりするための新たな強力な手段としても利用され始めている。

ウィル ナイト [Will Knight] 2019.04.29, 6:59
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。2024年受賞者は11月発表予定です。 世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。

特集ページへ
MITテクノロジーレビューは有料会員制サイトです
有料会員になると、毎月150本以上更新されるオリジナル記事が読み放題!
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る