九州大学の研究チームが画像認識AIを騙す新しいアプローチを発明した。
人工知能（AI）にぼろを出させようという取り組みは、多くの研究者にとって人気のある遊びとなっており、MITテクノロジーレビューでも過去に何度か報じてきた。一般的なアプローチは、ニューラル・ネットワークの間違いを誘う特徴を画像に追加することで、まったく異なるものと認識させることだ。
アーカイブ（arXiv）に掲載された九州大学の新しい研究では、AIを混乱させて画像を誤認識させるために、変更すべきピクセルをもっとも効率よく識別するアルゴリズムについて説明している。1024ピクセルの画像の中のわずか1ピクセルを変えることで、約74％のAIを騙せるという。5ピクセル調整した場合の数値は約87％にまで上昇する。
上に掲載した画像はそのいくつかの例だ。AIを騙すことで、飛行機を犬、カエルをトラック、そして馬を車、といった具合に誤認識させている。
英国のニュースサイト「ザ・レジスター（theRegister）」が指摘しているように、1024ピクセルの画像はかなり小さく、大きな画像の場合は数百ピクセル調整しなければならない。だが最小限のピクセルを変えるだけでAIに間違えさせようという取り組みは興味深いものだ。同時に、心配なことでもある。これまでも説明してきたように、こうしたやり方からAIを守る手段を見つけるのは非常に難しい。というのも、多層ニューラルネットワークが内部でどのように動いているのか、実際のところまだ分からないからだ。
それが分かるまで、こうしたハックを防ぐのは難しそうだ。