KADOKAWA Technology Review
×

ニューズラインエマージング・テクノロジーの最新情報をお届け。

フェイスブック、フォトショップ画像見抜くAIを開発中 Fake images spread fast on Facebook—and its AI filters are missing them

フェイスブック、フォトショップ画像見抜くAIを開発中

フェイスブックがなかなか克服できないといわれている大量改ざん兵器がある。フォトショップだ。

ウォール・ストリート・ジャーナル紙 によると、不正に加工された画像は、「2016年の米大統領選中、ロシアのプロパガンディストがねつ造した情報を拡散するために使った、極めて重大だが実は簡単なテクニック」だった。

人は画像が大好きだ。ソーシャルメディアではテキストだけの投稿よりも、画像付きの投稿をシェアすることが多い。 フェイクコンテンツや誤解を招くメッセージを挿入するために画像を編集することは、プロパガンダをすばやく拡散するのに便利な方法なのだ。

人工知能(AI)は画像内の物体を識別することはできても、画像がなぜ、どのようにして変更されたのかを理解することは難しい。文脈を理解する必要があるからだ。とりわけ、フェイスブックはコンテンツの検閲に神経質で、 より簡単なはずのテキスト投稿を取り下げるプロセスの自動化さえしていない。

ウォール・ストリート・ジャーナル紙の報道によると、フェイスブックは文脈を無視して使われた画像を特定できるシステムの開発に取り組んでいるという。だが、まだしばらくの間、ニュース・フィードにはフェイク画像が出回ることになりそうだ。

ジェイミー コンドリフ [Jamie Condliffe] 2018.02.27, 11:47
MITテクノロジーレビューは有料会員制サイトです
有料会員になると、毎月150本以上更新されるオリジナル記事が読み放題!
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る