KADOKAWA Technology Review
×
10/9「生成AIと法規制のこの1年」開催!申込み受付中

ニューズラインエマージング・テクノロジーの最新情報をお届け。

フェイスブック、機械学習でリベンジ・ポルノを自動検出へ
AP
Facebook says it’s going to use machine learning to catch revenge porn

フェイスブック、機械学習でリベンジ・ポルノを自動検出へ

フェイスブックが人工知能(AI)を使ってリベンジ・ポルノに対処できると考えていること自体、AIの人物を特定する能力が相当強力になったことを物語っている。

フェイスブックは3月15日、本人の許可なく共有されたヌードやそれに近い動画および画像を、機械学習を使って通報を受ける前の段階で検出してブロックすると発表したリベンジ・ポルノ(たいていは元交際相手の性的な動画を、本人の許可無く共有する行為)は、重大な問題となっており、被害者に深刻な被害をもたらしている。フェイスブックはまた、リベンジ・ポルノの被害者が、未承認画像を通報する手続きを全面的に見直すことも発表した。

フェイスブックはどのような機械学習ツールを使うのか具体的には説明していない。だが、フェイスブックは、ユーザーから提供された膨大な数のラベル付き訓練データのおかげで、画像内に含まれる人々を特定する無類の高い能力を備えている。

多くのユーザーは気づいていないが、ソーシャルメディアの写真は、機械学習アルゴリズムの訓練に幅広く利用されている。最先端のプログラムは、スナップ写真の中から人々を特定する能力で人間を上回っている。

新しい検出テクノロジーは、AIを使って説得力のあるフェイク動画をより簡単に作成できるようになった現在だからこそ、特に重要なのかもしれない。人の顔を簡単に入れ替えられるソフトウェアの登場で、有名人の偽ポルノや奇妙な合成動画の拡散につながっている。

フェイスブックの今回の試みは機械学習の活用法として価値あるものだが、AIはソーシャルメディア上の嫌がらせ、虐待、またはフェイクニュースに一挙に対応できる確実な解決策では決してない(マーク・ザッカーバーグCEOが議会で何を語ろうとも)。人間はいつだって、最高のアルゴリズムを出し抜く策を考え出すものだ。さらに、この問題は悲しむべきことに、フェイスブックの壁などをはるかに通り越して広がっているのだ。

ウィル ナイト [Will Knight] 2019.03.19, 12:22
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。2024年も候補者の募集を開始しました。 世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。

特集ページへ
MITテクノロジーレビューは有料会員制サイトです
有料会員になると、毎月150本以上更新されるオリジナル記事が読み放題!
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る