KADOKAWA Technology Review
×
機械学習で偽アカウント検出
フェイスブック対スパマーの
終わりなき戦い
Ms Tech
知性を宿す機械 無料会員限定
How Facebook uses machine learning to detect fake accounts

機械学習で偽アカウント検出
フェイスブック対スパマーの
終わりなき戦い

ソーシャルメディア上の偽アカウントは、スパムやフィッシングリンク、マルウェアを拡散し、ユーザーにさまざまな被害をもたらす。フェイスブックはネットワーク全体におけるコネクション・パターンにより偽アカウントを見抜く人工知能(AI)システムを運用し、大量の偽アカウントを削除している。 by Karen Hao2020.03.09

2019年、フェイスブックは四半期あたり平均20億近くの偽アカウントを削除した。詐欺師たちはこれらの偽のアカウントを使って、スパムやフィッシングサイトへのリンク、マルウェアなどを拡散する。罠にかかった罪のないユーザーに壊滅的な被害を与えかねない、「儲かる」ビジネスだ。

フェイスブックは現在、偽アカウントの問題に取り組むために使用している機械学習システムの詳細を公表している。フェイスブックは偽アカウントを2種類に区別する。1つは、「ユーザーによって誤って分類されたアカウント」だ。それらは企業またはペットの個人プロファイルであり、本来は「ページ」にすべきものだ。これは比較的簡単に処理できる。ページに変換するだけで済むからだ。 一方、「違反アカウント」は深刻だ。詐欺やスパムに関与したり、プラットフォームの利用規約に違反したりする個人プロファイルだからだ。違反アカウントは、適用範囲を広げすぎたり本物のアカウントを妨害したりすることがないよう配慮しつつ、できるだけ速やかに削除する必要がある。

そのためフェイスブックは、手動でコーディングしたルールと機械学習を使用して、アカウントの作成前あるいはアカウントがアクティブになる前に(つまり、実際のユーザーに害を及ぼす前に)、偽アカウントの作成をブロックしている。それでもすり抜けてしまった場合は偽アカウントの公開後に対応するが、これまでは検出が複雑で難しかった。そこで登場したのが、「ディープ・エンティティ・クラシフィケーション(Deep Entity Classification:DEC)」と同社が呼ぶ、新しい機械学習システムだ。

深く調べる

DECは、そのアカウントがネットワーク全体でのどのようなコネクションのパターンを持っているかによって、偽のユーザーと実際のユー …

こちらは会員限定の記事です。
メールアドレスの登録で続きを読めます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
Innovators Under 35 Japan 2020

MITテクノロジーレビューが主催するグローバル・アワード「Innovators Under 35」が2020年、日本に上陸する。特定の分野や業界だけでなく、世界全体にとって重要かつ独創的なイノベーターを発信していく取り組みを紹介しよう。

記事一覧を見る
MITテクノロジーレビュー[日本版] Vol.1/Autumn 2020
MITテクノロジーレビュー[日本版] Vol.1/Autumn 2020AI Issue

技術動向から社会実装の先進事例、倫理・ガバナンスまで、
AI戦略の2020年代のあたらしい指針。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る