機械学習で偽アカウント検出
フェイスブック対スパマーの
終わりなき戦い

2019年、フェイスブックは四半期あたり平均20億近くの偽アカウントを削除した。詐欺師たちはこれらの偽のアカウントを使って、スパムやフィッシングサイトへのリンク、マルウェアなどを拡散する。罠にかかった罪のないユーザーに壊滅的な被害を与えかねない、「儲かる」ビジネスだ。

フェイスブックは現在、偽アカウントの問題に取り組むために使用している機械学習システムの詳細を公表している。フェイスブックは偽アカウントを2種類に区別する。1つは、「ユーザーによって誤って分類されたアカウント」だ。それらは企業またはペットの個人プロファイルであり、本来は「ページ」にすべきものだ。これは比較的簡単に処理できる。ページに変換するだけで済むからだ。 一方、「違反アカウント」は深刻だ。詐欺やスパムに関与したり、プラットフォームの利用規約に違反したりする個人プロファイルだからだ。違反アカウントは、適用範囲を広げすぎたり本物のアカウントを妨害したりすることがないよう配慮しつつ、できるだけ速やかに削除する必要がある。

そのためフェイスブックは、手動でコーディングしたルールと機械学習を使用して、アカウントの作成前あるいはアカウントがアクティブになる前に（つまり、実際のユーザーに害を及ぼす前に）、偽アカウントの作成をブロックしている。それでもすり抜けてしまった場合は偽アカウントの公開後に対応するが、これまでは検出が複雑で難しかった。そこで登場したのが、「ディープ・エンティティ・クラシフィケーション（Deep Entity Classification：DEC）」と同社が呼ぶ、新しい機械学習システムだ。

深く調べる

DECは、そのアカウントがネットワーク全体でのどのようなコネクションのパターンを持っているかによって、偽のユーザーと実際のユー …

人気の記事ランキング

1. What’s behind this summer’s heat, and why 2027 could be worse 記録ずくめの猛暑の夏、しかし本番は来年かもしれない
2. Scientists just created female clones of male mice オスのマウスからメス作製、日本チームが遺伝子編集で性逆転に成功
3. These startups are chasing the next big thing in LLMs トランスフォーマーに限界、 次世代LLMを担う 4つの最新アプローチ
4. Flock is tightening its rules in response to a growing surveillance backlash 警察官がストーカー目的で悪用、米車両監視大手の規則強化は効くか