機械学習で偽アカウント検出
フェイスブック対スパマーの
終わりなき戦い

2019年、フェイスブックは四半期あたり平均20億近くの偽アカウントを削除した。詐欺師たちはこれらの偽のアカウントを使って、スパムやフィッシングサイトへのリンク、マルウェアなどを拡散する。罠にかかった罪のないユーザーに壊滅的な被害を与えかねない、「儲かる」ビジネスだ。

フェイスブックは現在、偽アカウントの問題に取り組むために使用している機械学習システムの詳細を公表している。フェイスブックは偽アカウントを2種類に区別する。1つは、「ユーザーによって誤って分類されたアカウント」だ。それらは企業またはペットの個人プロファイルであり、本来は「ページ」にすべきものだ。これは比較的簡単に処理できる。ページに変換するだけで済むからだ。 一方、「違反アカウント」は深刻だ。詐欺やスパムに関与したり、プラットフォームの利用規約に違反したりする個人プロファイルだからだ。違反アカウントは、適用範囲を広げすぎたり本物のアカウントを妨害したりすることがないよう配慮しつつ、できるだけ速やかに削除する必要がある。

そのためフェイスブックは、手動でコーディングしたルールと機械学習を使用して、アカウントの作成前あるいはアカウントがアクティブになる前に（つまり、実際のユーザーに害を及ぼす前に）、偽アカウントの作成をブロックしている。それでもすり抜けてしまった場合は偽アカウントの公開後に対応するが、これまでは検出が複雑で難しかった。そこで登場したのが、「ディープ・エンティティ・クラシフィケーション（Deep Entity Classification：DEC）」と同社が呼ぶ、新しい機械学習システムだ。

深く調べる

DECは、そのアカウントがネットワーク全体でのどのようなコネクションのパターンを持っているかによって、偽のユーザーと実際のユー …

人気の記事ランキング

1. Apple AirPods : a gateway hearing aid お値段10分の1のAirPods補聴器はどれぐらい使える？
2. Promotion MITTR Emerging Technology Nite #34 【9/10開催】伝説の玩具「アームトロン」開発者が誕生秘話を語る
3. On the ground in Ukraine’s largest Starlink repair shop ＜現地ルポ＞ウクライナの 生命線「スターリンク」 1万台超を直した非公式工場
4. Should AI flatter us, fix us, or just inform us? 迷走したチャットGPTの人格設計、問われる人間との距離感
5. What you may have missed about GPT-5 肩透かしだったGPT-5、オープンAIの方針転換に危うさ