KADOKAWA Technology Review
×
特報:内部文書で判明、
フェイスブックを汚染する
「トロールファーム」の実態
MIT Technology Review | Envato elements
コネクティビティ 無料会員限定
Troll farms reached 140 million Americans a month on Facebook before 2020 election, internal report shows

特報:内部文書で判明、
フェイスブックを汚染する
「トロールファーム」の実態

トロールファーム(情報工作組織)によるフェイスブック・ページが、月間1億4000万もの米国人ユーザーにリーチしていたことがフェイスブックの社内報告書で明らかになった。外国勢力の介入が疑われる2016年の米大統領選の後も、同社は根本的な対策を導入しなかったという。 by Karen Hao2021.09.29

米国史上最大の激戦となった2020年の大統領選の期間中、キリスト教系米国人とアフリカ系米国人向けのコンテンツを掲載するフェイスブック・ページでもっとも閲覧されたのは、東欧のトロールファーム(情報工作組織)が運営するページだった。フェイスブックの内部報告書によると、それらのページは巨大ネットワークの一部であり、ネットワーク全体では全米国民のほぼ半数にリーチしていたという。しかも、これらのページがそこまで多く閲覧されたのは、ユーザー自身が選択したからではなく、フェイスブックのプラットフォーム設計と、エンゲージメントを強く求めるアルゴリズムの結果だという。

MITテクノロジーレビューはフェイスブックの元社員から、2019年10月に作成された内部報告書を入手した。提供元の元社員はこの内部調査には関与していない。報告書によると、フェイスブックは2016年の米大統領選後も、情報を促進・配信する方法を根本的に変更することを優先しなかった。その代わりにフェイスブックは、政治的言説に携わる悪質なアクター(行為者)の活動を監視および鎮圧し、「最悪中の最悪」の事態を防ぐガードレールを追加するというもぐら叩きのような戦略を遂行した。

しかし、このアプローチは、根本的な問題を食い止めるうえでほとんど効果がなかったと報告書は指摘している。トロールファームは刺激的な内容、しばしばプロパガンダを、ソーシャルネットワークに投稿するために協調して動くプロ集団だ。フェイスブック・ページのネットワークを運営することで、依然として膨大な数の読者を獲得しており、投稿は月間1億4000万もの米国人ユーザーにリーチしていた。うち75%は、ほかにどのページもフォローしていなかった。多くの米国人がコンテンツを閲覧したのは、フェイスブックの「おすすめ」システムが、トロールファームの投稿をニュースフィードに上げたためだった。

「ユーザーがこれらのトロールファームからコンテンツを受け取ることを選択しているのではなく、当社のプラットフォームが(トロールファームに)多数のユーザーを与えることを選択している」。内部報告書を作成したフェイスブックの上級データ科学者(当時)ジェフ・アレンはこう記している。

フェイスブックのジョー・オズボーン広報責任者は、アレン元上級データ科学者が報告書を作成した時点でフェイスブックは「すでにこれらのトピックを調査していました」と声明文の中で述べた。「それ以来、当社はチームを立ち上げ、新しいポリシーを策定し、業界内の同業者と協力して、これらのネットワークに対処してきました。私たちは、このような国内外の不正グループに対して積極的な強制措置を講じ、その結果を四半期ごとに公表しています」。

本稿の公開直前のファクトチェックにおいて、MIT テクノロジーレビューは、報告書に記載があるトロールファームのページのうち、5つがいまだに活動していることを発見した。

ロシア政府の支援を受けたインターネット・リサーチ・エージェンシー(IRA)は2016年の米大統領選の期間中、ターゲットをキリスト教系米国人および黒人の米国人とネイティブアメリカンに定めた。今回のトロールファームも、それと同じユーザー層に手を伸ばしていたことが報告書で明らかになっている。2018年のバズフィード・ニュースの調査によると、2016年の米大統領選における介入の疑いで起訴されたIRAのメンバーのうち少なくとも1人が、複数のトロールファームが最初に出現した前後にマケドニアを訪れている。だが、そのつながりを示す具体的な証拠は見つかっていない(フェイスブックによると、同社の調査でも、IRAとマケドニアのトロールファームの結びつきは見つからなかったとのこと)。

「これは普通のことではありません。健全とは決して言えません」とアレン元上級データ科学者は記している。「フェイスブックは不正なトロールファームに対して、ほとんど未知の目的のために、膨大な数のユーザーを獲得する力を与えてきました。(中略)IRAとつながっている可能性のあるトロールファームが、IRAのターゲットとなったユーザー層において膨大な数のユーザーにリーチしている事実は、2020年の米大統領選に大きなリスクをもたらします」。

トロールファームがこのような戦術で成功を収めた以上、他の悪質なアクターも追随する可能性があるとアレン元上級データ科学者は続ける。「トロールファームがアフリカ系米国人をターゲットにしたコンテンツで米国のユーザー3000万人を …

こちらは会員限定の記事です。
メールアドレスの登録で続きを読めます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
日本発「世界を変える」35歳未満のイノベーター

MITテクノロジーレビューが主催するグローバル・アワード「Innovators Under 35 」の日本版が候補者を募集している。特定の分野や業界だけでなく、世界全体の重要な課題を解決するイノベーターを発信していく。

記事一覧を見る
MITテクノロジーレビュー[日本版] Vol.4/Summer 2021
MITテクノロジーレビュー[日本版] Vol.4/Summer 202110 Breakthrough Technologies

新型コロナウイルス・ワクチンの開発で脚光を浴びた「メッセンジャーRNA」技術から、人間並みの文章を自在に生成できる人工知能(AI)技術「GPT-3」、電気自動車(EV)普及の鍵を握る「次世代バッテリー」まで。MITテクノロジーレビューが選んだ「世界を変える10大テクノロジー」。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る