KADOKAWA Technology Review
×
無料の会員登録で、記事閲覧数が増えます
コネクティビティ Facebook Is Enlisting Human Experts and AI to Fight Terrorism

フェイスブックの人工知能はテロとの戦いを制するのか?

フェイスブックが専門家と人工知能を駆使して、テロ組織によるソーシャル・ネットワークの利用を阻止しようとしている。 by Jamie Condliffe2017.06.21

Heightened security was put in place on the streets of New York City after London's recent terror attacks.
ロンドンでのテロ事件を受け、ニューヨーク市に厳重警備体制が敷かれた。

最近のテロ攻撃の続発を受け、政治家たちは、過激主義の温床となっているとしてソーシャル・ネットワークを非難した。そんな中、フェイスブックは「テロリストに厳しい環境」へと変化すべく人工知能(AI)を開発し、150人の専門家を雇って対策チームの設置を進めていると発表した。

フェイスブックのマーク・ザッカーバーグCEO(最高経営責任者)は、自らが夢想する未来像の中でフェイスブックが直面している問題(暴力的コンテンツや児童虐待、ねつ造ニュース、過激主義など)の多くはAIの発展によって軽減される、と説明した。強力なアルゴリズムで不快なコンテンツと不正ユーザーを検知し、問題が解消できるかもしれない、というのが彼の持論だ。

しかし現在のところ、ザッカーバーグCEOの構想はまだ実現していない。実際のところ、ねつ造ニュースの事実確認は第三者によって行われているし、有害な内容を含む可能性のあるコンテンツを鑑別するために数千名が雇われている。これらの対策はもちろん良い取り組みではあるが、 ザッカーバーグが実現を約束した自動化による解決策ではない。

それでも、フェイスブックはAIを活用し、過激主義者による戦闘員の募集とプロパガンダの影響力を弱めようと努めている。その取り組みについて語られた声明の中で、フェイスブックのグローバル・ポリシー管理担当ディレクターのモニカ・ビッカートとテロ対策ポリシー責任者のブライアン・フィッシュマンの2人は、フェイスブックがテロリズムへの対抗手段としてAIを活用し始めたのはごく最近のことだが、すでに良い効果が出ていると述べた。

フェイスブックはテロリズムへの対抗手段として、具体的には以下のような取り組みを行っている。

  • 画像認識技術を用いて以前に削除を受けたコンテンツを特定し、再投稿を防止する
  • テキスト分析によってテロリズム関連言語を洗い出し、プロパガンダを特定する
  • 不適切なユーザーによる一般ユーザーへの接触を監視し、過激主義者による戦闘員の募集行為を特定する
  • 不適切な投稿を繰り返すユーザーが新たにアカウントを作る行為を監視し、アカウント停止措置を迅速化する

当然、これらの取り組みのどれか1つにでも効力があるのかどうかは大きな疑問だ。複雑にもつれ合ったネット上の社会問題の解決に人工知能を活用しようとする他の試み(たとえばグーグルによるヘイト・スピーチ根絶の取り組みなど)は、いまだに芳しい成果を上げていない。その大きな要因となっているのが、どんなに賢いAIが相手であっても、人間はその裏をかき、出し抜く方法を見つけ出してしまうという事実だ。たとえばグーグルのケースでは、言葉が伏せられ、置き換えられたために、AIは発言の真意を特定することができなかった。

実際、フェイスブックは厄介な問題だとわかっている。「テロに対する取り組みにはきりがありません。なぜなら、これは敵意による行為であり、テロリスト側も手段を発達させ続けているからです」。

テクノロジーだけでは問題を解消できないとフェイスブックが認めつつあるのは、このためかもしれない。フェイスブックは、テロ対策の専門家150名からなるチームも設置した。元学者や元捜査官、元司法当局職員をメンバーに含む専門チームが、投稿されたコンテンツを解読して問題の発見にあたる。また同社は、フェイスブック単独では問題を解決できないとの認識から、 ほかのSNSサービスや行政とも協力しながら対処を続けていくとしている。

人間の直感力と、単純作業を得意とするAIの機能とを組み合わせることで、フェイスブックは長年にわたって蔓延してきた問題を、最大限の努力をもって根絶しようとしている。しかし、人間とAIが力を合わせても、過激主義者を上回るほどの知恵が発揮できるかは未知数だ。

(関連記事:Facebook, “グーグルが目指す暴言のないネット社会は全体主義にそっくり,”  “Fighting ISIS Online,” “Theresa May Wants to End ‘Safe Spaces’ for Terrorists on the Internet. What Does That Even Mean?”)

人気の記事ランキング
  1. Potential Carbon Capture Game Changer Nears Completion 二酸化炭素を完全に回収、 「未来の火力発電所」が 間もなく稼働
  2. DENSO A.I. TECH SEMINAR 2017 機械学習でクルマはどう進化するか?第一人者が集う技術セミナー
  3. The Truth about China’s Cash-for-Publication Policy ネイチャー掲載で年収20倍、中国の報奨金制度の実態が判明
  4. Amazon Has Developed an AI Fashion Designer ファッション業界に衝撃、 アマゾンがAIデザイナーを 開発中
  5. Are There Optical Communication Channels in Our Brains? 人間の脳内に光通信チャネルが存在する可能性
ジェイミー コンドリフ [Jamie Condliffe]米国版 ニュース・解説担当副編集長
MIT Technology Reviewのニュース・解説担当副編集長。ロンドンを拠点に、日刊ニュースレター「ザ・ダウンロード」を米国版編集部がある米国ボストンが朝を迎える前に用意するのが仕事です。前職はニューサイエンティスト誌とGizmodoでした。オックスフォード大学で学んだ工学博士です。
「コネクティビティ」の記事
人気の記事ランキング
  1. Potential Carbon Capture Game Changer Nears Completion 二酸化炭素を完全に回収、 「未来の火力発電所」が 間もなく稼働
  2. DENSO A.I. TECH SEMINAR 2017 機械学習でクルマはどう進化するか?第一人者が集う技術セミナー
  3. The Truth about China’s Cash-for-Publication Policy ネイチャー掲載で年収20倍、中国の報奨金制度の実態が判明
  4. Amazon Has Developed an AI Fashion Designer ファッション業界に衝撃、 アマゾンがAIデザイナーを 開発中
  5. Are There Optical Communication Channels in Our Brains? 人間の脳内に光通信チャネルが存在する可能性
ザ・デイリー重要なテクノロジーとイノベーションのニュースを平日毎日お届けします。
公式アカウント