KADOKAWA Technology Review
×
6/15開催 「生成AI革命2」参加受付中【会員優待あり】
Tech Giants Are Joining Forces to Battle Terrorists’ Content

テロリストの動画や画像の締め出しに米系サービスが団結

一元管理されたデータベースによって、フェイスブックやツイッター、YouTubeなどで、過激主義の支持者が投稿した動画を複数のサイトにまたがってブロックできるようになる。 by Jamie Condliffe2016.12.07

フェイスブックとツイッター、マイクロソフト、YouTubeは、(イスラム原理主義や白人至上主義などの)過激主義コンテンツを各社が運営するWebサイトから効率的に排除するために協力する。

ソーシャルメディアの二枚舌的な戦略は、イスラム国(ISIS)などのテロ組織による動画や画像の拡散、構成員の勧誘、暴力の扇動を助長してきた。昨年の記事でも伝えたとおり、特にISISは「21世紀のテクノロジーを利用して、大量殺戮や拷問、レイプ、奴隷化、遺跡の破壊など、ほとんど中世のようなイデオロギーを広めている」。

こうしたコンテンツを広めるのに使われているWebサイトは現在、アップロードされたコンテンツを精査しブロックするために協力し始めている。あるメディアファイルを固有の番号で表現する「ハッシュ化」の手法で、各サイトで禁止・削除されたコンテンツの記録を共有する予定だ。

今年発表された報告によると、グーグルとフェイスブックがすでに過激主義のコンテンツをブロックするためにハッシュ化を応用する実験を開始している。データベースは2017年初頭に運用が開始される予定だが、新しい共有データベースが実装されれば、ある会社で禁止・削除されたコンテンツは別の会社のWebサイトからも削除されることになる。

ブラックリストに載ったからといって、アルゴリズムでコンテンツが自動判別されるわけではない。人間がブロックの判断に関わることで、たとえばテロリズムに関する報道が誤削除されないようにする。

ダートマス大学のハニー・ファリド教授(コンピューター科学)は、ガーディアン紙上で、こうした人間による確認も注意深く監督しなければならない、と警告している

「過激主義のコンテンツに精通した人に、最新の状況に基づいて審査されていることを確認させる必要があります。そうしなければ、個々のテック企業に判断のすべてを委ねてしまうことになります」

それでも、歓迎すべきニュースだ。テック企業は以前から過激主義のコンテンツを当局に通報することに抵抗してきた。だが政治的なプレッシャーが増大する中で、テック企業は明らかに、これまでの手法の見直しを迫られている。

(関連記事:The New York Times, The Guardian, “Fighting ISIS Online,” “シリコンバレー企業はハッシュ関数でテロと闘う,” “What Role Should Silicon Valley Play in Fighting Terrorism?”)

人気の記事ランキング
  1. Meet the people who use Notion to plan their whole lives 生産性マニアが「Notion」で生活の95%を回す理由
  2. MITTR Emerging Technology Nite #23 Plus MITTR主催「生成AI革命2」開催(オンライン&東京)のご案内
  3. A chatbot that asks questions could help you spot when it makes no sense チャットGPT、「質問付き」回答で騙される人が減ることが判明
ジェイミー コンドリフ [Jamie Condliffe]米国版 ニュース・解説担当副編集長
MIT Technology Reviewのニュース・解説担当副編集長。ロンドンを拠点に、日刊ニュースレター「ザ・ダウンロード」を米国版編集部がある米国ボストンが朝を迎える前に用意するのが仕事です。前職はニューサイエンティスト誌とGizmodoでした。オックスフォード大学で学んだ工学博士です。
生成AI革命

自然な文章を生成するチャットGPT(ChatGPT)/GPT-4などの大規模言語モデル、テキストから画像を生成できるDALL·E 、Stable Diffusion、Midjourneyなどの拡散モデルの登場は、私たちの生活やビジネスを大きく変えようとしている。
人工知能(AI)の新時代を牽引する「生成AI(ジェネレーティブAI)」革命の最前線を追う。

記事一覧を見る
人気の記事ランキング
  1. Meet the people who use Notion to plan their whole lives 生産性マニアが「Notion」で生活の95%を回す理由
  2. MITTR Emerging Technology Nite #23 Plus MITTR主催「生成AI革命2」開催(オンライン&東京)のご案内
  3. A chatbot that asks questions could help you spot when it makes no sense チャットGPT、「質問付き」回答で騙される人が減ることが判明
MITテクノロジーレビュー[日本版] Vol.10
MITテクノロジーレビュー[日本版] Vol.10世界を変えるU35イノベーター2022年版

人工知能(AI)/ロボット工学、インターネット、通信、コンピューター/電子機器、輸送、持続可能性、生物工学など幅広いテクノロジー領域で活躍する2022年の日本を代表する若手イノベーター14人、米国・中国・欧州などで活躍するグローバルのイノベーター35人を一挙紹介する。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る