グーグルはいかにして
ヘイト、テロ、デマと
戦ってきたか

ヘイト・ スピーチ、ネット上での暴力的な過激主義、爆弾製造マニュアル、国家主導のフェイクニュース、弾圧的な検閲など、インターネットには危険が満ちあふれている。

そうした危険をたとえ一部であっても、できるだけ小さくしたい。それが、グーグルの親会社アルファベット（Alphabet）傘下のジグソー（Jigsaw）のヤスミン・グリーン研究開発部長の仕事である。グリーン研究開発部長は、ソフトウェア・エンジニア、科学研究者、プロダクト・マネージャーなど約60人の専門家からなる多国籍チームとともに、テロリストや荒らしにも対峙する。チームはグーグルの膨大なリソースも利用できる。だが、コーディングやシステムの構築にすべての時間を費やしているわけではない。多くのチームメンバーは、実際に地政学的なホット・スポットに出かけて、暴力的な過激主義の実体を直に調査している。グリーン研究開発部長はチームが進める研究方法について、MITテクノロジーレビューの取材に答えた。

＃

——どうしてジグソーで仕事をしたいと思ったのですか？

まだ幼い頃、生まれ育ったイランを脱出して英国で育ちました。19歳でイランに帰国して、オンラインでもオフラインでも国家検閲の厳しさに驚いたことを覚えています。「ワールド・ワイド・ウェブ（WWW)」といった言葉は、情報が自由に手に入れられない国に住んでいる人にとっては皮肉にも聞こえます。だから、すべての人が利用できる情報を作っている会社に入りたいと思ったのです。

——ジグソーはインターネット上の脅威に取り組んでいます。チームのメンバーが職務として紛争地域にも出かける目的は何でしょうか？

人間的な経験によって得られた理解に根ざしたテクノロジーを作りたいのです。ジグソーの手法の重要な部分は、チーム・メンバーを現地に送り、抑圧だろうが、紛争だろうが、取り組もうとしている課題の最前線にいる人と会って話を聞くことです。現地調査対象の一つはイラクでした。イラクでは、イスラム国（ISIS）として知られる組織に入り、脱退した人と膝を交えて話を聞きました。暴力的な過激主義に至るプロセスの人間的な要素と、同時にテクノロジーがどのような役割を果たしたのかを知りたかったのです。どのようにISISを知り、どのように一員として採用され、ISISへ実際に移動する過程でテクノロジーがどのように使われていたのかを聞きました。

——ISISは人員確保のためにインターネットを活用しています。もっとも重要な教訓とは何でしょうか？

ISISはラジオから宣伝チラシまで多くのメディアを使いこなしています。インターネットについても、個人を標的とするときの威力について本当に理解しています。アラビア語や英語をはじめ非常にたくさんの言語でコンテンツを作成しており、中国語やヘブライ語まで網羅しています。一番大きなショックを受けたのは、手話を使った映像です。つまりISISはきわめて地域密着型の人員募集コンテンツを作成し、ソーシャル・メディアのアルゴリズムを利用してそのコンテンツを世界の隅々の人にまで届くように配信しているのです。

——テロリストがオンラインに投稿するコンテンツの一部は明らかに削除する必要があります。しかし、直截的ではないもっと微妙なプロパガンダにはどのように対処すればよいのでしょうか？

斬首映像や爆弾の作り方など、決して世界の人の …

人気の記事ランキング

1. Trump’s AI protectionism has come for robotics 中国製ロボットを締め出す米国、その研究は中国製で回っている
2. How an overlooked geothermal plant got a second chance もっと深く掘れ——採算割れの地熱発電所を米新興企業が再生
3. How lasers could help provide fuel for nuclear reactors 核廃棄物は「地上ウラン鉱山」、レーザー濃縮で再生を狙う
4. A fundamental flaw leaves LLMs strikingly vulnerable to attack 「思考の連鎖」偽装でLLMを騙す新手法、訓練では防げない構造的欠陥