KADOKAWA Technology Review
×

ニューズラインエマージング・テクノロジーの最新情報をお届け。

チャットのやり取りから小児性愛者の手口を検出、MSがツール提供
Associated Press
Microsoft has created a tool to find pedophiles in online chats

チャットのやり取りから小児性愛者の手口を検出、MSがツール提供

マイクロソフトは、ネット上で子どもたちを手なずけようとする性的搾取者を自動で検出するシステムを開発した。コードネーム「プロジェクト・アルテミス(Project Artemis)」と呼ばれる新しいツールは、チャットにおける複数の対話パターンを検出するように設計されている。

プロジェクト・アルテミスは単語と会話のパターンに基づき、チャットの参加者が別の参加者を誘い込もうとしている可能性を評価する。チャットを運営する企業がアルテミスを導入する場合、導入企業は評価スコアをあらかじめ設定しておく(たとえば10点中8点など)。それを超えた会話にはフラグが立てられ、人間のモデレーター(監視員)に送られる。モデレーターが差し迫った脅威の可能性があると判断した場合には、司法当局に報告する、という流れだ。また、児童保護の専門家に対し、ネット上での小児性愛者の活動手口についての詳細情報も提供する。マイクロソフトのコートニー・グレゴワール最高デジタル安全対策責任者がブログで述べた内容によると、マイクロソフトはエックスボックス(Xbox)・プラットフォームやスカイプを含む自社製品で、数年前からアルテミスの技術を利用しているという。

マイクロソフトは、アルテミスが検出対象としている単語や会話パターンについて、詳しく説明していない。詳細を明らかにすることで、性的搾取者がアルテミスによる検出を回避するように行動を調整する可能性があるからだ。オンライン・チャット機能を提供している企業は、子どもたちを性的虐待から守るための技術・製品を開発している非営利団体「ソーン(Thorn)」を介して、アルテミスを無料で利用できる。

自動システムはいまだ完璧ではなく、言語の意味と文脈の理解に悪戦苦闘している。したがってアルテミスは、多くの誤検知を引き起こす可能性がある。 つまり、ソーシャルメディア企業が、ネットでの誘い込み(被害者たちは、それが誘い込みなのかはっきりわからないと主張している)の追跡に真剣に取り組むのならば、モデレーターの数をもっと増やすために投資する必要がある。またこのシステムは、暗号化されていないメッセージを対象としており、私的な会話の内容が読まれることにユーザーが同意していることを前提としている。だが、必ずしもユーザーの同意が得られるわけではない。

シャーロット・ジー [Charlotte Jee] 2020.01.14, 5:55
コロナウイルス感染症(COVID-19)

新型コロナウイルス「SARS-CoV-2」を原因とする新型コロナウイルス感染症「COVID-19」が猛威を振るっている。パンデミックによって世界はどう変わるのか? 治療薬やワクチンの開発動向から、各国の政策、経済への影響まで、MITテクノロジーレビューならではの多角的な視点で最新情報をお届けする。

記事一覧を見る
MITテクノロジーレビューは有料会員制サイトです
有料会員になると、毎月150本以上更新されるオリジナル記事が読み放題!
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る