KADOKAWA Technology Review
×
「Innovators Under 35 Japan」2024年度候補者募集中!
メタバースの安全を守る「覆面警察官」の仕事
Stephanie Arnett/MITTR | Envato
倫理/政策 無料会員限定
How an undercover content moderator polices the metaverse

メタバースの安全を守る「覆面警察官」の仕事

実質現実(VR)世界であるメタバースでは、暴力的コメントや詐欺行為、性的嫌がらせなど現実の世界で起こることはすべて起こりうる。そこで重要になるのが、メタバースに潜入してユーザーのポリシー違反を監視するコンテンツ・モデレーターだ。 by Tate Ryan-Mosley2023.05.10

実質現実(VR)ゴーグルを装着して仕事に向かうラヴィ・イェッカンティは、VRの中でどのような1日を過ごすことになるのか、まったく予想ができない。どのような人と出会うだろうか。子どもの声のアバターから人種差別的な発言を浴びせられるだろうか。アニメのアバターが、男性器をつかもうとしてくるだろうか。イェッカンティは、インドのハイデラバードにあるオフィスのデスクにつくと、頭に装着しているエイリアンの宇宙服のようなVRゴーグルを調整した。そして、うごめくアバターたちでいっぱいの「仕事場」に入って行く準備をする。イェッカンティの仕事は、メタバースの中にいるあらゆる人が安全に過ごし、楽しめるようにすることだと考えており、自分の仕事を誇りに思っている。

イェッカンティは、VRおよびメタバースのコンテンツ・モデレーションという新分野の最前線に立っている。メタバースは、デジタル体験の安全性に幾分か不安が残る形で、いくらか見切り発車され、性的暴行、いじめ、チャイルド・グルーミングなどの報告が上がっている。メタバースの運営会社であるメタ(Meta)は先日、同社のプラットフォームである「ホライズン・ワールド(Horizon Worlds)」の年齢制限を、18歳以上から13歳以上に引き下げると発表した。そのため、メタバースにおける安全確保は、ますます喫緊の課題となっている。発表では、若年層ユーザーの保護を目的とした多くの機能や規則にも言及した。しかし、規則があっても、誰かが警官役を引き受けて取り締まり、安全措置をないがしろにする人が出てこないようにしなければならない。

メタは、ホライズン・ワールドのコンテンツ・モデレーターとして何人雇っているのか、何人と契約しているのか、公表しようとしない。新たな年齢ポリシーの導入後に、人数を増やす計画であるかどうかについても口を閉ざしている。しかし、今回発表された変更によって、メタバースという新たなオンライン空間でのルールの執行を担当するイェッカンティのような人々や、その仕事内容が注目されている。

イェッカンティは、2020年から、VRの世界におけるモデレーターおよび研修管理者として働いてきた。以前は、テキストや画像を対象とした、従来型のコンテンツ・モデレーションに従事していた。イェッカンティが勤めるのは、ウェブピュリファイ(WebPurify)という企業だ。同社はマイクロソフトやプレイラボ(Play Lab)のようなインターネット企業に対してコンテンツ・モデレーションのサービスを提供しており、インド拠点のチームを擁している。イェッカンティがコンテンツ・モデレーションを担当するのは、メタのプラットフォームをはじめとする、主に大手のプラットフォームだ。ただし、ウェブピュリファイは、クライアント企業との秘密保持契約があるとして、具体的にどのプラットフォームに対してサービスを提供しているかは公表できないとしている。

イェッカンティは、長らくインターネットに情熱を傾けてきた。そのため、VRゴーグルを装着して、世界中の人々と出会ったり、メタバースのクリエイターに対して彼らが作るゲームや「世界」をよりよくする方法を助言したりするのはとても楽しいと言う。

イェッカンティのように、民間警備員としてメタバースでの安全確保に従事するという新たな仕事が、今まさに生まれつつある。アバターとインタラクションして、VRにおける不適切行為を調査する仕事だ。そのアバターの向こう側には、血の通った人間がいる。イェッカンティは、自身がモデレーターの身分であることを、メタバース内では公言していない。程度の差はあるものの秘密裏に仕事をしている。どこにでもいそうなユーザーに扮した方が、違反行為を見つけやすいからだ。

人工知能(AI)を用いたフィルターで特定の禁止ワードを見張るような従来のモデレーション・ツールは、メタバースというリアルタイムの没入環境では、あまり役に立たない。そのため、イェッカンティのようなモデレーターを設けることが、メタバースというデジタル世界での安全確保にあたって最も重要な対策となる。そして、イェッカンティの仕事は、日に日に重要性を増している。

メタバースの安全性問題

メタバースの安全性問題は、複雑かつ不透明なものだ。ジャーナリストからは、暴力的コメント、詐欺行為、性的暴行、そしてさらには「オキュラス VR」というメタの製品を使って計画された誘拐事件まで、事例の報告がなされている。ロブロックス(Roblox )やメタの …

こちらは会員限定の記事です。
メールアドレスの登録で続きを読めます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
人気の記事ランキング
  1. Lego bricks are making science more accessible 科学を身近にするレゴブロック、大学の実験装置にも応用
  2. Promotion Call for entries for Innovators Under 35 Japan 2024 「Innovators Under 35 Japan」2024年度候補者募集のお知らせ
  3. Why artists are becoming less scared of AI 見えてきた「生成AIの限界」がアーティストの不安を取り除く
  4. A way to let robots learn by listening will make them more useful 見落とされてきた「耳」、音を学んだロボットはもっと賢くなる
  5. How fish-safe hydropower technology could keep more renewables on the grid 水力発電の環境負荷を軽減、魚と共生する次世代タービン
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。2024年も候補者の募集を開始しました。 世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。

特集ページへ
MITTRが選んだ 世界を変える10大技術 2024年版

「ブレークスルー・テクノロジー10」は、人工知能、生物工学、気候変動、コンピューティングなどの分野における重要な技術的進歩を評価するMITテクノロジーレビューの年次企画だ。2024年に注目すべき10のテクノロジーを紹介しよう。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る