KADOKAWA Technology Review
×
「Innovators Under 35 Japan」2024年度候補者募集中!
懲りないティックトック、検閲とバグの果てしない連鎖
Ms Tech | Envato
倫理/政策 無料会員限定
Welcome to TikTok’s endless cycle of censorship and mistakes

懲りないティックトック、検閲とバグの果てしない連鎖

ティックトックでは、社会から疎外されたグループのユーザーに過大な影響を与えるような問題がしばしば発生する。そうした問題が口コミで拡散するそのたびに同社は謝罪して問題を修正するが、問題を未然に解決する取り組みが必要だ。 by Abby Ohlheiser2021.07.15

ジギ・タイラーは、「ティックトック・クリエイター・マーケットプレイス(TikTok Creator Marketplace:TCM)」と呼ばれる、広告主がトップクリエイターとつながることができるプラットフォームに参加している。タイラーは先日、TCMに掲載されている自分のバイオグラフィが自動的にモデレートされていることについて、ひどく不穏な気持ちになった。

タイラーがバイオグラフィにいくつかのフレーズを入力すると、「Black lives matter(ブラック・ライブズ・マター)」「supporting black people(黒人を支援する)」「supporting black voices(黒人の声を支持する)」「supporting Black success(黒人の成功を後押しする)」などいくつかが、不適切なコンテンツであるとして警告が出されたのだ。しかし、黒人を白人に置き換えたバージョンの同様のフレーズは承認された。

タイラーはティックトック動画で、自分のスマートフォンでそれらのフレーズを入力したときの映像を前にして、「TCMで『白人至上主義を支持する』と入力して確定すると、承認されるのです」と述べた。TCMに掲載されるためには、自分が書いたことを削除しなければならなかった。

タイラーは、引き続き投稿した動画で、「私はネオナチです」「私は反ユダヤ主義者です」というフレーズが承認され、「私は黒人です」というフレーズには警告が出されたことを示した。この話は、ティックトックでの黒人クリエイターの扱いにすでに不満を感じていた視聴者の後押しもあり、爆発的に広まった。

ティックトックの広報担当者は、「インサイダー(Insider)」へのコメントで、「重大な」エラーについて謝罪し、タイラーが目の当たりにしたことは、ヘイトスピーチに関連する言葉をブロックするために設定された自動フィルターの結果であると説明した。コメントによれば、このシステムは、「語順に関係なく、フレーズに警告を出すように誤って設定されていた」という。同社がリコード(Recode)に説明したところによると、このときのエラーは、「Black(黒人)」と「audience(視聴者)」という単語が含まれていたために発生したもので、ヘイトスピーチ検出機能が「audience」の「die(死ぬ・死ね)」を検出し、不適切な組み合わせとして警告を出したのだという。

公開、そして拡散

ティックトックで起こった事件はこれだけではない。数週間前、ティックトックは、一部のアンドロイドユーザーに、顎のラインを細くする強制的な美容フィルターと思われるものを誤って適用した。

4月には、あるティックトック・クリエイターが、ティックトックの新しい自動キャプション機能が「アジア人女性」というフレーズをブロックしていることに気づいた。また、2021年初頭には、インターセックスのクリエイターが、#intersexのハッシュタグがアプリ上で検索できなくなっていることを発見した。

これらはすべて、ティックトックで繰り返されるパターンの例だ。まずクリエイターが、プラットフォーム …

こちらは会員限定の記事です。
メールアドレスの登録で続きを読めます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
人気の記事ランキング
  1. Lego bricks are making science more accessible 科学を身近にするレゴブロック、大学の実験装置にも応用
  2. Promotion Call for entries for Innovators Under 35 Japan 2024 「Innovators Under 35 Japan」2024年度候補者募集のお知らせ
  3. Inside the US government’s brilliantly boring websites 米政府系サイトの常識を変えた「デザインシステム」革命
  4. Why artists are becoming less scared of AI 見えてきた「生成AIの限界」がアーティストの不安を取り除く
  5. A way to let robots learn by listening will make them more useful 見落とされてきた「耳」、音を学んだロボットはもっと賢くなる
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。2024年も候補者の募集を開始しました。 世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。

特集ページへ
MITTRが選んだ 世界を変える10大技術 2024年版

「ブレークスルー・テクノロジー10」は、人工知能、生物工学、気候変動、コンピューティングなどの分野における重要な技術的進歩を評価するMITテクノロジーレビューの年次企画だ。2024年に注目すべき10のテクノロジーを紹介しよう。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る