KADOKAWA Technology Review
×
ひと月あたり「1000円」お得な夏の購読キャンペーン実施中!
懲りないティックトック、検閲とバグの果てしない連鎖
Ms Tech | Envato
コネクティビティ 無料会員限定
Welcome to TikTok’s endless cycle of censorship and mistakes

懲りないティックトック、検閲とバグの果てしない連鎖

ティックトックでは、社会から疎外されたグループのユーザーに過大な影響を与えるような問題がしばしば発生する。そうした問題が口コミで拡散するそのたびに同社は謝罪して問題を修正するが、問題を未然に解決する取り組みが必要だ。 by Abby Ohlheiser2021.07.15

ジギ・タイラーは、「ティックトック・クリエイター・マーケットプレイス(TikTok Creator Marketplace:TCM)」と呼ばれる、広告主がトップクリエイターとつながることができるプラットフォームに参加している。タイラーは先日、TCMに掲載されている自分のバイオグラフィが自動的にモデレートされていることについて、ひどく不穏な気持ちになった。

タイラーがバイオグラフィにいくつかのフレーズを入力すると、「Black lives matter(ブラック・ライブズ・マター)」「supporting black people(黒人を支援する)」「supporting black voices(黒人の声を支持する)」「supporting Black success(黒人の成功を後押しする)」などいくつかが、不適切なコンテンツであるとして警告が出されたのだ。しかし、黒人を白人に置き換えたバージョンの同様のフレーズは承認された。

タイラーはティックトック動画で、自分のスマートフォンでそれらのフレーズを入力したときの映像を前にして、「TCMで『白人至上主義を支持する』と入力して確定すると、承認されるのです」と述べた。TCMに掲載されるためには、自分が書いたことを削除しなければならなかった。

タイラーは、引き続き投稿した動画で、「私はネオナチです」「私は反ユダヤ主義者です」というフレーズが承認され、「私は黒人です」というフレーズには警告が出されたことを示した。この話は、ティックトックでの黒人クリエイターの扱いにすでに不満を感じていた視聴者の後押しもあり、爆発的に広まった。

ティックトックの広報担当者は、「インサイダー(Insider)」へのコメントで、「重大な」エラーについて謝罪し、タイラーが目の当たりにしたことは、ヘイトスピーチに関連する言葉をブロックするために設定された自動フィルターの結果であると説明した。コメントによれば、このシステムは、「語順に関係なく、フレーズに警告を出すように誤って設定されていた」という。同社がリコード(Recode)に説明したところによると、このときのエラーは、「Black(黒人)」と「audience(視聴者)」という単語が含まれていたために発生したもので、ヘイトスピーチ検出機能が「audience」の「die(死ぬ・死ね)」を検出し、不適切な組み合わせとして警告を出したのだという。

公開、そして拡散

ティックトックで起こった事件はこれだけではない。数週間前、ティックトックは、一部のアンドロイドユーザーに、顎のラインを細くする強制的な美容フィルターと思われるものを誤って適用した。

4月には、あるティックトック・クリエイターが、ティックトックの新しい自動キャプション機能が「アジア人女性」というフレーズをブロックしていることに気づいた。また、2021年初頭には、インターセックスのクリエイターが、#intersexのハッシュタグがアプリ上で検索できなくなっていることを発見した。

これらはすべて、ティックトックで繰り返されるパターンの例だ。まずクリエイターが、プラットフォーム …

こちらは会員限定の記事です。
メールアドレスの登録で続きを読めます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
購読キャンペーン実施中
こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
購読キャンペーン実施中
日本発「世界を変える」35歳未満のイノベーター

MITテクノロジーレビューが主催するグローバル・アワード「Innovators Under 35 」の日本版が候補者を募集している。特定の分野や業界だけでなく、世界全体の重要な課題を解決するイノベーターを発信していく。

記事一覧を見る
MITテクノロジーレビュー[日本版] Vol.4/Summer 2021
MITテクノロジーレビュー[日本版] Vol.4/Summer 202110 Breakthrough Technologies

新型コロナウイルス・ワクチンの開発で脚光を浴びた「メッセンジャーRNA」技術から、人間並みの文章を自在に生成できる人工知能(AI)技術「GPT-3」、電気自動車(EV)普及の鍵を握る「次世代バッテリー」まで。MITテクノロジーレビューが選んだ「世界を変える10大テクノロジー」。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る