KADOKAWA Technology Review
×
【4/24開催】生成AIで自動運転はどう変わるか?イベント参加受付中
懲りないティックトック、検閲とバグの果てしない連鎖
Ms Tech | Envato
倫理/政策 無料会員限定
Welcome to TikTok’s endless cycle of censorship and mistakes

懲りないティックトック、検閲とバグの果てしない連鎖

ティックトックでは、社会から疎外されたグループのユーザーに過大な影響を与えるような問題がしばしば発生する。そうした問題が口コミで拡散するそのたびに同社は謝罪して問題を修正するが、問題を未然に解決する取り組みが必要だ。 by Abby Ohlheiser2021.07.15

ジギ・タイラーは、「ティックトック・クリエイター・マーケットプレイス(TikTok Creator Marketplace:TCM)」と呼ばれる、広告主がトップクリエイターとつながることができるプラットフォームに参加している。タイラーは先日、TCMに掲載されている自分のバイオグラフィが自動的にモデレートされていることについて、ひどく不穏な気持ちになった。

タイラーがバイオグラフィにいくつかのフレーズを入力すると、「Black lives matter(ブラック・ライブズ・マター)」「supporting black people(黒人を支援する)」「supporting black voices(黒人の声を支持する)」「supporting Black success(黒人の成功を後押しする)」などいくつかが、不適切なコンテンツであるとして警告が出されたのだ。しかし、黒人を白人に置き換えたバージョンの同様のフレーズは承認された。

タイラーはティックトック動画で、自分のスマートフォンでそれらのフレーズを入力したときの映像を前にして、「TCMで『白人至上主義を支持する』と入力して確定すると、承認されるのです」と述べた。TCMに掲載されるためには、自分が書いたことを削除しなければならなかった。

タイラーは、引き続き投稿した動画で、「私はネオナチです」「私は反ユダヤ主義者です」というフレーズが承認され、「私は黒人です」というフレーズには警告が出されたことを示した。この話は、ティックトックでの黒人クリエイターの扱いにすでに不満を感じていた視聴者の後押しもあり、爆発的に広まった。

ティックトックの広報担当者は、「インサイダー(Insider)」へのコメントで、「重大な」エラーについて謝罪し、タイラーが目の当たりにしたことは、ヘイトスピーチに関連する言葉をブロックするために設定された自動フィルターの結果であると説明した。コメントによれば、このシステムは、「語順に関係なく、フレーズに警告を出すように誤って設定されていた」という。同社がリコード(Recode)に説明したところによると、このときのエラーは、「Black(黒人)」と「audience(視聴者)」という単語が含まれていたために発生したもので、ヘイトスピーチ検出機能が「audience」の「die(死ぬ・死ね)」を検出し、不適切な組み合わせとして警告を出したのだという。

公開、そして拡散

ティックトックで起こった事件はこれだけではない。数週間前、ティックトックは、一部のアンドロイドユーザーに、顎のラインを細くする強制的な美容フィルターと思われるものを誤って適用した。

4月には、あるティックトック・クリエイターが、ティックトックの新しい自動キャプション機能が「アジア人女性」というフレーズをブロックしていることに気づいた。また、2021年初頭には、インターセックスのクリエイターが、#intersexのハッシュタグがアプリ上で検索できなくなっていることを発見した。

これらはすべて、ティックトックで繰り返されるパターンの例だ。まずクリエイターが、プラットフォーム …

こちらは会員限定の記事です。
メールアドレスの登録で続きを読めます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
【春割】実施中! ひと月あたり1,000円で読み放題
10 Breakthrough Technologies 2024

MITテクノロジーレビューは毎年、世界に真のインパクトを与える有望なテクノロジーを探している。本誌がいま最も重要だと考える進歩を紹介しよう。

記事一覧を見る
気候テック企業15 2023

MITテクノロジーレビューの「気候テック企業15」は、温室効果ガスの排出量を大幅に削減する、あるいは地球温暖化の脅威に対処できる可能性が高い有望な「気候テック企業」の年次リストである。

記事一覧を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る