KADOKAWA Technology Review
×
【1/31まで】ひと月あたり1000円。
お得に購読できるキャンペーン実施中!

ニューズラインエマージング・テクノロジーの最新情報をお届け。

米ユーチューバー炎上で露呈した、有害コンテンツ対策の限界
Matthias Blonski | Unsplash
Logan Paul’s Video Is a Cautionary Tale for Platforms That Hope AI Will Save Them from Offensive Content

米ユーチューバー炎上で露呈した、有害コンテンツ対策の限界

ユーチューバーのローガン・ポールが、12月31日にユーチューブ(YouTube)にある映像をアップロードした。自殺の名所として知られる富士山麓の樹海で、首つり自殺した人の遺体を前にジョークを連発している様子を映した映像である。

知らない人のために書いておくと、彼には1500万人のフォロワーがいる。そしてこの映像は、ポールが削除するまでに600万ビュー以上を集めた。

問題なのは、ポールの映像がユーチューブの監視ソフトウェアや人力によるチェックでは検知されなかったことだ。ポールの映像は、最高水準の人工知能(AI)システムの目をかいくぐった、決して拡散してはいけないコンテンツの典型例となってしまった。

マイクロソフト・リサーチのタールトン・ギレスピー主任研究員はバズフィードに対して、「実に不愉快なのは、自殺者の遺体を公に見せて冒とくしたことです」と語っている。「自動化ツールでは判断が難しい文脈であり、微妙な倫理的な問題なのです」。

この事件は、フェイスブックユーチューブがAIを使って有害コンテンツを取り除こうとしても、コンテンツのモデレーションは小手先のソフトウェアでは解決されないことを示している。

エリン・ウィニック [Erin Winick] 2018.01.05, 18:55
日本発「世界を変える」35歳未満のイノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を発信する。

記事一覧を見る
MITテクノロジーレビューは有料会員制サイトです
有料会員になると、毎月150本以上更新されるオリジナル記事が読み放題!
購読キャンペーン実施中
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る