巨大掲示板を支える自動化
コンテンツ監視の未来

シェーガン・ジェイヴァーは過去4年間、いくつかのサブレディット（投稿サイト「レディット（Reddit）」における「板」）をモデレートしてきた。ページを入念にスクロールし、コミュニティ規則に違反したり、あからさまに不快だったりする投稿をブロックする仕事だ。

コンテンツ・モデレーションについて研究しているジョージア工科大学博士課程生のジェイヴァーは、自動モデレーターが時間の節約だけでなく、心を弱らせるようなコンテンツをふるいにかけることができれば、人間のモデレーターの精神的な負担を軽減できるのではないかと考えた。 そこでジェイヴァーは3人の研究仲間とともに自動モデレーターの「オートモッド（AutoMod）」と呼ばれるシステムが実際に使えるかどうか検証した。

研究チームはレディットのいくつかのページを自らモデレートし、特に人気のあるサブレディットの16人のモデレーターにインタビューした。「r/photoshopbattles」「r/space」「r/explainlikeimfive」「r/oddlysatisfying」「r/politics」など、それぞれに数百万人の参加者がいるサブレディットだ。これらはすべてオートモッドの力を借りてモデレートしている。 ジェイヴァーはその成果を11月初旬、ACM（Association for Computing Machinery）の学会で発表した。

フェイスブック、インスタグラム、ユーチューブなどのソーシャルメディア・プラットフォームは、これまで長らく人間のモデレーターの手作業に依存してきた。コンテンツをくまなく調べ、人種差別や性差別のヘイト・スピーチから、銃乱射の生々しい映像に至るまでの暴力的で不快な要素を削除する仕事は、 多くの場合、最低賃金とわずかな手当てで働いているモデレーターたちによって支えられている。彼らは、深刻な精神的ダメージをもたらすコンテンツの打撃を受けな …

人気の記事ランキング

1. AI reasoning models can cheat to win chess games 最新AIモデル、勝つためなら手段選ばず　チェス対局で明らかに
2. This artificial leaf makes hydrocarbons out of carbon dioxide 人工光合成が次段階へ、新型人工葉が炭化水素合成に成功
3. Everyone in AI is talking about Manus. We put it to the test. ディープシークの衝撃再び？ 話題の中国製AIエージェントを試してみた
4. Welcome to robot city アンデルセンの故郷、 ロボット産業の中心地に デンマーク小都市の成功物語