KADOKAWA Technology Review
×
「Innovators Under 35 Japan」2024年度候補者募集中!
主張:ソーシャルメディアの汚染はモデレーションでは解決しない
Ms Tech | Getty
人間とテクノロジー 無料会員限定
Social media is polluting society. Moderation alone won't fix the problem

主張:ソーシャルメディアの汚染はモデレーションでは解決しない

ソーシャルメディアが与える社会への悪影響を軽減するには、SNS企業が与える影響を特定、計測して評価する仕組みが必要だ。SNS企業は自社のプロダクトの収益を最大化するための評価システムを持っている。その仕組みを公共の利益につなげるべきだ。 by Thomas Krendl Gilbert2022.09.05

誰もが皆、ネットで自分の意見を言えるようになりたいと思っている。友人に話を聞いてもらったり、意見の異なる人と話したり、言い返したりできるようになりたいのだ。同時に、不適切な話や一線を越えた話には関わりたくないとも思っている。テック企業はこの難問に取り組むため、連邦法によって保護されている権利である言論の自由のための基準を設定している。テック企業はモデレーターを雇って社内で個々のコンテンツを精査し、事前に設定している自社プラットフォームの規則に違反する投稿があれば削除する。

しかし、このアプローチには明らかに問題がある。嫌がらせや、公衆衛生などの話題に関する誤情報、正当な選挙に関する虚偽の説明が横行しているのを見れば明白だ。しかし、コンテンツ・モデレーションが完璧に実施されたとしても、それらがモデレーションの問題として扱われている限り、実際にはそうではない多くの問題がしばしば見逃されてしまうだろう。ソーシャルメディア企業を潜在的な社会機構の汚染者として捉え、そのような企業の選択が人々に与える影響を直接測定して軽減する。そうした新しい戦略が必要だ。つまり、おそらく米国環境保護庁(EPA)や米国食品医薬局(FDA)と似たようなソーシャルメディア版の機関を通じて、プラットフォームから生じる社会的な害を特定して評価する、政策のフレームワークを確立するということだ。害がなかなか減らないようであれば、その機関に政策を行使する権限を与えることも考えられる。しかし、コンテンツ・モデレーションの限界を超えるには、明確なエビデンスによって作られる規制が必要であり、解決しようとする問題に対して確実な影響を与えなければならないだろう。

プログラムによる自動的なものであれ、人的なものであれ、モデレーションは人々が「深刻な」害と呼ぶもの、つまり個々のコンテンツに直接起因する害に対して機能する可能性がある。しかし、先に挙げた新しいアプローチが必要なのは、「構造的な」問題が多数存在するからだ。差別、メンタルヘルスの悪化、市民の信頼低下などは、個々のコンテンツの問題ではなく、プラットフォームで運営されているプロダクト(ユーザーへのサービスや広告など)全体による問題として広く捉えるべきだからだ。この種の構造的な問題を明らかにした著名な例は、当時のフェイスブック(現メタ)が2012年に実施した「感情の伝染」実験だ。この実験は、ユーザーが接触したプラットフォーム内の意図的に改編されたプロダクト(この実験の場合はニュース・フィード)に応じて、ユーザーの感情(プラットフォーム上の行動で測定された気分)が明らかに変化したことが示された(日本版注:同実験では、ニュース・フィードにネガティブな印象の投稿を多く表示するように調整すると、ユーザーの投稿でもネガティブな内容が増えるとの結果が出た)。

この実験の結果が公表された後、実験を明示しなかったことなどから世間から猛反発を受け、フェイスブックはこの種の意図的な実験を止めた。しかし、フェイスブックが実験的な影響の測定をしなくなったからといって、プロダクトの決定や既存プロダクトの更新による(社会への)影響がなくなるというわけではない。

構造的な問題は、どのようなプロダクトをプラットフォーム上で展開したかという直接的な結果なのだ。フェイスブック、ユーチューブ、ティックトック(TikTok)といったテック企業のプロダクト・マネージャーは、ユーザーが自社プラットフォーム上で過ごす時間とエンゲージメントを最大化することに注力するよう求められている。そして、ユーザー …

こちらは会員限定の記事です。
メールアドレスの登録で続きを読めます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
人気の記事ランキング
  1. AI can make you more creative—but it has limits 生成AIは人間の創造性を高めるか? 新研究で限界が明らかに
  2. Promotion Call for entries for Innovators Under 35 Japan 2024 「Innovators Under 35 Japan」2024年度候補者募集のお知らせ
  3. Interview with Prof. Masayuki Ohzeki: The Future of Quantum Computer Commercialization and the Qualities of Innovators 量子技術を最速で社会へ、大関真之教授が考えるイノベーターの条件
  4. How to fix a Windows PC affected by the global outage 世界規模のウィンドウズPCトラブル、IT部門「最悪の週末」に
  5. Robot-packed meals are coming to the frozen-food aisle 「手作業が早い」食品工場でもロボット化、盛り付け完璧に
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。2024年も候補者の募集を開始しました。 世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。

特集ページへ
MITTRが選んだ 世界を変える10大技術 2024年版

「ブレークスルー・テクノロジー10」は、人工知能、生物工学、気候変動、コンピューティングなどの分野における重要な技術的進歩を評価するMITテクノロジーレビューの年次企画だ。2024年に注目すべき10のテクノロジーを紹介しよう。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る