デマにどう対処するか? 公聴会で問われたザッカーバーグの返答
フェイスブックのおすすめアルゴリズムは、政治的二極化を助長していることが繰り返し指摘されている。米議会は3月25日に公聴会を開いて、同社のマーク・ザッカーバーグCEOにプラットフォーム上に蔓延するデマや誹謗中傷にどう対処しているのかを尋ねた。 by Abby Ohlheiser2021.03.29
3月25日、デマについての公聴会が米議会で開催された。ミシン州の民主党員であるデビー・ディンゲル下院議員は同公聴会の場で、フェイスブックのマーク・ザッカーバーグ最高経営責任者(CEO)が、自社についてかつて語った自身の主張に返答するよう求めた。その主張とは「フェイスブックに投稿されたコンテンツが自社のコミュニティ基準を侵害しそうであればあるほど、そのコンテンツが獲得するエンゲージメントは増える」というものだ。
「この主張は、現在においても変わりないですか?」とディンゲル下院議員は尋ねた。
ディンゲル下院議員は、フェイスブックの人工知能(AI)チームの元メンバーおよび現メンバーへのインタビューに基づく、MITテクノロジーレビューのカレン・ハオ記者の最近の調査レポート(翻訳中)に言及した。そのレポートは、フェイスブックのおすすめアルゴリズムを実行しているAIモデルが、いかに誤った情報や誹謗中傷をサイト上に蔓延させ続けるのかについて深く掘り下げている。ハオ記者が書き、ディンゲル下院議員が言い換えたように、「2018年に加わったフェイスブックの元AI研究者によると、チームは『何度も何度も調査』を実施し、『エンゲージメントを最大化するモデルは、二極化を増大させる』ことを確認している」。
ハオ記者が書いたように、ニューヨーク大学が実施した、党支持者のフェイスブックページの調査によると、「政治的に誤った情報を定期的に投稿したページは、2020年の米国大統領選挙および議会議事堂の暴動に至るまでの間に、最も多くのエンゲージメントを獲得しました」。
公聴会でザッカーバーグCEOは、誤った情報や人々を二極化させるコンテンツを許可・増幅するフェイスブックの動機について、「たくさんの不正確な点」が議員によって伝えられていると述べ、次のように付け加えた。
「人々は、当社のサービスで、誤った情報や人々を分断するコンテンツを見たいとは思っていません。クリックベイトのようなものを見たくはないのです。確かに、短期的には人々がそうしたものをクリックしてしまう傾向があるのは事実かもしれません。ですが、当社のビジネスや製品やコミュニティにとって、クリックベイトの存在は好ましいことではありません」。
ザッカーバーグCEOの答えはフェイスブックのいつもの論点であり、同社のおすすめシステムが誤った情報を増幅する方法について調査し、削減するための集中的で調整された取り組みをしていないという事実を回避している。
ザッカーバーグCEOのコメントは、デマに関する下院エネルギー・商業委員会(House Committee on Energy and Commerce)の公聴会中に出されたものだ。同公聴会では、議員らがザッカーバーグCEO、グーグルのサンダー・ピチャイCEO、ツイッターのジャック・ドーシーCEOらに、とりわけ、11月の米国大統領選挙、1月6日の議会議事堂への襲撃、および新型コロナワクチンに関するデマの拡散について尋ねた。
この種の公聴会で一般的になっているように、保守系の議員は、プラットフォーム上で認識されている反保守バイアスについて尋ねている。もっともこれはデータの裏付けのない昔からある右翼の主張であるが。
米国の両党は、通信品位法第230条を改正し、シリコンバレーの企業にプラットフォーム上のコンテンツとそのモデレーションに関する自社の決定に責任を持たせるよう求めている。
公聴会に先立って提出された、準備された発言の一部として、ザッカーバーグCEOは、ユーザーが投稿したコンテンツについて、現況ではプラットフォームに免責を与えるという規則の変更を提案した。ザッカーバーグCEOの提案は次の通りだ。議会は「ある特定の種類の違法なコンテンツについて、その拡散に対処するためのベストプラクティス(最善の実践)を満たす能力を条件として、プラットフォームに仲介者責任保護を与えることを検討すべきです」。
言い換えれば、企業がコンテンツのモデレーションのベストプラクティス(理論的には政府が定義する)に従わなかった場合、企業は自社のプラットフォームに投稿されたコンテンツに対して責任を問われることになる。しかし、企業がこれらのベストプラクティスを採用してもなお、有害なコンテンツがWebサイトに表示されるなら、プラットフォームが責任を問われるべきではないということだ。
- 人気の記事ランキング
![](https://cdn.technologyreview.jp/wp-content/uploads/sites/2/2020/06/11162735/abby_ohlheiser-150x150.png)
- アビー・オルハイザー [Abby Ohlheiser]米国版 デジタル・カルチャー担当上級編集者
- インターネット・カルチャーを中心に取材。前職は、ワシントン・ポスト紙でデジタルライフを取材し、アトランティック・ワイヤー紙でスタッフ・ライター務めた。