KADOKAWA Technology Review
×
【4/24開催】生成AIで自動運転はどう変わるか?イベント参加受付中
書評:フェイスブック内部の「醜い真実」が物語ること
Karen Hao
Review: Why Facebook can never fix itself

書評:フェイスブック内部の「醜い真実」が物語ること

ニューヨーク・タイムズ紙のベテラン記者2人による新刊『An Ugly Truth(醜い真実)』は、2回の米国大統領選挙の間にフェイスブックに起きたことを巧みなストーリー・テリングで描いた意欲作だ。 by Karen Hao2021.08.20

あるフェイスブックのエンジニアは、デートの相手から返事をもらえない理由が知りたくてたまらなかった。もしかしたら、病気や休暇など、単純な理由だったのかもしれない。

だからある日の夜10時、このエンジニアは、カリフォルニア州メンローパークにある本社で、社内システムを使ってフェイスブックが保有する彼女の個人データを調べ始めた。政治観や生活様式、興味だけでなく、現在位置までも、だ。

後にこのエンジニアは、社内データの閲覧権を不適切に悪用した他の社員51人とともに、自らの行動によって会社を解雇されることになる。社内データの閲覧権は職務権限や勤続年数にかかわらず、当時フェイスブックに勤務していた全従業員が持っていた特権だった。51人の大多数は、このエンジニアと同様に、好意を抱く女性の情報を調べていた男性だった。

2015年9月、新たにCSO(最高情報セキュリティ責任者)に着任したアレックス・ステイモスから問題を知らされたマーク・ザッカーバーグCEO(最高経営責任者)は、全従業員のユーザー・データへのアクセスを制限するようシステムの全面的な見直しを命じた。ステイモスCSOは、個人の行動ではなく、フェイスブックの設計に問題があるとザッカーバーグCEOに認めさせ、貴重な勝利を収めることに成功した。

これが、ニューヨーク・タイムズ紙のベテラン記者シーラ・フレンケルとセシリア・カンが著した、フェイスブックに関する新刊『An Ugly Truth(醜い真実)』(2021年刊、未邦訳)の冒頭だ。フレンケル記者のサイバーセキュリティの専門知識と、カン記者のテクノロジーと規制政策の専門知識、それに2人の持つ膨大な情報源を駆使して書かれた本書は、2016年から2020年の大統領選までのフェイスブックの内情が説得力を伴う形で描かれている。

ステイモスCSOはそれ以降、ツキに恵まれなかった。フェイスブックのビジネスモデルから派生した問題は、その後数年間でエスカレートするばかりだった。米国大統領選におけるロシアの干渉など、不適切な社内データ閲覧よりもさらに大きな問題を暴いたステイモスCSOは、ザッカーバーグCEOとシェリル・サンドバーグCOO(最高執行責任者)に不都合な真実を突き付けたことで社を追われた。ステイモスCSOを追い出したフェイスブック上層部は、ケンブリッジ・アナリティカ(Cambridge Analytica)のスキャンダルやミャンマーの大量虐殺、新型コロナに関するデマの横行など、非常に厄介な多くの問題への対処を避け続けた。

『An Ugly Truth(醜い真実)』の著者、セシリア・カン(左)とシーラ・フレンケル(写真:BEOWULF SHEEHAN)

フレンケル記者とカン記者は、フェイスブックが現在抱える問題は同社が進むべき道を見失ったからではないと主張する。そうではなく、問題はザッカーバーグCEOの偏狭な世界観、彼が培ったずさんなプライバシー文化、サンドバーグCOOとともに追い求めた途方もない野望の上に築かれたフェイスブックの設計そのもの、という指摘だ。

会社の規模がまだ小さいうちは、慎重さや想像力の欠如も許されたかもしれない。しかし、ザッカーバーグCEOとサンドバーグCOOの意思決定は、規模が大きくなってからも明らかに成長と利益を最優先にしている。

例えば、「Company Over Country(国を超えた会社)」という章では、上層部がロシアによるフェイスブック上での選挙介入を、米国の情報機関や議会、国民からどのように隠蔽しようとしたかが時系列で記されている。上層部は、複数回にわたってフェイスブックのセキュリティ・チームが発見して公開しようとした詳細事項を検閲したり、事態の深刻さと政治的不平等性をないがしろにするために都合の良いデータだけを選び出したりした。ステイモスCSOが問題を繰り返さないように社内組織を再構築するように提案すると、他の指導者たちは「(不必要な警告を発する)人騒がせな人」と一蹴し、世論の統制と規制当局を退けることに資源を投入した。

「Think Before You Share(シェアする前に考えて)」の章では、2014年、激化するミャンマーでの暴力に対し、フェイスブックが似たようなパターンで対応し始めたことが詳細に綴られている。1年前の2013年の時点で、ミャンマーに拠点を置く活動家たちは、ムスリム少数派のロヒンギャに対する懸念すべきレベルのヘイト・スピーチや誤った情報がプラットフォーム上にあることを、フェイスブックに警告し始めていた。しかし、世界的な拡大を目指すザッカーバーグCEOの願望に駆り立てられていたフェイスブックは、この警告を真摯に受け止めなかった。

ミャンマーで暴動が勃発しても、フェイスブックは自らの優先事項をさらに強化していた。2人の死者と14人の負傷者が出てもフェイスブックは沈黙を貫いたが、ミャンマー政府が国内でのフェイスブックへのアクセスを遮断すると、状況は急転した。それでも、フェイスブック上層部は当時、暴力の悪化を阻止できた可能性のある投資とプラットフォームの改修を、ユーザーのエンゲージメントを減少させるリスクがあるとして、先延ばしにし続けた。2017年には、民族間の緊張状態が本格的な大量虐殺へと発展し、2万4000人以上のイスラム教徒のロヒンギャが命を奪われることになり、後に国連からフェイスブックが「実質的に(暴力に)貢献した」と認定されている。

これが、フレンケル記者とカン記者がフェイスブックの「醜い真実」と呼ぶものだ。つまり、人同士のつながりを深めることで社会の発展を目指しつつも、同時に自社の利益も追求したいとする「両立不可能な二律背反」である。章を追うごとに、この2つを両立させる難しさと、フェイスブックが何度もユーザーを犠牲にして自社の利益を選んできたことが明らかになっていく。

本書は、優れた報道であると同時に、優れたストーリーテリングの作品でもある。私のようにフェイスブックのスキャンダルを詳しく追ってきた人も、断片的にしか知らない人でも、フレンケル記者とカン記者のおかげで、誰もが何かを感じ取れるようにまとめられている。詳細に綴られたエピソードを読めば、「アクアリウム(水族館)」と呼ばれるザッカーバーグCEOの会議室で何が起きたのか、会社の方向性がどう決まったのか、舞台裏が見えてくる。章ごとのテンポもよく、ページをめくるごとに新しい事実が待ち構えている。

著者たちが言及した出来事について、私はそれぞれ認識していたものの、他人を犠牲にしていかにフェイスブックが自社を守ろうとしたかという事実は、私が理解していた以上にひどいものだった。一方、隣で一緒に本書を読んだ私のパートナーはまさにフェイスブックのスキャンダルを断片的にしか知らない読者だが、本書に書かれている事実を知って唖然としていた。

本書は、著者たちによる分析についてはそれほど書かれておらず、事実を語ることに焦点を当てている。そうした考え方のためか、フェイスブックがどうすべきか、あるいは我々は今後どう対処すべきなのか、明確な結論は避けている。「フェイスブックが、今後数年で大幅な変化を遂げることがあっても、その変化は内部から起こると考えるのは難しいでしょう」と2人は書いている。その行間から明らかに読み取れるのは、フェイスブックに自浄力はない、ということだ。

 

人気の記事ランキング
  1. Why it’s so hard for China’s chip industry to become self-sufficient 中国テック事情:チップ国産化推進で、打倒「味の素」の動き
  2. Researchers taught robots to run. Now they’re teaching them to walk 走るから歩くへ、強化学習AIで地道に進化する人型ロボット
  3. How thermal batteries are heating up energy storage レンガにエネルギーを蓄える「熱電池」に熱視線が注がれる理由
カーレン・ハオ [Karen Hao]米国版 AI担当記者
MITテクノロジーレビューの人工知能(AI)担当記者。特に、AIの倫理と社会的影響、社会貢献活動への応用といった領域についてカバーしています。AIに関する最新のニュースと研究内容を厳選して紹介する米国版ニュースレター「アルゴリズム(Algorithm)」の執筆も担当。グーグルX(Google X)からスピンアウトしたスタートアップ企業でのアプリケーション・エンジニア、クオーツ(Quartz)での記者/データ・サイエンティストの経験を経て、MITテクノロジーレビューに入社しました。
10 Breakthrough Technologies 2024

MITテクノロジーレビューは毎年、世界に真のインパクトを与える有望なテクノロジーを探している。本誌がいま最も重要だと考える進歩を紹介しよう。

記事一覧を見る
人気の記事ランキング
  1. Why it’s so hard for China’s chip industry to become self-sufficient 中国テック事情:チップ国産化推進で、打倒「味の素」の動き
  2. Researchers taught robots to run. Now they’re teaching them to walk 走るから歩くへ、強化学習AIで地道に進化する人型ロボット
  3. How thermal batteries are heating up energy storage レンガにエネルギーを蓄える「熱電池」に熱視線が注がれる理由
気候テック企業15 2023

MITテクノロジーレビューの「気候テック企業15」は、温室効果ガスの排出量を大幅に削減する、あるいは地球温暖化の脅威に対処できる可能性が高い有望な「気候テック企業」の年次リストである。

記事一覧を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る