Meta says AI-generated election content not happening at "systemic level"

生成AIによる選挙妨害は想定の範囲内、メタ幹部が対策強調

メタのの国際問題担当社長が、偽情報やAI生成コンテンツへの対策など、同社の取り組みについて語った。 by Melissa Heikkilä2024.05.27

インドネシア、台湾、バングラデシュといった国々で主要な選挙があったにもかかわらず、2024年の選挙に関する人工知能（AI）が生成した偽情報は驚くほど少ないと、メタの国際問題担当社長ニック・クレッグは述べた。

「『今のところ』と強調しておきますが、興味深いのは、AIが生成したコンテンツがどれだけ多いのかではなく、どれだけ少ないかということです」。クレッグ社長は米国マサチューセッツ州ケンブリッジで5月21日に開催されたMITテクノロジーレビューの「EmTech（エムテック） Digital」カンファレンスでの公開インタビューでこう語った。

「AI生成コンテンツは存在し、目に見えます。（中略）大量に発生しているわけでも、システム・レベルで発生しているわけでもありません」（クレッグ社長）。例えば、台湾の選挙において、メタのプラットフォームで選挙介入の試みが見られたが、その規模は「管理可能な量」だという。

今年は50カ国以上で選挙が実施されるが、専門家たちは、AIが生成する政治的なデマ、生成AI（ジェネレーティブAI）やソーシャルメディアを使って選挙を妨害する悪意ある行為者について警鐘を鳴らしている。2021年1月6日の米議会襲撃事件で、メタがプラットフォームにおける暴徒の組織化を阻止できなかったときなど、メタは以前から、過去の選挙に関するコンテンツ・モデレーション・ポリシーをめぐる批判に直面してきた。

クレッグ社長は、暴力的な集団の組織化を阻止するためのメタの取り組みを擁護すると同時に、後れをとらずに対応する難しさを強調した。「非常に敵対的な状況です。率直に言えば、モグラたたきをしているようなものです。あるグループを排除すると、名前を変えて出てきます。その繰り返しです」。

メタの選挙コンテンツ・モデレーションについては、2016年当時とは「まったく異なる」とクレッグ社長は主張した。2016年以降、同社は200以上の「協調的な不審な行動のネットワーク」を削除してきたという。メタは現在、ファクト・チェッカーとAIテクノロジーを用いて、プラットフォーム上の望ましくないグループを特定している。

今年初め、メタはフェイスブック、インスタグラム、スレッズ（Threads）上で、AIが生成した画像にラベルを付けると発表した。AIが生成した画像に目に見えるマーカーが追加されるようになり、目に見えない透かしやメタデータも画像ファイルに組み込まれるようになった。透かしは、メタの生成AIシステムを使用して作成された画像や、目に見えない業界標準のマーカーを含む画像に追加される。メタによれば、同社の対策は、AI研究の非営利団体パートナーシップ・オン・AI（Partnership on AI）が定めるベスト・プラクティスに従ったものだという。

しかし同時に、AI生成コンテンツを検出するツールはまだ不完全で未熟だとクレッグ社長は認めている。AIシステムの透かしは業界全体で採用されておらず、改ざんも容易だ。また、AIが生成したテキスト、音声、動画に確実な方法で透かしを入れることも難しい。

ただ、結局のところそれは問題にはならないはずだ、とクレッグ社長は言う。メタのシステムは偽情報やデマを、その出所にかかわらず検知・検出できるはずだからだ。

「AIは剣であり盾なのです」とクレッグ社長は言う。

クレッグ社長はまた、2020年の米大統領選が「盗まれた」と主張する広告を許可したメタの決定を擁護した。この種の主張は世界中で一般的に見られるものであり、メタが過去の選挙を訴訟に持ち込むことは「現実的ではない」と指摘した。

ニック・クレッグ社長と本誌米国版のエイミー・ノードラム責任編集者との動画インタビュー（英語版）は以下から視聴できる。

人気の記事ランキング

メリッサ・ヘイッキラ [Melissa Heikkilä]米国版 AI担当上級記者: MITテクノロジーレビューの上級記者として、人工知能とそれがどのように社会を変えていくかを取材している。MITテクノロジーレビュー入社以前は『ポリティコ（POLITICO）』でAI政策や政治関連の記事を執筆していた。英エコノミスト誌での勤務、ニュースキャスターとしての経験も持つ。2020年にフォーブス誌の「30 Under 30」（欧州メディア部門）に選出された。