賢すぎるチャットボットが
民主主義を支配する

プロパガンダ・ボットに対する戦いは、民主主義のための軍拡競争である。私たちはこの戦いに負けるかもしれない。単純なコンピューター・スクリプトであるボットは本来、コンテンツの整理やネットワークのメンテナンスといった反復的な作業を自動化するために設計され、人間の退屈な作業を肩代わりしてくれるものだった。企業やマスコミは、ニュース速報や新商品の情報をユーザーに即座に伝えるために、ボットを使ってソーシャルメディアを運用している。

だがボットは、大量の偽アカウントの運営にも利用され、人々を操るのに理想的なツールになっている。私たち「コンピューター・プロパガンダ・プロジェクト（Computational Propaganda Project）」による研究は、政治ボットがビッグデータと自動化を利用してデマ情報を拡散したり、オンラインの議論をねじ曲げたりする方法について調べている。

ボットが過激な意見をソーシャルメディアで拡散する最適な方法の1つであることはすでに証明されている。それだけではない。人間と同じように、シェアやリツイート、ライク、フォローなどをすることで、過激な意見を増幅することもできる。することで、ボットはソーシャルメディアのアルゴリズムを操り、やりとりした投稿の表示回数を増やせるのだ。

もっともこれは、今後実現しつつあるものに比べれば、たいしたものではないかもしれない。

数の強み

2016年の米国大統領選挙におけるロシアの介入を受けて、政治をプロパガンダから守るための方法についてさまざまな議論がされてきた。ツイッターは今年、ボットを含めた疑わしいアカウント数千万件を削除した。規制当局はボットの禁止と透明性確保について提案し、インターネット・プラットフォームとの協力強化を訴えた。

こう聞くと、私たちは有利な立場にいると思うかもしれない。それは一部は真実である。ボットを利用した戦略は目新しいものではなく、巧妙な戦略性などは元々なかったのだ。ボットの強みはその「数」にある。プロパガンダを広めようとする者はボットを大量に動員し、大量の投稿や返信をすることで本来の民主的議論を圧倒してしまう。ボット的な行動を検知するためのより優れた技術的対策が実現したことで、ボットの削除は簡単になった。人々も警戒を強め、ボットをうまく見極められるようになってきた。標準的なボットはロボット的な特徴を隠すことがほとんどできず、ツイートのパターンを軽く調べてみたり、プロフィール画像を確認したりするだけでも正 …

人気の記事ランキング

1. Inside the tedious effort to tally AI’s energy appetite 動画生成は別次元、思ったより深刻だったAIの電力問題
2. Promotion Call for entries for Innovators Under 35 Japan 2025 「Innovators Under 35 Japan」2025年度候補者募集のお知らせ
3. What’s next for AI and math 数学オリンピックで「人間超え」のAIは数学者になれるか？
4. IBM aims to build the world’s first large-scale, error-corrected quantum computer by 2028 IBM、世界初の大規模誤り訂正量子コンピューター　28年実現へ
5. What is vibe coding, exactly? バイブコーディングとは何か？ AIに「委ねる」プログラミング新手法