賢すぎるチャットボットが
民主主義を支配する

プロパガンダ・ボットに対する戦いは、民主主義のための軍拡競争である。私たちはこの戦いに負けるかもしれない。単純なコンピューター・スクリプトであるボットは本来、コンテンツの整理やネットワークのメンテナンスといった反復的な作業を自動化するために設計され、人間の退屈な作業を肩代わりしてくれるものだった。企業やマスコミは、ニュース速報や新商品の情報をユーザーに即座に伝えるために、ボットを使ってソーシャルメディアを運用している。

だがボットは、大量の偽アカウントの運営にも利用され、人々を操るのに理想的なツールになっている。私たち「コンピューター・プロパガンダ・プロジェクト（Computational Propaganda Project）」による研究は、政治ボットがビッグデータと自動化を利用してデマ情報を拡散したり、オンラインの議論をねじ曲げたりする方法について調べている。

ボットが過激な意見をソーシャルメディアで拡散する最適な方法の1つであることはすでに証明されている。それだけではない。人間と同じように、シェアやリツイート、ライク、フォローなどをすることで、過激な意見を増幅することもできる。することで、ボットはソーシャルメディアのアルゴリズムを操り、やりとりした投稿の表示回数を増やせるのだ。

もっともこれは、今後実現しつつあるものに比べれば、たいしたものではないかもしれない。

数の強み

2016年の米国大統領選挙におけるロシアの介入を受けて、政治をプロパガンダから守るための方法についてさまざまな議論がされてきた。ツイッターは今年、ボットを含めた疑わしいアカウント数千万件を削除した。規制当局はボットの禁止と透明性確保について提案し、インターネット・プラットフォームとの協力強化を訴えた。

こう聞くと、私たちは有利な立場にいると思うかもしれない。それは一部は真実である。ボットを利用した戦略は目新しいものではなく、巧妙な戦略性などは元々なかったのだ。ボットの強みはその「数」にある。プロパガンダを広めようとする者はボットを大量に動員し、大量の投稿や返信をすることで本来の民主的議論を圧倒してしまう。ボット的な行動を検知するためのより優れた技術的対策が実現したことで、ボットの削除は簡単になった。人々も警戒を強め、ボットをうまく見極められるようになってきた。標準的なボットはロボット的な特徴を隠すことがほとんどできず、ツイートのパターンを軽く調べてみたり、プロフィール画像を確認したりするだけでも正 …

人気の記事ランキング

1. The great AI hype correction of 2025 GPT-5ローンチ失敗、 企業95%が成果出せず … 転換期を迎えたAIブーム
2. China figured out how to sell EVs. Now it has to deal with their aging batteries. 中国でEV廃車ラッシュ、年間82万トンのバッテリー処理追いつかず
3. AI might not be coming for lawyers’ jobs anytime soon そして弁護士の仕事は残った 「44％自動化」の誇大宣伝 司法試験クリアも実務遠く
4. 4 technologies that didn’t make our 2026 breakthroughs list 2026年版「世界を変える10大技術」から漏れた候補4つ