KADOKAWA Technology Review
×
賢すぎるチャットボットが
民主主義を支配する
Magoz
知性を宿す機械 Insider Online限定
Future elections may be swayed by intelligent, weaponized chatbots

賢すぎるチャットボットが
民主主義を支配する

プロパガンダ・ボットによる世論操作が深刻な問題になっている。今後、人工知能(AI)技術が発展するにつれて、ボットの振る舞いはより人間らしくなり、より効果的な攻撃を仕掛けてくるだろう。オックスフォード大学インターネット研究所の研究者による寄稿。 by Lisa-Maria Neudert2018.08.28

プロパガンダ・ボットに対する戦いは、民主主義のための軍拡競争である。私たちはこの戦いに負けるかもしれない。単純なコンピューター・スクリプトであるボットは本来、コンテンツの整理やネットワークのメンテナンスといった反復的な作業を自動化するために設計され、人間の退屈な作業を肩代わりしてくれるものだった。企業やマスコミは、ニュース速報や新商品の情報をユーザーに即座に伝えるために、ボットを使ってソーシャルメディアを運用している。

だがボットは、大量の偽アカウントの運営にも利用され、人々を操るのに理想的なツールになっている。私たち「コンピューター・プロパガンダ・プロジェクト(Computational Propaganda Project)」による研究は、政治ボットがビッグデータと自動化を利用してデマ情報を拡散したり、オンラインの議論をねじ曲げたりする方法について調べている。

ボットが過激な意見をソーシャルメディアで拡散する最適な方法の1つであることはすでに証明されている。それだけではない。人間と同じように、シェアやリツイート、ライク、フォローなどをすることで、過激な意見を増幅することもできる。することで、ボットはソーシャルメディアのアルゴリズムを操り、やりとりした投稿の表示回数を増やせるのだ。

もっともこれは、今後実現しつつあるものに比べれば、たいしたものではないかもしれない。

数の強み

2016年の米国大統領選挙におけるロシアの介入を受けて、政治をプロパガンダから守るための方法についてさまざまな議論がされてきた。ツイッターは今年、ボットを含めた疑わしいアカウント数千万件を削除した。規制当局はボットの禁止と透明性確保について提案し、インターネット・プラットフォームとの協力強化を訴えた。

こう聞くと、私たちは有利な立場にいると思うかもしれない。それは一部は真実である。ボットを利用した戦略は目新しいものではなく、巧妙な戦略性などは元々なかったのだ。ボットの強みはその「数」にある。プロパガンダを広めようとする者はボットを大量に動員し、大量の投稿や返信をすることで本来の民主的議論を圧倒してしまう。ボット的な行動を検知するためのより優れた技術的対策が実現したことで、ボットの削除は簡単になった。人々も警戒を強め、ボットをうまく見極められるようになってきた。標準的なボットはロボット的な特徴を隠すことがほとんどできず、ツイートのパターンを軽く調べてみたり、プロフィール画像を確認したりするだけでも正 …

こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
日本発「世界を変える」35歳未満のイノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を発信する。

記事一覧を見る
MITテクノロジーレビュー[日本版] Vol.5
MITテクノロジーレビュー[日本版] Vol.5Cities Issue

新型コロナのパンデミックによって激変した都市生活は、ポストコロナでどう変わるのか? 都市部への人口集中が世界で加速する中、環境、災害、貧困といった負の側面をテクノロジーは解決できるのか? 多様な人々が集まり、化学反応が起きるイノベーションの集積地としての役割を都市は今後も果たし続けるのか? 世界の豊富な事例と識者への取材を通して、新しい都市の未来像を描く。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る