KADOKAWA Technology Review
×
「Innovators Under 35 Japan」2021年度候補者募集のお知らせ
賢すぎるチャットボットが
民主主義を支配する
Magoz
知性を宿す機械 Insider Online限定
Future elections may be swayed by intelligent, weaponized chatbots

賢すぎるチャットボットが
民主主義を支配する

プロパガンダ・ボットによる世論操作が深刻な問題になっている。今後、人工知能(AI)技術が発展するにつれて、ボットの振る舞いはより人間らしくなり、より効果的な攻撃を仕掛けてくるだろう。オックスフォード大学インターネット研究所の研究者による寄稿。 by Lisa-Maria Neudert2018.08.28

プロパガンダ・ボットに対する戦いは、民主主義のための軍拡競争である。私たちはこの戦いに負けるかもしれない。単純なコンピューター・スクリプトであるボットは本来、コンテンツの整理やネットワークのメンテナンスといった反復的な作業を自動化するために設計され、人間の退屈な作業を肩代わりしてくれるものだった。企業やマスコミは、ニュース速報や新商品の情報をユーザーに即座に伝えるために、ボットを使ってソーシャルメディアを運用している。

だがボットは、大量の偽アカウントの運営にも利用され、人々を操るのに理想的なツールになっている。私たち「コンピューター・プロパガンダ・プロジェクト(Computational Propaganda Project)」による研究は、政治ボットがビッグデータと自動化を利用してデマ情報を拡散したり、オンラインの議論をねじ曲げたりする方法について調べている。

ボットが過激な意見をソーシャルメディアで拡散する最適な方法の1つであることはすでに証明されている。それだけではない。人間と同じように、シェアやリツイート、ライク、フォローなどをすることで、過激な意見を増幅することもできる。することで、ボットはソーシャルメディアのアルゴリズムを操り、やりとりした投稿の表示回数を増やせるのだ。

もっともこれは、今後実現しつつあるものに比べれば、たいしたものではないかもしれない。

数の強み

2016年の米国大統領選挙におけるロシアの介入を受けて、政治をプロパガンダから守るための方法についてさまざまな議論がされてきた。ツイッターは今年、ボットを含めた疑わしいアカウント数千万件を削除した。規制当局はボットの禁止と透明性確保について提案し、インターネット・プラットフォームとの協力強化を訴えた。

こう聞くと、私たちは有利な立場にいると思うかもしれない。それは一部は真実である。ボットを利用した戦略は目新しいものではなく、巧妙な戦略性などは元々なかったのだ。ボットの強みはその「数」にある。プロパガンダを広めようとする者はボットを大量に動員し、大量の投稿や返信をすることで本来の民主的議論を圧倒してしまう。ボット的な行動を検知するためのより優れた技術的対策が実現したことで、ボットの削除は簡単になった。人々も警戒を強め、ボットをうまく見極められるようになってきた。標準的なボットはロボット的な特徴を隠すことがほとんどできず、ツイートのパターンを軽く調べてみたり、プロフィール画像を確認したりするだけでも正 …

こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
10 Breakthrough Technologies 2021

新型コロナで注目されるmRNAワクチンから、史上最も優れたAI言語モデル、電気自動車の普及を担うリチウム金属電池まで。
MITテクノロジーレビューが選んだ、世界を変える10大テクノロジー。

記事一覧を見る
MITテクノロジーレビュー[日本版] Vol.3/Spring 2021
MITテクノロジーレビュー[日本版] Vol.3/Spring 2021Innovation Issue

AI/ロボット工学、コンピューター/電子機器、輸送、ソフトウェア、インターネット分野で活躍する13人の日本発のイノベーターを紹介。併せて、グローバルで活躍する35人のイノベーターの紹介と、注目のイノベーション分野の動向解説も掲載しました。
日本と世界のイノベーションの最新情報がまとめて読める1冊です。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る