KADOKAWA Technology Review
×
Facebookログイン終了のお知らせ(2026/3/31 予定)
フェイクニュースはAI対AIの戦いになる——CIAのコンサルが警告
Fake news 2.0: personalized, optimized, and even harder to stop

フェイクニュースはAI対AIの戦いになる——CIAのコンサルが警告

フェイクニュースが人工知能による自動生成へ移行することで、パーソナライズや最適化が進み、さらにデマが広がる懸念があるという。 by Will Knight2018.03.29

フェイクニュースはすでに米国の政治に影響を与えているかもしれない。だが、その状況は今後一層悪化するだろうと、人工知能(AI)コンサルタントは警告する。

プライマー(Primer)の創業者であるショーン・ガーリーCEO(最高経営責任者)は、サンフランシスコで開催されたMITテクノロジーレビュー主催の年次カンファレンス「EmTechデジタル」で、次世代のフェイクニュースは、AIのおかげで今まで以上にずっと洗練されたものになるだろうと述べた。プライマーはソフトウェアを使ったデータマイニングやレポート作成を請け負う企業で、顧客に米国中央情報局(CIA)を抱える。

「自動化によってフェイクニュースはとても効果的なものになるでしょう」とガーリーCEOは聴衆に語った。

ガーリーCEOの警告はフェイスブックへの懸念を引き起こすだろう。フェイクニュースを防止できなかったことで、フェイスブックはスキャンダルに巻き込まれている。2016年の米大統領選の数カ月間前からロシアの工作員によって作られたフェイクニュースは、何百万人もの人々に広まった。直近では大統領選でトランプ陣営と関係しているケンブリッジ・アナリティカ(Cambridge Analytica)にユーザーの個人データ流出を許した事実が発覚したことで、フェイスブックはさらなる打撃を受けている。

最近のインタビューで、フェイスブックのマーク・ザッカーバーグCEOは、フェイクニュースを見分けるのにAIを使うつもりだと発言した。ガーリーCEOによると、フェイクニュースの作成とは正反対の目的のためにもAIは使用できるという。

ガーリーCEOは、これまで定期的にソーシャルメディアに投稿されてきたフェイクニュースは、雑な内容の手作りの記事であり、比較的単純なものだったと指摘した。プライマーが用いるような技術は、説得力のあるフェイクニュースを自動作成するのに容易に使用できる。影響力を最大限に高めるため、ニュースは個人の興味や支持する考えに合わせて作成され、入念なテストを経て公開されるようになるだろうとガーリーCEOは述べた。

「無数の記事を作成した上で、どの記事がもっとも人々の関心を引き寄せるかを確認して、さらに興味を惹く記事を生成することができます」。

これまでのところ、フェイクニュースはフェイスブックのようなソーシャルメディア・プラットフォームに無作為に供給されてきたとガーリーCEOは付け加えた。ネットワークを通じてどのように情報が広まっていくか、コンテンツの人気度をどんな仕組みで測っているのか、さらに理解を深めることで、投稿の及ぼす影響を増幅できる可能性がある。

「情報を吹き込む場所が、その情報の伝わり方や広まり方に大きな影響をもたらします」とガーリーCEOはいう。フェイスブックのようなプラットフォームは、ニュースを共有する場として本質的に欠陥がある可能性があるとガーリーCEOは続けて述べた。「現在私たちが目にしているフェイクニュースはどれも原始的なものであるにも関わらず、深刻な影響をもたらしてきました。まだほんの序の口なのです」。

だが、ガーリーCEOはAIが少なくともその解決策の一部となることに同意する。「一方が機械でフェイクニュースを作るのであれば、他方はそれらをふるいにかけるのを機械に手伝ってもらう方が賢明でしょう」。

 

人気の記事ランキング
  1. Why the world doesn’t recycle more nuclear waste 核廃棄物はリサイクルできる——ただし「経済的利益はない」
ウィル ナイト [Will Knight]米国版 AI担当上級編集者
MITテクノロジーレビューのAI担当上級編集者です。知性を宿す機械やロボット、自動化について扱うことが多いですが、コンピューティングのほぼすべての側面に関心があります。南ロンドン育ちで、当時最強のシンクレアZX Spectrumで初めてのプログラムコード(無限ループにハマった)を書きました。MITテクノロジーレビュー以前は、ニューサイエンティスト誌のオンライン版編集者でした。もし質問などがあれば、メールを送ってください。
MITテクノロジーレビューが選んだ、 世界を変える10大技術

MITテクノロジーレビューの記者と編集者は、未来を形作るエマージング・テクノロジーについて常に議論している。年に一度、私たちは現状を確認し、その見通しを読者に共有する。以下に挙げるのは、良くも悪くも今後数年間で進歩を促し、あるいは大きな変化を引き起こすと本誌が考えるテクノロジーである。

特集ページへ
AI革命の真実 誇大宣伝の先にあるもの

AIは人間の知能を再現する。AIは病気を根絶する。AIは人類史上、最大にして最も重要な発明だ——。こうした言葉を、あなたも何度となく耳にしてきたはずだ。しかし、その多くは、おそらく真実ではない。現在地を見極め、AIが本当に可能にするものは何かを問い、次に進むべき道を探る。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る