KADOKAWA Technology Review
×
発表!MITテクノロジーレビューが選ぶ
2022年のイノベーター14人。
【12/15 Summit開催】
フェイクニュースはAI対AIの戦いになる——CIAのコンサルが警告
Fake news 2.0: personalized, optimized, and even harder to stop

フェイクニュースはAI対AIの戦いになる——CIAのコンサルが警告

フェイクニュースが人工知能による自動生成へ移行することで、パーソナライズや最適化が進み、さらにデマが広がる懸念があるという。 by Will Knight2018.03.29

フェイクニュースはすでに米国の政治に影響を与えているかもしれない。だが、その状況は今後一層悪化するだろうと、人工知能(AI)コンサルタントは警告する。

プライマー(Primer)の創業者であるショーン・ガーリーCEO(最高経営責任者)は、サンフランシスコで開催されたMITテクノロジーレビュー主催の年次カンファレンス「EmTechデジタル」で、次世代のフェイクニュースは、AIのおかげで今まで以上にずっと洗練されたものになるだろうと述べた。プライマーはソフトウェアを使ったデータマイニングやレポート作成を請け負う企業で、顧客に米国中央情報局(CIA)を抱える。

「自動化によってフェイクニュースはとても効果的なものになるでしょう」とガーリーCEOは聴衆に語った。

ガーリーCEOの警告はフェイスブックへの懸念を引き起こすだろう。フェイクニュースを防止できなかったことで、フェイスブックはスキャンダルに巻き込まれている。2016年の米大統領選の数カ月間前からロシアの工作員によって作られたフェイクニュースは、何百万人もの人々に広まった。直近では大統領選でトランプ陣営と関係しているケンブリッジ・アナリティカ(Cambridge Analytica)にユーザーの個人データ流出を許した事実が発覚したことで、フェイスブックはさらなる打撃を受けている。

最近のインタビューで、フェイスブックのマーク・ザッカーバーグCEOは、フェイクニュースを見分けるのにAIを使うつもりだと発言した。ガーリーCEOによると、フェイクニュースの作成とは正反対の目的のためにもAIは使用できるという。

ガーリーCEOは、これまで定期的にソーシャルメディアに投稿されてきたフェイクニュースは、雑な内容の手作りの記事であり、比較的単純なものだったと指摘した。プライマーが用いるような技術は、説得力のあるフェイクニュースを自動作成するのに容易に使用できる。影響力を最大限に高めるため、ニュースは個人の興味や支持する考えに合わせて作成され、入念なテストを経て公開されるようになるだろうとガーリーCEOは述べた。

「無数の記事を作成した上で、どの記事がもっとも人々の関心を引き寄せるかを確認して、さらに興味を惹く記事を生成することができます」。

これまでのところ、フェイクニュースはフェイスブックのようなソーシャルメディア・プラットフォームに無作為に供給されてきたとガーリーCEOは付け加えた。ネットワークを通じてどのように情報が広まっていくか、コンテンツの人気度をどんな仕組みで測っているのか、さらに理解を深めることで、投稿の及ぼす影響を増幅できる可能性がある。

「情報を吹き込む場所が、その情報の伝わり方や広まり方に大きな影響をもたらします」とガーリーCEOはいう。フェイスブックのようなプラットフォームは、ニュースを共有する場として本質的に欠陥がある可能性があるとガーリーCEOは続けて述べた。「現在私たちが目にしているフェイクニュースはどれも原始的なものであるにも関わらず、深刻な影響をもたらしてきました。まだほんの序の口なのです」。

だが、ガーリーCEOはAIが少なくともその解決策の一部となることに同意する。「一方が機械でフェイクニュースを作るのであれば、他方はそれらをふるいにかけるのを機械に手伝ってもらう方が賢明でしょう」。

 

人気の記事ランキング
  1. Here’s how a Twitter engineer says it will break in the coming weeks ツイッターで「非公式RT」が一時復活、崩壊の始まりか
  2. Former Twitter employees fear the platform might only last weeks 「ハードコア」大量離職で、元従業員らがツイッターに余命宣告
  3. We could run out of data to train AI language programs  大規模言語AIにアキレス腱、訓練用データが2026年にも枯渇か
  4. President Biden reveals the James Webb Space Telescope’s “poetic” first image of the universe ジェームズ・ウェッブ宇宙望遠鏡の最初の写真、130億年前の銀河も
ウィル ナイト [Will Knight]米国版 AI担当上級編集者
MITテクノロジーレビューのAI担当上級編集者です。知性を宿す機械やロボット、自動化について扱うことが多いですが、コンピューティングのほぼすべての側面に関心があります。南ロンドン育ちで、当時最強のシンクレアZX Spectrumで初めてのプログラムコード(無限ループにハマった)を書きました。MITテクノロジーレビュー以前は、ニューサイエンティスト誌のオンライン版編集者でした。もし質問などがあれば、メールを送ってください。
日本発「世界を変える」35歳未満のイノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を発信する。

記事一覧を見る
人気の記事ランキング
  1. Here’s how a Twitter engineer says it will break in the coming weeks ツイッターで「非公式RT」が一時復活、崩壊の始まりか
  2. Former Twitter employees fear the platform might only last weeks 「ハードコア」大量離職で、元従業員らがツイッターに余命宣告
  3. We could run out of data to train AI language programs  大規模言語AIにアキレス腱、訓練用データが2026年にも枯渇か
  4. President Biden reveals the James Webb Space Telescope’s “poetic” first image of the universe ジェームズ・ウェッブ宇宙望遠鏡の最初の写真、130億年前の銀河も
MITテクノロジーレビュー[日本版] Vol.8
MITテクノロジーレビュー[日本版] Vol.8脱炭素イノベーション

2050年のカーボンニュートラル(炭素中立)の実現に向けて、世界各国で研究開発が加速する脱炭素技術、社会実装が進む気候変動の緩和・適応策などGX(グリーン・トランスフォーメーション)の最新動向を丸ごと1冊取り上げる。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る