KADOKAWA Technology Review
×
Facebookログイン終了のお知らせ(2026/3/31 予定)
偶然から生まれたAIツール
驚くほど「自然」な
フェイクニュースを量産
Ms. Tech
カバーストーリー 無料会員限定
An AI that writes convincing prose risks mass-producing fake news

偶然から生まれたAIツール
驚くほど「自然」な
フェイクニュースを量産

膨大な量の文章を用いて訓練された機械学習アルゴリズムが、与えられた文章をもとに、いかにも本当らしいフェイクニュースの記事を生成できることが示された。プログラムを開発した研究者は、これまで以上に本当らしく聞こえるでっち上げ話を、AIが安定供給できるようになるのはそれほど遠い先の話ではないとしている。 by Will Knight2019.02.18

フェイクニュース速報です。

ドナルド・トランプ大統領がうっかりミサイルを発射させたことを受け、ロシアが米国に対して宣戦布告しました。

ロシアは、「すでにミサイルの弾道を特定しており、必要な措置を講じてロシア国民と当国の戦略核兵器の安全を確保する」と語りました。ホワイトハウスは、中距離弾道ミサイル禁止条約の「ロシア側の違反を大変遺憾に思う」と述べました。

米国とロシアは、2014年にモスクワがウクライナのクリミア地区を併合し、東部ウクライナにおけるウクライナ離脱派を支援して以来、不穏な関係が続いていました。

 

実はこの話、ただのフェイクニュースではない。人工知能(AI)がいかに巧妙に人々を騙せるようになってきているかを表す、困った一例なのだ。

このニュースを書いたのは人間ではない。「ドナルド・トランプ大統領がうっかりミサイルを発射させたことを受け、ロシアが米国に対して宣戦布告しました」という言葉をアルゴリズムに与えて、自動生成させたものだ。

アルゴリズムは、話の続きを自分で作り上げてしまった。しかも、このアルゴリズムは、どんな話題についても、いかにも本物らしいニュースをでっち上げることができる。プログラムを開発したのは、サンフランシスコに拠点を置く非営利の研究機関「オープンAI(OpenAI)」のチームだ。

オープンAIの研究チームは、汎用言語処理アルゴリズムの開発に着手した。Webサイトからの膨大な量の文章を使ってアルゴリズムを訓練し、文章を翻訳したり、質問に答えたり、その他の役に立つ作業ができるようにした。しかし研究者らはまもなく、アルゴリズムが濫用される可能性を懸念し始めた。「実験を開始すると間も無く …

こちらは会員限定の記事です。
メールアドレスの登録で続きを読めます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
人気の記事ランキング
  1. EVs could be cheaper to own than gas cars in Africa by 2040 アフリカでEVがガソリン車より安くなる日——鍵は「太陽光オフグリッド」
  2. Promotion Emerging Technology Nite #36 Special 【3/9開催】2026年版「新規事業の発想と作り方」開催のお知らせ
  3. Why the Moltbook frenzy was like Pokémon 「AIの未来」と持ち上げられたMoltbookがつまらない理由
  4. RFK Jr. follows a carnivore diet. That doesn’t mean you should. 「肉か発酵食品しか食べない」米保健長官が目指す「健康な米国」
AI革命の真実 誇大宣伝の先にあるもの

AIは人間の知能を再現する。AIは病気を根絶する。AIは人類史上、最大にして最も重要な発明だ——。こうした言葉を、あなたも何度となく耳にしてきたはずだ。しかし、その多くは、おそらく真実ではない。現在地を見極め、AIが本当に可能にするものは何かを問い、次に進むべき道を探る。

特集ページへ
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を発信する。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る