KADOKAWA Technology Review
×
【今週水曜26日開催】1800人が参加した「生成AI」第3弾。イベント申込受付中!
生成AIが作ったデマ、人間よりも信頼される可能性
Stephanie Arnett/MITTR | Envato
Humans may be more likely to believe disinformation generated by AI

生成AIが作ったデマ、人間よりも信頼される可能性

最新の研究によると、オープンAIのGPT-3によって生成されたデマが、人間が作成したデマよりも信頼されやすい可能性があることが分かった。 by Rhiannon Williams2023.06.29

人工知能(AI)によって生成されたデマの方が、人間が作成したデマよりも信頼されやすい可能性があることが分かった。

サイエンス・アドバンシズ(Science Advances)誌に6月28日に掲載された最新の研究によると、AIが生成した偽ツイートを人間が見破る確率は、人間が作成したツイートに比べて3%低かったという。この研究を率いたチューリッヒ大学の博士課程生であるジョバンニ・スピターレは、わずかな信頼度の違いだが、AIによって生成されたデマの問題が今後さらに深刻化する可能性を考えると憂慮すべき結果だと指摘する。

「AIがデマを人間よりも安価かつすばやく生成できるだけでなく、人間よりも効果的に生成できるとすれば、悪夢のような事実です」(スピターレ)。今回の研究ではオープンAI(OpenAI)の大規模言語モデルであるGPT-3が使われたが、最新のGPT-4で研究を再現した場合、その差はさらに大きくなるだろうという。GPT-4の方がはるかに強力な性能を持つからだ。

異なる種類のテキスト情報に対する人々の感受性を測定するために、研究チームは、気候変動や新型コロナウイルス感染症(COVID-19)など、デマの対象になりやすい話題を選定した。その上で、GPT-3に10個の真実のツイートと10個のデマツイートを生成するよう指示した。同時に、ツイッター上から真実のツイートとデマツイートを無作為に収集した。

次に、697人を対象にオンライン・アンケートを実施し、ツイートがAIに生成されたものか、ツイッターから収集されたものか、また真実なのか、デマを含むものかを判断してもらった。その結果、人間が作成したデマツイートを信じる確率は、AIが生成したツイートに比べて3%低いことが確認された。 

なぜ、人はAIが生成したツイートの方を信じやすいのか。研究チームは、理由ははっきり分からないとしている。しかしスピターレによれば、今回の研究結果にはGPT-3が情報を整理する方法が関係している可能性があるという。

「GPT-3の文章の方が(人間が書いた)有機的な文章と比べると、もう少し構造化されている傾向が見られます。ですが情報が凝縮されているので、人間の書いた文章よりも理解しやすいわけです」。

生成AI(ジェネレーティブAI)ブームによって、あらゆる人が、強力かつ簡単に利用できるAIツールを手にできるようになった。そこには悪意のある人間も含まれている。GPT-3のような言語モデルは、一見もっともらしく見えるが不正確な文章を生成できる。これらの文章は、陰謀論者やデマキャンペーンによって、虚偽のナラティブ(物語)をすばやく安価に広めるために利用される可能性がある。この問題に対処するための武器として、AIが生成した文章を検知するツールがあるが、まだ開発の初期段階にあり、多くの場合、正確性に問題を抱えている。

オープンAIは、自社のAIツールが大規模なデマキャンペーンに悪用される可能性があることを認識している。オープンAIの利用規約に違反する使い方だが、同社が今年1月に発表した報告書は、「大規模言語モデルがデマ情報を生成するために使用されることを完全に防ぐことは、ほとんど不可能である」と警告している。オープンAIにコメントを求めたが、すぐに回答は得られなかった。

一方でオープンAIは、デマキャンペーンの影響を過大評価することについても注意を促している。同社の報告書によれば、AIが生成した不確実なコンテンツの影響をもっとも受けやすい集団や、AIモデルの規模と全体的な性能、出力のもっともらしさとの関係を明らかにするためには、さらなる研究が必要だという。

ケンブリッジ大学の心理学科でデマについて研究しているジョン・ルーゼンビーク博士研究員(今回の研究には参加していない)は、「パニックに陥るのはまだ早い」と言う。

AIを使ってネット上でデマを流すことは、人力での情報工作よりも簡単で安価かもしれない。ルーゼンビーク研究員は、それでもプラットフォームがモデレーションや自動検知システムを導入することで、デマの拡散を阻むことができると指摘する。

「AIのおかげで、サンクトペテルブルクのどこかのコンテンツ工場で働く人が考えたものよりは、説得力のあるツイートを容易に作成できるようになったかもしれません。だからといって、すぐに、すべての人が操作される危険に晒されるわけではありません」。

人気の記事ランキング
  1. What happened when 20 comedians got AI to write their routines AIは「笑い」を取れるか? プロがLLMにネタを書かせた結果
  2. Trajectory of U35 Innovators: Sadayuki Furuhashi 古橋貞之:世界中で使われるソフトウェアを作る日本人プログラマー
  3. Biotech companies are trying to make milk without cows 「牛を使わないミルク」ベンチャーに脚光、鳥インフル感染拡大で
リアノン・ウィリアムズ [Rhiannon Williams]米国版 ニュース担当記者
米国版ニュースレター「ザ・ダウンロード(The Download)」の執筆を担当。MITテクノロジーレビュー入社以前は、英国「i (アイ)」紙のテクノロジー特派員、テレグラフ紙のテクノロジー担当記者を務めた。2021年には英国ジャーナリズム賞の最終選考に残ったほか、専門家としてBBCにも定期的に出演している。
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。2024年も候補者の募集を開始しました。 世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。

特集ページへ
人気の記事ランキング
  1. What happened when 20 comedians got AI to write their routines AIは「笑い」を取れるか? プロがLLMにネタを書かせた結果
  2. Trajectory of U35 Innovators: Sadayuki Furuhashi 古橋貞之:世界中で使われるソフトウェアを作る日本人プログラマー
  3. Biotech companies are trying to make milk without cows 「牛を使わないミルク」ベンチャーに脚光、鳥インフル感染拡大で
MITTRが選んだ 世界を変える10大技術 2024年版

「ブレークスルー・テクノロジー10」は、人工知能、生物工学、気候変動、コンピューティングなどの分野における重要な技術的進歩を評価するMITテクノロジーレビューの年次企画だ。2024年に注目すべき10のテクノロジーを紹介しよう。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る