Humans may be more likely to believe disinformation generated by AI

生成AIが作ったデマ、人間よりも信頼される可能性

最新の研究によると、オープンAIのGPT-3によって生成されたデマが、人間が作成したデマよりも信頼されやすい可能性があることが分かった。 by Rhiannon Williams2023.06.29

人工知能（AI）によって生成されたデマの方が、人間が作成したデマよりも信頼されやすい可能性があることが分かった。

サイエンス・アドバンシズ（Science Advances）誌に6月28日に掲載された最新の研究によると、AIが生成した偽ツイートを人間が見破る確率は、人間が作成したツイートに比べて3％低かったという。この研究を率いたチューリッヒ大学の博士課程生であるジョバンニ・スピターレは、わずかな信頼度の違いだが、AIによって生成されたデマの問題が今後さらに深刻化する可能性を考えると憂慮すべき結果だと指摘する。

「AIがデマを人間よりも安価かつすばやく生成できるだけでなく、人間よりも効果的に生成できるとすれば、悪夢のような事実です」（スピターレ）。今回の研究ではオープンAI（OpenAI）の大規模言語モデルであるGPT-3が使われたが、最新のGPT-4で研究を再現した場合、その差はさらに大きくなるだろうという。GPT-4の方がはるかに強力な性能を持つからだ。

異なる種類のテキスト情報に対する人々の感受性を測定するために、研究チームは、気候変動や新型コロナウイルス感染症（COVID-19）など、デマの対象になりやすい話題を選定した。その上で、GPT-3に10個の真実のツイートと10個のデマツイートを生成するよう指示した。同時に、ツイッター上から真実のツイートとデマツイートを無作為に収集した。

次に、697人を対象にオンライン・アンケートを実施し、ツイートがAIに生成されたものか、ツイッターから収集されたものか、また真実なのか、デマを含むものかを判断してもらった。その結果、人間が作成したデマツイートを信じる確率は、AIが生成したツイートに比べて3％低いことが確認された。

なぜ、人はAIが生成したツイートの方を信じやすいのか。研究チームは、理由ははっきり分からないとしている。しかしスピターレによれば、今回の研究結果にはGPT-3が情報を整理する方法が関係している可能性があるという。

「GPT-3の文章の方が（人間が書いた）有機的な文章と比べると、もう少し構造化されている傾向が見られます。ですが情報が凝縮されているので、人間の書いた文章よりも理解しやすいわけです」。

生成AI（ジェネレーティブAI）ブームによって、あらゆる人が、強力かつ簡単に利用できるAIツールを手にできるようになった。そこには悪意のある人間も含まれている。GPT-3のような言語モデルは、一見もっともらしく見えるが不正確な文章を生成できる。これらの文章は、陰謀論者やデマキャンペーンによって、虚偽のナラティブ（物語）をすばやく安価に広めるために利用される可能性がある。この問題に対処するための武器として、AIが生成した文章を検知するツールがあるが、まだ開発の初期段階にあり、多くの場合、正確性に問題を抱えている。

オープンAIは、自社のAIツールが大規模なデマキャンペーンに悪用される可能性があることを認識している。オープンAIの利用規約に違反する使い方だが、同社が今年1月に発表した報告書は、「大規模言語モデルがデマ情報を生成するために使用されることを完全に防ぐことは、ほとんど不可能である」と警告している。オープンAIにコメントを求めたが、すぐに回答は得られなかった。

一方でオープンAIは、デマキャンペーンの影響を過大評価することについても注意を促している。同社の報告書によれば、AIが生成した不確実なコンテンツの影響をもっとも受けやすい集団や、AIモデルの規模と全体的な性能、出力のもっともらしさとの関係を明らかにするためには、さらなる研究が必要だという。

ケンブリッジ大学の心理学科でデマについて研究しているジョン・ルーゼンビーク博士研究員（今回の研究には参加していない）は、「パニックに陥るのはまだ早い」と言う。

AIを使ってネット上でデマを流すことは、人力での情報工作よりも簡単で安価かもしれない。ルーゼンビーク研究員は、それでもプラットフォームがモデレーションや自動検知システムを導入することで、デマの拡散を阻むことができると指摘する。

「AIのおかげで、サンクトペテルブルクのどこかのコンテンツ工場で働く人が考えたものよりは、説得力のあるツイートを容易に作成できるようになったかもしれません。だからといって、すぐに、すべての人が操作される危険に晒されるわけではありません」。

人気の記事ランキング

リアノン・ウィリアムズ [Rhiannon Williams]米国版ニュース担当記者: 米国版ニュースレター「ザ・ダウンロード（The Download）」の執筆を担当。MITテクノロジーレビュー入社以前は、英国「i （アイ）」紙のテクノロジー特派員、テレグラフ紙のテクノロジー担当記者を務めた。2021年には英国ジャーナリズム賞の最終選考に残ったほか、専門家としてBBCにも定期的に出演している。