新しい研究によると、人工知能（AI）が生成した偽情報やディープフェイクは今年、英国、フランス、欧州議会における選挙結果にほとんど影響を与えなかったようだ。

生成Aブームが始まって以来、悪意ある行為者がAIツールを用いてフェイク・コンテンツを拡散能力を高め、選挙に干渉したり、結果に影響を与えたりする可能性が懸念されてきた。70カ国以上で数十億人が投票することが見込まれた今年は、そうした懸念が特に高まっていた。

だが、懸念は杞憂だったようだと、今回の研究を実施したアラン・チューリング研究所（Alan Turing Institute）のサム・ストックウェル研究員は言う。ストックウェル研究員は2024年5月から8月までの4カ月間、3つの選挙に焦点を当て、AIの悪用に関する公的な報告書やニュース記事のデータを収集した。英国の総選挙中に拡散したAIによる偽情報またはディープフェイクの事例を16件、欧州連合（EU）およびフランスの選挙で事例を合計11件特定したが、いずれも結果を明確に左右するものではなかった。偽のAIコンテンツは、国内の当事者とロシアなどの敵対国とつながりのあるグループの両方によって作成されていた。

これらの調査結果は、選挙干渉に注目することが、民主主義に対するより深刻で長期的な脅威から目をそらさせることになるという専門家の最近の警告と一致している。

AI生成コンテンツは、今年これまでのところ、ほとんどの欧州の選挙では、デマ拡散ツールとしては効果的ではなかったようだ。これは、デマにさらされた人々の大半が、その背後にあるメッセージ（例えば、自国への移民が多すぎるというような）をすでに信じていたためだと、ストックウェル研究員は言う。ストックウェル研究員の分析によると、ディープフェイク・メッセージを積極的に再共有して拡散していた人々は、その内容と一致する何らかの団体と関わりがあったか、同じような意見をそれまでに表明していた。そのため、このような材料は、投票先を決めていない有権者に影響を与えるというよりも、既存の見解を強化した可能性が高い。

ボットによるコメント欄の大量投稿や、インフルエンサーを悪用した偽情報の拡散など、十分に試行を重ねた選挙干渉戦術は、依然としてはるかに効果的であった。悪意のある行為者の多くは、ニュース記事を自分たちに都合が良いように書き換えるため、あるいは、デマ拡散を目的にしたオンライン・コンテンツをさらに作成するために、生成AIを使用していた。

「AIは今のところ、それほど大きな優位性をもたらしていません。なぜなら、誤った情報や誤解を招く情報を作成する既存のより単純な方法が依然として広く使われているからです」。ロイタージャーナリズム研究所（Reuters Institute for Journalism）の研究員で、この研究には関与していないフェリックス・サイモンは言う。

しかし、偽情報に詳しいピッツバーグ大学のサミュエル・ウーリー准教授は、現段階ではAIが選挙に与える影響について確固たる結論を出すのは難しいと言う。その理由の一つは、十分なデータがないことだ。

「市民の政治参加を変えるこれらのツールの使用に関連する下流工程における影響はあまり明白ではなく、追跡が困難です」と、ウーリー准教授は付け加える。

ストックウェル研究員も同意見だ。これらの選挙から得られた初期のエビデンスは、AI生成コンテンツは人々の意見を大規模に変えるよりも、政治家への嫌がらせや混乱の種をまくのに効果的である可能性を示している。

英国の政治家、例えばリシ・スナク前首相などは、たとえば、詐欺を宣伝したり、金銭的な汚職を認めたりするようなAIディープフェイクの標的となった。女性候補者も、名誉毀損や脅迫を目的とした、同意のない性的なディープフェイク・コンテンツの対象となった。

「もちろん、長期的に見れば、政治家の候補者がネット嫌がらせ、殺害予告、ディープフェイクによるポルノスキャンダルなどの被害に遭うことが増えれば、将来の選挙への参加意欲を削ぐという現実的な影響が出るだけでなく、明らかに候補者たちの幸福を損なうことにもなります」とストックウェル研究員は言う。

恐らくより心配なのは、人々が選挙の文脈において、本物とAI生成コンテンツの違いを識別できなくなっていることが研究で示されていることだと、ストックウェルは言う。政治家もそのことを利用している。たとえば、フランスの欧州議会選挙の政治候補者たちは、AIで生成されたコンテンツを共有し、反移民のナラティブを増幅しているが、そのコンテンツがAIで生成されたものであることを開示していない。

「この秘密裏に実行される関与は、透明性の欠如と相まって、政治プロセスの整合性にとって潜在的に大きなリスクとなる可能性があると私は見ています。一般市民やいわゆる『悪意のある行為者』によるAIの利用よりも深刻です」と、サイモンは言う。

• 7

人気の記事ランキング

1. A tiny new open-source AI model performs as well as powerful big ones 720億パラメーターでも「GPT-4o超え」、Ai2のオープンモデル
2. Geoffrey Hinton, AI pioneer and figurehead of doomerism, wins Nobel Prize in Physics ジェフリー・ヒントン、 ノーベル物理学賞を受賞
3. The coolest thing about smart glasses is not the AR. It’s the AI. ようやく物になったスマートグラス、真価はARではなくAIにある
4. Geoffrey Hinton tells us why he’s now scared of the tech he helped build ジェフリー・ヒントン独白 「深層学習の父」はなぜ、 AIを恐れているのか？