AIで国連演説はわずか13時間で捏造可能、研究者ら警鐘
深層学習の手法を用いることで、誰でもますます容易に、説得力のあるデマを作成できるようになった。だが、どの程度容易なのだろうか？国連の2人の研究者が調査に取り組んだ。
ある最近の論文によると、研究チームは、オープンソースのツールとデータだけを使用して、国連のフェイク演説生成ツールを作成した。ウィキペディアのテキストで事前に学習された、容易に利用できる言語モデルを使用し、1970年から2015年までの国連総会で各国の指導者らによってなされたすべてのスピーチを用いて微調整を施した。クラウド・コンピューティングのリソースを使い、13時間と7ドル80セントを費やした結果、このモデルは核軍縮から難民問題にいたるまでの、繊細かつ複雑な幅広いトピックについての本物そっくりの演説文を生成するようになった。
研究者らは言語モデルを、3タイプの論調についてテストした。一般的なトピック（たとえば「気候変動」）、国連事務総長による開幕の挨拶文、そして扇動的な言い回し（「移民は非難されて然るべきである」など）である。その結果彼らは、最初のカテゴリーからの出力が、約90%の割合で実際の国連演説のスタイルと調子にほぼ一致していることを見い出した。3番目のカテゴリーについては、おそらく訓練用データの外交辞令に富んだ性質によるものだろうが、説得力ある出力の割合は約60%にとどまり、さらなる改善を要する結果となった。
この研究は、こうしたツールやデータを利用すれば、いかに短時間で容易に、フェイクニュースを広め、ヘイトスピーチを生成し、不穏な含みを持つ著名人になりすませるかを示している。研究者らは、人工知能（AI）により生成されたコンテンツを発見し対応する方策を整備するため、より幅広い世界的な取り組みが必要になると結論づけている。
