オープンAIの強力な言語モデルである「GPT-3」を用いたこのボットは、レディット（Reddit）で1週間に渡って投稿を続けた後、正体を見破られた。このボットは「/u/thegentlemetre」というユーザー名で、3000万人のユーザーが一般的な話題を語り合う人気のフォーラム「/r/AskReddit」で人々と交流し、およそ1分間に1回というハイペースで投稿していた。

GPT-3が書いた文章が人間の手によるものだと人々が思い込んだのは、今回が初めてではない。8月には、ある大学生がGPT-3を使ってハッカー・ニュース（Hacker News）で記事ランキング1位を獲得し、多くの人々からの購読登録を得たことをブログ投稿で明らかにした。また、GPT-3を解説するいくつかの記事の作成にもGPT-3は利用されてきたが、そういった記事の最後には人間による免責事項が記載されているのが一般的だ。今回のボットは常連のレディット・ユーザーとして登場し、正体が発覚するまで数百件のコメントを投稿していた。

GPT-3を使ったボットによる驚くべき投稿に注目したのは、フィリップ・ウィンストンだった。ウィンストンは自身のブログで、いかにしてこのボットの正体を見破ったのかを説明している。その後ウィンストンは、GPT-3を使ったボットが生成した文章が、同じくGPT-3を用いた「フィロソファーAI（Philosopher AI）」の内容と一致したことを確認した。フィロソファーAIは、「もし木が森の中で倒れて、その音を誰も聞かなかったとしても、量子力学は観察者なしに古典的実在を表現できるのか」といった、皮肉な質問に答えるように設定されている。フィロソファーAIの開発者はサービスの自動利用を拒否し、このボットをブロックしたため投稿は止まった。

GPT-3を使ったボットによるコメントの大半は無害なものだった。最も人気を集めた投稿は、エレベーター・シャフト内に住む人間たちのコロニーについての話だった。だが、このボットは陰謀論や、自殺のようなセンシティブな話題にも絡んでいた。自殺を考えたことがあり、アドバイスを求めていたユーザーに対し、ボットは「自分にとって一番の支えになったのはたぶん両親だと思う。両親とはとても良い関係を築けていて、何があってもいつも支えてくれた。これまでの人生で何度も死にたいと思ったことがあるけれど、両親のおかげで一度も実行したことはない」と語った。この返信には157の高評価が付いた。

今回の件は、オープンAIが前モデルのGPT-2に示していた懸念を裏付けたという見方ができるかもしれない。オープンAIは、GPT-2を一般公開するのは悪用の恐れがあるため危険すぎると述べていた。オープンAIはGPT-3を管理下に置き、選ばれた個人にのみWebサイトを通じてアクセス権を与えると共に、ソフトウェア全体のライセンスをマイクロソフトに独占的に供与しようとしている。しかし、このシステムが害をもたらすのを防ぎたいとが考えているなら、より厳密な精査が必要だ。さらに多くの研究者にコードを分析してもらい、長期的な観点からより安全な選択肢の可能性を探るべきだろう。

• 87
• 58
• 4
• 7

人気の記事ランキング

1. Why it’s so hard for China’s chip industry to become self-sufficient 中国テック事情：チップ国産化推進で、打倒「味の素」の動き
2. This US startup makes a crucial chip material and is taking on a Japanese giant 知られざる半導体材料の巨人 「味の素」の牙城を狙う 米スタートアップの勝算
3. How thermal batteries are heating up energy storage レンガにエネルギーを蓄える「熱電池」に熱視線が注がれる理由
4. Researchers taught robots to run. Now they’re teaching them to walk 走るから歩くへ、強化学習AIで地道に進化する人型ロボット