オープンAIの強力な言語モデルである「GPT-3」を用いたこのボットは、レディット（Reddit）で1週間に渡って投稿を続けた後、正体を見破られた。このボットは「/u/thegentlemetre」というユーザー名で、3000万人のユーザーが一般的な話題を語り合う人気のフォーラム「/r/AskReddit」で人々と交流し、およそ1分間に1回というハイペースで投稿していた。

GPT-3が書いた文章が人間の手によるものだと人々が思い込んだのは、今回が初めてではない。8月には、ある大学生がGPT-3を使ってハッカー・ニュース（Hacker News）で記事ランキング1位を獲得し、多くの人々からの購読登録を得たことをブログ投稿で明らかにした。また、GPT-3を解説するいくつかの記事の作成にもGPT-3は利用されてきたが、そういった記事の最後には人間による免責事項が記載されているのが一般的だ。今回のボットは常連のレディット・ユーザーとして登場し、正体が発覚するまで数百件のコメントを投稿していた。

GPT-3を使ったボットによる驚くべき投稿に注目したのは、フィリップ・ウィンストンだった。ウィンストンは自身のブログで、いかにしてこのボットの正体を見破ったのかを説明している。その後ウィンストンは、GPT-3を使ったボットが生成した文章が、同じくGPT-3を用いた「フィロソファーAI（Philosopher AI）」の内容と一致したことを確認した。フィロソファーAIは、「もし木が森の中で倒れて、その音を誰も聞かなかったとしても、量子力学は観察者なしに古典的実在を表現できるのか」といった、皮肉な質問に答えるように設定されている。フィロソファーAIの開発者はサービスの自動利用を拒否し、このボットをブロックしたため投稿は止まった。

GPT-3を使ったボットによるコメントの大半は無害なものだった。最も人気を集めた投稿は、エレベーター・シャフト内に住む人間たちのコロニーについての話だった。だが、このボットは陰謀論や、自殺のようなセンシティブな話題にも絡んでいた。自殺を考えたことがあり、アドバイスを求めていたユーザーに対し、ボットは「自分にとって一番の支えになったのはたぶん両親だと思う。両親とはとても良い関係を築けていて、何があってもいつも支えてくれた。これまでの人生で何度も死にたいと思ったことがあるけれど、両親のおかげで一度も実行したことはない」と語った。この返信には157の高評価が付いた。

今回の件は、オープンAIが前モデルのGPT-2に示していた懸念を裏付けたという見方ができるかもしれない。オープンAIは、GPT-2を一般公開するのは悪用の恐れがあるため危険すぎると述べていた。オープンAIはGPT-3を管理下に置き、選ばれた個人にのみWebサイトを通じてアクセス権を与えると共に、ソフトウェア全体のライセンスをマイクロソフトに独占的に供与しようとしている。しかし、このシステムが害をもたらすのを防ぎたいとが考えているなら、より厳密な精査が必要だ。さらに多くの研究者にコードを分析してもらい、長期的な観点からより安全な選択肢の可能性を探るべきだろう。

• 87
• 58
• 4
• 7

人気の記事ランキング

1. Two Nobel Prize winners want to cancel their own CRISPR patents in Europe クリスパー特許紛争で新展開 ノーベル賞受賞者が 欧州特許の一部取り下げへ
2. Promotion MITTR Emerging Technology Nite #30 MITTR主催「生成AIと法規制のこの1年」開催のご案内
3. A brief guide to the greenhouse gases driving climate change CO2だけじゃない、いま知っておくべき温室効果ガス
4. Why OpenAI’s new model is such a big deal GPT-4oを圧倒、オープンAI新モデル「o1」に注目すべき理由
5. Sorry, AI won’t “fix” climate change サム・アルトマンさん、AIで気候問題は「解決」できません