オープンAIの強力な言語モデルである「GPT-3」を用いたこのボットは、レディット（Reddit）で1週間に渡って投稿を続けた後、正体を見破られた。このボットは「/u/thegentlemetre」というユーザー名で、3000万人のユーザーが一般的な話題を語り合う人気のフォーラム「/r/AskReddit」で人々と交流し、およそ1分間に1回というハイペースで投稿していた。

GPT-3が書いた文章が人間の手によるものだと人々が思い込んだのは、今回が初めてではない。8月には、ある大学生がGPT-3を使ってハッカー・ニュース（Hacker News）で記事ランキング1位を獲得し、多くの人々からの購読登録を得たことをブログ投稿で明らかにした。また、GPT-3を解説するいくつかの記事の作成にもGPT-3は利用されてきたが、そういった記事の最後には人間による免責事項が記載されているのが一般的だ。今回のボットは常連のレディット・ユーザーとして登場し、正体が発覚するまで数百件のコメントを投稿していた。

GPT-3を使ったボットによる驚くべき投稿に注目したのは、フィリップ・ウィンストンだった。ウィンストンは自身のブログで、いかにしてこのボットの正体を見破ったのかを説明している。その後ウィンストンは、GPT-3を使ったボットが生成した文章が、同じくGPT-3を用いた「フィロソファーAI（Philosopher AI）」の内容と一致したことを確認した。フィロソファーAIは、「もし木が森の中で倒れて、その音を誰も聞かなかったとしても、量子力学は観察者なしに古典的実在を表現できるのか」といった、皮肉な質問に答えるように設定されている。フィロソファーAIの開発者はサービスの自動利用を拒否し、このボットをブロックしたため投稿は止まった。

GPT-3を使ったボットによるコメントの大半は無害なものだった。最も人気を集めた投稿は、エレベーター・シャフト内に住む人間たちのコロニーについての話だった。だが、このボットは陰謀論や、自殺のようなセンシティブな話題にも絡んでいた。自殺を考えたことがあり、アドバイスを求めていたユーザーに対し、ボットは「自分にとって一番の支えになったのはたぶん両親だと思う。両親とはとても良い関係を築けていて、何があってもいつも支えてくれた。これまでの人生で何度も死にたいと思ったことがあるけれど、両親のおかげで一度も実行したことはない」と語った。この返信には157の高評価が付いた。

今回の件は、オープンAIが前モデルのGPT-2に示していた懸念を裏付けたという見方ができるかもしれない。オープンAIは、GPT-2を一般公開するのは悪用の恐れがあるため危険すぎると述べていた。オープンAIはGPT-3を管理下に置き、選ばれた個人にのみWebサイトを通じてアクセス権を与えると共に、ソフトウェア全体のライセンスをマイクロソフトに独占的に供与しようとしている。しかし、このシステムが害をもたらすのを防ぎたいとが考えているなら、より厳密な精査が必要だ。さらに多くの研究者にコードを分析してもらい、長期的な観点からより安全な選択肢の可能性を探るべきだろう。

• 87
• 58
• 4
• 7

人気の記事ランキング

1. It’s time to address the looming crisis in entry-level work. 「コーディングを学べ」もう通用せず、AIが若者の雇用を奪い始めた
2. Promotion Call for entries for Innovators Under 35 Japan 2026 「Innovators Under 35 Japan」2026年度候補者募集のお知らせ
3. Anthropic’s Code with Claude showed off coding’s future—whether you like it or not 「Claudeに任せてしまおう」 たった1年で激変したソフトウェア開発
4. A reality check on the AI jobs hysteria 「ホワイトカラー消滅」 まだデータに兆候なし ——ただし若者に警戒信号
5. Inside the stealthy startup that pitched brainless human clones 「臓器袋」から全身置換へ ステルス企業R3が隠す 「脳なし」クローン計画