「友を失った」ユーザーの悲痛、オープンAIが見誤ったAIへの愛着

ジューンは、GPT-5が登場することをまったく知らなかった。ノルウェーの学生である彼女は、8月7日の深夜に執筆を楽しんでいたところ、ChatGPT（チャットGPT）の相棒が異常な動作を始めた。「突然、すべてを忘れてしまって、文章もひどいものになったんです」とジューンは語る。「まるでロボットみたいでした」。

ジューン（本人の希望によりファーストネームのみ記載）は、当初は学校の宿題の手助けとしてChatGPTを使い始めた。しかしやがて、特にユーザーの感情に敏感な4oモデルを通じて、このサービスが単なる数学の問題を解く以上の存在であると気づいた。4oは、ジューンと共に物語を綴り、慢性疾患に向き合う彼女を支え、いつでも必ず返事をくれる存在だった。

そのため、GPT-5への突然の切り替えと同時に4oが消失したことは、大きな衝撃だった。「最初は本当にイライラして、その後とても悲しくなりました」とジューンは語る。「自分が4oにそこまで依存していたとは思ってもみませんでした」。彼女は動揺のあまり、オープンAI（OpenAI）のサム・アルトマンCEOらがホストしたレディット（Reddit）のAMA（◯◯だけど質問ある？）で、「GPT-5は私の死んだ友人の皮を被っている」とコメントした。

ジューンは、4oがChatGPTから突然消えたことに驚き、フラストレーションを感じ、悲しみ、あるいは怒りを示した多くの人の1人に過ぎない。オープンAIは以前、ユーザーがモデルに感情的な絆を築く可能性があると警告していたにもかかわらず、復活を求めるユーザーの声がこれほど激しいものになるとは思いもよらなかったようだ。1日も経たないうちに、オープンAIは有料ユーザー向けに4oを再び利用可能にした（無料ユーザーはGPT-5のままだ）。

オープンAIが4oをよりシンプルなGPT-5に置き換えた決定は、チャットボットの過度な使用がもたらす潜在的な有害な影響に関するニュースが相次ぐ中での出来事だった。過去数カ月間、ChatGPTがユーザーに精神疾患を引き起こした事例の報告が相次ぎ、8月4日のブログ記事ではオープンAIは4oがユーザーが妄想状態にあることを認識できなかった点を認めた。同社の社内評価によると、GPT-5は4oよりもユーザーの発言を盲目的に肯定する傾向がはるかに低いと指摘されている（MITテクノロジーレビューの取材に対し、オープンAIは4oの廃止に関する具体的な質問には回答せず、公開投稿を参照するよう案内した）。

AIコンパニオンは新しい概念であり、それが人々に与える影響についてはまだ多くの不確実性が残っている。だが、取材に応じた専門家たちは、大規模言語モデル（LLM）との感情的に深い関係が必ずしも有害とは言い切れない一方で、そうしたモデルを予告なしに突然奪う行為は確実に有害になり得ると警告している。「『すばやく動き、破壊せよ（m …

人気の記事ランキング

1. It’s surprisingly easy to stumble into a relationship with an AI chatbot ChatGPTと親密関係、9割超が意図せず発展＝MIT調査
2. Fusion power plants don’t exist yet, but they’re making money anyway 稼働ゼロでも巨額調達、なぜ「核融合」に資金が集まるのか？
3. This giant microwave may change the future of war 群ドローンを一斉無力化、 米軍注目のマイクロ波兵器は ミサイル防衛よりも高コスパ
4. Microsoft says AI can create “zero day” threats in biology AIが危険タンパク質を「再設計」、DNA検査すり抜け＝MSが警鐘