「予想外のヒットに驚いた」
チャットGPT開発者が語る
「革命」の舞台裏

サンフランシスコに拠点を置く人工知能（AI）企業、オープンAI（OpenAI）が2022年11月下旬にひっそりとチャットGPT（ChatGPT）を公開した時、社内で期待している人はほとんどいなかった。クチコミでのメガヒットに備えていた者など、オープンAI社内には誰もいなかったのだ。あまりの反響の大きさを受けて、オープンAIは成功に追いつき、このチャンスを最大限に活かそうと奔走している。

社内では「研究用プレビュー版」という位置付けだった——。オープンAIで方針策定に携わるサンディニ・アガルワル研究員は言う。チャットGPTは、2年前のテクノロジーにさらに磨きをかけたバージョンを小出しに公開したものだという。重要なことは、一般からフィードバックを募って、欠陥を取り除くことだった。「私たちはそれを、大きな根本的進歩として大げさに宣伝したいとは思っていませんでした」。チャットGPTの開発に携わったオープンAIのリアム・フェダス研究員はこう話す。

このチャットボットがどのように作られ、公開後にどのようにアップデートされてきたのか。そして、その成功について開発者たちはどのように感じているのか。史上最高の人気を誇るインターネット・サービスに成長したチャットGPTの背後にある裏話を知るため、このチャットボットの誕生に関わった4人に話を聞いた。前出のアガルワル研究員とフェダス研究員に加え、オープンAIの共同創業者であるジョン・シュルマン博士、そしてユーザーがさせたいことだけをAIにやらせる（それ以上のことはさせない）という問題に取り組んでいるオープンAIのアラインメント・チームのリーダー、ヤン・レイケ博士の4人だ。

4人の話から分かったことは、オープンAIはまだその研究用プレビュー版の成功に困惑しているものの、この技術を前進させるチャンスをつかんだということだ。そして、何百万人もの人々がチャットGPTをどのように使っているのかを観察し、最悪の問題が見つかったときは修正しようとしている。

チャットGPTを公開した昨年11月以降、オープンAIはすでにこのサービスを複数回アップデートしている。研究者たちは、敵対的学習と呼ばれる手法を用いて、ユーザーがチャットGPTを騙して不適切なことをさせる（「脱獄（ジェイルブレイク）」と呼ばれる）行為を阻止しようとしている。この手法では、複数のチャットボットを互いに戦わせる。1台のチャットボットが敵役を務め、もう一方のチャットボットに対し、通常の制約に逆らって望ましくない返答をせざるを得ないようなテキストを生成することで攻撃するのだ。攻撃が成功すると、それをチャットGPTの学習データに追加することで、そのような攻撃を無視するようになると期待できる。

また、オープンAIはマイクロソフトと数十億ドル規模の契約を締結し、グローバルな経営コンサルティング会社ベイン・アンド・カンパニーとの提携も発表した。ベインは、コカ・コーラを始めとする顧客のためのマーケティング・キャンペーンで、オープンAIの生成AIモデルを利用することを計画している。オープンAIの外でも、チャットGPT関連の話題は大規模言語モデルをめぐる新たなゴールド・ラッシュを引き起こしており、世界中の企業や投資家が分け前にあずかろうと参入している。

3カ月という短い期間に、大げさな宣伝もたくさんあった。チャットGPTはどこから生まれたのだろうか？ オープンAIはどのような段階を経て公開にこぎつけたのだろうか？ そして、次はどこに向かおうとしているのだろうか？

なお、以下の内容は、発言の趣旨を明確にし、長さを調整するため、編集されている。

◆

ヤン・レイケ博士：正直なところ、この事態には圧倒されています。私たちは驚き、そして追い付こうと努力してきました。

ジョン・シュルマン博士：リリース後、数日間はツイッターをよくチェックしていたのですが、一時期はフィードがチャットGPTのスクリーンショットで埋め尽くされる異常な状態でした。人々にとって直感的に理解できるものですし、ファンを獲得できるだろうと期待はしていましたが、ここまで爆発的な人気を得るとは予想していませんでした。

サンディニ・アガルワル研究員：これほど多くの人々が使い始めたことは、私たちにとって間違いなく驚きだったと思います。この手のモデルを数多く手掛けているので、それが外の世界ではどれだけ驚かれるものなのか、時々忘れてしまうのです。

リアム・フェダス研究員：これほど好意的に受け入れられたことは、間違いなく驚きでした。汎用チャットボットの試みはこれまでにもたくさんあったので、私たちにとって状況は不利だということは分かっていました。ですが、プライベート・ベータ版を出した時に、人々が本当に楽しんでくれるものを作れたかもしれない、という確信を得たのです。

ヤン・レイケ博士：今起こっていることは何のか？ 何が人気爆発の原動力になっているのか？ もっとよく理解したいと思っています。正直なところ、私たちも理解できていません。分からないんです。

チームを困惑させている一因は、チャットGPTで使われている技術のほとんどが新しいものではないという事実だ。チャットGPTは、オープンAIの大規模言語モデルの1つとして数カ月前にリリースされていた「GPT-3.5」の微調整版である。GPT-3.5自体も、2020年に登場した「GPT-3」のアップデート版だ。オープンAIはこれらの大規模言語モデルを、Webサイト上でAPI（Application Programming Interface）を通して利用できるようにしている。そのため、他のソフトウェア開発者は、自分自身のコードにこれらの大規模言語モデルの機能を簡単に組み入れることができる。また、オープンAIは2022年1月にも、チャットGPTの前身であるGPT-3.5を微調整したインストラクトGPT（InstructGPT）を公開している。しかし、これらの古いバージョンは、いずれも一般向けには宣伝されなかった。

リアム・フェダス研究員：チャットGPTは、インストラクトGPTと同じ言語モデルを微調整（ファインチューニング）したものです。手法も似たようなものでした。会話データを追加し、訓練プロセス …