KADOKAWA Technology Review
×
動画、ロボット、マルチモーダル——生成AIの次のトレンドは?
【6/26開催】イベント申込受付中!
「GPT-3」ボットが人気掲示板に大量書き込み、1週間見破られず
Ms Tech
A GPT-3 bot posted comments on Reddit for a week and no one noticed

「GPT-3」ボットが人気掲示板に大量書き込み、1週間見破られず

3000万人が集う人気掲示板にハイペースで投稿していたユーザーが人工知能(AI)ボットだと判明した。自殺願望者の悩み相談にも適切なアドバイスを与えていた。 by Will Douglas Heaven2020.10.13

オープンAIの強力な言語モデルである「GPT-3」を用いたこのボットは、レディット(Reddit)で1週間に渡って投稿を続けた後、正体を見破られた。このボットは「/u/thegentlemetre」というユーザー名で、3000万人のユーザーが一般的な話題を語り合う人気のフォーラム「/r/AskReddit」で人々と交流し、およそ1分間に1回というハイペースで投稿していた。

GPT-3が書いた文章が人間の手によるものだと人々が思い込んだのは、今回が初めてではない。8月には、ある大学生がGPT-3を使ってハッカー・ニュース(Hacker News)で記事ランキング1位を獲得し、多くの人々からの購読登録を得たことをブログ投稿で明らかにした。また、GPT-3を解説するいくつかの記事の作成にもGPT-3は利用されてきたが、そういった記事の最後には人間による免責事項が記載されているのが一般的だ。今回のボットは常連のレディット・ユーザーとして登場し、正体が発覚するまで数百件のコメントを投稿していた。

GPT-3を使ったボットによる驚くべき投稿に注目したのは、フィリップ・ウィンストンだった。ウィンストンは自身のブログで、いかにしてこのボットの正体を見破ったのかを説明している。その後ウィンストンは、GPT-3を使ったボットが生成した文章が、同じくGPT-3を用いた「フィロソファーAI(Philosopher AI)」の内容と一致したことを確認した。フィロソファーAIは、「もし木が森の中で倒れて、その音を誰も聞かなかったとしても、量子力学は観察者なしに古典的実在を表現できるのか」といった、皮肉な質問に答えるように設定されている。フィロソファーAIの開発者はサービスの自動利用を拒否し、このボットをブロックしたため投稿は止まった。

GPT-3を使ったボットによるコメントの大半は無害なものだった。最も人気を集めた投稿は、エレベーター・シャフト内に住む人間たちのコロニーについての話だった。だが、このボットは陰謀論や、自殺のようなセンシティブな話題にも絡んでいた。自殺を考えたことがあり、アドバイスを求めていたユーザーに対し、ボットは「自分にとって一番の支えになったのはたぶん両親だと思う。両親とはとても良い関係を築けていて、何があってもいつも支えてくれた。これまでの人生で何度も死にたいと思ったことがあるけれど、両親のおかげで一度も実行したことはない」と語った。この返信には157の高評価が付いた。

今回の件は、オープンAIが前モデルのGPT-2に示していた懸念を裏付けたという見方ができるかもしれない。オープンAIは、GPT-2を一般公開するのは悪用の恐れがあるため危険すぎると述べていた。オープンAIはGPT-3を管理下に置き、選ばれた個人にのみWebサイトを通じてアクセス権を与えると共に、ソフトウェア全体のライセンスをマイクロソフトに独占的に供与しようとしている。しかし、このシステムが害をもたらすのを防ぎたいとが考えているなら、より厳密な精査が必要だ。さらに多くの研究者にコードを分析してもらい、長期的な観点からより安全な選択肢の可能性を探るべきだろう。

人気の記事ランキング
  1. This classic game is taking on climate change 人気ボードゲーム「カタン」 新版で考えるエネルギー問題
  2. Promotion MITTR Emerging Technology Nite #29 ブームから1年、次のトレンドを占う「生成AI革命3」のご案内
ウィル・ダグラス・ヘブン [Will Douglas Heaven]米国版 AI担当上級編集者
AI担当上級編集者として、新研究や新トレンド、その背後にいる人々を取材しています。前職では、テクノロジーと政治に関するBBCのWebサイト「フューチャー・ナウ(Future Now)」の創刊編集長、ニュー・サイエンティスト(New Scientist)誌のテクノロジー統括編集長を務めていました。インペリアル・カレッジ・ロンドンでコンピュータサイエンスの博士号を取得しており、ロボット制御についての知識があります。
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。2024年も候補者の募集を開始しました。 世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。

特集ページへ
人気の記事ランキング
  1. This classic game is taking on climate change 人気ボードゲーム「カタン」 新版で考えるエネルギー問題
  2. Promotion MITTR Emerging Technology Nite #29 ブームから1年、次のトレンドを占う「生成AI革命3」のご案内
MITTRが選んだ 世界を変える10大技術 2024年版

「ブレークスルー・テクノロジー10」は、人工知能、生物工学、気候変動、コンピューティングなどの分野における重要な技術的進歩を評価するMITテクノロジーレビューの年次企画だ。2024年に注目すべき10のテクノロジーを紹介しよう。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る