KADOKAWA Technology Review
×
発表!MITテクノロジーレビューが選ぶ
2022年のイノベーター14人。
【12/15 Summit開催】
「GPT-3」ボットが人気掲示板に大量書き込み、1週間見破られず
Ms Tech
A GPT-3 bot posted comments on Reddit for a week and no one noticed

「GPT-3」ボットが人気掲示板に大量書き込み、1週間見破られず

3000万人が集う人気掲示板にハイペースで投稿していたユーザーが人工知能(AI)ボットだと判明した。自殺願望者の悩み相談にも適切なアドバイスを与えていた。 by Will Douglas Heaven2020.10.13

オープンAIの強力な言語モデルである「GPT-3」を用いたこのボットは、レディット(Reddit)で1週間に渡って投稿を続けた後、正体を見破られた。このボットは「/u/thegentlemetre」というユーザー名で、3000万人のユーザーが一般的な話題を語り合う人気のフォーラム「/r/AskReddit」で人々と交流し、およそ1分間に1回というハイペースで投稿していた。

GPT-3が書いた文章が人間の手によるものだと人々が思い込んだのは、今回が初めてではない。8月には、ある大学生がGPT-3を使ってハッカー・ニュース(Hacker News)で記事ランキング1位を獲得し、多くの人々からの購読登録を得たことをブログ投稿で明らかにした。また、GPT-3を解説するいくつかの記事の作成にもGPT-3は利用されてきたが、そういった記事の最後には人間による免責事項が記載されているのが一般的だ。今回のボットは常連のレディット・ユーザーとして登場し、正体が発覚するまで数百件のコメントを投稿していた。

GPT-3を使ったボットによる驚くべき投稿に注目したのは、フィリップ・ウィンストンだった。ウィンストンは自身のブログで、いかにしてこのボットの正体を見破ったのかを説明している。その後ウィンストンは、GPT-3を使ったボットが生成した文章が、同じくGPT-3を用いた「フィロソファーAI(Philosopher AI)」の内容と一致したことを確認した。フィロソファーAIは、「もし木が森の中で倒れて、その音を誰も聞かなかったとしても、量子力学は観察者なしに古典的実在を表現できるのか」といった、皮肉な質問に答えるように設定されている。フィロソファーAIの開発者はサービスの自動利用を拒否し、このボットをブロックしたため投稿は止まった。

GPT-3を使ったボットによるコメントの大半は無害なものだった。最も人気を集めた投稿は、エレベーター・シャフト内に住む人間たちのコロニーについての話だった。だが、このボットは陰謀論や、自殺のようなセンシティブな話題にも絡んでいた。自殺を考えたことがあり、アドバイスを求めていたユーザーに対し、ボットは「自分にとって一番の支えになったのはたぶん両親だと思う。両親とはとても良い関係を築けていて、何があってもいつも支えてくれた。これまでの人生で何度も死にたいと思ったことがあるけれど、両親のおかげで一度も実行したことはない」と語った。この返信には157の高評価が付いた。

今回の件は、オープンAIが前モデルのGPT-2に示していた懸念を裏付けたという見方ができるかもしれない。オープンAIは、GPT-2を一般公開するのは悪用の恐れがあるため危険すぎると述べていた。オープンAIはGPT-3を管理下に置き、選ばれた個人にのみWebサイトを通じてアクセス権を与えると共に、ソフトウェア全体のライセンスをマイクロソフトに独占的に供与しようとしている。しかし、このシステムが害をもたらすのを防ぎたいとが考えているなら、より厳密な精査が必要だ。さらに多くの研究者にコードを分析してもらい、長期的な観点からより安全な選択肢の可能性を探るべきだろう。

人気の記事ランキング
  1. Here’s how a Twitter engineer says it will break in the coming weeks ツイッターで「非公式RT」が一時復活、崩壊の始まりか
  2. Former Twitter employees fear the platform might only last weeks 「ハードコア」大量離職で、元従業員らがツイッターに余命宣告
  3. When you lose weight, where does it go? 解説:ダイエットで減った体重はどこに行ったのか?
ウィル・ダグラス・ヘブン [Will Douglas Heaven]米国版 AI担当上級編集者
AI担当上級編集者として、新研究や新トレンド、その背後にいる人々を取材しています。前職では、テクノロジーと政治に関するBBCのWebサイト「フューチャー・ナウ(Future Now)」の創刊編集長、ニュー・サイエンティスト(New Scientist)誌のテクノロジー統括編集長を務めていました。インペリアル・カレッジ・ロンドンでコンピュータサイエンスの博士号を取得しており、ロボット制御についての知識があります。
日本発「世界を変える」35歳未満のイノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を発信する。

記事一覧を見る
人気の記事ランキング
  1. Here’s how a Twitter engineer says it will break in the coming weeks ツイッターで「非公式RT」が一時復活、崩壊の始まりか
  2. Former Twitter employees fear the platform might only last weeks 「ハードコア」大量離職で、元従業員らがツイッターに余命宣告
  3. When you lose weight, where does it go? 解説:ダイエットで減った体重はどこに行ったのか?
MITテクノロジーレビュー[日本版] Vol.8
MITテクノロジーレビュー[日本版] Vol.8脱炭素イノベーション

2050年のカーボンニュートラル(炭素中立)の実現に向けて、世界各国で研究開発が加速する脱炭素技術、社会実装が進む気候変動の緩和・適応策などGX(グリーン・トランスフォーメーション)の最新動向を丸ごと1冊取り上げる。

詳細を見る
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る