KADOKAWA Technology Review
×
動画、ロボット、マルチモーダル——生成AIの次のトレンドは?
【6/26開催】イベント申込受付中!
ググった結果からも学ぶ、ディープマンドのチャットボット
Ms Tech | Getty
人工知能(AI) 無料会員限定
DeepMind’s new chatbot uses Google searches plus humans to give better answers

ググった結果からも学ぶ、ディープマンドのチャットボット

グーグル傘下のAI企業であるディープマインドは、人間のフィードバックから学習し、主張の裏付けとなる情報をインターネットから検索するように訓練したチャットボットを発表した。 by Melissa Heikkilä2022.09.27

アルファベット(グーグル)傘下の人工知能(AI)研究所、ディープマインド(DeepMind)の新しい論文によると、AIを搭載した優れたチャットボットを生み出す秘訣は、人間に振る舞い方を教えてもらい、さらにインターネットを利用して自身の回答を裏付けるように強制することだという。

量子時代のコンピューティング
この記事はマガジン「量子時代のコンピューティング」に収録されています。 マガジンの紹介

9月22日の新しい査読前論文で、研究チームはディープマインドの大規模言語モデル「チンチラ(Chinchilla)」で訓練したAIチャットボット「スパロー(Sparrow)」を発表した。

スパローは人間と会話しながらその場でグーグル検索を実行したり、情報を使ったりして回答するように設計されている。その回答が人間にどれだけ有用だったかということに基づいて、特定の目的を達成するために試行錯誤して学習する強化学習アルゴリズムで訓練される。このシステムは、自傷他害を促すなどの危険な結果をもたらすことなく、人間と会話できるAI開発の一助となることを目指すものだ。

大規模言語モデルは、人間が書いたかのような文章を生成する。文章の要約や、より強力なネット検索ツールの構築、カスタマー・サービス用チャットボットで使われる大規模言語モデルが、インターネット・インフラにおいて果たす役割はますます重要になっている。

だが、大規模言語モデルはインターネットから大量のデータやテキストをかき集めて訓練されるため、不可避的に多くの有害なバイアスを反映してしまう。有害コンテンツや差別的コンテンツを吐き出す前に、とがめられることはほとんどない。そのため、人間と会話するように構築されたAIでは、悲惨な結果を招きかねない。安全対策を適切に施していない会話型AIは、例えば少数民族にとって攻撃的な言葉を使ったり、自殺の方法を提供したりする恐れがある。

こちらは会員限定の記事です。
メールアドレスの登録で続きを読めます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。2024年も候補者の募集を開始しました。 世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。

特集ページへ
MITTRが選んだ 世界を変える10大技術 2024年版

「ブレークスルー・テクノロジー10」は、人工知能、生物工学、気候変動、コンピューティングなどの分野における重要な技術的進歩を評価するMITテクノロジーレビューの年次企画だ。2024年に注目すべき10のテクノロジーを紹介しよう。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る