KADOKAWA Technology Review
×
「Innovators Under 35 Japan」2024年度候補者募集中!
マイクロソフトが不正確でもチャットGPTをBingに組み込む理由
Stephanie Arnett/MITTR | Envato
Why you shouldn't trust AI search engines

マイクロソフトが不正確でもチャットGPTをBingに組み込む理由

マイクロソフトは、同社が資金を提供しているオープンAIが開発したAI言語モデル「チャットGPT」を検索サービス「ビング(Bing)」に組み込んだ。検索結果の正確さの点では疑問が噴出しているが、それでもマイクロソフトの動きは注目を浴びている。 by Melissa Heikkilä2023.03.03

この記事は米国版ニュースレターを一部再編集したものです。

2月初旬には、人工知能(AI)チャットボットを搭載した検索エンジンがいくつか誕生するはずだった。AIチャットボットを活用した検索エンジンは、現在の検索エンジンのように検索キーワードに関連するWebページへのリンクの一覧を返すのではなく、会話のようにユーザーの質問に対して自然な返答を生成し、Web検索の形を一新するというのが目玉だった。ただ、事態は計画通りにはいかなかった。

マイクロソフトが「チャットGPT(ChatGPT)」を搭載した新しいビング(Bing)検索エンジンの提供を開始してから約2秒後、ユーザーは検索エンジンが一部の質問に対して、陰謀論など間違った情報、あるいは無意味な答えを返すことが分かった。グーグルは、自社のチャットボット「バード(Bard)」の宣伝としてバードによる回答例を公開しているが、その回答例に事実誤認があることを科学者たちに指摘されるという失態を演じた。その結果、同社の株式時価総額が1000億ドルも下落した。

これら一連の出来事について更に驚くべきことは、これまでAI言語モデルに関心を寄せてきた人たちにとって、上記のような事態は特別意外なものではないという事実だ。

問題は、AI言語モデルがこのような規模で上記のような用途で使うにはまだ未熟だという点にある。 AI言語モデルは悪名高いホラ吹きであり、しばしばウソを事実であるかのように提示する。文中で次に登場する単語を予測することには優れているが、その文が実際に何を意味しているのかは理解していない。そのため、情報の正確さが問われる検索エンジンと組み合わせることは、非常に危険なのだ。

大ヒットしたAIチャットボット「チャットGPT」を開発したオープンAI(OpenAI)は以前から、このチャットボットはまだ研究プロジェクトの域を出ないもので、人々のフィードバックを受けながら改善を続けている段階にあることを強調してきた。にもかかわらずマイクロソフトは、検索結果が信頼できないかもしれないという注意書きを付けたとはいえ、チャットGPTをビングの新バージョンに組み込むことに踏み切った。

グーグルは何年も前から、「キーワード」ではなく「文章」でWeb検索を可能にするために、自然言語処理を使ってきた。しかし、 同社は自社で開発したAIチャットボットを、看板サービスである検索エンジンに組み込むことに消極的だったと、オンライン検索を専門とする、ワシントン大学のチラグ・シャー准教授は言う。グーグルの上層部は、チャットGPTのようなツールを拙速に公開してしまうことによる「風評リスク」を懸念していたのだ。皮肉なものだ。

とはいえ、巨大テック企業が上記のような失態を演じたからといって、AI搭載検索エンジンが失敗に終わったわけではない。 グーグルとマイクロソフトは、AIが生成する検索結果をより正確なものにする方法の1つとして、検索結果の引用元の出典を提示し始めた。出典へのリンクを表示することで、ユーザーは検索エンジンがどこから情報を取ってきているのかをよりよく知ることができると、AIスタートアップ企業ハギング・フェイス(Hugging Face)の研究者で、かつてグーグルのAI倫理チームを率いていたマーガレット・ミッチェル主任倫理研究者は言う。

検索結果の出典を提示することで、ユーザーがより多くの情報源を吟味するようになり、物事をより多角的に見られるようになるかもしれないとミッチェル主任倫理研究者は話す。

しかし、AI言語モデルが情報をでっち上げ、自信満々に虚偽を事実として提示するという根本的な問題への対策にはならない。また、AIが一見信憑性があるテキストを生成し、しかも引用元の出典も提示するとなると、皮肉なことに、提示された情報をユーザーが再確認する可能性はさらに下がるかもしれない。

「多くの人は出典をチェックしません。出典が付いていると、誤った内容の文章ももっともらしく見えてしまうのです」と、ミッチェル主任倫理研究者は言う。

しかし、検索結果の正確さは巨大テック企業にとってあまり重要ではないとシャー准教授は言う。 グーグルが開発した技術はAIをめぐる目下の熱狂に拍車をかけたものの、もっぱら称賛、注目されているのは、話題のスタートアップであるオープンAIとそのスポンサーであるマイクロソフトだ。「グーグルにとっては間違いなく屈辱でしょう。彼らは今、守勢に立たされています。彼らがこのような立場に立たされたことは、長い間ありませんでした」とシャー准教授は言う。

一方のマイクロソフトは、ビングに対してほとんど期待していない。だから多少の間違いは問題にならないだろうという考えに賭けているのだ。オンライン検索市場におけるマイクロソフトのシェアは10%未満だ。2〜3ポイントでもシェアを拡大できれば、マイクロソフトにとっては大成功になるとシャー准教授は話す。

AIを活用した検索エンジンの先には、より大きな競争が待ち構えているとシャー准教授は付け加えた。検索エンジンは、両社が競い合う分野の1つに過ぎない。クラウド・コンピューティング・サービス、生産性ソフトウェア、エンタープライズ・ソフトウェアの分野でも両者は競争を繰り広げている。会話型AIは、ほかの分野への応用が利く最先端技術のデモンストレーションになるのだ。

シャー准教授によると、AI関連企業は今後、初期段階のつまずきを学習の機会として捉え直すという。「こうした企業は慎重なアプローチを取るよりも、物事を非常に大胆なやり方で進めていく道を選びます。すでにボロを出してしまったのだから、(AIシステムの)間違いは許そうということです」とシャー准教授は話す。

突き詰めれば、我々ユーザーは現在進行形で、AIチャットボットをテストするという仕事を無償でさせられているのだ。 「現時点で、私たちは皆モルモットなのです」とシャー准教授は言う。

「ステーブル・ディフュージョン」の生みの親、動画の生成AIを発表

2022年に話題となった、文章から画像を生成するモデル「ステーブル・ディフュージョン(Stable Diffusion)」。このAIモデルを共同で開発した生成AI(ジェネレーティブAI)のスタートアップであるランウェイ(Runway)は、テキスト入力や画像の参照で指定した任意のスタイルを適用して、既存の動画を新しい動画に作り変えるAIモデルを発表した。2022年がAI生成画像の年なら、2023年はAI生成動画の年になるだろうと、ランウェイは考える。本誌のウィル・ダグラス・ヘブン編集者による記事はこちらから。

テキストから動画を生成するAIはメタやグーグルも開発しているが、ランウェイのAIモデルは「顧客」を念頭に置いている。「これは、映像制作者のコミュニティと密接に関わりながら開発した最初のモデルの1つです」と、ランウェイの共同創業者兼CEOを務めるリストバル・ヴァレンスエラは言う。「実際に映画製作者やVFX編集者がポストプロダクションでどのように作業しているかという長年の洞察を取り入れています」。ヴァレンスエラCEOは、ランウェイのモデルによって、AIシステムによる長編映画の生成に一歩近づいたと考えている。

AI関連のその他のニュース

至るところに現れるチャットGPT。ならば、それはどこから来たのか? チャットGPTは12月のサービス開始からわずか2カ月で1億人のユーザーを獲得し、史上最も急速に成長しているインターネット・サービスとなった。しかし、オープンAIの衝撃的なヒット作は、どこからともなく現れたものではない。本誌のウィル・ダグラス・ヘブン編集者がその経緯を解説する。(MITテクノロジーレビュー

いかにしてAIアルゴリズムは女性の体をモノ扱いするのか。最新の調査によりAIツールが、女性の写真を、男性の同様の写真よりも性的に挑発的だと評価する仕組みが明らかになった。この記事では、AIアルゴリズムに、その開発者の(しばしば男性の)視線がどのように反映されるかについて特筆すべき点を挙げている。(ガーディアン紙

モスクワのスマートシティ計画がAI監視のディストピアと化すまでの経緯。世界中の都市で、セキュリティや交通に有用とされる技術が受け入れられてきた。しかし、モスクワで起こったことは、このような技術がいとも簡単に政治的抑圧のための道具と化すことを教えてくれる。(ワイアード

チャットGPTはインターネットを写したぼやけたJPEG画像だ。私はこの比喩を気に入っている。チャットGPTは本質的にはインターネットを低い画質で捉えたスナップショットだ。だからこそ、しばしばデタラメを吐き出すのだ。(ザ・ニューヨーカー

人気の記事ランキング
  1. AI can make you more creative—but it has limits 生成AIは人間の創造性を高めるか? 新研究で限界が明らかに
  2. Promotion Call for entries for Innovators Under 35 Japan 2024 「Innovators Under 35 Japan」2024年度候補者募集のお知らせ
  3. Interview with Prof. Masayuki Ohzeki: The Future of Quantum Computer Commercialization and the Qualities of Innovators 量子技術を最速で社会へ、大関真之教授が考えるイノベーターの条件
  4. AI companies are finally being forced to cough up for training data 「訓練データはタダではない」音楽業界が問う生成AIの根本的問題
メリッサ・ヘイッキラ [Melissa Heikkilä]米国版 AI担当上級記者
MITテクノロジーレビューの上級記者として、人工知能とそれがどのように社会を変えていくかを取材している。MITテクノロジーレビュー入社以前は『ポリティコ(POLITICO)』でAI政策や政治関連の記事を執筆していた。英エコノミスト誌での勤務、ニュースキャスターとしての経験も持つ。2020年にフォーブス誌の「30 Under 30」(欧州メディア部門)に選出された。
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。2024年も候補者の募集を開始しました。 世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。

特集ページへ
MITTRが選んだ 世界を変える10大技術 2024年版

「ブレークスルー・テクノロジー10」は、人工知能、生物工学、気候変動、コンピューティングなどの分野における重要な技術的進歩を評価するMITテクノロジーレビューの年次企画だ。2024年に注目すべき10のテクノロジーを紹介しよう。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る