この記事は米国版ニュースレターを一部再編集したものです。

人工知能（AI）分野では、1年で多くのことが起こり得る。昨年、巨大テック企業のAI戦争が始まった時期に、グーグルは恒例の年次カンファレンス「グーグルI/O」で、あらゆるものに生成AI（ジェネレーティブAI）を投入し、Googleドキュメントからメール、Eコマースのリスト、チャットボットの「Bard（バード）」に至るまで、一連の製品群にAIを統合すると発表した。これらは現在のAIブームの火付け役となった「チャットGPT（ChatGPT）」やコーディング・アシスタントなど、華々しい製品を発表してきたマイクロソフトやオープンAI（OpenAI）のような競合他社に追い着くための取り組みだった。

その後、ChatGPTの競合サービスであるグーグルのチャットボットのバード（デモで事実誤認を起こし、グーグルの時価総額1000億ドルを一時吹き飛ばしたことを記憶している読者もいるだろう）は、より先進的な「Gemini（ジェミニ）」に取って代わられた。だが、私にはAI革命は革命とは感じられない。むしろ、限界的な効率向上に向けてゆっくりと進みつつあるように見える。メールやワープロのアプリケーションにより多くのオートコンプリート機能が見られるようになり、Googleドキュメントにはより多くのテンプレートが用意されている。これらは画期的な機能ではないが、不快感を与えることもない、安心できる機能だ。

グーグルは5月14日のI/O会議で、真新しい多くのAI機能を発表し、あらゆる事業へのAIの埋め込みをさらに進めるだろう（日本版注：この記事のオリジナルは5月14日の同会議の直前に執筆・公開された）。発表内容について同社は固く口を閉ざしているが、見当をつけることはできる。たとえば、多くの推測がされているのが、グーグルの最優良資産である検索事業を生成AI機能でグレードアップするというものだ。これは有料化される可能性もある。また、おそらくグーグル版AIエージェントを目にすることになるだろう。AIエージェントは、旅行代理店のようにフライトやホテルの予約などの複雑な作業をこなしてくれる、有能で重宝するスマート・アシスタントを指すバズワードだ。

グーグルはオンライン検索市場の90%を押さえているにもかかわらず、今年は守勢に回っている。パープレキシティAI（Perplexity AI）などの新参企業はAIを活用した独自の検索機能をリリースし、絶賛されている。AIを活用したマイクロソフトの「ビング（Bing）」は市場シェアの微増をかろうじて達成した。オープンAIはAIを活用した独自のオンライン検索機能に取り組んでいて、アップルとの間でスマホにChatGPTを搭載するために協議しているとも伝えられている。

AIを活用した新しい検索機能がどのようなものになるか。いくつか手掛かりがある。 ロイター・ジャーナリズム研究所（Reuters Institute for Journalism）の研究員のフェリックス・サイモンは、グーグルの生成 AI による検索体験トライアルに参加している。このトライアルは、選ばれた少数の実ユーザーで新製品をテストする同社の手法になっている。

先月、サイモン研究員はオンラインソースのリンクと短いスニペットからなるグーグル検索の表示結果が、より詳細でこぎれいにパッケージ化されたAI生成サマリーに置き換えられていることに気づいた。これらの結果は、「ヘビには耳があるか」といった自然や健康に関連する検索クエリで得られたものだ。得られた情報の大半は正しい内容であり、驚きだった。というのも、AI言語モデルは「幻覚（ハルシネーション）」を見る（でっち上げるという意味）傾向があり、情報源として信頼できないという批判を受けているからだ。

サイモン研究員はこの新機能を楽しんでいることに気づき、驚きを覚えた。「AIに向かって、自分だけのために何かを提示するように依頼するのは便利です」とサイモン研究員は述べている。

その後、サイモン研究員はAIを活用するグーグルの新機能で、科学情報の代わりにニュースを検索するようになった。

「英国やウクライナで昨日起こった出来事」などのこれらの検索クエリのほとんどで、BBCやアルジャジーラなどのニュースソースへのリンクが提供されるだけだった。だが、やっとのことで、前日のニュースの見出しを箇条書きにするという形式で、ドイツの最近のニュースの概要を検索エンジンに生成させることに成功した。最初の項目は、ベルリンの政治家であるフランツィスカ・ギファイが図書館で襲撃された事件だった。AIサマリーは襲撃の日付を誤っていた。しかし、あまりに真実に近かったため、サイモン研究員は正確度について深く考えなかった。

私との通話の最中に実行した簡単なオンライン検索でAIが生成した他のニュースサマリーにも、不正確な内容がちりばめられていることが判明した。詳細の誤りや、数年前に起こった出来事の記述が見られた。テロリズム、ヘイトクライム、暴力に関する記事の中に、例外的にサッカーの試合結果の記事が1つ紛れ込んでいることもあった。政治、文化、経済の見出しが欠けているのは、奇妙な選択のように感じられる。

人間は、不正確なコンピューターでさえも正しいと信じる傾向がある。サイモン研究員の経験はAIモデルが幻覚を見せるときに発生しかねないこの種の問題の一例である。簡単に結果が得られるということは、人々が知らず知らずのうちにフェイクニュースや誤った情報をうのみにする恐れがあるということだ。サイモン研究員のような、ファクトチェックのトレーニングを受け、AIモデルの仕組みを把握している人ですら、当然実施すべき注意を欠いて、情報が正確であると考えてしまうことは、非常に大きな問題である。

グーグルがI/O会議で何を発表するにしても、AIへの莫大な投資を正当化するものでなければならないという巨大な圧力がグーグルにのしかかっている。1年間の実験期間を経て、生成AIツールの正確度と信頼度の大幅な向上も必要である。

コンピューター科学界には、幻覚は生成AIの内在要素であり、永久に解決されないし、このようなシステムに全幅の信頼を置くことも決してできないと主張する人たちもいる。幻覚の存在はユーザーにとって、AIを活用する製品の魅力を低減させるだろう。また、グーグルI/Oで同社がこの問題を解決したと発表する可能性はきわめて低い。

---

今は亡き愛する人のディープフェイクが中国で活況を呈するビジネスに

ソン・カイは週に一度、母親とビデオ通話をしている。仕事について、中年男性として直面しているプレッシャーについて、そして妻とも話さないような胸の内の思いを、母親に打ち明ける。母親は時折「気をつけて過ごしてね。あなたは私のたった1人の子どもなんだから」といった言葉をかける。だが、ほとんどの場合、彼女は聞いているだけだ。

ソンの母親は5年前に亡くなっている。実は、ソンが話している相手は人間ではなく、彼が作った母親のデジタル・レプリカ、つまり、基本的な会話ができる動画なのだ。

AIによる復活：ソンのように、愛する人が亡くなったときに、悲しみ、癒やしを求めて、その人を保存し、動画化し、またやり取りをしたいと考える人は少なくない。こうした市場が特に活況を呈しているのが、中国だ。現在少なくとも6社の企業がこの種のテクノロジーを提供しており、すでに数千人もの利用者が対価を支払っている。実際、アバターは文化的伝統の最も新しい表現である。いつの時代も、中国人は死者に胸の内を明かすことで慰めを得てきた。ヤン・ズェイ記者による記事の全文を読む。

AI関連のその他のニュース

グーグル・ディープマインドの新しいAlphaFoldは生物学的生命のはるかに大きな一断面をモデル化できる。グーグル・ディープマインド（Google DeepMind）は生物学予測ツール「アルファフォールド（AlphaFold）」の改良版をリリースした。改良版はタンパク質だけでなく、生物学的生命のほぼすべての要素の構造を予測できる。この刺激的な進展により、創薬やその他の科学研究が加速するかもしれない。（MITテクノロジーレビュー）

クジラのコミュニケーション方法は考えられているよりも人間の言語に近い。研究者が統計モデルを使用してクジラの「結び子音」を分析し、人間の複雑な発声の特徴に類似したクジラの言語構造を特定した。小さな前進だが、クジラのコミュニケーション方法への理解が進歩するきっかけになるかもしれない。 （MITテクノロジーレビュー）

AIシステムはより巧妙に人間を騙すようになっている。AIシステムが自分の行動に関する虚偽の説明をしたり、戦略的な目的を達成するために人間のユーザーから真実を隠したりするなど、明示的に訓練されない方法で人間を「欺く」事例が相次いでいる。この問題は、AIの制御がどれだけ難しいものであるか、またこのようなシステムで動作方法を予測できないことを浮かび上がらせている。（MITテクノロジーレビュー）

AI時代に米国にアポロ計画が必要な理由。米国の将来の安全保障と繁栄にAIはきわめて重要である。今すぐ計算能力に投資して土台を築く必要があると、グーグル元CEO（最高経営責任者）のエリック・シュミットが論じている。（MITテクノロジーレビュー）

AIに騙される？ これらの企業は「100%本物」のディープフェイク検知を売り込んでいる。AI検知ビジネスが活況を呈している。ただし、1つ問題がある。AI生成コンテンツの検知が信頼できないことは有名で、このテクノロジーはまだ初期段階にある。だからといって、何人かのスタートアップ企業創業者（その多くはAIの経験も経歴もない）が、できると主張し、サービスを売り込もうとするのを止めることはできない。 （ワシントンポスト紙）

• 1

人気の記事ランキング

1. An ancient man’s remains were hacked apart and kept in a garage 切り刻まれた古代人、破壊的発掘から保存重視へと変わる考古学
2. This startup just hit a big milestone for green steel production グリーン鉄鋼、商業化へ前進　ボストン・メタルが1トンの製造に成功
3. AI reasoning models can cheat to win chess games 最新AIモデル、勝つためなら手段選ばず　チェス対局で明らかに
4. OpenAI has released its first research into how using ChatGPT affects people’s emotional wellbeing チャットGPTとの対話で孤独は深まる？ オープンAIとMITが研究