先月、私はサウス・バイ・サウスウエスト・ロンドン（SXSW London）で、「人工知能（AI）について知っておくべき5つのこと」と題して講演した。内容は、現在のAIにおける最も重要な5つのアイデアについて、個人的な見解を述べたものだ。

講演は一般の聴衆を対象としたもので、2025年のAIについて私がどのように考えているかを手短に紹介したものである。この記事では、その講演内容を簡単に紹介しよう。なお、動画も公開されている（SXSW ロンドンに感謝する）。

1. 生成AIは今や恐ろしいほど優秀である

これは明白なことだと思われるかもしれない。しかし私は、この技術がどれほど速く進歩しているかについて、自分の思い込みを絶えず確認しなければならない状況にある。そしてそれが私の仕事である。

数カ月前、本誌のAI担当記者であるジェームズ・オドネルが、編集部のメンバーにクイズを出した。10曲の楽曲のうち、どれが生成AIを使って制作されたものか、どれが人間によって作られたものかを当てる、というものだ。ほぼ全員が偶然よりも悪い結果だった。

音楽で起こっていることは、プログラミング・コードからロボット工学、タンパク質合成、動画まで、メディア全体で起こっている。グーグル・ディープマインド（Google DeepMind）のヴェオ（Veo） 3のような新しい動画生成ツールで人々が何をしているかを見てみるといい。そしてこの技術はあらゆるものに組み込まれている。

私が言いたいのは、AIが私たちにとって最良のものだと思うか最悪のものだと思うかにかかわらず、それを過小評価してはならないということである。AIは優秀であり、そしてより良くなっている。

2. ハルシネーションは不具合ではなく仕様である

失敗例も忘れてはならない。AIがでたらめを作り出すとき、私たちはそれを「ハルシネーション（幻覚）」と呼ぶ。存在しない返金を提案するカスタマーサービスボット、存在しない判例で満たされた準備書面を提出する弁護士、あるいは、存在しない学術論文を引用した報告書を発表するロバート・F・ケネディ・ジュニアの政府部門を考えてみよう。

ハルシネーションは修正されるべき問題であるかのように語る話を多く耳にするだろう。ハルシネーションについてより正確に考える方法は、これこそが生成AIがしていること、つまり常に実行するよう設計されたことそのものだということである。生成モデルはでたらめを作り出すよう訓練されているのだ。

注目すべきは、生成モデルがナンセンスを作り出すことではなく、それらが作り出すナンセンスが非常に頻繁に現実と一致することである。 なぜこれが重要なのか？ まず、私たちは生成AIは何ができて、何ができないのかを認識する必要がある。しかしまた同時に、ハルシネーションを起こさない将来のバージョンを期待してはならない。

3. AIは電力を大量消費し、その消費量はますます増加している

AIが電力を大量消費するという話をおそらく聞いたことがあるだろう。しかし、その評判の多くは、これらの巨大なモデルを訓練するのに必要な電力量に由来するものであり、巨大なモデルの訓練は時々しか実行されない。

変化したのは、これらのモデルが現在、毎日数億人の人々によって使用されているということである。モデルを使用することは訓練することよりもはるかに少ないエネルギーしか必要としないが、そのようなユーザー数では、エネルギーコストが大幅に増大する。

例えば、チャットGPT（ChatGPT）の週間ユーザー数は4億人。インスタグラム（Instagram）とXの間に位置し、世界で5番目に訪問者数の多いWebサイトとなっている。他のチャットボットも追い付きつつある。

そのため、テック企業が砂漠に新しいデータセンターを建設し、電力網を刷新することを競っていても驚くことではない。

実際のところ、生成AIブームを支えるのに実際にどれだけのエネルギーが必要なのかについて、分かっていなかった。主要なAI企業のいずれも、多くの情報を公開せずにここまできたからだ。

しかし、状況は変わり始めている。本誌は、研究者と数カ月間にわたって共同作業を実施し、オープンソースのAIモデルを使って具体的な数値を算出した。その成果はこちらでぜひ確認してほしい。

4. 大規模言語モデルがどのように動作するかを正確に知っている者はいない

確かに、私たちは大規模言語モデルの構築方法を知っている。この記事の最初で述べたように、それらを非常にうまく機能させる方法も知っている。

しかし、こうしたモデルがどのようにしてこうしたことを実行しているのかは、依然として未解決の謎である。これらは宇宙からやってきたもののようであり、科学者たちは外側からそれらを突いたり調べたりしてそれらが実際に何であるかを解明しようとしている。

数十億人が使用する大衆市場向け技術がこれほど理解されていないということは、これまでになかったことであり、信じられないことだ。

なぜそれが重要なのか？ 私たちが大規模言語モデルをより良く理解するまで、それらが何ができて何ができないのかを正確に知ることはできないからだ。それらの振る舞いを制御する方法もわからない。ハルシネーションを完全に理解することもできない。

5. AGI（汎用人工知能）は何も意味しない

少し前まで、AGIの話題は主流から外れており、主流の研究者たちはそれを持ち出すことを恥ずかしがっていた。しかしAIがより優秀になり、はるかに収益性が高くなるにつれて、真面目な人々が嬉々として、AGIを創造しようとしていると主張している。それが何であってもだ。

AGIは、次のような意味を持つようになった。幅広い認知タスクにおいて人間のパフォーマンスに匹敵するAIである。

しかし、それは何を意味するのか？ 私たちはどのようにパフォーマンスを測定するのか？ どの人間なのか？ どの程度幅広いタスクの範囲なのか？ そして認知タスクにおけるパフォーマンスは知能と言うことの別の表現に過ぎない。つまり、定義は循環論理なのである。

本質的に、人々がAGIについて言及する際、彼らは今や単にAI、ただし今日私たちが持っているものよりも優れたものを意味する傾向がある。

AIの進歩に対する絶対的な信仰がある。過去に改良されてきたのだから、今後も改良され続けるであろうというものである。しかし、これが実際に実現するという証拠は皆無である。

では、私たちはどこに立っているのか？ 私たちは人々がすることの一部を模倣することが非常に得意な機械を構築している。だが、その技術には依然として深刻な欠陥がある。そして私たちは、それが実際にどのように機能するかをようやく理解し始めたところである。

AIについて私はこう考える。私たちは人間のように振る舞う機械を構築したが、その背後に人間のような心があると想像する習慣を捨て去ってはいない。これはAIにできることについて誇張された仮定につながり、より広範な技術楽観主義者と技術懐疑主義者の間の文化戦争に拍車をかけている。

この技術に驚嘆するのは正しい。また、この技術について語られる多くのことに懐疑的であることも正しい。まだ非常に初期段階であり、すべては未確定なのだ。

• 7

人気の記事ランキング

1. Future Frontiers: Professor Ota’s Vision and Message to Gen Under 35 5Gから6Gへ、通信の世界的研究者・太田 香教授「U35」へのメッセージ
2. Promotion MITTR Emerging Technology Nite #33 バイブコーディングって何だ？ 7/30イベント開催のお知らせ
3. Promotion Call for entries for Innovators Under 35 Japan 2025 「Innovators Under 35 Japan」2025年度候補者募集のお知らせ
4. Inside the race to find GPS alternatives GPSに代わる選択肢を、 地球低軌道で100倍強い 次世代測位システム
5. Inside the US power struggle over coal 経済合理性を失う石炭火力発電、トランプ政権は延命に固執
6. Google’s generative video model Veo 3 has a subtitles problem 高品質で超高額、グーグル動画生成AI「Veo 3」で謎の字幕問題