「28年に能力1000倍」
マイクロソフトAIトップ、
指数関数的成長の必然を語る

私たちは、「リニアな世界」に合わせて進化してきた。1時間歩けば一定の距離を進む。そして、2時間歩けばその倍の距離を進む。この直感は、サバンナでは大いに役立っていた。しかし、人工知能（AI）とその中心にある指数関数的なトレンドに直面すると、この直感は致命的に通用しなくなる。

私が2010年にAIの研究を始めたときから現在までの間に、最先端のAIモデルに投入される訓練データの量は、なんと1兆倍にも増加した。初期のシステムでは約10¹⁴フロップス（FLOPS：浮動小数点演算、計算能力を表す基本単位）だったものが、今日の最大規模のモデルでは10²⁶フロップスを越えている。これはまさに爆発的な増加である。AIにおけるあらゆる進歩はこの事実に基づいている。

懐疑論者たちは、限界が訪れると予測し続けている。しかし、世代ごとにコンピューティング能力は驚異的に飛躍し、彼らの予測は外れ続けている。彼らはよく、ムーアの法則の鈍化を指摘する。また、データの不足や、エネルギーの制約を理由に挙げる。

しかし、この革命を牽引するさまざまな要因を総合的に見れば、指数関数的な成長傾向はむしろ予測可能なものと言える。その理由を理解するには、表面的なことの奥底にある、複雑かつ急速に変化する現実を考察することが有益だ。

AIモデルの訓練を、電卓を操作する人たちでいっぱいの部屋に例えてみよう。長年にわたり、計算能力を高めるということは、その部屋に電卓を持った人を増やすことを意味していた。そうした人たちは往々にして、机を指で叩きながら、次の計算に必要な数値が入ってくるのを待っているだけであった。その一時停止のたびに、潜在能力が無駄にされていた。今日の革命は、より多くのより高性能な電卓にとどまらない（もちろん、それらも実現しているが）。実際には、それらの電卓が決して止まることなく、一体となって動作するようにすることが重要なのだ。

現在、3つの進歩が合わさって、これを可能にしている。1つ目として、基本的な電卓（演算）の処理速度が向上した。エヌビディア（Nvidia）のチップは、わずか6年間で純粋な処理能力が7倍以上向上し、2020年の312テラ（テラは1兆）フロップスから、現在では2250テラフロップスに到達している。2026年1月に発売されたマイクロソフト独自のMaia（マイア）200チップは、マイクロソフトの他のどのハードウェアよりも、コストパフォーマン …

人気の記事ランキング

1. The balcony solar boom is coming to the US 安全性は大丈夫？ 米国で「バルコニー発電」がブーム
2. Musk v. Altman week 1: Elon Musk says he was duped, warns AI could kill us all, and admits that xAI distills OpenAI’s models 「オープンAIを蒸留した」マスク対アルトマン第1週、法廷がざわめく
3. The era of AI malaise AI閉塞感の時代、私たちはまだ何も分かっていない
4. Inexpensive seafloor-hopping submersibles could stoke deep-sea science—and mining 95%が未解明の「深海」へ 低コストの自律ロボットが 地球資源の地図を描き始めた