「28年に能力1000倍」
マイクロソフトAIトップ、
指数関数的成長の必然を語る

私たちは、「リニアな世界」に合わせて進化してきた。1時間歩けば一定の距離を進む。そして、2時間歩けばその倍の距離を進む。この直感は、サバンナでは大いに役立っていた。しかし、人工知能（AI）とその中心にある指数関数的なトレンドに直面すると、この直感は致命的に通用しなくなる。

私が2010年にAIの研究を始めたときから現在までの間に、最先端のAIモデルに投入される訓練データの量は、なんと1兆倍にも増加した。初期のシステムでは約10¹⁴フロップス（FLOPS：浮動小数点演算、計算能力を表す基本単位）だったものが、今日の最大規模のモデルでは10²⁶フロップスを越えている。これはまさに爆発的な増加である。AIにおけるあらゆる進歩はこの事実に基づいている。

懐疑論者たちは、限界が訪れると予測し続けている。しかし、世代ごとにコンピューティング能力は驚異的に飛躍し、彼らの予測は外れ続けている。彼らはよく、ムーアの法則の鈍化を指摘する。また、データの不足や、エネルギーの制約を理由に挙げる。

しかし、この革命を牽引するさまざまな要因を総合的に見れば、指数関数的な成長傾向はむしろ予測可能なものと言える。その理由を理解するには、表面的なことの奥底にある、複雑かつ急速に変化する現実を考察することが有益だ。

AIモデルの訓練を、電卓を操作する人たちでいっぱいの部屋に例えてみよう。長年にわたり、計算能力を高めるということは、その部屋に電卓を持った人を増やすことを意味していた。そうした人たちは往々にして、机を指で叩きながら、次の計算に必要な数値が入ってくるのを待っているだけであった。その一時停止のたびに、潜在能力が無駄にされていた。今日の革命は、より多くのより高性能な電卓にとどまらない（もちろん、それらも実現しているが）。実際には、それらの電卓が決して止まることなく、一体となって動作するようにすることが重要なのだ。

現在、3つの進歩が合わさって、これを可能にしている。1つ目として、基本的な電卓（演算）の処理速度が向上した。エヌビディア（Nvidia）のチップは、わずか6年間で純粋な処理能力が7倍以上向上し、2020年の312テラ（テラは1兆）フロップスから、現在では2250テラフロップスに到達している。2026年1月に発売されたマイクロソフト独自のMaia（マイア）200チップは、マイクロソフトの他のどのハードウェアよりも、コストパフォーマン …

人気の記事ランキング

1. Desalination plants in the Middle East are increasingly vulnerable 飲料水の9割を賄う 中東の「水の命綱」 淡水化施設が紛争の標的に
2. Here’s why some people choose cryonics to store their bodies and brains after death 蘇生の可能性は「限りなく小さい」、それでも人体冷凍保存を選ぶ理由
3. Four things we’d need to put data centers in space スペースXがぶち上げた 宇宙データセンター構想、 実現に4つのハードル
4. The one piece of data that could actually shed light on your job and AI アンソロピックCEO「5年で全仕事代替」、データなき雇用論争