オープンモデルは危険か？
AIの「民主化」と
安全性のジレンマ

先月下旬、アンソロピック（Anthropic）は、GLM-5.3というモデルが重大なサイバー攻撃リスクをもたらすと主張する報告書を発表した。この報告書の核心にある懸念は、8月に中国企業のジプー（智谱：Zhipu）がリリースしたこの強力な新モデルが、誰でも自由にダウンロードして改変できる点にある。アンソロピックの主張は、GLM-5.3のようにフロンティアAIモデルをオープンにすべきか、それとも最先端研究所の扉の奥に閉じ込めておくべきかという長年続く議論における、最新の一手にすぎない。

今日、オープンモデルの扱い方をめぐる議論の多くは公の場で繰り広げられており、その行方には巨額の資金がかかっている。人々が自前のハードウェアを購入してオープンモデルを動かし続けることで多くの利益を得られるエヌビディア（Nvidia）のジェンセン・ファンCEOは、米国がより多くのオープンモデルを開発すべきだと熱心に主張する一方、安価で強力なモデルによって自社事業が脅かされかねないアンソロピックのダリオ・アモデイCEOは、より慎重なアプローチを訴える。しかし、こうした商業的な思惑の裏には、オープンモデルをめぐる対立に関する本質的な論点が存在する。

「オープン性をめぐる議論でどちらの立場を取るかは、AIをめぐる議論全体でどちらの立場を取るかに大きく左右されると思います」と語るのは、テキサス大学オースティン校情報学部のデビッド・グレイ・ウィダー助教授だ。AIの安全性を懸念する人々は、オープンモデルが悪意ある行為者に容易に悪用されかねないと警鐘を鳴らす一方、AIの実用的な可能性により重きを置く人々は、この力が一握りの大企業の閉ざされた扉の奥にとどまるべきではなく、オープンモデルによってより広く行き渡らせることができると主張する。

オープンモデルを全面的に禁止するか、無秩序に公開するかという両極端の間には、さまざまな対応の選択肢がある。だが、政府や社会がどのようなアプローチをとるにせよ、安全性と民主化の間のトレードオフは避けられない。オープンモデルの開発を支援するか制限するかを決めるには、そうしたリスクと利点を深く理解する必要がある。

オープンモデルの利点とは何か

まずは基本から確認しよう。チャットGPT（ChatGPT）やクロード（Claude）を動かしているようなクローズド・モデルには、Webサイトやアプリ、APIを通じてしかアクセスできない。一方、オープン・モデルは直接ダウンロードが可能だ。モデルウェイトと呼ばれる長い数列として符号化された内部構造の詳細が、一般に公開されている。こうしたモデルは、訓練手順の詳細などさらに多くの情報が公開されているモデルと区別するために、「オープンウェイト・モデル」と呼ばれることもある。

現時点では、クローズド・モデルの方がオープン・モデルよりも性能が高い。本稿公開時点で、アーティフィシャル・アナリシス（Artificial Analysis）のLLMリーダーボード上位8モデルはすべてクローズド・モデルだが、オープン・モデルの開発の遅れはわずか数カ月にすぎない。とはいえ、クローズド・モデルではなくオープン・モデルを選ぶ理由はいくつもある。オープン・モデルはダウンロード可能なため、自分のコンピューターやハードドライブ上で動かすことができる。専門知識とリソースさえあれば、異なる挙動をするように再訓練することも可能だ。

AIシステムの理解と改良に取り組む学術研究者であれば、研究においてほぼ間違いなくオープン・モデルを扱う必要が出てくる。クローズド・モデルを扱う場合、研究者にできることはプロンプトを送って応答を観察する程度にとどまる。しかしオープン・モデルであれば、内部の仕組みだけでなく、モデルが回答前に問題を考え抜く際に使う「思考の連鎖（Chain of Thought：CoT）」まで観察できる。また、複数のオープン・モデルを組み合わせて新たなシステムを構築したり、圧縮して効率を高めたり、新たな用途向けに微調整（ファインチューニング）したりすることもできる。

企業にもオープン・モデルを好む理由がある。外部プロバイダーに運用を委託する場合であっても、オープン・モデルは通常クローズド・モデルより低コストだと、モジラ（Mozilla）の最近の報告書は指摘する。また、機密データや独自情報の処理にAIを活用したい企業にとっては、自社ハードウェア上でローカルモデルを動かすことが、業務のセキュリティを保つ最善の方法となりうる。

しかし、オープン・モデルの最も重要な特質はおそらく、最先端の研究機関（フロンティアラボ）が私たちのAI利用のあり方に対して握っている強固な支配を揺るがす点にあるだろう。「オープン・モデルを支持する最も明確で最大の論拠は、権力の集中を防ぐことにある。この基盤技術が公共財であることを確実にすることです」と、トニー・ブレア研究所の上級政策顧問であるエリザベス・セガーは語る。「AIの稼働を可能にするインフラを誰が支配するかという問いは、インターネット上の情報を誰が支配するかという問いと同じくらい大きな問題だと考える局面に、私たちは立っていると思います」。

セガー顧問は、オープン・モデルが果たす役割次第で、AIの未来がさまざまな形で展開しうると見ている。ある可能な未来では、最先端のAIシステムが特定の人物や企業、政府によって完全に支配され、そうしたシステムが強力になるにつれて、それらの集団が世界のあり方に対する支配力を強めていく。例えば、現在世界で最も高度なハッキング用モデルはすべて米国製であり、他国がそれらを使って自国のサイバー防御を強化できるかどうかは、完全に米国企業と米国政府の裁量に委ねられている。こうした企業が主導権を握り続ければ、原理的には、米国があらゆる他国をハッキングできる一方、誰も米国 …

人気の記事ランキング

1. Weight-loss drugs show signs of slowing biological aging, say drugmakers 減量薬に「抗老化」効果か、 製薬大手2社が学会発表 心臓年齢で最大4年の差
2. People really hate AI, so why can’t they get enough? 米国で広がるAIへの反感、本当に嫌われているのは何か？
3. WaveSave and its portable rubber dam 気候テック10：「持ち運べるダム」で洪水に備えるウェーブセーブ
4. BasiGo and its fleet of electric buses 気候テック10：従量課金でアフリカのEVバス普及を目指すバシゴー