チャットGPTからの卒業:自分のパソコンでLLMを動かしてみよう
ChatGPTに個人情報を送るのが心配? 大手AI企業の支配から自由になりたい? ならば自分のパソコンでLLMを動かしてみよう。かつては高価なGPUが必要だったローカルLLMも、今やノートPCでそこそこ動かせるようになった。その方法を解説する。 by Grace Huckins2025.08.26
サイモン・ウィリソンには、世界の終末に備えた計画がある。それは、お気に入りの「オープン・ウェイト」大規模言語モデル(LLM)をいくつか収めたUSBメモリだ。オープン・ウェイトLLMとは、開発者が公開し、原理的にはローカル・ハードウェア上でダウンロード・実行できるモデルのことを指す。もし人類文明が崩壊したときには、ウィリソンはそれらの何十億ものパラメーターにエンコードされた知識を活用するつもりだ。「ちょっと風変わりで欠陥のある凝縮版ウィキペディアを持ち歩いているようなものです。この小さなUSBスティックの助けを借りて社会をリブートできるのです」とウィリソンは語る。
世界の終末を想定していなくても、自分のデバイスでLLMを実行したいと思う人は多い。ローカルLLMとソフトウェア開発に関する人気ブログを運営しているウィリソンには、多くの仲間がいる。たとえば、自分のハードウェアでLLMを走らせることに特化した、レディット(Reddit)のサブレディット「r/LocalLLaMA」には50万人のメンバーがいる。
プライバシーを懸念する人、大手LLM企業の支配から自由になりたい人、あるいは単に技術をいじるのが好きな人にとって、ローカルLLMはChatGPT(チャットGPT)やその他のWebベースの競合に代わる魅力的な選択肢となる。
かつて、ローカルLLMには高い参入障壁があった。当初は、高価なGPU(画像処理装置)に投資しなければ実用的なものを動かすことは不可能だった。しかし研究者たちはモデルの小型化と高速化に大きな成果を収め、今ではノートPCやスマホでも利用できるようになった。「数年前なら、パソコンでは優れたモデルを実行するには力不足だと言ったでしょう。5万ドルのサーバーラックが必要だ、とね」とウィリソンは語る。「でも、その考えはこれまでに何度も覆されてきました」。
独自のLLMをダウンロードしたい理由
ローカルLLMを始めるには、ChatGPTのオンライン・インターフェイスにアクセスするよりも少し手間がかかる。しかし、ChatGPTのようなツールの使いやすさには代償が伴う。「『無料なら、あなた自身が商品だ』という有名な言葉があります」と、ロンドンを拠点とするシンクタンク、デモス(Demos)のデジタル政策部門長であるエリザベス・シーガーは語る。
オープンAI(OpenAI)は有料版と無料版の両方を提供しているが、デフォルトではユーザーのチャットをもとにモデルを訓練している。この訓練をオプトアウトするのはそれほど難しくないし、以前はユーザーが自分のチャットデータをオープンAIのシステムから完全に削除することも可能だった。しかし、ニューヨーク・タイムズ紙が進めている訴訟での最近の判決により、オープンAIはChatGPTの全ユーザーの会話を保存する義務を負い、完全削除はできなくなった。
ユーザーに関する膨大 …
- 人気の記事ランキング
-
- Apple AirPods : a gateway hearing aid お値段10分の1のAirPods補聴器はどれぐらい使える?
- Promotion MITTR Emerging Technology Nite #34 【9/10開催】伝説の玩具「アームトロン」開発者が誕生秘話を語る
- What you may have missed about GPT-5 肩透かしだったGPT-5、オープンAIの方針転換に危うさ
- Meet the early-adopter judges using AI 司法を侵食するAIの功罪、 米国では判事も ハルシネーションに騙された
- Should AI flatter us, fix us, or just inform us? 迷走したチャットGPTの人格設計、問われる人間との距離感