フラッシュ2023年10月23日

• 人工知能（AI）

  NII、130億パラメーターの大規模言語モデルを公開

  by MITテクノロジーレビュー編集部 [MIT Technology Review Japan]

  国立情報学研究所（NII）は、130億パラメーターの大規模言語モデル「LLM-jp-13B」を公開した。NIIが主宰し、大学や企業から500名以上が参加する「LLM勉強会」が7月から構築を始めたもので、事前学習とチューニングが完了したことから公開された。

  LLM-jp-13Bはパラメーター数が130億で、約1450億トークンの日本語コーパス、約1450億の英語コーパス、約100億トークンのプログラムコードで学習させた。学習にはデータ活用社会創成プラットフォームmdx（エヌビディアのGPU「A100」96基）を使用し、モデル構築にはマイクロソフト・リサーチが開発したDeepSpeedを利用した。

  現時点では開発初期段階であり、モデルの性能を示す評価値は国内で公開された他のモデルと同程度だとしている。NIIは今後、産業技術総合研究所（産総研）や東京工業大学と協力して世界トップ級のLLMの構築を進めるとしており、産総研のAI橋渡しクラウド（ABCI）を利用して1750億パラメーターの大規模言語モデルの構築に着手しているという。1750億パラメーターはオープンAI（OpenAI）のGPT-3に匹敵する規模となる。

  （笹田）

  • 4

• 人気の記事ランキング

  1. AI researchers stranded Claude on a virtual desert island. It started to “play.” やることがないAIは何をする？ 無人島に30時間置き去りにした結果
  2. This implant can restore sight for patients with macular degeneration 患者の8割超が再び文字を読めた、網膜インプラントの仕組み
  3. “We were looking at it wrong”: The explosive claim that’s upended the AI world 「ニューラル・ネットは読み解ける」主張、元オープンAI研究者に真意を聞く
  4. Pig kidneys that were “frozen” for a year have been brought back to life 「臓器が患者を待つ」時代へ？1年間保存したブタ腎臓が再び機能した