フラッシュ2023年7月25日

• 東大発スタートアップ、67億パラメーターの日本語LLMをOSSで公開

  by MITテクノロジーレビュー編集部 [MIT Technology Review Japan]

  東京大学発のスタートアップ企業であるLightblue（ライトブルー）は、公開モデルとしては国内最大規模の67億パラメーターの日本語大規模言語モデルを開発し、オープンソース・ソフトウェアとして公開した。ライセンスはApache 2.0。

  この言語モデルは、米モザイクML （MosaicML）が公開した多言語大規模言語モデル「MPT-7B」を基にしたもの。グーグルが開発した多言語データセット「MC4」をアレン人工知能研究所（Allen Institute for AI）がそれぞれの言語ごとに利用可能にしたサブセットの日本語部分を使って追加学習した。

  Lightblueは、今回公開したモデルを法人向けに提供する。業界用語や部署特有の専門用語、慣習などに合わせて訓練・調整することで、企業や部署によって異なる要望に応じるという。加えて、自社サービスの提供も予定しているとのことだ。

  （笹田）

  • 6

• 人気の記事ランキング

  1. How AI and Wikipedia have sent vulnerable languages into a doom spiral AI翻訳のゴミに汚染された ウィキペディア、 マイナー言語にとどめ
  2. The three big unanswered questions about Sora 時間も資金も溶かす？ AI動画SNS「Sora」3つの疑問
  3. 2025 Climate Tech Companies to Watch: HiNa Battery Technology and its effort to commercialize salt cells 気候テック10：ナトリウムイオンでリチウム代替狙う中国ハイナ
  4. EV tax credits are dead in the US. Now what? 米EV減税が正式廃止、今後の動きをドイツの先例から予想