フラッシュ2024年2月7日

• 人工知能（AI）

  PFE、1000億パラメーターのマルチモーダル基盤モデル開発へ

  by MITテクノロジーレビュー編集部 [MIT Technology Review Japan]

  人工知能（AI）スタートアップ、プリファード・ネットワークス（Preferred Networks）の子会社であるプリファード・エレメンツ（Preferred Elements：PFE）は2024年2月2日、1000億パラメーターのマルチモーダル基盤モデルの開発、および、1兆パラメーターの言語モデルの開発に向けた事前学習の検証に着手すると発表した。

  同社の今回の取り組みは、経済産業省と新エネルギー・産業技術総合開発機構（NEDO）が開始する、国内の生成AIの開発力を強化するためのプロジェクト「GENIAC（Generative AI Accelerator Challenge）」の1つとして、基盤モデル開発に必要な計算資源の提供支援を受けて実施されるもの。研究期間は2024年2月15日から同年8月15日を予定している。

  1000億パラメーターのマルチモーダル基盤モデルの開発においては、（1）事前学習と追加学習、（2）指示学習・画像モーダル向けの事前学習と追加学習、（3）音声モーダル向けの追加学習などを研究。1兆パラメーターの大規模言語モデルについては、事前学習の検証を実施する。

  成果物は、安全性などを検証したうえで、1000億パラメーターのモデルのウェイトやファインチューニング用コード、学習課題やノウハウを、GENIACの基盤モデル開発事業者コミュニティや講演などを通じて公開する。プリファード・エレメンツは、複数の企業や行政機関と2024年中の利用開始に向けた議論を始めており、商用化に向けた準備を進めていくとしている。

  （中條）

  • 2

• 人気の記事ランキング

  1. The first human test of a rejuvenation method will begin “shortly”  ハーバード大教授主導の 「若返り治療」初の試験へ、 イーロン・マスクも関心
  2. Promotion Emerging Technology Nite #36 Special 【3/9開催】2026年版「新規事業の発想と作り方」開催のお知らせ
  3. Microbes could extract the metal needed for cleantech 微生物で「老朽鉱山」再生、バイオマイニングは金属需要に間に合うか
  4. What’s next for EV batteries in 2026 米国後退、加速する中国支配 EVバッテリー市場、 2026年はどう動く？
  5. Stratospheric internet could finally start taking off this year グーグルもメタも失敗した 「成層圏ネット」再挑戦、 2026年に日本で実証実験