フラッシュ2024年2月7日

• 人工知能（AI）

  PFE、1000億パラメーターのマルチモーダル基盤モデル開発へ

  by MITテクノロジーレビュー編集部 [MIT Technology Review Japan]

  人工知能（AI）スタートアップ、プリファード・ネットワークス（Preferred Networks）の子会社であるプリファード・エレメンツ（Preferred Elements：PFE）は2024年2月2日、1000億パラメーターのマルチモーダル基盤モデルの開発、および、1兆パラメーターの言語モデルの開発に向けた事前学習の検証に着手すると発表した。

  同社の今回の取り組みは、経済産業省と新エネルギー・産業技術総合開発機構（NEDO）が開始する、国内の生成AIの開発力を強化するためのプロジェクト「GENIAC（Generative AI Accelerator Challenge）」の1つとして、基盤モデル開発に必要な計算資源の提供支援を受けて実施されるもの。研究期間は2024年2月15日から同年8月15日を予定している。

  1000億パラメーターのマルチモーダル基盤モデルの開発においては、（1）事前学習と追加学習、（2）指示学習・画像モーダル向けの事前学習と追加学習、（3）音声モーダル向けの追加学習などを研究。1兆パラメーターの大規模言語モデルについては、事前学習の検証を実施する。

  成果物は、安全性などを検証したうえで、1000億パラメーターのモデルのウェイトやファインチューニング用コード、学習課題やノウハウを、GENIACの基盤モデル開発事業者コミュニティや講演などを通じて公開する。プリファード・エレメンツは、複数の企業や行政機関と2024年中の利用開始に向けた議論を始めており、商用化に向けた準備を進めていくとしている。

  （中條）

  • 2

• 人気の記事ランキング

  1. How far can we push computing? コンピューターはどこまで進歩できるか？ 物理限界まで残る余地
  2. Promotion Laboro.AI’s vision for the next decade of AI AIは「道具」から「資本」へ。Laboro.AIが描く次の10年
  3. Solid-state batteries 「未来」の現在：「あと数年」が続く全固体電池、実用化はいつ？
  4. We urgently need to monitor AI agents’ actions in real time 相次ぐAIエージェントの逸脱行動、監視には2つの記録が必要だ
  5. Here’s who is falling in line for Trump’s “Super Intelligence” loyalty test 「AI」改め「超知能」から1カ月、トランプ大統領令に従っているのは？