フラッシュ2023年5月17日

• サイバーエージェントが大規模言語モデルを公開、商業利用も可能

  by MITテクノロジーレビュー編集部 [MIT Technology Review Japan]

  サイバーエージェントは2023年5月17日、最大68億パラメータの日本語大規模言語モデル（LLM：Large Language Model）を、機械学習プラットフォーム「ハギング・フェイス・ハブ（Hugging Face Hub）」で一般公開した。商用利用可能な「CC BY-SA 4.0ライセンス」で提供しており、同モデルをベースとしてチューニングをすることにより、対話型人工知能（AI）などの開発が可能となる。

  同社は、ウィキペディア（Wikipedia）およびコモン・クロール（Common Crawl）のオープンな日本語データを用いて同モデルを訓練している。既存の大規模言語モデルのほとんどは英語を中心に学習されており、現状では日本語および日本文化に強いLLMは少ないという。今回の大規模言語モデルは、現時点では日本国内における公開モデルにおいて最大級の規模であり、大規模な日本語データを活かした独自モデルを開発したことで、従来より自然な日本語の文章生成が可能になるとしている。

  今回の発表に先立ってサイバーエージェントは、130億パラメーターまでの大規模言語モデルの開発を完了したことを5月11日に発表。同社の「極予測AI」「極予測TD」「極予測LP」などAIを活用した広告クリエイティブ制作領域のサービスにおいて活用を始めている。

  （中條）

  • 6

• 人気の記事ランキング

  1. How to run an LLM on your laptop チャットGPTからの卒業：自分のパソコンでLLMを動かしてみよう
  2. Promotion MITTR Emerging Technology Nite #34 【9/10開催】伝説の玩具「アームトロン」開発者が誕生秘話を語る
  3. On the ground in Ukraine’s largest Starlink repair shop ＜現地ルポ＞ウクライナの 生命線「スターリンク」 1万台超を直した非公式工場
  4. Why recycling isn’t enough to address the plastic problem リサイクルだけでは「プラスチック問題」を解決できない理由
  5. In a first, Google has released data on how much energy an AI prompt uses 1クエリでレンジ1秒分、グーグルがGeminiの消費電力を初公開