フラッシュ2023年5月17日
サイバーエージェントが大規模言語モデルを公開、商業利用も可能
by MITテクノロジーレビュー編集部 [MIT Technology Review Japan]サイバーエージェントは2023年5月17日、最大68億パラメータの日本語大規模言語モデル(LLM:Large Language Model)を、機械学習プラットフォーム「ハギング・フェイス・ハブ(Hugging Face Hub)」で一般公開した。商用利用可能な「CC BY-SA 4.0ライセンス」で提供しており、同モデルをベースとしてチューニングをすることにより、対話型人工知能(AI)などの開発が可能となる。
同社は、ウィキペディア(Wikipedia)およびコモン・クロール(Common Crawl)のオープンな日本語データを用いて同モデルを訓練している。既存の大規模言語モデルのほとんどは英語を中心に学習されており、現状では日本語および日本文化に強いLLMは少ないという。今回の大規模言語モデルは、現時点では日本国内における公開モデルにおいて最大級の規模であり、大規模な日本語データを活かした独自モデルを開発したことで、従来より自然な日本語の文章生成が可能になるとしている。
今回の発表に先立ってサイバーエージェントは、130億パラメーターまでの大規模言語モデルの開発を完了したことを5月11日に発表。同社の「極予測AI」「極予測TD」「極予測LP」などAIを活用した広告クリエイティブ制作領域のサービスにおいて活用を始めている。
(中條)
- 人気の記事ランキング
- Why it’s so hard for China’s chip industry to become self-sufficient 中国テック事情:チップ国産化推進で、打倒「味の素」の動き
- How thermal batteries are heating up energy storage レンガにエネルギーを蓄える「熱電池」に熱視線が注がれる理由
- Three reasons robots are about to become more way useful 生成AI革命の次は「ロボット革命」 夢が近づく3つの理由
- Researchers taught robots to run. Now they’re teaching them to walk 走るから歩くへ、強化学習AIで地道に進化する人型ロボット