フラッシュ2023年5月17日
サイバーエージェントが大規模言語モデルを公開、商業利用も可能
by MITテクノロジーレビュー編集部 [MIT Technology Review Japan]サイバーエージェントは2023年5月17日、最大68億パラメータの日本語大規模言語モデル(LLM:Large Language Model)を、機械学習プラットフォーム「ハギング・フェイス・ハブ(Hugging Face Hub)」で一般公開した。商用利用可能な「CC BY-SA 4.0ライセンス」で提供しており、同モデルをベースとしてチューニングをすることにより、対話型人工知能(AI)などの開発が可能となる。
同社は、ウィキペディア(Wikipedia)およびコモン・クロール(Common Crawl)のオープンな日本語データを用いて同モデルを訓練している。既存の大規模言語モデルのほとんどは英語を中心に学習されており、現状では日本語および日本文化に強いLLMは少ないという。今回の大規模言語モデルは、現時点では日本国内における公開モデルにおいて最大級の規模であり、大規模な日本語データを活かした独自モデルを開発したことで、従来より自然な日本語の文章生成が可能になるとしている。
今回の発表に先立ってサイバーエージェントは、130億パラメーターまでの大規模言語モデルの開発を完了したことを5月11日に発表。同社の「極予測AI」「極予測TD」「極予測LP」などAIを活用した広告クリエイティブ制作領域のサービスにおいて活用を始めている。
(中條)
- 人気の記事ランキング
- The Biggest Questions: Are we alone in the universe? 地球外生命体は存在するか? 人類の先入観を超えた探索
- Google DeepMind wants to define what counts as artificial general intelligence 汎用人工知能(AGI)とは何か? ディープマインドが定義を提案
- Text-to-image AI models can be tricked into generating disturbing images AIモデル、「脱獄プロンプト」で不適切な画像生成の新手法
- The Biggest Questions: What is death? 「死」とは何か? 覆る概念、あいまい化する境界線