NECが｢世界トップ級の日本語性能｣うたう国産LLMを開発。生成AI事業｢3年で売上500億円目指す｣

撮影：三ツ村崇志

NECが日本語に特化した国産大規模言語モデル（LLM）を開発した。この7月から、自社開発のLLMやマイクロソフトのAzure OpenAI Serviceを使った企業向けの生成AIに関するサービスも順次提供していく。今後3年間で、生成AI関連事業として約500億円の売り上げを目指す。

NECの吉崎敏文CDO（Chief Digital Officer）は、7月6日の記者会見で、｢500億円はミニマムだと考えています｣と、生成AI市場の拡大に対する期待を語った。

もっと知る

和製生成AIをサイバーエージェントが作る理由。“無償公開の狙い”をAI開発チームに聞く

ゲーミングPCでも動く、世界トップクラスの日本向けLLM

NECのChief Digital Officerを務める吉崎敏文さん。

撮影：三ツ村崇志

米OpenAIが2022年11月にChatGPTを公開してから、世界では生成AIを駆使したサービスや大規模言語モデルの開発競争が加速している。その中で、日本語をベースとした国産LLMの必要性も訴えられてきた。

5月には、サイバーエージェントが国産LLMをオープンソースとして無償公開したことも話題となったばかりだ。

今回、NECは独自に収集・加工した多言語のデータをもとに、世界トップクラスの日本語性能を有したLLMを開発。この5月から生成AIの社内での利用も進めており、資料作成時間が50%減、議事録作成時間が平均30分から5分に短縮、ソースコード作成業務の工数が80%減少するなどの成果が出始めているという。

CTOの西原基夫さんはLLMの特徴を

｢日本語の能力が非常に高い。もう一つは、軽量であるということです｣

と簡潔に指摘する。

LLMの開発には、3月から全面稼働しているNECのAI研究用のスーパーコンピューターを活用。実用レベルのファウンデーションモデル（基盤モデル）を1カ月で構築した。

LLMのパラメーター数は130億と海外トップLLM（1750億パラメーター）と比較して小規模だ。ただ、これにより消費電力を抑制できるほか、動作の高速化や、外部のネットワークとつながっていないオンプレミス環境でも運用が可能となった。

NECによると、今回のモデルはミニマムで｢GPUが1枚あれば動く｣ほど軽量化できているという。

開発を担当したNECデータサイエンスラボラトリー主幹研究員の小山田昌史さんは

｢LLMの性能は、データ量とパラメーターの規模、計算時間の掛け算によって決まると言われています。これまではパラメーターを増やすことで性能を上げようとしてきました。ただ、業務で使うなら普及させなければなりません。もっと（パラメーターを）小さくできないかと考えて、私たちはデータ量と計算量をめちゃくちゃ増やすことで、パラメーター数を削減しました｣

と設計の裏側を語る。NECとしては、コンパクトな設計になったことで、顧客が持つクローズドなデータを取り込んで業界に特化したLLMを短期間で構築できる点も強みだとしている。

日本語の能力も高い。

学習データはオープンソースのものを用意し、 日本語だけではなく英語などのさまざまな言語データを活用した。さまざまな言語を学習させることで、かえって日本語の能力が高まる効果あるという。日本語を評価するベンチマークである｢JGLUE｣では、知識量に相当する質問応答で81.1％、推論能力に相当する文章読解においては84.3%と世界トップクラスの性能を実現したという。

NECが開発したLLMの日本語性能評価。世界のLLMと比較しても、トップクラスの性能を有している。

撮影：三ツ村崇志

Advertisement

生成AIの導入をサポートする専門チームも

NECでは、｢NEC Generative AI Service｣というサービスをこの7月から順次展開。顧客に合わせてカスタマイズ可能な生成AIの開発や、LLM活用のコンサルティングサービスなどを進めていく。なお、ここではニーズに応じて、自社開発のLLMだけではなくAzure OpenAI Serviceも提供する予定だ。

このサービスの開始に伴い、NECでは7月1日付でCDO直下の組織として、データサイエンティストやコマンドプロンプトエンジニア、コンサルタント人材100名からなる専門組織｢NEC Generative AI Hub｣を新設。企業へのサービス導入をサポートしていくとしている。

チームリーダを務めるChief Navigatorの千葉雄樹さんは、

｢（顧客が）生のモデルに触れるのではなく、便利に使うための機能を提供していくことが我々に求められることです｣

と語った。

顧客に提供する生成AIのイメージ。

撮影：三ツ村崇志

生成AIで求める答えを得ようとする際には、適切な回答を得るための質問のノウハウやちょっとしたコツが必要になることがある。特定の業務に役立つ回答を得たい場合は、そこにさらに業務上必要な知識を与えなければならない。

そう考えると、汎用的なLLMに質問を投げかければ必ず欲しい答えが返ってくるわけではない。

｢そういった独特の難しさを、私たちが提供するソフトウェアで吸収しようとしています。

企業に溜まっているノウハウや顧客データを学習させた上で、我々が持っているLLMの推論能力を加えることで、クリック操作だけで答えにたどり着けるような機能を提供していければと思っています｣（千葉さん）

NECではすでに、大和証券グループや三井住友銀行、JR東日本、セブン銀行、早稲田大学など9つの企業・大学と連携することが決まっており、新しい事業・価値を創出していくとしている。