[イーデイリーShin Yeong-bin 記者] LG CNS(#LG CNS)とカナダの人工知能(AI)企業コヒアが共同開発した企業向けAIモデルの学習方式と詳細な性能が、論文を通じて公開されました。
17日、情報技術(IT)業界によると、コヒアの研究チームは最近、LG CNSと共同開発した1110億個のパラメータ規模を持つ企業向け推論用大規模言語モデル(LLM)の開発過程と性能をまとめた論文『英語で推論し、韓国語で答える:多言語ツールを活用したAIエージェントの効率的な最適化』を公開しました。
ラッキースター111Bの学習過程。後学習された多言語ベースのモデルに、ハイブリッド教師あり微調整(SFT)、検証可能な推論・ツール活用のための強化学習(RLVR)、簡潔なユーザー応答のための選好度ソートを順次適用しました。(写真=コヒア)
論文では、このモデルを「ラッキースター(LuckyStar)111B」として紹介しました。名称は、LGの旧社名である「ラッキー金星(Lucky Goldstar)」に由来しています。ただし、これは開発過程で使用された名称であり、正式な製品名ではないとされています。
LG CNSは昨年3月、コヒアとパートナーシップを締結し、韓国語・金融に特化したエージェントモデルの共同開発に着手しました。同年7月には、コヒアの企業向けLLM「コマンド」を基盤に、1110億個のパラメータを備えた推論型LLMを共同開発したと発表しました。
今回の論文では、具体的な学習方法と企業向けAIエージェントの性能について言及されています。研究チームは、既存の「コマンドA」を基盤として、教師あり微調整(SFT)、検証可能な報酬ベースの強化学習(RLVR)、選好度最適化(DPO)などを順次適用しました。
研究チームは、英語の推論データを単に韓国語に翻訳して学習させる方式も実験しましたが、性能向上の効果は限定的であることが判明しました。そこで、韓国語の質問を受け取った場合でも、中間的な推論過程は英語で行い、最終結果のみを韓国語で生成するようにモデルを学習させました。
この過程で、韓国語の質問に対して英語で最終回答してしまう問題が生じたため、韓国語の質問には韓国語で答えるよう、別途「言語の一貫性」報酬も適用しました。論文によると、最終回答の言語が一致しない割合は、SFT段階の12.2%から、強化学習200段階以降には0.8%まで低下しました。
LG CNSとCohereが注力したもう一つの領域は、実際の企業業務遂行能力です。一般的な質疑応答だけでなく、自然言語のコマンドをデータベース照会言語に変換するNL2SQLや関数呼び出しなど、AIが外部ツールを活用して業務を遂行する能力を強化しました。
独自評価においても、基盤モデルよりも性能が向上しました。コヒアの企業向けNL2SQL評価では、従来のコマンドAが7.3点を記録したのに対し、共同開発モデルは38.0点へと上昇しました。LG CNSが企業・金融業務に基づいて構成したエージェント評価でも、2.67点から4.85点へと向上しました。
大規模モデルを企業内で直接運用できるよう軽量化する技術も盛り込まれました。研究チームは4ビット量子化を適用し、111Bモデルのメモリ使用量を削減しました。これにより、80GB容量のNVIDIA H100グラフィックス処理装置(GPU)1枚でもモデルを稼働させることができると説明しました。
LG CNSとコヒアは、企業の業務やインフラ環境に合わせて活用できるよう、7B・32B・111Bなど、異なる規模のモデルを開発しています。研究目的に限定せず、実際の企業顧客に適用するための商用モデルとして開発されたものと見られます。
両社は、金融業界を皮切りに、製造、流通、サービスなどへと、エージェント型AIの事業領域を拡大していく計画です。特に、セキュリティ要件の高い企業が自社のインフラ上でAIを運用できるよう、オンプレミス環境をサポートするとともに、共同開発モデルの性能も継続的に高度化していく方針です。
17日、情報技術(IT)業界によると、コヒアの研究チームは最近、LG CNSと共同開発した1110億個のパラメータ規模を持つ企業向け推論用大規模言語モデル(LLM)の開発過程と性能をまとめた論文『英語で推論し、韓国語で答える:多言語ツールを活用したAIエージェントの効率的な最適化』を公開しました。
論文では、このモデルを「ラッキースター(LuckyStar)111B」として紹介しました。名称は、LGの旧社名である「ラッキー金星(Lucky Goldstar)」に由来しています。ただし、これは開発過程で使用された名称であり、正式な製品名ではないとされています。
LG CNSは昨年3月、コヒアとパートナーシップを締結し、韓国語・金融に特化したエージェントモデルの共同開発に着手しました。同年7月には、コヒアの企業向けLLM「コマンド」を基盤に、1110億個のパラメータを備えた推論型LLMを共同開発したと発表しました。
今回の論文では、具体的な学習方法と企業向けAIエージェントの性能について言及されています。研究チームは、既存の「コマンドA」を基盤として、教師あり微調整(SFT)、検証可能な報酬ベースの強化学習(RLVR)、選好度最適化(DPO)などを順次適用しました。
研究チームは、英語の推論データを単に韓国語に翻訳して学習させる方式も実験しましたが、性能向上の効果は限定的であることが判明しました。そこで、韓国語の質問を受け取った場合でも、中間的な推論過程は英語で行い、最終結果のみを韓国語で生成するようにモデルを学習させました。
この過程で、韓国語の質問に対して英語で最終回答してしまう問題が生じたため、韓国語の質問には韓国語で答えるよう、別途「言語の一貫性」報酬も適用しました。論文によると、最終回答の言語が一致しない割合は、SFT段階の12.2%から、強化学習200段階以降には0.8%まで低下しました。
LG CNSとCohereが注力したもう一つの領域は、実際の企業業務遂行能力です。一般的な質疑応答だけでなく、自然言語のコマンドをデータベース照会言語に変換するNL2SQLや関数呼び出しなど、AIが外部ツールを活用して業務を遂行する能力を強化しました。
独自評価においても、基盤モデルよりも性能が向上しました。コヒアの企業向けNL2SQL評価では、従来のコマンドAが7.3点を記録したのに対し、共同開発モデルは38.0点へと上昇しました。LG CNSが企業・金融業務に基づいて構成したエージェント評価でも、2.67点から4.85点へと向上しました。
大規模モデルを企業内で直接運用できるよう軽量化する技術も盛り込まれました。研究チームは4ビット量子化を適用し、111Bモデルのメモリ使用量を削減しました。これにより、80GB容量のNVIDIA H100グラフィックス処理装置(GPU)1枚でもモデルを稼働させることができると説明しました。
LG CNSとコヒアは、企業の業務やインフラ環境に合わせて活用できるよう、7B・32B・111Bなど、異なる規模のモデルを開発しています。研究目的に限定せず、実際の企業顧客に適用するための商用モデルとして開発されたものと見られます。
両社は、金融業界を皮切りに、製造、流通、サービスなどへと、エージェント型AIの事業領域を拡大していく計画です。特に、セキュリティ要件の高い企業が自社のインフラ上でAIを運用できるよう、オンプレミス環境をサポートするとともに、共同開発モデルの性能も継続的に高度化していく方針です。