[イーデイリーShin Yeong-bin 記者]LG Uplus(032640)が、人工知能(AI)サービスの運用コストを削減する「トークン最適化」技術を前面に掲げ、来年から企業間取引(B2B)市場に参入します。
LGユープラスは去る12日、記者を対象とした「AIトークン最適化勉強会」を開催し、関連技術の開発成果と事業計画を公開しました。来年からは、協力会社との提携と自社インフラの構築を並行して進め、企業向けAIトークン事業を推進する計画です。
LGユープラスのイ・サンヨプCTOが12日、記者向け勉強会で発表を行っています。(写真=LGユープラス)
トークンとは、AIがテキストなどを処理する基本単位を指します。使用量に応じて費用が発生します。特にAIエージェントは、検索や分析、推論などを繰り返すため、既存のチャットボットよりも多くのトークンを消費する可能性があります。
LGユープラスは、トークン単価を引き下げるだけでなく、AIが1つの業務を完了するのにかかる総コストを削減することに焦点を当てました。
中核となる技術は、作業の難易度に応じて適切なAIモデルを自動的に選択する「モデルルーティング」です。複雑な作業には高性能モデルを、単純な作業には軽量モデルを活用し、不要なコストを削減する仕組みです。
LG U+は、社内検証において、一般的な質問の処理コストを25%以上、コーディングエージェントのコストを30%以上削減したと明らかにしました。独自のAIモデルを活用したコーディングエージェントでは、従来使用していたモデルに比べ、運用コストを90%以上削減した事例も確認しました。
AIモデルの軽量化と推論効率の改善においても成果を上げました。独自のオンデバイスAIモデルの容量を従来の2.4~3GBから約800MBに削減し、トークン生成速度は2倍以上向上させました。 演算処理方式を改善し、同一のインフラにおいて処理効率も約4倍向上させたとのことです。関連する研究成果として、世界的なAI学術会議「NeurIPS」に論文2編が採択されました。
半導体の活用方法を最適化する「チップミックス」戦略も推進します。NVIDIAやAMDのグラフィックス処理装置(GPU)、フリオサAIのニューラルネットワーク処理装置(NPU)などを、作業特性に合わせて活用し、インフラコストを削減するという構想です。フリオサAIとは2年以上にわたり協力し、NPUの活用可能性を検証しています。
LG U+は、AI通話サービス「イクシオ」やAIカスタマーセンター(AICC)、社内のAI転換(AX)の過程で蓄積した運用経験を基に、法人顧客の獲得を図る計画です。年末の商用化を目指すカカオとの協業サービス「みんなのAI」においても、AIモデルの運用を専任で担当し、関連技術を高度化しています。
KTが企業向け「トークンファクトリー」をリリースし、SKテレコムも「トークンゲートウェイ」事業を推進する中、通信3社のAIトークン市場における競争も本格化しつつあります。
LGユープラスのイ・サンヨプ最高技術責任者(CTO)は、「AI市場の覇権は、誰がより大きなモデルを作るかという段階を超え、顧客が求めるビジネス成果をどれだけ精巧かつ経済的に達成できるかという点へと移行しました」と述べ、「電話AIや社内AXなど、実際の現場で熾烈な試行錯誤を経て完成させた最適化技術力こそが、誰も容易に追随できない、持続可能なAI事業の中核となる強みとなるでしょう」と語りました。
LGユープラスは去る12日、記者を対象とした「AIトークン最適化勉強会」を開催し、関連技術の開発成果と事業計画を公開しました。来年からは、協力会社との提携と自社インフラの構築を並行して進め、企業向けAIトークン事業を推進する計画です。
トークンとは、AIがテキストなどを処理する基本単位を指します。使用量に応じて費用が発生します。特にAIエージェントは、検索や分析、推論などを繰り返すため、既存のチャットボットよりも多くのトークンを消費する可能性があります。
LGユープラスは、トークン単価を引き下げるだけでなく、AIが1つの業務を完了するのにかかる総コストを削減することに焦点を当てました。
中核となる技術は、作業の難易度に応じて適切なAIモデルを自動的に選択する「モデルルーティング」です。複雑な作業には高性能モデルを、単純な作業には軽量モデルを活用し、不要なコストを削減する仕組みです。
LG U+は、社内検証において、一般的な質問の処理コストを25%以上、コーディングエージェントのコストを30%以上削減したと明らかにしました。独自のAIモデルを活用したコーディングエージェントでは、従来使用していたモデルに比べ、運用コストを90%以上削減した事例も確認しました。
AIモデルの軽量化と推論効率の改善においても成果を上げました。独自のオンデバイスAIモデルの容量を従来の2.4~3GBから約800MBに削減し、トークン生成速度は2倍以上向上させました。 演算処理方式を改善し、同一のインフラにおいて処理効率も約4倍向上させたとのことです。関連する研究成果として、世界的なAI学術会議「NeurIPS」に論文2編が採択されました。
半導体の活用方法を最適化する「チップミックス」戦略も推進します。NVIDIAやAMDのグラフィックス処理装置(GPU)、フリオサAIのニューラルネットワーク処理装置(NPU)などを、作業特性に合わせて活用し、インフラコストを削減するという構想です。フリオサAIとは2年以上にわたり協力し、NPUの活用可能性を検証しています。
LG U+は、AI通話サービス「イクシオ」やAIカスタマーセンター(AICC)、社内のAI転換(AX)の過程で蓄積した運用経験を基に、法人顧客の獲得を図る計画です。年末の商用化を目指すカカオとの協業サービス「みんなのAI」においても、AIモデルの運用を専任で担当し、関連技術を高度化しています。
KTが企業向け「トークンファクトリー」をリリースし、SKテレコムも「トークンゲートウェイ」事業を推進する中、通信3社のAIトークン市場における競争も本格化しつつあります。
LGユープラスのイ・サンヨプ最高技術責任者(CTO)は、「AI市場の覇権は、誰がより大きなモデルを作るかという段階を超え、顧客が求めるビジネス成果をどれだけ精巧かつ経済的に達成できるかという点へと移行しました」と述べ、「電話AIや社内AXなど、実際の現場で熾烈な試行錯誤を経て完成させた最適化技術力こそが、誰も容易に追随できない、持続可能なAI事業の中核となる強みとなるでしょう」と語りました。