[イーデイリーHan Kwangbeom 記者] AI半導体企業のリベリオン社のNPUが、SKTelecom(017670)の主要な商用AIサービス4つのコア機能に拡大適用されました。
リベリオンは21日、自社のNPUが「A.dot」の通話要約を皮切りに、「A.dot」の音声合成機能、AIカスタマーセンター(AICC)、「スキャムバンガード」の詐欺SMS検知機能など、SKTの4つの主要サービスに適用されたと発表しました。
両社は昨年6月、SKTの主要AIサービスに国産NPUを適用するためのテストに着手していました。その後、同年12月には「A.dot」通話要約の「関係推定機能」に、リベリオン社のAI半導体「ATOM-Max」をベースとしたサーバーが初めて商用適用され、半年以上にわたり安定稼働を続けてきました。
リベリオンは今年6月から順次、△「A.dot」通話要約の「一行要約機能」△「A.dot」の「音声合成機能(ストリーミングTTS)」△AICCの「相談後の処理および検索システム」△「ScamGuard」の「釣りメール検知機能」へと適用範囲を拡大しました。
現在、これら4つのサービスにおいて、リベリオン社のインフラが処理するリアルタイムAIトラフィックは1日あたり約1400万件で、トークン基準で1日40億個を上回っています。これは、グローバル企業による大規模な商用AI運用事例にも匹敵する規模です。
技術面でも、低遅延・高性能な演算能力を基盤に、テキスト生成と同時に文単位で音声を合成するストリーミングTTSなど、難易度の高いリアルタイムサービスを安定して稼働させています。グローバル標準のAI開発・展開環境をサポートし、スキャムバンガードがサービス中断なく、新型・変種の詐欺SMS検出モデルを即座に適用できるよう支援しています。
SKTは、Rebellion NPUの導入を通じて、AIモデルのサイズや性能特性に応じてGPUとNPUを再配置することで、コンピューティングリソースを効率化しました。さらに、数十台のNPUと数百枚のカードを組み合わせた「NPUファーム(Farm)」を構成し、社内の複数のサービスが同一のリソースを共有する方式により、インフラ運用の効率を高めました。
リベリオン社のパク・ソンヒョン代表は、「この1年は、国産NPUが『可能性』から『実証済みのインフラ』へと移行した期間でした。国民が毎日利用する4つのサービスが、リベリオン社のインフラ上で安定して稼働しているという事実が、何よりも確かな証拠です」と述べ、「今後も大規模な商用運用実績をもとに、国内外のAIサービスの裾野を広げていきます」と語りました。
SKTのCoreプラットフォーム担当であるパク・ビョングァン氏は、「AIコンピューティングの需要が増加するにつれ、GPUだけでなくリベリオン社のNPUも積極的に導入・活用しています。 AIサービスのタスクごとの特性に合わせて、GPUとNPUを選別的に活用・再配置し、全社的なAIリソース活用の効率を高めました」とし、「今後もNPUファームを拡大し、国産NPU半導体の活用によるシナジーを最大化し、社内外のAIコンピューティング需要に機敏に対応していく予定です」と明らかにしました。
リベリオンは、SKTのAIファウンデーションモデル「A.X K1」の稼働に続き、今回の商用サービスの拡大にも成功し、今後は金融・通信・公共など、様々な産業分野へとNPUインフラの供給を拡大していく計画です。