[イーデイリーKim Hyun-ah 記者]Kakao(035720)は、人工知能(AI)サービスの拡大に伴い、サーバーの運用方式そのものを変えつつあります。普段は自社インフラの利用率を高め、需要が急増した時のみ外部クラウドを追加で利用する方式です。AI推論のコストを削減することに加え、サーバー運用の効率まで高めることで、利用者が増えてもコスト負担が急激に増えない仕組みを構築するという戦略です。
カカオのチョン・シンア代表は、先立って行われた事業分割発表の記者懇談会で、「オンデバイス優先処理とインテリジェントなモデルルーティングにより、性能は維持しつつ、サーバー推論コストを最大90%まで削減する」とし、「利用者が増えても推論コストが線形的に増えないサービス構造を構築する」と明らかにしました。 すべてのリクエストを大型AIモデルで処理するのではなく、端末で解決できるリクエストは軽量モデルで処理し、複雑なリクエストのみをサーバーのAIモデルに引き継ぐという構想です。
開発者向けイベント「if(kakao)2026」2日目
カカオは、すべてのリクエストを高性能なサーバーAIで処理する代わりに、単純な処理は端末側で解決し、複雑なリクエストのみをサーバーに送る方式により、AIサービスの拡張に伴うコスト負担を軽減しようとしています。出典=カカオ
今回は、AIモデルの推論方式だけでなく、それを支えるインフラ運用体制に至るまで、コスト効率化に乗り出しました。サーバーを無条件に増やすのではなく、既存リソースの活用度を高め、追加リソースが必要な瞬間にのみ外部のコンピューティングリソースを活用するというものです。
カカオの発表者であるペク・ジョンテ氏は14日、開発者向けイベント「if(kakao)2026」において、クラウドコスト管理体制であるフィンオプス(FinOps)の推進方針を紹介しました。チョン・ウォンチョン発表者は、社内のKubernetesプラットフォームであるDKOSのリソース自動調整機能と、ハイブリッドクラウドの適用事例について説明しました。
カカオは、サービスごとのリソース使用量とコストを関連付け、必要なリソースと過剰に確保されたリソースを区別することにしました。サーバーやデータベース(DB)、共通プラットフォームをサービスカタログと連携させ、どのサービスがどれだけのリソースを使用し、どれだけのコストが発生しているかを把握します。
コスト管理の基準も変更します。サーバー全体のコストがどれだけ増加したかだけを見るのではなく、正常に処理されたリクエスト1,000件あたりのコスト、メッセージ100万件の配信にかかるコストなど、サービスの成果に対するコスト(Unit Economics)を測定します。AI機能が拡大しても、実際の処理量とコストを併せて分析し、インフラ投資の効率性を判断するという趣旨です。
カカオは、コンピューティングリソースを20~30%削減することを目標に、個々のサーバーの効率化とクラスター全体のリソース再配置を並行して推進しています。
これにより、コンピューティングリソースを20~30%削減することを目標としています。ただし、これはサービス全体で達成した実績ではなく期待値であり、適用範囲を段階的に拡大しています。
カカオの発表者であるペク・ジョンテ氏が14日、開発者向けイベント「if(kakao)2026」で、クラウドコスト管理体制であるフィンオプス(FinOps)の推進方針について説明しています。
このため、既存のKubernetesクラスターにパブリッククラウドノードを接続しました。開発者が別途のクラウド環境にサービスを個別にデプロイすることなく、従来の方式のまま、必要な時に外部のコンピューティングリソースを活用できるようにしたのです。
カカオは、トラフィックの急増が頻繁に発生する「カカオトーク ギフト」のキューサービスにおいて、ハイブリッド構成の検証を行いました。祝日や記念日には、トラフィックが平時の最大16倍まで増加する可能性があります。これに対し、過去のデータに基づく予測やAIを活用した急増パターンの検知、リアルタイムの閾値アラートなどを活用して対応しています。
現在、一部の機能を手動で構成して動作確認を行っており、自動化作業を進めています。自動化完了の目標時期は2026年11月末です。
AI競争がモデルの性能だけでなく、運用コストや収益性へと拡大するにつれ、インフラの効率化の重要性も高まっています。カカオが推論コストとサーバー運用費を同時に削減し、AIサービスの拡大に伴うコスト負担をどれだけ軽減できるかが鍵となります。
カカオのチョン・シンア代表は、先立って行われた事業分割発表の記者懇談会で、「オンデバイス優先処理とインテリジェントなモデルルーティングにより、性能は維持しつつ、サーバー推論コストを最大90%まで削減する」とし、「利用者が増えても推論コストが線形的に増えないサービス構造を構築する」と明らかにしました。 すべてのリクエストを大型AIモデルで処理するのではなく、端末で解決できるリクエストは軽量モデルで処理し、複雑なリクエストのみをサーバーのAIモデルに引き継ぐという構想です。
今回は、AIモデルの推論方式だけでなく、それを支えるインフラ運用体制に至るまで、コスト効率化に乗り出しました。サーバーを無条件に増やすのではなく、既存リソースの活用度を高め、追加リソースが必要な瞬間にのみ外部のコンピューティングリソースを活用するというものです。
カカオの発表者であるペク・ジョンテ氏は14日、開発者向けイベント「if(kakao)2026」において、クラウドコスト管理体制であるフィンオプス(FinOps)の推進方針を紹介しました。チョン・ウォンチョン発表者は、社内のKubernetesプラットフォームであるDKOSのリソース自動調整機能と、ハイブリッドクラウドの適用事例について説明しました。
遊休サーバーを減らし、サービスごとのコストを精査しますカカオが注目した問題は、サーバーを確保しておきながら、実際には十分に活用できていないケースが少なくないという点です。AI機能やサービスが増えれば、コンピューティングリソースの需要も大きくなりますが、必要なサーバーをすべて常時保有していると、コスト負担が大きくなります。逆に、利用率が低いという理由でサーバーを無条件に減らしてしまうと、障害やトラフィックの急増に対応しにくくなります。
カカオは、サービスごとのリソース使用量とコストを関連付け、必要なリソースと過剰に確保されたリソースを区別することにしました。サーバーやデータベース(DB)、共通プラットフォームをサービスカタログと連携させ、どのサービスがどれだけのリソースを使用し、どれだけのコストが発生しているかを把握します。
コスト管理の基準も変更します。サーバー全体のコストがどれだけ増加したかだけを見るのではなく、正常に処理されたリクエスト1,000件あたりのコスト、メッセージ100万件の配信にかかるコストなど、サービスの成果に対するコスト(Unit Economics)を測定します。AI機能が拡大しても、実際の処理量とコストを併せて分析し、インフラ投資の効率性を判断するという趣旨です。
コンピューティングリソース20~30%削減の目標実際のリソース削減作業も進行中です。発表者のチョン・ウォンチョン氏は、カカオが調査した結果、ワークロードに実際の使用量より約30%多いコンピューティングリソースが割り当てられていたと説明しました。カカオは、実際の使用量に合わせてリソース要求量を自動的に削減し、余った処理を一部のサーバーに集約した後、空きサーバーを回収する機能を導入しています。
これにより、コンピューティングリソースを20~30%削減することを目標としています。ただし、これはサービス全体で達成した実績ではなく期待値であり、適用範囲を段階的に拡大しています。
普段は自社サーバー、トラフィックが急増した際はクラウドサーバーを確保する方式も変更します。カカオは、サービスごとの余剰リソースを共用リソースプールに集約して共有し、複数のサービスの需要が同時に増加して対応が困難な場合は、パブリッククラウドから必要なリソースを追加で確保する計画です。常時需要は自社データセンターで処理し、一時的な需要は外部リソースで対応するハイブリッドクラウド戦略です。
このため、既存のKubernetesクラスターにパブリッククラウドノードを接続しました。開発者が別途のクラウド環境にサービスを個別にデプロイすることなく、従来の方式のまま、必要な時に外部のコンピューティングリソースを活用できるようにしたのです。
カカオは、トラフィックの急増が頻繁に発生する「カカオトーク ギフト」のキューサービスにおいて、ハイブリッド構成の検証を行いました。祝日や記念日には、トラフィックが平時の最大16倍まで増加する可能性があります。これに対し、過去のデータに基づく予測やAIを活用した急増パターンの検知、リアルタイムの閾値アラートなどを活用して対応しています。
現在、一部の機能を手動で構成して動作確認を行っており、自動化作業を進めています。自動化完了の目標時期は2026年11月末です。
AI競争がモデルの性能だけでなく、運用コストや収益性へと拡大するにつれ、インフラの効率化の重要性も高まっています。カカオが推論コストとサーバー運用費を同時に削減し、AIサービスの拡大に伴うコスト負担をどれだけ軽減できるかが鍵となります。