[イーデイリーKim Hyun-ah 記者]Kakao(035720)が、1,550億個(155B)のパラメータ規模を持つ独自の大型言語モデル(LLM)「カナナ」の学習を事実上完了しました。
これまでに公開された30Bモデルよりも5倍以上大きい規模です。カカオは、0.9Bから155Bまで様々な規模のモデルを構築し、質問の難易度やサービスの特性に応じて使い分けるマルチモデル戦略を推進します。モデル開発にとどまらず、実際のサービスに向けたサービング技術やトークナイザーまで自社で構築し、AIサービスのコストを削減するという構想です。
カカオのチョン・シンア代表も最近、「無条件の巨大モデル競争よりも、オンデバイスAIと知能型ルーティング技術により、推論コストを最大90%削減する高効率アーキテクチャを構築する」と述べ、コスト効率を強調しました。
カカオの独自AIモデルの開発とサービングの最適化を担当しているノ・ビョンソク(44)成果リーダーは、イーデイリーとのインタビューで、「公開されているモデルの中には30B程度のものもあり、社内で準備を進めているものはそれより5倍ほど大きい155Bスケールのモデルも、ほぼ学習を完了する段階にある」とし、「カカオが小さなモデルだけを手掛けているわけではない」と明らかにしました。 同氏は、電子通信研究院(ETRI)やインテルを経て、2020年にカカオブレインに合流しました。
ノ・リーダーは、カカオの155Bモデルについて、「政府の独自ファウンデーションモデルプロジェクトにおいて、昨年末に他社が提出したモデルの規模と見なしていただければと思います」とし、「昨年末、アップステージが約120B規模だったのに対し、当社は155B規模のモデルを確保している」と説明しました。
ただし、独自のAIファウンデーションモデルの第2次競争に参加した主要モデルと比較すると、パラメータ規模は小さいです。LG AI研究院の750B、SKテレコムの688B、モティフの314B、アップステージの250Bなどが、カカオよりも大きな規模です。カカオは、絶対的なモデル規模の競争よりも、サービス目的に合わせて様々な規模のモデルを活用する戦略に重きを置いています。
カカオのファウンデーションモデル担当、ノ・ビョンソク成果リーダー。写真=イーデイリー パン・インゴン記者
ノ・リーダーは、「外部APIを呼び出すと、やはり当社が直接作成し、直接提供しているモデルではないため、コストが高くなってしまうでしょう」とし、「このコストがいつまで維持されるかも分からないではありませんか」と述べました。
続いて、「突然、『今日から2倍、あるいは10倍に値上げします』と言われる可能性もあるため、なるべく外部への呼び出しに頼るのではなく、自社モデルファミリーですべて解決できるようにするつもりです」と明らかにしました。
カカオは、質問の複雑さに応じて異なるモデルを呼び出します。簡単な質問は小さなモデルで処理し、旅行計画の立案のような複雑なリクエストには大きなモデルを活用して、回答の質を高める方式です。
ノ・リーダーは、「当社のカカオトークは4000万人のユーザーを対象にモデルを提供し、サービスを供給しなければなりませんが、最も小さなモデルは0.9B、そして1.3B、3B、8B、9.8B、30B、155Bまで、モデル群が非常に多様です」とし、「すべてのユーザーが極めて大きなモデルを必要とするわけではありません」と説明しました。
続いて、「非常に単純な回答は少し小さいモデルで処理し、『明日から済州島へ旅行に行く予定ですが、旅行計画を立ててほしい』といった、もう少し難しい質問には大きなモデルを用いて計画を立て、より質の高い回答を生み出します」と述べました。
質問の難易度に応じたモデルを選択すれば、すべてのリクエストに最大のモデルを使用するよりも推論コストを抑えつつ、サービスの品質を維持することができます。
[生成AIによる作成]
サービングとは、学習が完了したAIモデルをサーバーやGPU上で実際に実行し、ユーザーの質問に対して回答を生成するプロセスです。利用者が増えるほどGPUの使用量とコストが増加するため、サービングの効率はAIサービスの原価競争力に直結します。
ノ・リーダーは、「私が現在担当している組織では、このように作成したモデルを、いかにして効率的に最適化してサービングできるかまで、当組織で全て行っています」とし、「例えば、1回のサービングにGPUコストが100ウォンかかる場合、最適化を通じてこれを10ウォンまで引き下げるといった、このような最適化作業も自社で全て行っています」と述べました。
チョン・シンア代表が言及した「インテリジェントルーティング」が、質問に応じてどのモデルを使用するかを決定する技術であるのに対し、ノ・リーダーが説明したサービングの最適化は、選択されたモデルをどれほど少ないGPUリソースで稼働させるかに焦点が当てられています。
大規模なモデルを確保すると同時に、同じモデルを少ないGPUリソースで実行できるサービング技術まで自社で確保し、AIサービスの原価を削減するという戦略です。
カカオ・ファウンデーションモデルの成果リーダー、ノ・ビョンソク氏。写真=イーデイリー パン・インゴン記者
トークナイザーは、人間が入力した文章をAIモデルが計算できる単位に変換する、一種の「文章分解器」です。同じ文章であっても、どのトークナイザーを使用するかによって、必要なトークンの数が異なる場合があります。大規模なAIサービスでは、トークンの数が増えるほど、演算量とコストも増加します。
ノ・リーダーは、「カナナ・トークナイザーは韓国語に対する効率が最も高いことを数値的にも確認しました」とし、「グローバルで多く使用されている公開モデルの一つであるアリババのQwenシリーズと比較した場合、当社のカナナ・トークナイザーは韓国語に対して1.6倍も効率が高い」と明らかにしました。
さらに、「同じ意味を持つ文章を表現するために別のモデルを使用すると、1.6倍多くのトークンを使用しなければならないということだ」とし、「当社のように数千万人のユーザーを抱える場合、コストが60%も増加することになるため、独自のトークナイザー開発による効率化が不可欠だ」と付け加えました。
カカオがモデルだけでなくトークナイザーまで自社開発しているのも、大規模サービスで発生するAIコストを削減するための取り組みです。
出典=カカオ
ノ・リーダーは、「オンデバイスで動作するモデルは個人のリソースを使用するため、カカオの立場からはサービングコスト、つまりサービスコストがゼロになります」とし、「同時に、デリケートなプライバシーの問題も根本的に解決されます」と述べました。
同氏は、「顧客の会話データはサーバーには送られず、オンデバイスモデルが会話の文脈に基づいてパーソナライズされた情報を端末に保持し、『明日、江南駅で会おうか』という会話の中で場所を推薦する形です」とし、「端末モデルでは解決が難しい複雑な質問のみ、個人情報をすべて削除した上でサーバーに送信し、文脈を処理して回答を返すハイブリッド方式を採用しています」と説明しました。
カカオは、オンデバイスとサーバーAIを組み合わせ、個人情報は端末に残しつつ、複雑なAI機能はサーバーモデルで処理するハイブリッドAIを実現するという構想です。
カカオ・ファウンデーションモデルの担当成果リーダー、ノ・ビョンソク氏。写真=イーデイリー パン・インゴン記者
ノ・リーダーは、「ChatGPTやClaude、Geminiと戦って勝とうという考えは、もはや持てないほど資本の格差が大きくなった」としつつも、「私たちには、ChatGPTとの会話とは全く異なる、知人や家族との会話データがカカオトークに蓄積されています。こうした資料をもとに、最もパーソナライズされたエージェントAIサービスが可能なのが、まさにカカオなのです」と強調しました。
続いて、「誰に対しても同じ回答をするAIではなく、私を深く理解しているAIであれば、相手に応じて話し方を変えたり、私の話し方まで活用したりできる」とし、「他のどのグローバルな競合他社もできないことを、私たちは実現できるだろう」と述べました。
エージェントAIは、回答にとどまらず、実際の行動まで実行します。ノ・リーダーは、「従来のモデルが単純な回答を提供する形だったのに対し、エージェントAIは『私がこのように検索しましたが、実行してもよろしいでしょうか? 商品の決済をしましょうか?』といったように、ユーザーの確認を経て、決済まで行動として完結させるものです」と説明しました。
「カカオトーク」という生活プラットフォームの中で、ユーザーの会話の文脈を理解し、個々の状況に合わせた回答と行動を提供するAIを実現するという構想です。
ノ・リーダーは、「カナナ2.6については、2.5よりもはるかに優れた性能を実現するという最初の目標があり、カナナ3に移行すれば、モデルのアーキテクチャなどがまた完全に変わることになります」と述べ、 「コンテキスト長(文脈処理の長さ)を大幅に伸ばしたり、モデル構造を改善して、より強力な推論能力やエージェント能力を継続的に高めていくことに注力している」と予告しました。
ノ・リーダーが描くカカオのAIは、利用者がAIを意識しなくても、日常生活の中で自然に機能する形です。155Bの大規模モデルからオンデバイスAIまで、カカオはモデルの規模だけでなく、AIを実際にどれほど効率的に活用し、パーソナライズできるかに勝負をかけています。
これまでに公開された30Bモデルよりも5倍以上大きい規模です。カカオは、0.9Bから155Bまで様々な規模のモデルを構築し、質問の難易度やサービスの特性に応じて使い分けるマルチモデル戦略を推進します。モデル開発にとどまらず、実際のサービスに向けたサービング技術やトークナイザーまで自社で構築し、AIサービスのコストを削減するという構想です。
カカオのチョン・シンア代表も最近、「無条件の巨大モデル競争よりも、オンデバイスAIと知能型ルーティング技術により、推論コストを最大90%削減する高効率アーキテクチャを構築する」と述べ、コスト効率を強調しました。
カカオの独自AIモデルの開発とサービングの最適化を担当しているノ・ビョンソク(44)成果リーダーは、イーデイリーとのインタビューで、「公開されているモデルの中には30B程度のものもあり、社内で準備を進めているものはそれより5倍ほど大きい155Bスケールのモデルも、ほぼ学習を完了する段階にある」とし、「カカオが小さなモデルだけを手掛けているわけではない」と明らかにしました。 同氏は、電子通信研究院(ETRI)やインテルを経て、2020年にカカオブレインに合流しました。
ノ・リーダーは、カカオの155Bモデルについて、「政府の独自ファウンデーションモデルプロジェクトにおいて、昨年末に他社が提出したモデルの規模と見なしていただければと思います」とし、「昨年末、アップステージが約120B規模だったのに対し、当社は155B規模のモデルを確保している」と説明しました。
ただし、独自のAIファウンデーションモデルの第2次競争に参加した主要モデルと比較すると、パラメータ規模は小さいです。LG AI研究院の750B、SKテレコムの688B、モティフの314B、アップステージの250Bなどが、カカオよりも大きな規模です。カカオは、絶対的なモデル規模の競争よりも、サービス目的に合わせて様々な規模のモデルを活用する戦略に重きを置いています。
155B「カナナ」…モデル群の多様化カカオが独自のモデルを育成している背景には、外部のAIモデルへのコスト依存度を下げようとする戦略があります。
ノ・リーダーは、「外部APIを呼び出すと、やはり当社が直接作成し、直接提供しているモデルではないため、コストが高くなってしまうでしょう」とし、「このコストがいつまで維持されるかも分からないではありませんか」と述べました。
続いて、「突然、『今日から2倍、あるいは10倍に値上げします』と言われる可能性もあるため、なるべく外部への呼び出しに頼るのではなく、自社モデルファミリーですべて解決できるようにするつもりです」と明らかにしました。
カカオは、質問の複雑さに応じて異なるモデルを呼び出します。簡単な質問は小さなモデルで処理し、旅行計画の立案のような複雑なリクエストには大きなモデルを活用して、回答の質を高める方式です。
ノ・リーダーは、「当社のカカオトークは4000万人のユーザーを対象にモデルを提供し、サービスを供給しなければなりませんが、最も小さなモデルは0.9B、そして1.3B、3B、8B、9.8B、30B、155Bまで、モデル群が非常に多様です」とし、「すべてのユーザーが極めて大きなモデルを必要とするわけではありません」と説明しました。
続いて、「非常に単純な回答は少し小さいモデルで処理し、『明日から済州島へ旅行に行く予定ですが、旅行計画を立ててほしい』といった、もう少し難しい質問には大きなモデルを用いて計画を立て、より質の高い回答を生み出します」と述べました。
質問の難易度に応じたモデルを選択すれば、すべてのリクエストに最大のモデルを使用するよりも推論コストを抑えつつ、サービスの品質を維持することができます。
サービングコスト 100ウォン→10ウォン…「AIの原価を削減する」カカオは、モデルを作成するだけでなく、モデルを実際のサービスで稼働させるサービング技術も独自に開発しています。
サービングとは、学習が完了したAIモデルをサーバーやGPU上で実際に実行し、ユーザーの質問に対して回答を生成するプロセスです。利用者が増えるほどGPUの使用量とコストが増加するため、サービングの効率はAIサービスの原価競争力に直結します。
ノ・リーダーは、「私が現在担当している組織では、このように作成したモデルを、いかにして効率的に最適化してサービングできるかまで、当組織で全て行っています」とし、「例えば、1回のサービングにGPUコストが100ウォンかかる場合、最適化を通じてこれを10ウォンまで引き下げるといった、このような最適化作業も自社で全て行っています」と述べました。
チョン・シンア代表が言及した「インテリジェントルーティング」が、質問に応じてどのモデルを使用するかを決定する技術であるのに対し、ノ・リーダーが説明したサービングの最適化は、選択されたモデルをどれほど少ないGPUリソースで稼働させるかに焦点が当てられています。
大規模なモデルを確保すると同時に、同じモデルを少ないGPUリソースで実行できるサービング技術まで自社で確保し、AIサービスの原価を削減するという戦略です。
トークナイザーも自社開発…韓国語の効率は1.6倍カカオは、AIが文章を理解・処理できるよう、文章を小さな単位である「トークン」に分割するトークナイザー(tokenizer)も独自に開発しました。
トークナイザーは、人間が入力した文章をAIモデルが計算できる単位に変換する、一種の「文章分解器」です。同じ文章であっても、どのトークナイザーを使用するかによって、必要なトークンの数が異なる場合があります。大規模なAIサービスでは、トークンの数が増えるほど、演算量とコストも増加します。
ノ・リーダーは、「カナナ・トークナイザーは韓国語に対する効率が最も高いことを数値的にも確認しました」とし、「グローバルで多く使用されている公開モデルの一つであるアリババのQwenシリーズと比較した場合、当社のカナナ・トークナイザーは韓国語に対して1.6倍も効率が高い」と明らかにしました。
さらに、「同じ意味を持つ文章を表現するために別のモデルを使用すると、1.6倍多くのトークンを使用しなければならないということだ」とし、「当社のように数千万人のユーザーを抱える場合、コストが60%も増加することになるため、独自のトークナイザー開発による効率化が不可欠だ」と付け加えました。
カカオがモデルだけでなくトークナイザーまで自社開発しているのも、大規模サービスで発生するAIコストを削減するための取り組みです。
APIコストを削減し…オンデバイス化でサービングコストまで削減しますカカオはオンデバイスAIも活用しています。サーバーではなくスマートフォンで一部のAI演算を処理し、サーバーのGPU使用量を削減するとともに、個人情報保護にも対応するという戦略です。
ノ・リーダーは、「オンデバイスで動作するモデルは個人のリソースを使用するため、カカオの立場からはサービングコスト、つまりサービスコストがゼロになります」とし、「同時に、デリケートなプライバシーの問題も根本的に解決されます」と述べました。
同氏は、「顧客の会話データはサーバーには送られず、オンデバイスモデルが会話の文脈に基づいてパーソナライズされた情報を端末に保持し、『明日、江南駅で会おうか』という会話の中で場所を推薦する形です」とし、「端末モデルでは解決が難しい複雑な質問のみ、個人情報をすべて削除した上でサーバーに送信し、文脈を処理して回答を返すハイブリッド方式を採用しています」と説明しました。
カカオは、オンデバイスとサーバーAIを組み合わせ、個人情報は端末に残しつつ、複雑なAI機能はサーバーモデルで処理するハイブリッドAIを実現するという構想です。
カカオトークの会話文脈を活用…パーソナライズされたAIエージェントへカカオは、カカオトークに蓄積された会話文脈を活用し、パーソナライズされたAIエージェント
へと拡張するという構想です。
ノ・リーダーは、「ChatGPTやClaude、Geminiと戦って勝とうという考えは、もはや持てないほど資本の格差が大きくなった」としつつも、「私たちには、ChatGPTとの会話とは全く異なる、知人や家族との会話データがカカオトークに蓄積されています。こうした資料をもとに、最もパーソナライズされたエージェントAIサービスが可能なのが、まさにカカオなのです」と強調しました。
続いて、「誰に対しても同じ回答をするAIではなく、私を深く理解しているAIであれば、相手に応じて話し方を変えたり、私の話し方まで活用したりできる」とし、「他のどのグローバルな競合他社もできないことを、私たちは実現できるだろう」と述べました。
エージェントAIは、回答にとどまらず、実際の行動まで実行します。ノ・リーダーは、「従来のモデルが単純な回答を提供する形だったのに対し、エージェントAIは『私がこのように検索しましたが、実行してもよろしいでしょうか? 商品の決済をしましょうか?』といったように、ユーザーの確認を経て、決済まで行動として完結させるものです」と説明しました。
「カカオトーク」という生活プラットフォームの中で、ユーザーの会話の文脈を理解し、個々の状況に合わせた回答と行動を提供するAIを実現するという構想です。
カナナ2.6に続き3へ…推論・エージェントの強化カカオはカナナの高度化も続けていきます。来る10月の「if kakao 2026」前後までにカナナ2.6の確保を完了し、カナナ3ではアーキテクチャそのものを変更するという構想です。
ノ・リーダーは、「カナナ2.6については、2.5よりもはるかに優れた性能を実現するという最初の目標があり、カナナ3に移行すれば、モデルのアーキテクチャなどがまた完全に変わることになります」と述べ、 「コンテキスト長(文脈処理の長さ)を大幅に伸ばしたり、モデル構造を改善して、より強力な推論能力やエージェント能力を継続的に高めていくことに注力している」と予告しました。
ノ・リーダーが描くカカオのAIは、利用者がAIを意識しなくても、日常生活の中で自然に機能する形です。155Bの大規模モデルからオンデバイスAIまで、カカオはモデルの規模だけでなく、AIを実際にどれほど効率的に活用し、パーソナライズできるかに勝負をかけています。