[イーデイリーLee So-Hyun 記者]Kakao(035720)が、自社の人工知能（AI）モデルとAIエージェントのリスクを事前に検証するための安全性評価体制を構築します。言語モデルの展開前・後の評価を皮切りに、マルチモーダルモデルやAIエージェントまで検証範囲を広げ、長期的には安全性評価ツールも共同開発します。

カカオは29日、去る28日に人工知能安全研究所と、AIの安全性に関する共同評価および評価体系の構築に向けた戦略的業務協定（MOU）を締結したと明らかにしました。

AI技術が急速に高度化する中、モデルの潜在的なリスクを事前に特定・検証する安全性評価の重要性が高まったことによるものです。

カカオは昨年、人工知能安全研究所と共同で、自社言語モデル「カナナ-1.5-9.8B（Kanana-1.5-9.8B）」を対象に共同安全性評価を実施しました。カカオは当時、同規模の海外モデルと比較して、高いレベルの安全性を確認したと説明しました。

言語モデル→マルチモーダル・エージェントへと評価を拡大

両社は今回の協定を機に、AI安全性評価の協力を3段階に拡大します。

まず、言語モデルを対象に、サービス展開前後の安全性評価を実施します。その後、評価の範囲をマルチモーダル言語モデルやAIエージェントにまで広げる予定です。最終段階では、AIモデルとエージェントの安全性をより効率的に検証できる評価ツールを共同開発します。

カカオは、評価対象となる自社開発のAIモデルとエージェントを提供し、評価の実施やツール開発に必要なインフラを支援します。

人工知能安全研究所は、安全性評価の実施と評価方法論の高度化を担当します。両社は評価結果を共同で検討し、公開範囲について協議するほか、評価ツールの開発においても協力します。

「AIリスクの先制的な特定体制の構築」

今回の協力は、AIモデルの潜在的なリスクを事前に特定・検証する体制を構築し、安全性評価の能力を継続的に高めることに焦点を当てています。

カカオは、韓国のAI安全性専門研究機関との協力を通じて、グローバル水準のAI安全性基準を確保し、AIサービスに対する信頼度を高める計画です。

カカオのAIシナジー成果リーダーであるキム・セウン氏は、「今回の協力を通じて、カカオのAIモデルがより客観的かつ厳格な安全性検証体制を備えることになった」とし、「技術革新とともに、安全性と信頼を最優先とするAIモデルとサービスを提供できるよう努めてまいります」と述べました。

人工知能安全研究所のキム・ミョンジュ所長は、「AI技術が高度化するほど、潜在的なリスクを先制的に特定・評価する体制が重要だ」とし、「カカオと協力し、グローバル基準に合致するAI安全性評価体制を構築していく」と述べました。

一方、カカオはAIの安全性強化に向け、KTクラウドと安全なAIエコシステムの構築に向けた業務協定を締結しており、外部専門家で構成される「AI・技術倫理小委員会」の諮問団も運営しています。