[イーデイリーLee So-Hyun 記者]Kakao(035720)は、自ら計画し行動する自律型人工知能（AI）エージェントの普及に伴い、サービスの企画から運用まで適用する新たなAI倫理体系を策定しました。AIの目標や権限、データへのアクセス範囲、人間の統制権などを5つの領域に分け、リスクを点検し、年内に実際のサービス開発プロセスに新しいチェックリストを適用する予定です。
カカオが自律型エージェントの普及に対応するため、AIサービスの企画から運営まで適用するAI倫理原則と実施ガイドを策定した中、キム・ギョンフン（左から）カカオAIセーフティリーダー、ハ・ジンファ カカオAIコミュニケーション上級担当、チョン・ビョンス ユニセフL&Dセンター長、イ・サンウク 漢陽大学哲学教授、 カカオのキム・セウン副社長、AI安全研究所のキム・ミョンジュ所長、国民大学のイ・ウォンテ特任教授、漢陽大学のユ・ジェヨン社会革新融合専攻兼任教授、ソウル教育大学のピョン・スンヨン倫理教育科教授、国民大学のイ・ミンソクソフトウェア融合大学教授が記念撮影を行っています。（写真＝カカオ）
カカオは15日、去る13日にカカオAIキャンパスで開催された開発者カンファレンス「if(kakao)26」において、新たなAI倫理原則と実施ガイドを公開したと明らかにしました。
カカオAIコミュニケーションのハ・ジンファ首席は、「倫理を破る自律エージェント、どう対応すべきか？」というセッションで、AIが自ら計画し行動する環境においては、人間の判断と責任の範囲を明確にし、これをサービスの設計と運営に反映させる必要があると強調しました。
カカオは、自律エージェントのリスクを△制御の主導権△目標△権限△参照リソース△相互作用の5つの管理領域に分類しました。
AIが利用者の意図から外れて行動していないか、必要な水準を超えた権限を付与されていないか、どのようなデータや外部リソースを参照しているかなどを点検し、人間の監督や緊急制御、権限管理、データ保護などの対応策を連携させる方式です。
これを実際のサービスに適用するための「AI倫理実施チェックリスト」も策定しました。
チェックリストは、△サービスの特性把握 △事前のリスクスクリーニング △統制項目の点検・判定の3段階で運用されます。カカオは、これを年内のサービス開発および運用プロセスに適用する予定です。
新しいAI倫理原則は「SPIRIT」と名付けられました。△安全（Safety）△プライバシー（Privacy）△包摂性（Inclusivity）△責任（Responsibility）△利用者の主体性（Individual Autonomy）△透明性と信頼性（Transparency & Trustworthiness）の6つの原則で構成されています。
政府の「大韓民国人工知能倫理原則」が提示した3大価値と7大原則を主な実施基準とし、カカオのサービス環境に合わせて詳細内容を補完しました。
原則を実際の行動に移す実行方式は、「NORMA（Navigating, Organizational, Responsibility, Manageable, Actionable）」と定義しました。これは、複雑な倫理問題を組織レベルの共同責任の下で、管理可能かつ実行可能な単位に具体化するという意味です。
今回の体系は、去る7月に発足したAI・技術倫理小委員会の外部諮問団7名と共に、今月初めに策定しました。外部諮問団が国内外のAI規範との整合性を検討し、カカオ社内のAIセーフティ・個人情報・情報セキュリティ・サービス各部門が実際の適用可能性を点検しました。
児童・青少年を対象としたAIサービスの点検も強化します。カカオは、昨年から使用している「デジタル児童・青少年保護チェックリスト」に加え、経済協力開発機構（OECD）とユニセフの児童オンラインリスク分類体系である「5Cs」を参考にし、AI特有の児童・青少年に対するリスク要因を新しいチェックリストに反映する計画です。
カカオは2018年に「アルゴリズム倫理憲章」を発表した後、2022年にカカオと主要系列会社が参加するAI・技術倫理小委員会を構成しました。その後、グループ共通の「責任あるAIのためのガイドライン」を策定し、利用者主体性の原則と「安全なAIのための核心チェックリスト」を導入してきました。
カカオAI・技術倫理小委員会のキム・セウン委員長は、「AIサービスの全ライフサイクルにわたって機能するリスク検討体制を整えることができました」と述べ、「AIの自律性が高まるにつれ、人間の判断と責任を明確にし、利用者が安心して利用できるAIサービスを作り上げていきます」と語りました。
カカオは15日、去る13日にカカオAIキャンパスで開催された開発者カンファレンス「if(kakao)26」において、新たなAI倫理原則と実施ガイドを公開したと明らかにしました。
カカオAIコミュニケーションのハ・ジンファ首席は、「倫理を破る自律エージェント、どう対応すべきか？」というセッションで、AIが自ら計画し行動する環境においては、人間の判断と責任の範囲を明確にし、これをサービスの設計と運営に反映させる必要があると強調しました。
自律エージェントのリスクを5つの領域に分けて管理
カカオは、自律エージェントのリスクを△制御の主導権△目標△権限△参照リソース△相互作用の5つの管理領域に分類しました。
AIが利用者の意図から外れて行動していないか、必要な水準を超えた権限を付与されていないか、どのようなデータや外部リソースを参照しているかなどを点検し、人間の監督や緊急制御、権限管理、データ保護などの対応策を連携させる方式です。
これを実際のサービスに適用するための「AI倫理実施チェックリスト」も策定しました。
チェックリストは、△サービスの特性把握 △事前のリスクスクリーニング △統制項目の点検・判定の3段階で運用されます。カカオは、これを年内のサービス開発および運用プロセスに適用する予定です。
安全・プライバシーなど6大原則「SPIRIT」
新しいAI倫理原則は「SPIRIT」と名付けられました。△安全（Safety）△プライバシー（Privacy）△包摂性（Inclusivity）△責任（Responsibility）△利用者の主体性（Individual Autonomy）△透明性と信頼性（Transparency & Trustworthiness）の6つの原則で構成されています。
政府の「大韓民国人工知能倫理原則」が提示した3大価値と7大原則を主な実施基準とし、カカオのサービス環境に合わせて詳細内容を補完しました。
原則を実際の行動に移す実行方式は、「NORMA（Navigating, Organizational, Responsibility, Manageable, Actionable）」と定義しました。これは、複雑な倫理問題を組織レベルの共同責任の下で、管理可能かつ実行可能な単位に具体化するという意味です。
今回の体系は、去る7月に発足したAI・技術倫理小委員会の外部諮問団7名と共に、今月初めに策定しました。外部諮問団が国内外のAI規範との整合性を検討し、カカオ社内のAIセーフティ・個人情報・情報セキュリティ・サービス各部門が実際の適用可能性を点検しました。
児童・青少年向けAIのリスクを別途点検
児童・青少年を対象としたAIサービスの点検も強化します。カカオは、昨年から使用している「デジタル児童・青少年保護チェックリスト」に加え、経済協力開発機構（OECD）とユニセフの児童オンラインリスク分類体系である「5Cs」を参考にし、AI特有の児童・青少年に対するリスク要因を新しいチェックリストに反映する計画です。
カカオは2018年に「アルゴリズム倫理憲章」を発表した後、2022年にカカオと主要系列会社が参加するAI・技術倫理小委員会を構成しました。その後、グループ共通の「責任あるAIのためのガイドライン」を策定し、利用者主体性の原則と「安全なAIのための核心チェックリスト」を導入してきました。
カカオAI・技術倫理小委員会のキム・セウン委員長は、「AIサービスの全ライフサイクルにわたって機能するリスク検討体制を整えることができました」と述べ、「AIの自律性が高まるにつれ、人間の判断と責任を明確にし、利用者が安心して利用できるAIサービスを作り上げていきます」と語りました。
