[イーデイリーKim Hyun-ah 記者] ネイバー（NAVER(035420) ）は、AI安全管理の範囲をAIモデルから実際のサービス全般へと拡大します。同じAIモデルであっても、検索・ショッピング・天気など、どのサービスに適用するかによってリスクが異なるため、サービスごとの文脈に合わせてリスクを特定し、管理する体制を正式に確立しました。
2026年1月の「人工知能基本法」施行に伴い、複数のAIモデルが結合され、自律的に動作するエージェント型AIが普及する中、宣言的な倫理原則を超え、実際のサービスで機能する安全基準を具体化したものです。
NAVERは、独自のAI安全性フレームワーク「NAVER ASF 2.0」と実行体制「CHEC 2.0」の実際のサービスへの適用事例を盛り込んだ公式報告書『NAVER AI Safety Progress Report 2026』を16日に発刊したと発表しました。
2021年の「NAVER AI倫理指針」、2024年のフロンティアAIモデルを対象とした「ASF Beta」に続き、今回はAI安全管理の範囲をモデルからユーザーおよびサービス全般へと拡大しました。
① N-ARTI：法律・社会・産業的なAIリスクを110の細目項目に分類
② AI影響評価：人工知能基本法上の「高影響AI」の特殊領域と一般領域を区別して管理
③ 危機対応：自傷行為などの危機的な問い合わせがあった場合、単に拒否するのではなく、専門の相談機関へつなぐ
④ リスクの更新：新たな法的・社会的課題を3日以内に分類体系に反映する動的な更新
⑤ N-ASET：リリース前後、1回あたり1万件単位の敵対的質問を投入
⑥ 過剰な拒否の防止：正常な質問まで無条件に遮断してしまう現象を、サービスの不具合として管理
⑦ 免責事項の管理：不必要な免責事項が一般的な質問に濫用される過剰対応を定量的に点検
⑧ CHEC 2.0：特定→協議→緩和→測定→履歴管理という5段階のプロセスを運用
⑨ 3層の責任体制：実務組織→AI Safety Center（AISC）→取締役会へと続くガバナンス
⑩ 利用者とのコミュニケーション：「On-Service AI」ロゴと、AI回答の限界・データ出典に関する案内
その中で、出発点は、AIが引き起こしうるリスクを具体的に分類することです。
NAVERは、法律・社会・産業分野の事例に基づき、発生し得るリスクを110の細目項目に分類した「N-ARTI（NAVER AI Risk Taxonomy & Identification）」を策定しました。
自傷行為などの危機的状況に関する問い合わせをはじめ、医療・金融・法律などの専門分野における無資格による助言、違法行為の助長、食品の表示・広告に関する法令違反、差別・憎悪表現、未成年者への有害情報、個人情報の侵害、AIに対する情緒的な過度な没入などが含まれます。
サービスの社会的影響についても事前に検討します。「AI影響評価マトリックス」を活用し、人工知能基本法上の「高影響AI」が活用され得る特殊領域か、一般領域かなどを区分し、リスクレベルに応じて安全対策の強度を調整します。
新たなリスクが現れた場合は、分類体系も迅速に更新します。NAVERは、食品表示・広告関連法令違反の問題が確認された際、わずか3日で新たなリスク項目を追加したと説明しました。
出典＝NAVER
NAVERは、サービスリリース前の事前評価とリリース後の定期評価に分け、AIの安全性を点検します。1回の評価ごとに1万件単位の敵対的なクエリを投入するレッドチームングを通じて、AIが予期しない危険な回答を出したり、脆弱性を示したりしないかを確認します。
安全性評価の対象は、危険な回答だけではありません。
正常な質問に対しても回答しない「過剰な拒否」も、サービスの品質を低下させる問題として捉え、管理しています。一般的な質問に対して必要のない免責事項が繰り返し付加される「過剰な対応」についても、併せて点検しています。
リスク回避のみに集中して、AIの有用性を低下させないという姿勢です。これが、ネイバーが「感じられない安全性（Unfelt Safety）」を強調する理由です。
出典＝NAVER
サービス組織とAI Safety Centerが連携してリスクを特定・協議した後、軽減、測定、履歴管理を行う5段階のプロセスを運用しています。実務組織とAI Safety Center、取締役会へとつながる3層の管理・監督体制も整備しました。
実際の適用事例として、対話型検索「AIタブ」が挙げられます。
去る6月に正式リリースされ、1ヶ月で累計ユーザー数1000万人を突破した「AIタブ」には、大規模なサービス環境に最適化されたMoE（Mixture of Experts・専門家混合）ベースの「プロダクトネイティブLLM」が適用されました。
高速な小型モデルがまず結論を導き出し、大型モデルが本文を生成するという方式で役割を分担しています。さらに、NAVERの検索データベースに明記された内容に基づいて回答するよう設計することで、誤った情報の生成を減らし、医療などの専門分野では専門家の助言を案内するようにしました。
ネイバーは、AIショッピングエージェントやネイバー天気などの生成AIサービスにも、同様の原則を拡大しています。「On-Service AI」のロゴを表示し、AI回答の限界や気象庁・公共データなどの活用元を案内する方式で、利用者とのコミュニケーションも強化しています。
出典＝NAVER
出典＝ネイバー
NAVER AI LabとKAISTが共同研究したレッドチームング技術「Stable-GFlowNet」に関する論文は、ICML 2026において上位2.2％の論文に与えられる「スポットライト」に選定されました。これは、従来の方式よりも多様な攻撃パターンを探索し、展開前のAIモデルの脆弱性を事前に発見する技術です。
ASF 2.0の企画および草案作成の過程では、ソウル大学人工知能政策イニシアチブ（SAPI）と専門的な諮問協力を行いました。高麗大学人工知能安全研究センターとも協力しており、科学技術情報通信部と人工知能安全研究所（AISI）が主管したAI安全関連のイベントで、現場での適用事例を共有しました。
ソウル大学SAPIが主催した「SAIPCON 2026」では、ネイバークラウドのノ・サンミンセンター長が「AIデータセンターと電力網、いかに共存するか」をテーマに、AIインフラの電力需要と首都圏の送電網におけるボトルネック問題を指摘しました。電力系統に余裕のある地域へAIデータセンターを誘導するなど、制度的な設計が必要であるという提案も行いました。
このほか、「国際AI安全報告書2026」の韓国語版には、ネイバーの多言語・サービス中心のAI安全評価や、シンガポールIMDAのグローバル・レッドチームング・チャレンジへの参加事例などが紹介されました。ネイバーは、AIマネジメントシステムの国際規格であるISO/IEC 42001の認証取得も推進しています。
人工知能安全研究所のキム・ミョンジュ所長は、「法律は最低限の基準の輪郭に過ぎず、その上でどのようなリスクをどのように扱うかは、サービスを作る企業が答えなければならない」とし、「今回の報告書は、ネイバーがモデル単位ではなくサービス単位の安全を自ら築き上げた最初の実践の記録である」と評価しました。
ネイバーAI Safetyセンター長のウォン・ソンジェ氏。写真＝ネイバー
ネイバーのウォン・ソンジェAI Safetyセンター長は、「AI技術が日常生活に深く浸透するにつれ、AIの安全性についても、理論的な議論を超え、実際のサービス環境で対処すべき段階に入った」とし、「AIの開発から利用に至る全過程において、人間中心の価値を最優先に置き、サービスで発生しうるリスクを予防・軽減できるよう、ASF 2.0を継続的に高度化していく」と述べました。
NAVERのユ・ボンソクCROは、「AIの安全性は、革新を阻む条件ではなく、より多くの人々がAIを信頼して利用できるよう支援する革新の基盤である」とし、「社会と共に、より良い答えを見つけていく過程を透明性を持って共有していく」と明らかにしました。
2026年1月の「人工知能基本法」施行に伴い、複数のAIモデルが結合され、自律的に動作するエージェント型AIが普及する中、宣言的な倫理原則を超え、実際のサービスで機能する安全基準を具体化したものです。
NAVERは、独自のAI安全性フレームワーク「NAVER ASF 2.0」と実行体制「CHEC 2.0」の実際のサービスへの適用事例を盛り込んだ公式報告書『NAVER AI Safety Progress Report 2026』を16日に発刊したと発表しました。
2021年の「NAVER AI倫理指針」、2024年のフロンティアAIモデルを対象とした「ASF Beta」に続き、今回はAI安全管理の範囲をモデルからユーザーおよびサービス全般へと拡大しました。
AIリスクを110項目に細分化NAVERは今回の報告書を通じて、モデル開発からサービスの展開、事後モニタリングに至るまでの全ライフサイクルにわたり機能する、10大安全管理体制を提示しました。
① N-ARTI：法律・社会・産業的なAIリスクを110の細目項目に分類
② AI影響評価：人工知能基本法上の「高影響AI」の特殊領域と一般領域を区別して管理
③ 危機対応：自傷行為などの危機的な問い合わせがあった場合、単に拒否するのではなく、専門の相談機関へつなぐ
④ リスクの更新：新たな法的・社会的課題を3日以内に分類体系に反映する動的な更新
⑤ N-ASET：リリース前後、1回あたり1万件単位の敵対的質問を投入
⑥ 過剰な拒否の防止：正常な質問まで無条件に遮断してしまう現象を、サービスの不具合として管理
⑦ 免責事項の管理：不必要な免責事項が一般的な質問に濫用される過剰対応を定量的に点検
⑧ CHEC 2.0：特定→協議→緩和→測定→履歴管理という5段階のプロセスを運用
⑨ 3層の責任体制：実務組織→AI Safety Center（AISC）→取締役会へと続くガバナンス
⑩ 利用者とのコミュニケーション：「On-Service AI」ロゴと、AI回答の限界・データ出典に関する案内
その中で、出発点は、AIが引き起こしうるリスクを具体的に分類することです。
NAVERは、法律・社会・産業分野の事例に基づき、発生し得るリスクを110の細目項目に分類した「N-ARTI（NAVER AI Risk Taxonomy & Identification）」を策定しました。
自傷行為などの危機的状況に関する問い合わせをはじめ、医療・金融・法律などの専門分野における無資格による助言、違法行為の助長、食品の表示・広告に関する法令違反、差別・憎悪表現、未成年者への有害情報、個人情報の侵害、AIに対する情緒的な過度な没入などが含まれます。
サービスの社会的影響についても事前に検討します。「AI影響評価マトリックス」を活用し、人工知能基本法上の「高影響AI」が活用され得る特殊領域か、一般領域かなどを区分し、リスクレベルに応じて安全対策の強度を調整します。
新たなリスクが現れた場合は、分類体系も迅速に更新します。NAVERは、食品表示・広告関連法令違反の問題が確認された際、わずか3日で新たなリスク項目を追加したと説明しました。
1万件ずつ攻撃を仕掛けてみて…「過剰な拒否」も点検実際の安全性検証は、独自の評価ツールである「N-ASET（NAVER AI Safety Evaluation Toolkit）」が担当します。
NAVERは、サービスリリース前の事前評価とリリース後の定期評価に分け、AIの安全性を点検します。1回の評価ごとに1万件単位の敵対的なクエリを投入するレッドチームングを通じて、AIが予期しない危険な回答を出したり、脆弱性を示したりしないかを確認します。
安全性評価の対象は、危険な回答だけではありません。
正常な質問に対しても回答しない「過剰な拒否」も、サービスの品質を低下させる問題として捉え、管理しています。一般的な質問に対して必要のない免責事項が繰り返し付加される「過剰な対応」についても、併せて点検しています。
リスク回避のみに集中して、AIの有用性を低下させないという姿勢です。これが、ネイバーが「感じられない安全性（Unfelt Safety）」を強調する理由です。
サービス企画からリリース後までの管理このような安全基準は、全社的な実行体制である「CHEC 2.0」を通じて、企画からリリース
後まで適用されます。
サービス組織とAI Safety Centerが連携してリスクを特定・協議した後、軽減、測定、履歴管理を行う5段階のプロセスを運用しています。実務組織とAI Safety Center、取締役会へとつながる3層の管理・監督体制も整備しました。
実際の適用事例として、対話型検索「AIタブ」が挙げられます。
去る6月に正式リリースされ、1ヶ月で累計ユーザー数1000万人を突破した「AIタブ」には、大規模なサービス環境に最適化されたMoE（Mixture of Experts・専門家混合）ベースの「プロダクトネイティブLLM」が適用されました。
高速な小型モデルがまず結論を導き出し、大型モデルが本文を生成するという方式で役割を分担しています。さらに、NAVERの検索データベースに明記された内容に基づいて回答するよう設計することで、誤った情報の生成を減らし、医療などの専門分野では専門家の助言を案内するようにしました。
ネイバーは、AIショッピングエージェントやネイバー天気などの生成AIサービスにも、同様の原則を拡大しています。「On-Service AI」のロゴを表示し、AI回答の限界や気象庁・公共データなどの活用元を案内する方式で、利用者とのコミュニケーションも強化しています。
KAIST・ソウル大学などとの安全研究を拡大NAVERは、AIの安全基準と技術を外部研究機関と共に検証する取り組みも拡大しています。
NAVER AI LabとKAISTが共同研究したレッドチームング技術「Stable-GFlowNet」に関する論文は、ICML 2026において上位2.2％の論文に与えられる「スポットライト」に選定されました。これは、従来の方式よりも多様な攻撃パターンを探索し、展開前のAIモデルの脆弱性を事前に発見する技術です。
ASF 2.0の企画および草案作成の過程では、ソウル大学人工知能政策イニシアチブ（SAPI）と専門的な諮問協力を行いました。高麗大学人工知能安全研究センターとも協力しており、科学技術情報通信部と人工知能安全研究所（AISI）が主管したAI安全関連のイベントで、現場での適用事例を共有しました。
ソウル大学SAPIが主催した「SAIPCON 2026」では、ネイバークラウドのノ・サンミンセンター長が「AIデータセンターと電力網、いかに共存するか」をテーマに、AIインフラの電力需要と首都圏の送電網におけるボトルネック問題を指摘しました。電力系統に余裕のある地域へAIデータセンターを誘導するなど、制度的な設計が必要であるという提案も行いました。
このほか、「国際AI安全報告書2026」の韓国語版には、ネイバーの多言語・サービス中心のAI安全評価や、シンガポールIMDAのグローバル・レッドチームング・チャレンジへの参加事例などが紹介されました。ネイバーは、AIマネジメントシステムの国際規格であるISO/IEC 42001の認証取得も推進しています。
人工知能安全研究所のキム・ミョンジュ所長は、「法律は最低限の基準の輪郭に過ぎず、その上でどのようなリスクをどのように扱うかは、サービスを作る企業が答えなければならない」とし、「今回の報告書は、ネイバーがモデル単位ではなくサービス単位の安全を自ら築き上げた最初の実践の記録である」と評価しました。
ネイバーのウォン・ソンジェAI Safetyセンター長は、「AI技術が日常生活に深く浸透するにつれ、AIの安全性についても、理論的な議論を超え、実際のサービス環境で対処すべき段階に入った」とし、「AIの開発から利用に至る全過程において、人間中心の価値を最優先に置き、サービスで発生しうるリスクを予防・軽減できるよう、ASF 2.0を継続的に高度化していく」と述べました。
NAVERのユ・ボンソクCROは、「AIの安全性は、革新を阻む条件ではなく、より多くの人々がAIを信頼して利用できるよう支援する革新の基盤である」とし、「社会と共に、より良い答えを見つけていく過程を透明性を持って共有していく」と明らかにしました。
