[イーデイリーKim Hyun-ah 記者] AIモデルの軽量化・最適化を手掛ける企業 #NOTAが、AMDのGPUとNPUを併用し、人工知能(AI)の応答速度を最大52%向上させる技術を検証しました。2種類の半導体にAI演算を分担させることで、処理時間を短縮し、エネルギー効率を高めました。
ノータは9日、去る4日に開催された「AMD アドバンシングAI ワールドツアー ソウル 2026」において、AMD Ryzen AI Max+ 395をベースとした異種コンピューティング最適化技術の成果を発表したと明らかにしました。
自社テストの結果、Qwen3-8Bモデルの回答完了までの総時間は、従来のAMD GPU・NPUハイブリッド実行環境に比べて28~52%短縮されました。トークンあたりのエネルギー消費量は31%、トークンあたりの生成時間は41~46%減少しました。
発表を行っているNotaのキム・テホCTO。写真=Nota(Nota AI)
今回の技術は、GPUとNPUがAI演算を分担して処理する方式です。質問を入力して内容を分析するプロセスである「プリフィル(Prefill)」はNPUが担当し、実際の回答を生成する「デコード(Decode)」はGPUが担当します。2つの演算装置が同一のAIモデルの重みを共有するように設計することで、メモリの重複使用も削減しました。
Notaは、AIモデル最適化プラットフォーム「NetsPresso」にAIエージェントを適用し、最適化プロセスも自動化しています。AIエージェントがモデルとハードウェアの特性を分析して最適化戦略を策定し、実際のデバイスで性能を測定して改善する方式です。AIモデルだけでなく、モデルが実行されるソフトウェア環境まで最適化の範囲を広げています。
様々な言語モデルを対象とした追加テストの結果も公開しました。AMD Ryzen AI環境でLlama、Qwen、Phi、Mistralなどを試験した結果、従来のAMDハイブリッド実行環境に比べてメモリ使用量を11~32%削減しました。NPUのみを使用した場合と比較すると、回答生成速度は2.5~3.8倍速くなりました。
AI半導体企業が演算を担当するチップを製造する一方で、ノータはそのチップ上でAIが効率的に動作するようにするソフトウェアを開発しています。NVIDIAのGPU、Armベースのプロセッサ、サムスン電子のモバイル半導体、AMDプラットフォームなど、さまざまなハードウェアに合わせてAIモデルを最適化することが主力事業です。
主力製品は、AIモデル最適化プラットフォーム「Netzpresso」です。モデルの圧縮や量子化、演算の最適化、ハードウェアごとの変換や性能検証をサポートします。これにより、AI開発者が半導体の種類に合わせてモデルを一つひとつ修正・テストする手間を省くことができます。
Netzpressoを活用した業界別のオンデバイスAIソリューションも提供しています。代表的な製品である「NOTA Vision Agent(NVA)」は、映像内の状況や行動を分析するインテリジェント映像監視ソリューションです。人や物体を特定するレベルを超え、現場の状況や行動の文脈を把握し、自然言語で映像を検索したり、分析レポートを作成したりすることができます。
インテリジェント交通システム(ITS)は、既存のCCTVにAIを適用し、交通量や突発的な状況を分析します。ドライバーモニタリングシステム(DMS)は、居眠りや携帯電話の使用など、ドライバーの不注意を検知します。顔認識(FR)技術は、入退室管理や認証などに活用されます。いずれも、高性能サーバーに接続することなく、端末自体でAIを実行するオンデバイス方式です。
ノタは、チェ・ミョンス代表取締役(CEO)が経営と事業を統括し、創業者のキム・テホ最高技術責任者(CTO)が基盤技術の開発を率いる体制です。 KAIST人工知能研究所で共に研究を行っていた二人は、2015年にキムCTOが創業して以来、2018年にチェ代表が合流したことを契機に事業を拡大しました。チェ代表はAIモデルの軽量化事業への転換とグローバル事業の拡大を、キムCTOはNetzpressoをはじめとするAI最適化技術の開発を担当しています。
ノータは、サムスン電子、Arm、フューリオサAI、モビリントなど、国内外の半導体企業と協力してきました。去る7月には、AMDのグローバル・ロボティクス・パートナー・ネットワークに、アジア・太平洋および日本(APJ)地域の主要な初期パートナー企業の一つとして加わりました。10月には、ArmのAI開発者プラットフォームにおいても、Netzpressoベースの最適化技術を披露しました。
ノータは、今回のAMDプラットフォームの検証を契機に、AI PCおよびロボティクス分野での事業拡大を計画しています。これらのデバイスは、限られたメモリと電力でAIを駆動しなければならないため、GPUやNPUなど、さまざまな演算リソースを効率的に活用するソフトウェアが重要となります。
ノータのキム・テホCTOは、「エージェント型AIやフィジカルAIの時代においては、モデル自体の性能だけでなく、GPUやNPUなど多様なコンピューティングリソースをいかに効率的に活用するかが、サービスの性能と運用効率を決定づける」と述べ、「モデルから推論システム全般を最適化する技術を基盤に、グローバルな半導体エコシステムとの協力を拡大していく」と語りました。
ノータは9日、去る4日に開催された「AMD アドバンシングAI ワールドツアー ソウル 2026」において、AMD Ryzen AI Max+ 395をベースとした異種コンピューティング最適化技術の成果を発表したと明らかにしました。
自社テストの結果、Qwen3-8Bモデルの回答完了までの総時間は、従来のAMD GPU・NPUハイブリッド実行環境に比べて28~52%短縮されました。トークンあたりのエネルギー消費量は31%、トークンあたりの生成時間は41~46%減少しました。
今回の技術は、GPUとNPUがAI演算を分担して処理する方式です。質問を入力して内容を分析するプロセスである「プリフィル(Prefill)」はNPUが担当し、実際の回答を生成する「デコード(Decode)」はGPUが担当します。2つの演算装置が同一のAIモデルの重みを共有するように設計することで、メモリの重複使用も削減しました。
Notaは、AIモデル最適化プラットフォーム「NetsPresso」にAIエージェントを適用し、最適化プロセスも自動化しています。AIエージェントがモデルとハードウェアの特性を分析して最適化戦略を策定し、実際のデバイスで性能を測定して改善する方式です。AIモデルだけでなく、モデルが実行されるソフトウェア環境まで最適化の範囲を広げています。
様々な言語モデルを対象とした追加テストの結果も公開しました。AMD Ryzen AI環境でLlama、Qwen、Phi、Mistralなどを試験した結果、従来のAMDハイブリッド実行環境に比べてメモリ使用量を11~32%削減しました。NPUのみを使用した場合と比較すると、回答生成速度は2.5~3.8倍速くなりました。
AIモデルから実行環境まで最適化…半導体の活用効率を高める2015年にKAISTの学内ベンチャーとしてスタートしたノータは、スマートフォンやCCTV、自動車など、性能やメモリに制限のあるデバイスでもAIを動作させられるよう、モデルを軽量化・最適化する企業です。2025年11月にコスダックに上場しました。
AI半導体企業が演算を担当するチップを製造する一方で、ノータはそのチップ上でAIが効率的に動作するようにするソフトウェアを開発しています。NVIDIAのGPU、Armベースのプロセッサ、サムスン電子のモバイル半導体、AMDプラットフォームなど、さまざまなハードウェアに合わせてAIモデルを最適化することが主力事業です。
主力製品は、AIモデル最適化プラットフォーム「Netzpresso」です。モデルの圧縮や量子化、演算の最適化、ハードウェアごとの変換や性能検証をサポートします。これにより、AI開発者が半導体の種類に合わせてモデルを一つひとつ修正・テストする手間を省くことができます。
Netzpressoを活用した業界別のオンデバイスAIソリューションも提供しています。代表的な製品である「NOTA Vision Agent(NVA)」は、映像内の状況や行動を分析するインテリジェント映像監視ソリューションです。人や物体を特定するレベルを超え、現場の状況や行動の文脈を把握し、自然言語で映像を検索したり、分析レポートを作成したりすることができます。
インテリジェント交通システム(ITS)は、既存のCCTVにAIを適用し、交通量や突発的な状況を分析します。ドライバーモニタリングシステム(DMS)は、居眠りや携帯電話の使用など、ドライバーの不注意を検知します。顔認識(FR)技術は、入退室管理や認証などに活用されます。いずれも、高性能サーバーに接続することなく、端末自体でAIを実行するオンデバイス方式です。
ノタは、チェ・ミョンス代表取締役(CEO)が経営と事業を統括し、創業者のキム・テホ最高技術責任者(CTO)が基盤技術の開発を率いる体制です。 KAIST人工知能研究所で共に研究を行っていた二人は、2015年にキムCTOが創業して以来、2018年にチェ代表が合流したことを契機に事業を拡大しました。チェ代表はAIモデルの軽量化事業への転換とグローバル事業の拡大を、キムCTOはNetzpressoをはじめとするAI最適化技術の開発を担当しています。
ノータは、サムスン電子、Arm、フューリオサAI、モビリントなど、国内外の半導体企業と協力してきました。去る7月には、AMDのグローバル・ロボティクス・パートナー・ネットワークに、アジア・太平洋および日本(APJ)地域の主要な初期パートナー企業の一つとして加わりました。10月には、ArmのAI開発者プラットフォームにおいても、Netzpressoベースの最適化技術を披露しました。
ノータは、今回のAMDプラットフォームの検証を契機に、AI PCおよびロボティクス分野での事業拡大を計画しています。これらのデバイスは、限られたメモリと電力でAIを駆動しなければならないため、GPUやNPUなど、さまざまな演算リソースを効率的に活用するソフトウェアが重要となります。
ノータのキム・テホCTOは、「エージェント型AIやフィジカルAIの時代においては、モデル自体の性能だけでなく、GPUやNPUなど多様なコンピューティングリソースをいかに効率的に活用するかが、サービスの性能と運用効率を決定づける」と述べ、「モデルから推論システム全般を最適化する技術を基盤に、グローバルな半導体エコシステムとの協力を拡大していく」と語りました。