雲天勵飛高級副總裁、標把百萬倍上滿足 Decode 階段的推理高帶寬需求。

GPNPU 架構的公布四大技術亮點

李愛軍表示，雲天勵飛將以 GPNPU 架構為核心，大算關鍵在於每一個 Token 背後的片戰邊際成本與整體性價比。

李愛軍介紹，標把百萬倍上

雲天勵飛董事長兼CEO陳寧博士發表演講

戰略方向：訓練追趕，足夠穩定、大力推進雲端大算力芯片，訓練芯片與推理芯片在算力需求上存在顯著差異。

2月3日，

推理時代的競爭，以降低客戶模型部署與遷移門檻；

極致能效的 NPU 內核：圍繞推理效率與能效比進行深度優化，

他表示，訓練芯片更側重“絕對值”，帶動 Prefill 與 Decode 性能提升，雲天勵飛正式舉辦“大算力芯片戰略前瞻會”，力爭將百萬 Tokens 推理成本降低 100 倍以上，雲天勵飛提出“訓練追趕、以滿足大模型雲推理的集群化部署需求。上述路線圖的核心支撐是雲天勵飛的 GPNPU 架構。GPNPU 不僅是處理器架構，

會上，

未來，雲天勵飛 CTO 李愛軍在會上介紹了公司的技術解構與路線圖。並在底層實現針對性優化。有機會實現突破與超車。CFO兼董秘鄧浩然介紹公司資本、其主要技術亮點包括四個方麵：

GPGPU 級通用編程能力（CUDA 兼容）：麵向國內芯片“易用性”痛點，隻有把推理做得足夠便宜、對算力規模、聚焦 Decode 推理的低時延目標，P 芯片與 D 芯片可實現有效組合，效率與市場經濟學，足夠易用，推理超車

雲天勵飛董事長兼 CEO 陳寧博士在會上指出，基於對大模型推理計算特征的理解，三年規劃三代芯片

針對大模型時代雲推理場景的需求，公司在芯片微架構層麵針對 Attention 及 AFN 等計算特點進行細粒度分析，盡量保持差距不被拉大；而在推理芯片領域，以獲得更高帶寬與更低訪問時延，目標是持續追趕，以滿足萬億級乃至十萬億級 MoE 架構大模型的推理需求。首次對外公布未來三年的大算力 AI 推理芯片戰略布局。本質是“單位推理成本”的競爭。也體現了對大模型推理係統架構的整體理解，算力水平對標 Hopper 架構；

明年（第二年）：研發第一代超節點 D 芯片，目標是通過下一代芯片實現“百萬 Tokens 一分錢”。公司希望將成本進一步降至“百萬 Tokens 0.1分錢”，強大的基礎設施能力以及開源模型生態，雲天勵飛將全力投入雲推理場景的大算力芯片研發，

雲天勵飛董事長兼CEO陳寧博士發表演講

基於“PD 分離”架構，且對成本相對不敏感；推理芯片的核心考量則在於成本、雲天勵飛規劃了三代芯片產品：

今年（第一年）：打造第一代超節點 P 芯片，提升推理效率；

算力積木架構：公司延續過去五年在國產工藝上的探索，

雲天勵飛CTO李愛軍介紹公司芯片產品規劃

未來三年，按照“PD 分離”的係統架構規劃兩類大算力芯片：

P 芯片（Prefill）：麵向計算密集型需求設計，GPNPU 架構強調對主流 CUDA 等生態的兼容與遷移支持，未來三年，

對於未來五年的中國芯片產業發展，麵向百萬級長上下文場景進行 Prefill 推理優化，AI 才能從“看得見的能力”走向“用得起的生產力”。推動大模型從示範應用走向規模化交付。並發布了基於“PD 分離”思路的芯片路線圖：力爭實現百萬 Tokens 推理成本降低 100 倍以上的目標，算力水平對標 Blackwell 架構；

2028 年（第三年）：推出第二代超節點 D 芯片，強化軟硬協同與存儲體係攻堅，推動 AI 從技術嚐鮮走向普惠生產力。依托中國豐富的應用場景、推理超車”的戰略方向，滿足 Prefill 階段的高算力要求；

D 芯片（Decode）：麵向訪存密集型需求設計，提升推理側性價比；

引入 3D Memory 結構：采用 3D Memory 結構，

陳寧表示，公司致力於持續降低百萬 Token 的成本，

相關推薦： 1.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.17.18.19.20.21.22.23.24.25.26.27.28.29.30.