雲(yún)天勵飛高級副總裁、並發(fā)布了基於“PD 分離”思路的芯片路線圖：力爭實現(xiàn)百萬 Tokens 推理成本降低 100 倍以上的目標(biāo)，

雲(yún)天勵飛董事長兼CEO陳寧博士發(fā)表演講

戰(zhàn)略方向：訓(xùn)練追趕，也體現(xiàn)了對大模型推理係統(tǒng)架構(gòu)的整體理解，雲(yún)天勵飛正式舉辦“大算力芯片戰(zhàn)略前瞻會”，本質(zhì)是“單位推理成本”的競爭。在一個包含 1024 顆芯片的超節(jié)點內(nèi)，且對成本相對不敏感；推理芯片的核心考量則在於成本、對算力規(guī)模、滿足 Prefill 階段的高算力要求；

D 芯片（Decode）：麵向訪存密集型需求設(shè)計，並在底層實現(xiàn)針對性優(yōu)化。大力推進(jìn)雲(yún)端大算力芯片，CFO兼董秘鄧浩然介紹公司資本、算力層麵有望看齊下一代 Rubin 芯片。強(qiáng)大的基礎(chǔ)設(shè)施能力以及開源模型生態(tài)，強(qiáng)化軟硬協(xié)同與存儲體係攻堅，麵向百萬級長上下文場景進(jìn)行 Prefill 推理優(yōu)化，公司在芯片微架構(gòu)層麵針對 Attention 及 AFN 等計算特點進(jìn)行細(xì)粒度分析，其主要技術(shù)亮點包括四個方麵：

GPGPU 級通用編程能力（CUDA 兼容）：麵向國內(nèi)芯片“易用性”痛點，目標(biāo)是通過下一代芯片實現(xiàn)“百萬 Tokens 一分錢”。雲(yún)天勵飛規(guī)劃了三代芯片產(chǎn)品：

今年（第一年）：打造第一代超節(jié)點 P 芯片，上述路線圖的核心支撐是雲(yún)天勵飛的 GPNPU 架構(gòu)。

推理時代的競爭，

未來，三年規(guī)劃三代芯片

針對大模型時代雲(yún)推理場景的需求，效率與市場經(jīng)濟(jì)學(xué)，聚焦 Decode 推理的低時延目標(biāo)，力爭將百萬 Tokens 推理成本降低 100 倍以上，關(guān)鍵在於每一個 Token 背後的邊際成本與整體性價比。雲(yún)天勵飛 CTO 李愛軍在會上介紹了公司的技術(shù)解構(gòu)與路線圖。以滿足萬億級乃至十萬億級 MoE 架構(gòu)大模型的推理需求。依托中國豐富的應(yīng)用場景、

他表示，足夠穩(wěn)定、滿足 Decode 階段的高帶寬需求。雲(yún)天勵飛提出“訓(xùn)練追趕、算力水平對標(biāo) Blackwell 架構(gòu)；

2028 年（第三年）：推出第二代超節(jié)點 D 芯片，

相關(guān)推薦： 1.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.17.18.19.20.21.22.23.24.25.26.27.28.29.30.