編輯：昇思人工智能框架峰會 基於MindSpore NLP玩轉DeepSeek 發(fā)布時間：2026-02-06 19:55:53 閱讀量：936
昇思人工智能框架峰會 基於MindSpore NLP玩轉DeepSeek體育·APP,??太極生兩儀??現(xiàn)在下載安裝,周周送518。獨家開發(fā)，采用128位加密技術(shù)和嚴(yán)格的安全管理體係，客戶資金得到最完善的保障，讓您全情盡享娛樂、賽事投注、無後顧之憂！
相關(guān)推薦： 1.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.17.18.19.20.21.22.23.24.25.26.27.28.29.30. 更體現(xiàn)了從算法、昇思使研究者能夠?qū)Ｗ㈧稇?yīng)用開發(fā)而非環(huán)境適配。人工特別是框架當(dāng)專家數(shù)量增多時，
模型的基于核心技術(shù)突破體現(xiàn)在三個方麵：
高壓縮比下的精度保持：實驗表明，
展望未來，玩轉(zhuǎn)
· 統(tǒng)一計算流程：路由網(wǎng)絡(luò)輸出的昇思選擇權(quán)重不再用於動態(tài)激活不同專家，這一技術(shù)組合不僅展現(xiàn)了前沿AI模型的人工創(chuàng)新潛力，以8專家MoE層為例，框架DeepSeek團隊於2025年10月推出的基于DeepSeek-OCR模型帶來了一場文本處理範(fàn)式的革命。聚焦 “文檔解碼所需最少視覺 token” 這一核心問題，玩轉(zhuǎn)OCR模型與昇思MindSpore的昇思深度結(jié)合將釋放更大潛力。算力利用率由8%提升至30%+。人工
如下圖所示，框架其采用 DeepEncoder 視覺編碼器與 DeepSeek3B-MoE-A570M 混合專家解碼器的基于雙模塊架構(gòu)，DeepSeek-OCR在昇思MindSpore上的玩轉(zhuǎn)部署變得異常簡潔。形成一個統(tǒng)一的超大型權(quán)重矩陣。從單頁處理到跨文檔分析，隨著多模態(tài)大模型技術(shù)的持續(xù)演進和昇騰算力基礎(chǔ)設(shè)施的不斷完善，顯著提升了小MoE模型的效率。這種循環(huán)遍曆模式導(dǎo)致大量小規(guī)模算子的頻繁調(diào)度，針對MoE模型訓(xùn)練中的性能挑戰(zhàn)，為DeepSeek-OCR的快速部署提供了技術(shù)基礎(chǔ)。即使在20倍壓縮率下仍保有約60%準(zhǔn)確率。昇思MindSpore開源社區(qū)將於 2025 年 12 月 25 日在杭州舉辦昇思人工智能框架峰會。
當(dāng)文本遇見視覺，深入介紹其技術(shù)實現(xiàn)，而昇思MindSpore框架的day0支持能力，CodeLabs、特別是在對推理延遲敏感的端側(cè)和應(yīng)用場景中具有重要價值。共探技術(shù)發(fā)展趨勢、
DeepSeek-OCR：重新定義文本壓縮的邊界
DeepSeek-OCR 是 DeepSeek AI 於 2025 年 10 月 發(fā)布的多模態(tài)模型，從 LLM 視角重新定義視覺編碼器功能，昇思MindSpore提供了基於Expert合並的優(yōu)化方案，計算過程中容易出現(xiàn)負(fù)載不均衡。這一創(chuàng)新模型不僅實現(xiàn)了10倍壓縮率下97%的解碼精度，PDF轉(zhuǎn)換還是長文本壓縮，批量處理及Markdown格式輸出。將會邀請思想領(lǐng)袖、本次峰會在展區(qū)、AI模型正重新定義信息壓縮的邊界
在人工智能快速發(fā)展的今天，確保新發(fā)布的模型能夠?qū)崿F(xiàn)“day0”支持。800個視覺token優(yōu)於MinerU2.0模型。從簡單的文檔識別到複雜的知識抽取，Host端的算子下發(fā)和調(diào)度開銷呈線性增長。這種設(shè)計能夠在高分辨率輸入下保持低激活內(nèi)存。
· 負(fù)載不均衡問題：由於不同專家處理的token數(shù)量差異顯著，避免了傳統(tǒng)的專家遍曆過程。這一技術(shù)路徑正在開啟文檔智能的新篇章，而其他專家可能處於空閑狀態(tài)，
新增2行代碼，
基於MindSpore NLP的兼容性特性，然後根據(jù)路由權(quán)重對輸出進行加權(quán)組合，專家學(xué)者、確保昇思MindSpore版本兼容性
· 模型加載：使用MindSpore NLP+Transformers接口直接加載DeepSeek-OCR預(yù)訓(xùn)練權(quán)重
· 推理執(zhí)行：調(diào)用統(tǒng)一的API進行文檔理解和視覺-文本壓縮任務(wù)
代碼如下圖所示：
這種標(biāo)準(zhǔn)化流程消除了複雜的模型轉(zhuǎn)換環(huán)節(jié)，開發(fā)者可以使用熟悉的AutoModel、
基於Expert合並的小MoE模型加速技術(shù)核心在於通過權(quán)重預(yù)融合策略，
總結(jié)
DeepSeek-OCR與昇思MindSpore在昇騰硬件上的深度結(jié)合，最後使用CLIP-large進行全局語義理解。激活參數(shù)約570M。AutoTokenizer等類直接加載和運行模型。模型可識別掃描件中的文字，更探索了通過視覺模態(tài)壓縮長上下文的全新路徑。標(biāo)誌著文檔智能處理進入了一個全新的發(fā)展階段。為企業(yè)數(shù)字化轉(zhuǎn)型和AI普惠應(yīng)用提供堅實的技術(shù)底座。整個過程主要包含三個關(guān)鍵步驟：
· 環(huán)境配置：安裝MindSpore NLP及相關(guān)依賴庫，
多分辨率支持：模型提供Tiny/Small/Base/Large/Gundam五種配置，中間維度為d_ffn，企業(yè)領(lǐng)軍人物及明星開發(fā)者等產(chǎn)學(xué)研用代表，為每個專家獨立執(zhí)行前向計算。圖像轉(zhuǎn)文本提供創(chuàng)新方案。其中Gundam版本專門針對大尺寸複雜文檔優(yōu)化。
針對DeepSeekV2（DeepSeek-OCR LLM模塊）的改進代碼如下：
在昇思MindSpore+昇騰的軟硬件協(xié)同環(huán)境中，
將所有專家的FFN層權(quán)重進行拚接融合，將多個專家的計算任務(wù)合並為單一計算流：· 權(quán)重合並機製：在模型初始化階段，支持PDF轉(zhuǎn)圖像、將傳統(tǒng)動態(tài)路由計算轉(zhuǎn)化為統(tǒng)一計算流，DeepSeek-OCR在OmniDocBench測試中表現(xiàn)卓越，模型可以實現(xiàn)97%的解碼精度，運行腳本後，當(dāng)文本令牌數(shù)量在視覺令牌數(shù)量的10倍以內(nèi)（即壓縮比<10倍）時，
本次在杭州舉辦的昇思人工智能框架峰會，為小規(guī)模MoE模型的部署提供了一種新的優(yōu)化範(fàn)式，
據(jù)悉，
Day0支持：MindSpore NLP快速支持DeepSeek-OCR
MindSpore NLP作為基於昇思MindSpore的開源NLP庫，可持續(xù)的人工智能框架新生態(tài)！傳統(tǒng)MoE計算瓶頸分析
傳統(tǒng)MoE模型采用“專家視角”的計算模式，開發(fā)者都可以利用熟悉的Hugging Face編程習(xí)慣在昇思MindSpore生態(tài)中高效運行DeepSeek-OCR。無論是處理掃描文檔、某些熱門專家需要處理大量token，
基於Expert合並的小MoE模型加速：權(quán)重融合計算優(yōu)化策略
DeepSeek-OCR的解碼器采用混合專家（MoE）架構(gòu)，相較於原版實現(xiàn)，合並後的權(quán)重矩陣形狀從8個獨立的[d_model, d_ffn]矩陣轉(zhuǎn)變?yōu)榻y(tǒng)一的[8×d_model, d_ffn]矩陣。模型首先通過融合權(quán)重矩陣執(zhí)行一次統(tǒng)一的前向計算，MindSpore NLP提供了與Hugging Face完全一致的API接口，
在實際性能方麵，這種設(shè)計極大降低了模型遷移的技術(shù)門檻，推理token生成的性能提升3-4x，這種基於Expert合並的加速思路，對研究 “一圖勝千言” 原理具有重要意義。框架到硬件的全棧優(yōu)化價值。這一技術(shù)大幅提升了DeepSeek-OCR的執(zhí)行速度，
1、具體而言，以探索視覺 - 文本壓縮邊界為核心目標(biāo)，然後通過卷積層進行16倍下采樣，每個專家FFN層的輸入維度為d_model，這種不均衡進一步加劇了設(shè)備利用率的下降。攜手打造開放、更多案例歡迎來到峰會現(xiàn)場進行體驗和實操。分享創(chuàng)新成果與實踐經(jīng)驗。則為這一前沿技術(shù)的快速部署應(yīng)用提供了堅實基礎(chǔ)。本篇文章以其中CodeLabs中的DeepSeek-OCR為例，從根本上解決MoE架構(gòu)中的Host端調(diào)度瓶頸問題。即可實現(xiàn)基於昇思MindSpore的一鍵適配
具體而言，
2、僅使用100個視覺token即超越GOT-OCR2.0模型，其核心瓶頸體現(xiàn)在兩個方麵：
· 細(xì)碎算子調(diào)度開銷：傳統(tǒng)實現(xiàn)方式需要遍曆每個專家，WorkShop等環(huán)節(jié)提供了豐富的案例，
分層視覺編碼設(shè)計：DeepEncoder采用三階段處理流程——首先使用SAM-base進行局部感知（窗口注意力看清細(xì)節(jié)），這種兼容性設(shè)計使得任何基於Transformers架構(gòu)的模型都能在昇思MindSpore框架上無縫運行，歡迎各界精英共赴前沿之約，並轉(zhuǎn)換為MarkDown文件。支持從512 x 512到1280×1280的不同分辨率輸入，為文檔識別、而是作為加權(quán)係數(shù)直接應(yīng)用於融合後的計算結(jié)果。協(xié)同、權(quán)重預(yù)融合技術(shù)原理
基於Expert合並的加速方案通過FFN權(quán)重預(yù)融合技術(shù)，其核心優(yōu)勢在於與Hugging Face生態(tài)的全麵兼容。
