純純是英偉針對語言模型設(shè)計的。補齊了自己在非 HBM 架構(gòu)上的達史最後一塊短板。

通過這種方式，上最

靠著奇特但有效的次收次技術(shù)路線，可能才是購也大廠們以後爭搶的核心。那大概率是最招跟馬斯克家的 grok 搞混了。

所以，英偉Groq 的達史首席執(zhí)行官 Jonathan Ross、核心人才挖沒了，上最還是次收次一分都不想放過。看見說明書裏寫著，購也

但英偉達的最招 “ 收購 ”，但現(xiàn)在，英偉算完了再放回去。達史

這不僅是上最老黃對穀歌 TPU 路線的一次遲到致敬，

實際呢，像 Groq 這樣主打又快又省的推理芯片，

當然，

像是前阿裏副總裁賈揚清就做過一個粗略的測算，

畢竟在當時英偉達 GPU 一家獨大的時候，模型跑不起來。都得從存儲容器裏把參數(shù)取到計算核心，模型推理快到飛起。

一般來講，以及幾位專注於超高效 AI 推理芯片的核心工程師，在他們擺在首頁中央的一張統(tǒng)計圖上，

即使是 TPU，到 2032 年，這一比例將降至 20% 左右。語言處理單元 ）的新型專用芯片，Groq 能比行業(yè)龍頭推理速度再快 10 倍，所有的算力稅，有分析 Groq 技術(shù)優(yōu)勢的，

而這個英偉達史上最大收購案，專門為加速 AI 計算而生。模型立刻開爬，還差得遠呢。授權(quán) NVIDIA 使用 Groq 的推理技術(shù)。英偉達這次寧可背著罵名，

大夥兒有說英偉達加強壟斷的，不用比了。英偉達通過這次曲線收購，運營成本則達到 10 倍，模型推理業(yè)務(wù)已經(jīng)壓了亞馬遜一頭，確實有點宛宛類卿那意思。普通員工一點湯也喝不著。隻搞模型推理，參數(shù)來來回回搬運非常快。問題是，

因此，Groq 就歸我了。怎麼也得來一個顯存。

以前大夥兒不計成本買 H100 是為了把模型訓(xùn)出來，

Groq 的核心產(chǎn)品也很有意思，其實預(yù)示了 AI 行業(yè)的一個大趨勢：大煉模型的時代還在延續(xù)，

可以說，英偉達：我全都要。

LPU 同樣拋棄了 GPU 的通用性，

畢竟大模型每計算一步，而顯存是模型參數(shù)最理想的集散中心，留下個空殼公司，和 穀歌搞 AI 計算的專用芯片 TPU 放一塊兒，我也能用，

然而，來頭可不小。

從名字上也看得出來，創(chuàng)始人正是穀歌第一代 TPU 的設(shè)計師 Jonathan Ross。沒有之一。不過討論最多的，模型的參數(shù)能存放在哪呢？

LPU 盯上了一個離計算核心更近的存儲單元 —— SRAM。

所以明麵上，它今年的估值已經(jīng)達到了 70 億美元以上，英偉達並沒有承認收購 Groq，把 LPU 和 GPU 拎出來反複摩擦做比較。潛臺詞就是顯存沒到 24G，

意思就是，

但 Jonathan Ross 不忘初心，賣藝不賣身嗷。

現(xiàn)在好嘛，壟斷變成了懸在英偉達脖子上的一把大刀。模型訓(xùn)練和推理，總裁 Sunny Madra、這技術(shù)你也能用，亞馬遜高走 Adept 等等，

可沒有顯存，

但說到底，最後合體輸出。每張卡隻有幾十到幾百 MB，。後來為了兼?zhèn)淠Ｐ陀?xùn)練，就有人看衰。立刻在科技圈掀起了不小的波瀾。LPU 的數(shù)據(jù)存取速度能達到 GPU 的 20 倍以上，領(lǐng)投 Groq 的 Disruptive CEO 放出了消息，也是在表明，目前，也隻算這一小部分，就有不少人覺得 Groq LPU 要對英偉達 GPU 來個大衝擊，也要把 Groq 打包帶走，

其實早在一年前，

要是沒有顯存，還是老黃真被前一陣子穀歌的 TPU 給刺激到了。如果你覺得聽說過，Groq 迅速圈了一波粉。買下了一家和自個路線完全相反的公司？

事情是這樣的，作為一個已經(jīng)不可能悶聲發(fā)大財?shù)木揞^，。可不是拋出 200 億美元，也乖乖添加了顯存模塊。還是模型的推理，咱就等吧，意思是 LPU 想替代 GPU，而是和他們簽署了一份非獨家許可協(xié)議，用 LPU 運營三年，但模型推理部署的長尾效應(yīng)，都是把技術(shù)挖走了，因為 LPU 沒有 HBM，受到晶體管的物理體積限製，它的存儲容量極小，

雖然說起 Groq，無論是模型的訓(xùn)練，LPU 承接第一代 TPU 的概念，

但這家 2016 年創(chuàng)立的公司，有人看好，同為芯片製造商的 Groq。

它離計算核心近，訓(xùn)練成本占大型雲(yún)計算公司數(shù)據(jù)中心支出的 60% 之多，根本裝不下模型所有參數(shù)。Groq 直接暴力組裝千卡萬卡集群，比如咱們要玩?zhèn)€啥模型，算一個字兒都得憋半天。完全不加顯存。每張卡上隻存模型的一小部分，是一種叫 LPU（ Language Processing Unit，

像是微軟合並 Inflection AI，Groq 的核心技術(shù)給英偉達了，大胃袋的英偉達，

彭博社今年四月發(fā)表的一篇報道就表示，它的采購成本是英偉達 H100 的 38 倍，上周，讓模型推理的需求會逐漸超過模型訓(xùn)練。容量較大，參數(shù)存到硬盤裏，僅次於微軟了。老黃準備吞掉自己的潛在競爭對手，也都被英偉達以雇傭的形式搞到手了。簡直像天神下凡。把 Groq 直接挖空了。

他們用了一種這幾年在矽穀屢見不鮮的剝殼式收購，冒著壟斷調(diào)查的風(fēng)險，

 英偉達怒花 200 億美元，也就是沒有大夥兒常說的顯存。它又是個大大的異類。各位差友應(yīng)該都比較陌生。但分析師預(yù)計，剝殼式收購當屬最招罵的一種，最低配置 3090，它甚至還要更專精一點，

---

相關(guān)推薦： 1.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.17.18.19.20.21.22.23.24.25.26.27.28.29.30.