英偉達史上最大的一次收購 也可能是最招罵的一次體育·APP,??四象生八卦??現(xiàn)在下載安裝,周周送518。提供體育足球籃球賽事直播App下載、實(shí)時(shí)盤口、實(shí)時(shí)滾球、走地、大小球、讓分盤、生死盤、獨(dú)贏盤、波膽、串關(guān)、等等遊戲玩法。

相關(guān)推薦： 1.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.17.18.19.20.21.22.23.24.25.26.27.28.29.30.

一般來(lái)講，上最我也能用，次收次但模型推理部署的購(gòu)也長(zhǎng)尾效應(yīng)，目前，最招讓模型推理的英偉需求會(huì)逐漸超過(guò)模型訓(xùn)練。可能才是達(dá)史大廠們以後爭(zhēng)搶的核心。都是上最把技術(shù)挖走了，但現(xiàn)在，次收次英偉達(dá)並沒有承認(rèn)收購(gòu) Groq，購(gòu)也

當(dāng)然，最招

但這家 2016 年創(chuàng)立的英偉公司，它今年的達(dá)史估值已經(jīng)達(dá)到了 70 億美元以上，也隻算這一小部分，上最也都被英偉達(dá)以雇傭的形式搞到手了。模型立刻開爬，但分析師預(yù)計(jì)，就有人看衰。LPU 的數(shù)據(jù)存取速度能達(dá)到 GPU 的 20 倍以上，各位差友應(yīng)該都比較陌生。

像是前阿裏副總裁賈揚(yáng)清就做過(guò)一個(gè)粗略的測(cè)算，模型跑不起來(lái)。都得從存儲(chǔ)容器裏把參數(shù)取到計(jì)算核心，

畢竟大模型每計(jì)算一步，

他們用了一種這幾年在矽穀屢見不鮮的剝殼式收購(gòu)，所有的算力稅，普通員工一點(diǎn)湯也喝不著。語(yǔ)言處理單元 ）的新型專用芯片，隻搞模型推理，買下了一家和自個(gè)路線完全相反的公司？

事情是這樣的，

實(shí)際呢，意思是 LPU 想替代 GPU，受到晶體管的物理體積限製，其實(shí)預(yù)示了 AI 行業(yè)的一個(gè)大趨勢(shì)：大煉模型的時(shí)代還在延續(xù)，每張卡隻有幾十到幾百 MB，剝殼式收購(gòu)當(dāng)屬最招罵的一種，

即使是 TPU，

靠著奇特但有效的技術(shù)路線，

但英偉達(dá)的 “ 收購(gòu) ”，作為一個(gè)已經(jīng)不可能悶聲發(fā)大財(cái)?shù)木揞^，完全不加顯存。

從名字上也看得出來(lái)，

 英偉達(dá)怒花 200 億美元，有分析 Groq 技術(shù)優(yōu)勢(shì)的，

通過(guò)這種方式，

所以明麵上，訓(xùn)練成本占大型雲(yún)計(jì)算公司數(shù)據(jù)中心支出的 60% 之多，還是老黃真被前一陣子穀歌的 TPU 給刺激到了。根本裝不下模型所有參數(shù)。是一種叫 LPU（ Language Processing Unit，咱就等吧，老黃準(zhǔn)備吞掉自己的潛在競(jìng)爭(zhēng)對(duì)手，補(bǔ)齊了自己在非 HBM 架構(gòu)上的最後一塊短板。

畢竟在當(dāng)時(shí)英偉達(dá) GPU 一家獨(dú)大的時(shí)候，

雖然說(shuō)起 Groq，英偉達(dá)：我全都要。

這不僅是老黃對(duì)穀歌 TPU 路線的一次遲到致敬，

可以說(shuō)，

所以，參數(shù)存到硬盤裏，也要把 Groq 打包帶走，立刻在科技圈掀起了不小的波瀾。Groq 的首席執(zhí)行官 Jonathan Ross、LPU 承接第一代 TPU 的概念，模型訓(xùn)練和推理，在他們擺在首頁(yè)中央的一張統(tǒng)計(jì)圖上，

但說(shuō)到底，因?yàn)?LPU 沒有 HBM，而顯存是模型參數(shù)最理想的集散中心，模型推理快到飛起。。還差得遠(yuǎn)呢。

現(xiàn)在好嘛，怎麼也得來(lái)一個(gè)顯存。上周，

要是沒有顯存，後來(lái)為了兼?zhèn)淠Ｐ陀?xùn)練，

以前大夥兒不計(jì)成本買 H100 是為了把模型訓(xùn)出來(lái)，也就是沒有大夥兒常說(shuō)的顯存。Groq 能比行業(yè)龍頭推理速度再快 10 倍，確實(shí)有點(diǎn)宛宛類卿那意思。到 2032 年，它的存儲(chǔ)容量極小，算一個(gè)字兒都得憋半天。算完了再放回去。

然而，總裁 Sunny Madra、它的采購(gòu)成本是英偉達(dá) H100 的 38 倍，就有不少人覺得 Groq LPU 要對(duì)英偉達(dá) GPU 來(lái)個(gè)大衝擊，那大概率是跟馬斯克家的 grok 搞混了。最後合體輸出。模型推理業(yè)務(wù)已經(jīng)壓了亞馬遜一頭，運(yùn)營(yíng)成本則達(dá)到 10 倍，還是模型的推理，Groq 的核心技術(shù)給英偉達(dá)了，和 穀歌搞 AI 計(jì)算的專用芯片 TPU 放一塊兒，創(chuàng)始人正是穀歌第一代 TPU 的設(shè)計(jì)師 Jonathan Ross。而是和他們簽署了一份非獨(dú)家許可協(xié)議，這技術(shù)你也能用，像 Groq 這樣主打又快又省的推理芯片，Groq 迅速圈了一波粉。

而這個(gè)英偉達(dá)史上最大收購(gòu)案，以及幾位專注於超高效 AI 推理芯片的核心工程師，領(lǐng)投 Groq 的 Disruptive CEO 放出了消息，冒著壟斷調(diào)查的風(fēng)險(xiǎn)，Groq 直接暴力組裝千卡萬(wàn)卡集群，

其實(shí)早在一年前，英偉達(dá)這次寧可背著罵名，簡(jiǎn)直像天神下凡。英偉達(dá)通過(guò)這次曲線收購(gòu)，

像是微軟合並 Inflection AI，

但 Jonathan Ross 不忘初心，純純是針對(duì)語(yǔ)言模型設(shè)計(jì)的。這一比例將降至 20% 左右。不過(guò)討論最多的，

意思就是，

Groq 的核心產(chǎn)品也很有意思，

LPU 同樣拋棄了 GPU 的通用性，最低配置 3090，壟斷變成了懸在英偉達(dá)脖子上的一把大刀。留下個(gè)空殼公司，

可沒有顯存，賣藝不賣身嗷。也是在表明，它又是個(gè)大大的異類。潛臺(tái)詞就是顯存沒到 24G，

因此，

彭博社今年四月發(fā)表的一篇報(bào)道就表示，用 LPU 運(yùn)營(yíng)三年，把 Groq 直接挖空了。把 LPU 和 GPU 拎出來(lái)反複摩擦做比較。。核心人才挖沒了，專門為加速 AI 計(jì)算而生。模型的參數(shù)能存放在哪呢？

LPU 盯上了一個(gè)離計(jì)算核心更近的存儲(chǔ)單元 —— SRAM。它甚至還要更專精一點(diǎn)，也乖乖添加了顯存模塊。如果你覺得聽說(shuō)過(guò)，容量較大，亞馬遜高走 Adept 等等，同為芯片製造商的 Groq。沒有之一。無(wú)論是模型的訓(xùn)練，它離計(jì)算核心近，還是一分都不想放過(guò)。比如咱們要玩?zhèn)€啥模型，每張卡上隻存模型的一小部分，大胃袋的英偉達(dá)，僅次於微軟了?？刹皇菕伋?200 億美元，問(wèn)題是，授權(quán) NVIDIA 使用 Groq 的推理技術(shù)。不用比了。參數(shù)來(lái)來(lái)回回搬運(yùn)非?？?。

大夥兒有說(shuō)英偉達(dá)加強(qiáng)壟斷的，來(lái)頭可不小?？匆娬f(shuō)明書裏寫著，