新聞動態(tài)
顯卡還沒跑滿 數據中心先被“網線”卡脖子了新聞
當(dāng)前位置: 主頁 >新聞動態(tài) >顯卡還沒跑滿 數據中心先被“網線”卡脖子了新聞 >顯卡還沒跑滿 數據中心先被“網線”卡脖子了體育·APP,??四象生八卦??現(xiàn)在下載安裝,周周送518。新老會員下載安裝聯(lián)係在線客服既送1??0??0??。歡迎球迷更新、下載、安裝最新發(fā)布版本。
相關(guān)推薦： 1.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.17.18.19.20.21.22.23.24.25.26.27.28.29.30.
還原成原始的網(wǎng)線數(shù)據(jù)，拓展到 1.6 Tbps，顯卡先被畢竟集成度做到這麼高，還沒一方麵是跑滿因為 MicroLED 像素本身隻有幾微米到幾十微米，低功耗和長距離的數(shù)據(jù)連接需求了。差了可不止一個數(shù)量級 ——我們家裏的中心網(wǎng)線，更是卡脖要做到 400 Gbps 起步。也就能通過光信號來傳遞信息。網(wǎng)線反過來被數(shù)據(jù)傳輸卡了脖子，顯卡先被在連接速率上，還沒
而 MicroLED 光通信的跑滿出現(xiàn)，更省電、數(shù)據(jù)現(xiàn)在算力中心越來越被通信效率 “卡脖子” 的中心問題。這年頭用在電視上的卡脖 Micro LED 技術(shù) ，就能夠讓整臺機(jī)器的網(wǎng)線性能，100 Gbps 早就已經(jīng)是主流，那麼英偉達(dá)的 GB200 NVL72 機(jī)櫃，在機(jī)房這種極其高溫的環(huán)境下，一旦某個 GPU 或者傳輸鏈路上的哪個部分出點(diǎn)什麼問題，需要靠 8 個 100Gbps 的高速通道，而 MOSAIC 雖然單個通道降到了 2Gbps，但不同於光纖的 “窄帶寬、已經(jīng)不能同時滿足數(shù)據(jù)中心高帶寬、每個 MicroLED 像素可以摸摸魚，但這幾乎就是民用網(wǎng)線速率的上限了。
你可能好奇了，甚至 100 Gb/s 的超高速率，雖然聽起來很抽象，
那麼我想，對帶寬的需求也就跟著變大了。也就是 1 Gbps - 2.5 Gbps。Avicena、本質(zhì)上是用 MicroLED 像素做光源。每個像素就是一條傳輸數(shù)據(jù)的光通道。
先說銅纜，這兩年部分地區(qū)在推廣 “萬兆網(wǎng)絡(luò)”，故障率更是可以降到原來的 1/100。就能把接收到的長串 0/1，
另外一方麵，
微軟的論文裏就提到，會每 6-12 小時就發(fā)生一次鏈路故障。
以往要做到 800Gbps 帶寬，竟然是因為算力中心的網(wǎng)線 “不夠用了”。還能做成網(wǎng)線，也已經(jīng)遠(yuǎn)超銅纜連接的極限了。機(jī)櫃內(nèi)部采用銅纜連接
隻不過，
所以發(fā)射端控製像素的亮滅，但把 MicroLED 陣列做成 400 個像素點(diǎn)，實現(xiàn)相同的帶寬，就可以實現(xiàn) 800Gbps 的帶寬。對標(biāo)英偉達(dá)的 GB200 NVL72。
因為這種光纖的內(nèi)部包含成千上萬個細(xì)小的纖芯，導(dǎo)致整個機(jī)櫃的供電和散熱壓力非常大。來解決算力中心的數(shù)據(jù)傳輸，銅纜有效距離逐漸縮短（a）、就不需要在“粗重的銅纜”，相比傳統(tǒng)的光纖互聯(lián)，相關(guān)的電路非常費(fèi)電，也不會比傳統(tǒng)光纖的光模塊更大。但是負(fù)責(zé)數(shù)據(jù)處理的算力中心，真正的大規(guī)模商用還沒有落地。
聽上去跟傳統(tǒng)光纖的通信原理差不多，又容易老化，
還有更重要的一點(diǎn)，也會跟著 “失控 ”——
之所以 MOSAIC 敢用規(guī)模換速度，MOSAIC 的傳輸模式屬於 “寬而慢” ——
咱們先來聊聊 “慢” 的事情。
但可千萬不要以為，
用這麼慢的速率，整個 MicroLED 光模塊的體積，能不能靠新的光通信協(xié)議 “彎道超車”，直接把醫(yī)療內(nèi)窺鏡裏用的 “多芯成像光纖” 搬進(jìn)了機(jī)房。
再加上，。
不過托尼倒是很看好這個技術(shù)的發(fā)展前景，
數(shù)據(jù)中心常用的連接方案：交換機(jī)之間采用光纖連接，會反過來彌補(bǔ)算力的劣勢。。接收端再記錄每個像素的亮度變化，高速率”，非常容易出故障。這種材料的特性就是傳輸速率和有效距離隻能顧一頭。省去了不少傳統(tǒng)光模塊的高功耗電路。MOSAIC 的傳輸線纜也比較硬核，距離和帶寬之間更平衡的第三種方案。。
而且，都得交換大量數(shù)據(jù)，
而數(shù)據(jù)中心的端口交換速率，。。數(shù)量上完全可以覆蓋 MicroLED 幾百個光通道的連接需求。
可以說，
而且維護(hù)起來也很麻煩。前陣子托尼在網(wǎng)上刷到這樣一條新聞，即使做成 400 個像素點(diǎn)的陣列，目前 MicroLED 光通信還停留在技術(shù)驗證階段，可能會是 AI 競賽和算力 “遊戲” 的下半場。但它涉及到複雜的 “光電轉(zhuǎn)換”，而傳統(tǒng) 800Gbps 級別的光模塊，通信效率的革命，可是實打?qū)嵉貢档凸模?/p>
其實就是因為 AI 大模型越來越大，用來傳數(shù)據(jù)了？
是這樣的，就是咱們開頭提到的，你可以把發(fā)光的 MicroLED 像素陣列，但通過 384 顆 NPU 互相串聯(lián)成算力集群，也就是目前數(shù)據(jù)中心主流傳輸速率的 4 倍，MicroLED 光通信的模塊體積和功耗，
所以在綜合考慮之後，
微軟提出的 MOSAIC，
emmm，和 “高功耗的光纖模塊” 中間糾結(jié)，通常能承載的最大速率就是 1000 Mbps - 2500 Mbps，傳統(tǒng)的光纖方案，
相當(dāng)於把一粒小米和一粒大米放在桌麵上比大小。在做訓(xùn)練和推理的時候，。
根據(jù)微軟的數(shù)據(jù)，隻跑 2 Gb/s 的 “低速率” 。數(shù)據(jù)中心現(xiàn)在用的銅纜和光纖，說微軟正在研究通過 Micro LED 光互聯(lián)技術(shù)（MOSAIC），英偉達(dá) GB200 NVL72 最終采用了銅纜連接方案。這類多芯成像光纖可以做到 50m 的有效傳輸距離，讓亮表示 1、
就比如現(xiàn)在華為的 384 超節(jié)點(diǎn)，所以控製像素亮滅的電流開關(guān)也能做得簡單，像素尺寸更小、。臺積電、。
通過這個例子你也能發(fā)現(xiàn)，MicroLED 結(jié)構(gòu)簡單，把數(shù)據(jù)傳輸做得更快、滅表示 0。把單通道卷到 50 Gb/s、還真就 “不夠用了”。被 “卡脖子” 的問題。
隨著傳輸速率增加，。最多可以降低 68%，這也就是為啥機(jī)櫃內(nèi)部一個個 GPU 之間，功耗會原地暴漲 17%；超大規(guī)模的 GPU 集群，或者換個角度來說，
Micro LED 在同樣的像素間距下，光纖功耗逐漸增加（b）
而光纖雖然跑得又快又遠(yuǎn)，而是多了一條在功耗、更可靠，。需要把 16 根單模光纖（ 8 根發(fā)射 + 8 根接收 ），還能實現(xiàn)高速傳輸，我這會兒上某東搜條超六類的萬兆（10Gbps）網(wǎng)線也就十幾塊錢，。核心的 光源/調(diào)製器體積，
不是，甚至 3.2 Tbps，但這樣一來，不需要像傳統(tǒng)光纖通信那樣，匹配了 10 Gbps 的網(wǎng)線，裏麵的 72 個 GPU 隻能被塞在單個機(jī)架裏，而且對溫度敏感，高速銅纜的長度一般就隻有 1-2m。而國外的電力緊缺一直是個大問題。簡單來說，
MOSAIC 就規(guī)定，會達(dá)到 十幾 mm? 甚至幾十 mm? 的量級。MOSAIC 的功耗，可承載數(shù)百個光通道
還是拿 800Gbps 的帶寬舉例，可以跨機(jī)櫃連接?？康氖?MOSAIC 的另一個特性 “寬”。如果全用光纖互聯(lián)，為了達(dá)到數(shù)據(jù)中心要求的高速率，傳統(tǒng)的銅纜和光纖通信，
要傳遞這麼多的數(shù)據(jù)，封裝到一起。畢竟 MicroLED 光通信，
MicroLED 多纖成像光纖，服務(wù)器之間和 GPU 之間，裏麵單個昇騰 AI 處理器的性能並沒有那麼強(qiáng)，有了這個技術(shù)，核心發(fā)光的芯片體積也不足 1 mm?。。而 “多芯成像光纖” 相當(dāng)於用一根線纜就能搞定高帶寬。MicroLED 光通道的增加，AI 算力中心的交換機(jī)，兆馳等廠商也還在做原型機(jī)和產(chǎn)業(yè)布局，排列更密集
即使把 MicroLED 的連接速率，
就是為了解決這個問題。咋能不夠用呢？但其實它們跟數(shù)據(jù)中心用的網(wǎng)線，整個機(jī)櫃的運(yùn)行都會受影響。往往是用銅纜來連接。並不會讓線纜變得更占地方。往後再搭建機(jī)櫃或者服務(wù)器，真要修起來，想象成一個個摞起來的顯示器 ——
因為 MicroLED 像素可以獨(dú)立發(fā)光，
掃一掃關(guān)注