7月1日消息，前不久，華為創(chuàng)始人任正非接受《人民日?qǐng)?bào)》采訪(fǎng)時(shí)為中國(guó)芯片指路——芯片問(wèn)題其實(shí)沒(méi)必要擔(dān)心，用疊加和集群等方法，計(jì)算結(jié)果上與最先進(jìn)水平是相當(dāng)?shù)摹?/p>

他坦言，我們單芯片還是落后美國(guó)一代，我們用數(shù)學(xué)補(bǔ)物理、非摩爾補(bǔ)摩爾，用群計(jì)算補(bǔ)單芯片，在結(jié)果上也能達(dá)到實(shí)用狀況。

任正非認(rèn)為，中國(guó)在中低端芯片上是可以有機(jī)會(huì)的，中國(guó)數(shù)十、上百家芯片公司都很努力。特別是化合物半導(dǎo)體機(jī)會(huì)更大。硅基芯片，我們用數(shù)學(xué)補(bǔ)物理、非摩爾補(bǔ)摩爾，利用集群計(jì)算的原理，可以達(dá)到滿(mǎn)足我們現(xiàn)在的需求。

那華為是怎么做的呢？

日前，華為云官微通過(guò)一段視頻展示了CloudMatrix 384超節(jié)點(diǎn)算力集群的威力——

384顆昇騰NPU（昇騰910C）+192顆鯤鵬CPU全對(duì)等互聯(lián)，形成一臺(tái)“超級(jí)AI服務(wù)器”；

業(yè)界最大單卡推理吞吐量——2300Tokens/s；

業(yè)界最大集群算力——16萬(wàn)卡，萬(wàn)卡線(xiàn)性度高達(dá)95%；

云上確定性運(yùn)維-40天長(zhǎng)穩(wěn)訓(xùn)練、10分鐘快速恢復(fù)。

華為云表示，新一代昇騰AI云服務(wù)，是最適合大模型應(yīng)用的算力服務(wù)。

此前，華為還發(fā)布了一一篇60頁(yè)的重磅論文，提出了他們的下一代AI數(shù)據(jù)中心架構(gòu)設(shè)計(jì)構(gòu)想——Huawei CloudMatrix，以及該構(gòu)想的第一代產(chǎn)品化的實(shí)現(xiàn)CloudMatrix384。

簡(jiǎn)單來(lái)說(shuō)，華為CloudMatrix并非簡(jiǎn)單的“堆卡”，而是通過(guò)高帶寬全對(duì)等互聯(lián)（Peer-to-Peer）來(lái)設(shè)計(jì)，這也是CloudMatrix 384硬件架構(gòu)的一大創(chuàng)新。

傳統(tǒng)的AI集群中，CPU相當(dāng)于公司領(lǐng)導(dǎo)的角色，NPU等其它硬件更像是下屬，數(shù)據(jù)傳輸?shù)倪^(guò)程中就需要CPU審批和簽字，效率就會(huì)大打折扣。

但在CloudMatrix384中，CPU和NPU等硬件更像是一個(gè)扁平化管理的團(tuán)隊(duì)，它們之間的地位比較平等，直接通過(guò)UB網(wǎng)絡(luò)通信直接對(duì)話(huà)，效率自然就上來(lái)了。

另外，論文還介紹了基于CloudMatrix384進(jìn)行DeepSeek推理的最佳實(shí)踐方案——CloudMatrix-Infer。

從官方給出的案例來(lái)看，CloudMatrix384預(yù)填充吞吐量達(dá)6688 token/s/NPU，解碼階段1943 token/s/NPU；計(jì)算效率方面，預(yù)填充達(dá)4.45 token/s/TFLOPS，解碼階段1.29 token/s/TFLOPS，均超過(guò)NVIDIA H100/H800上實(shí)現(xiàn)的性能。