受惠于過去幾年人工智能的爆發(fā)，全球GPU領(lǐng)導(dǎo)廠商英偉達不但成為全球市值最高的半導(dǎo)體企業(yè)。與此同時，公司又收購了Mellanox和Arm，打造了完整的數(shù)據(jù)中心芯片產(chǎn)品線，全新的英偉達儼然成為數(shù)據(jù)中心最炙手可熱的明星。
英偉達創(chuàng)始人黃仁勛在昨晚開幕的GTC大會上也表示，在其CPU、DPU和GPU這三條產(chǎn)品線，公司未來在數(shù)據(jù)中心將會創(chuàng)造更多可能。而在本次大會上，英偉達也帶來了CPU和DPU的更新。尤其是收購Arm之后發(fā)布的首款CPU，更吸引了廣泛的關(guān)注。
在筆者看來，這顆芯片的發(fā)布，又一次吹響了英偉達向英特爾盤踞的數(shù)據(jù)中心市場進攻的號角。
為什么數(shù)據(jù)中心需要新的xPU？
熟悉數(shù)據(jù)中心構(gòu)造的讀者應(yīng)該知道，傳統(tǒng)的數(shù)據(jù)中心必不可少的一個芯片那就是英特爾X86架構(gòu)的CPU。然而伴隨著AI的流行，這種傳統(tǒng)的架構(gòu)就不再滿足了新興應(yīng)用的需求，這就給有用并行計算先天優(yōu)勢的英偉達帶來了機會，這也是他們過去幾年在數(shù)據(jù)中心如魚得水的原因。
但按照黃仁勛的說法，隨著數(shù)據(jù)中心訓練模型的變大，加上對芯片處理能力需求的提升，這就給數(shù)據(jù)中心的CPU的數(shù)據(jù)“搬運”和網(wǎng)絡(luò)相關(guān)處理帶來了新的挑戰(zhàn)。換而言之，就是當前數(shù)據(jù)中心使用的X86 CPU很難兼顧數(shù)據(jù)在CPU和GPU之間流動和網(wǎng)絡(luò)處理的需求，為此這就給DPU和英偉達自研的Arm架構(gòu)CPU帶來了機會。這也是英偉達收購Mellanox和Arm的原因。
所謂DPU，也就是Data Processing Unit（數(shù)據(jù)處理器）。在英偉達的產(chǎn)品線布局中，這是一款把ARM處理器核、VLIW矢量計算引擎和智能網(wǎng)卡的功能集成在了一起的產(chǎn)品，主要應(yīng)用在分布式存儲、網(wǎng)絡(luò)計算和網(wǎng)絡(luò)安全領(lǐng)域。根據(jù)相關(guān)資料顯示，這款產(chǎn)品是他們基于公司之前收購的Mellanox內(nèi)部孵化而成的。
據(jù)介紹，DPU可從CPU上卸載關(guān)鍵的網(wǎng)絡(luò)、存儲和安全任務(wù)，使企業(yè)能夠?qū)⑵銲T基礎(chǔ)設(shè)施轉(zhuǎn)變?yōu)樽钕冗M的數(shù)據(jù)中心。此類數(shù)據(jù)中心可實現(xiàn)加速、具有完全可編程性，并具有 “零信任”安全功能，防止數(shù)據(jù)泄露和網(wǎng)絡(luò)攻擊。這就減輕了CPU的負載，讓其只專注于亟需處理的各種企業(yè)應(yīng)用程序。
來到CPU方面，正如前文所說，數(shù)據(jù)中心目前幾乎都是X86架構(gòu)的至強處理器的市場。然而黃仁勛指出，正是因為這樣的配置，影響了整個數(shù)據(jù)中心的數(shù)據(jù)傳輸。“現(xiàn)在CPU的存儲和PCIE帶寬，嚴重影響了GPU能力的釋放”，黃仁勛強調(diào)，為此他推出了全新的基于Arm架構(gòu)打造的CPU Grace，希望借助這個新處理器以及自有的NVlink來解決這個數(shù)據(jù)瓶頸問題。
英偉達xPU的強勢出擊
在上述思路的驅(qū)動下，英偉達推出了全新的DPU Bluefield-3 和新款CPU Grace。
首先看DPU方面，據(jù)介紹，BlueField-3將具有16個Arm A78內(nèi)核，能提供十倍于BlueField 2的計算能力，在帶寬方便則可以達到400Gbit / s，同時也加上了對PCIe gen 5的支持，獲得了比PCIe gen 3快四倍的速度。在這個芯片中，Nvidia還加入了兩個加速器，為軟件定義存儲、網(wǎng)絡(luò)、安全、流和TLS / IPSEC加密等應(yīng)用提供支持。此外和BlueField-2一樣BLUEFIELD-3能給5G電信和時間同步數(shù)據(jù)中心的精確定時。數(shù)據(jù)顯示BlueField-3的額定值為350 SPECINT和1.5 TOPS（TeraOps）。
黃仁勛進一步指出，一個Bluefield-3 DPU約等于300個x86 cpu內(nèi)核，因此它能夠大大減輕CPU的負載。BlueField-3同時還可以充當Nvidia的Morpheus云原生網(wǎng)絡(luò)安全框架的監(jiān)視或遙測代理。據(jù)介紹，公司將于2024年推出性能更強的Bluefield-3 ，進一步加強公司在這個市場的影響力。
以美國海軍少將、計算機編程先驅(qū)Grace Hopper的名字命名的CPU，則開啟了英偉達數(shù)據(jù)中心的新時代。據(jù)黃仁勛介紹，這個處理器能夠與常規(guī)GPU產(chǎn)品一起工作，讓公司能夠獲得更全面地垂直集成其硬件堆棧的能力。按照NVIDIA的說法，該芯片是專門為大規(guī)模神經(jīng)網(wǎng)絡(luò)工作負載設(shè)計的，預(yù)計將于2023年在NVIDIA產(chǎn)品中使用。
按照anandtech介紹，Grace的發(fā)布旨在填補NVIDIA AI服務(wù)器產(chǎn)品線中CPU的空白。該公司的GPU非常適合某些類的深度學習工作負載，但GPU并不能執(zhí)行數(shù)據(jù)中心里的所有操作，這就是CPU存在的意義，為此NVIDIA當前的服務(wù)器產(chǎn)品通常依賴于AMD的EPYC處理器和Intel至強這樣的處理器，
但正如前文所說，這些處理器對于一般的計算而言是非常快，但不能滿足NVIDIA所追求的那種高速I / O和深度學習優(yōu)化。特別在NVIDIA目前使用PCI Express來進行CPU和GPU連接時，這種連接方式就成為瓶頸。如果引入NVLink，那么系統(tǒng)中的GPU彼此之間就可以直接快速對話，而不需返回主機CPU或系統(tǒng)RAM。
“基于Grace的系統(tǒng)與NVIDIA GPU緊密結(jié)合后，性能將比目前基于X86 CPU的，最先進的 NVIDIA DG高出十倍”，黃仁勛表示。“絕大多數(shù)的數(shù)據(jù)中心仍將繼續(xù)使用現(xiàn)有的CPU，而Grace將主要用于計算領(lǐng)域的細分市場”，黃仁勛進一步指出。
從anandtech的介紹我們可以看到，在之前，NVIDIA為了在數(shù)據(jù)中心使用NVLink，選擇了POWER9處理器作為合作伙伴，但Grace的發(fā)布，從某種程度上宣布了這種合作的終結(jié)。
寫在最后
其實在這次發(fā)布會上，NVIDIA還發(fā)布了他們新一代的AI自動駕駛汽車處理器NVDIA DRIVE Atlan，它能夠提供約為上代產(chǎn)品Orin四倍的速度。作為一款集成了DPU、下一代架構(gòu)GPU、新型Arm 內(nèi)核和最新深度學習和計算機視覺加速器的SoC，NVDIA DRIVE Atlan能夠獲得高達1000TOPS的速度，以及能提供極高的帶寬，為未來的自動駕駛設(shè)計賦能。
除了芯片以外，NVIDIA還帶來了各種軟硬件的更新，例如用于仿真、協(xié)作、和自助機器訓練的NVIDIA Omniverse，專為工作組打造的便攜式AI數(shù)據(jù)中心NVIDIA DGX Station，面向企業(yè)級的NVDIA EGX，用于訓練Transformer框架的NVIDIA Megatron，用于計算藥物研發(fā)加速庫Clara Discovery的一些模型，能夠為量子電路模擬器提供加速的cuQuantum，數(shù)據(jù)中心安全平臺NVIDIA Morpheus，先進的深度學習對話式AI Jarvis和推理服務(wù)器Triton等一系列產(chǎn)品。此外，英偉達還宣布了和Ampere computing和Amazon等一系列Arm服務(wù)器芯片廠商的合作，共同推動Arm生態(tài)的發(fā)展。
黃仁勛表示，憑借公司現(xiàn)有的芯片、軟件、AI和各種產(chǎn)品，英偉達能助力開發(fā)者成就畢生的事業(yè)。尤其是在芯片方面，黃仁勛強調(diào)，公司數(shù)據(jù)中心路線圖包括CPU、GPU和DPU這三類芯片，而Grace和BlueField是其中必不可少的關(guān)鍵組成部分。每個芯片架構(gòu)歷經(jīng)兩年的打磨周期（周期內(nèi)可能出現(xiàn)轉(zhuǎn)變），一年專注于 x86 平臺，另一年專注于 Arm 平臺。
“我們每年都會發(fā)布激動人心的新品。三類芯片，逐年飛躍，一個架構(gòu)。”黃仁勛補充說。