7 月 3 日消息，臺(tái)媒《工商時(shí)報(bào)》消息，英偉達(dá) H200 上游芯片端于二季度下旬起進(jìn)入量產(chǎn)期，預(yù)計(jì)在三季度以后開(kāi)始大規(guī)模交付。

據(jù)此前報(bào)道，OpenAI 近日在舊金山舉辦了一場(chǎng)研討會(huì)，英偉達(dá)首席執(zhí)行官黃仁勛親自出席，共同宣布交付第一臺(tái) Nvidia DGX H200。

H200 作為 H100 的迭代升級(jí)產(chǎn)品，基于 Hopper 架構(gòu)，首次采用了 HBM3e 高帶寬內(nèi)存技術(shù)，實(shí)現(xiàn)了更快的數(shù)據(jù)傳輸速度和更大的內(nèi)存容量，對(duì)大型語(yǔ)言模型應(yīng)用表現(xiàn)出顯著優(yōu)勢(shì)。

根據(jù)英偉達(dá)官方發(fā)布的數(shù)據(jù)，在處理諸如 Meta 公司 Llama2 這樣的復(fù)雜大語(yǔ)言模型時(shí)，H200 相較于 H100 在生成式 AI 輸出響應(yīng)速度上最高提升了 45%。

供應(yīng)鏈指出，目前待出貨的客戶(hù)端訂單仍多集中于 HGX 架構(gòu)的 H100，H200 比重有限，因采用配貨制，目前各家終端系統(tǒng)合作伙伴的出貨主力 H100 GPU，到貨時(shí)間最長(zhǎng)仍可能達(dá) 20 周。

消息稱(chēng) B100 將于明年上半年出貨。英偉達(dá) CEO 黃仁勛此前表示，從 B100 開(kāi)始未來(lái)所有產(chǎn)品的散熱技術(shù)都將由風(fēng)冷轉(zhuǎn)為液冷。英偉達(dá) H200 GPU 的 TDP 為 700W，保守估計(jì) B100 的 TDP 接近千瓦，傳統(tǒng)風(fēng)冷不能滿(mǎn)足芯片工作過(guò)程中對(duì)于散熱需求，散熱技術(shù)將全面向液冷革新。