《電子技術應用》
您所在的位置:首頁 > 電子元件 > 業界動態 > Cerebras全球最大芯片WSE升級二代:參數翻番,功耗不變

Cerebras全球最大芯片WSE升級二代:參數翻番,功耗不變

2021-04-22
來源:電子工程專輯
關鍵詞: Cerebras WSE 最大芯片

  4月20日,Cerebras Systems 公司再次刷新歷史,推出為超級計算機任務而打造的第 2 代 Wafer Scale Engine (WSE-2)芯片。與一代WSE相比,WSE-2雖然在面積上沒有變化,但卻擁有創紀錄的 2.6 萬億個晶體管以及 85萬個 AI 優化的內核,芯片的所有性能特征,包括:晶體管數、內核數、內存、內存帶寬和結構帶寬,均比一代增加了一倍以上。

  差不多兩年前(2019年8月),SeaMicro 創始人安德魯·費爾德曼(Andrew Feldman)創辦的 Cerebras  Systems 公司公司,揭開了芯片設計領域的一場革命,他們將整片晶圓制成了一個巨大的芯片。

微信圖片_20210422110041.jpg

  以往的芯片制造流程,是從硅錠切下一片晶圓后在Fab中進行加工,一片晶圓能被切成數百顆獨立的芯片。而這顆名為晶圓級引擎(Wafer Scale Engine,WSE-1)的處理器直接把整片晶圓做成了一顆芯片,面積與12英寸晶圓所能截取的最大矩形面積一樣——比iPad還大。

  不過,這顆芯片的每一塊區域都能被稱為內核,它們以一種復雜的方式與其他內核相互連接。互聯的設計是為了保持所有內核的高速運轉,以便所有晶體管能夠作為一個整體一起工作。在 2019 年推出的WSE-1中,Cerebras 融入了 40 萬個內核和 1.2萬億個晶體管,采用的是 16 納米工藝進行制造,可同時專注于AI和HPC(High Performance Computing,高性能計算機群)工作負載。

  更狠的第二代(WSE-2)來了

微信圖片_20210422110108.jpg

  4月20日,Cerebras Systems 公司再次刷新歷史,推出為超級計算機任務而打造的第二代 Wafer Scale Engine (WSE-2)芯片。與一代WSE相比,WSE-2雖然在面積上沒有變化,但卻擁有創紀錄的 2.6 萬億個晶體管以及 85萬個 AI 優化的內核,芯片的所有性能特征,包括:晶體管數、內核數、內存、內存帶寬和結構帶寬,均比一代增加了一倍以上。

微信圖片_20210422110123.jpg

  這得益于WSE-2采用基于臺積電(TSMC)的N7工藝(7nm)打造,使得邏輯電路可以按比例縮小,并在一定程度上縮小了SRAM,讓新芯片上可以容納更多AI內核。Feldman 說,有了這樣的先進工藝支持,Cerebras 可以在同樣的8*8英寸,面積約46225mm2的芯片中塞進更多的晶體管。

微信圖片_20210422110142.jpg

  WSE-2與一代對比(圖自:AnanTech)

  值得注意的是,在功能提升的前提下,Cerebras還能夠保持其系統功耗不變(23 kW)。

微信圖片_20210422110158.jpg

  對比市場上第二大AI處理器,英偉達的Ampere A100面積約為826mm2,具有0.054萬億個晶體管。WSE-2比它多了2.55萬億個晶體管;內核數是A100的123倍;緩存是其1000倍;可提供的內存帶寬,則達到了A100的13萬倍。

  Cerebras還引用了1000倍的板載內存,帶有40 GB的SRAM,而Ampere A100則為40 MB。

微信圖片_20210422110211.jpg

  最初推出WSE-1的時候,很多人擔心這么大的晶圓做芯片,萬一其中一塊不良,是否整個報廢?對此Cerebras解釋說,他們通過設計一種可以繞開任何制造缺陷的系統來實現100%的良率,核心與帶有FMAC數據路徑的2D Mesh連接

  Cerebras在WSE-1用了1.5%的額外核心來容納缺陷,但由于臺積電工藝的提升,這個數值被進一步縮小了。

  晶圓級引擎存在的意義

  WSE的出現,是因為訓練神經網絡需要花費較多的時間,即便是當今最先進的模型,也需要幾天或幾周的時間進行訓練,大型網絡則需要數周。通常做法是在數十、數百甚至數千個GPU上進行分布式訓練,以使訓練時間更可控。

  其中最大的瓶頸,是這些龐大的處理器集群很難編程,而且數據必須在處理器和外部 DRAM 存儲器之間進行多次傳輸,既浪費時間又消耗能源。所以WSE研發團隊的初衷是擴大芯片,使它與 AI 處理器內核一起容納所需的所有數據,一個CS-2的性能相當于整個GPU集群的性能,同時具有單個設備的簡單性……

微信圖片_20210422110228.jpg

  其設計的關鍵是自定圖形編譯器,采用pyTorch或TensorFlow將每一層映射到芯片的物理部分,從而允許在數據流過時進行異步計算。擁有如此大的處理器意味著數據永遠不會掉隊,也不需要在內存中等待,不浪費功率,并且可以以流水線的方式連續地移至計算的下一個階段。編譯器和處理器的設計還考慮到了稀疏性,無論批處理大小如何都可以實現高利用率,或者可以使參數搜索算法同時運行。

微信圖片_20210422110248.jpg

  Cerebras設計的獨特性,讓它能夠超越制造過程中出現的常見物理限制,即標線限制。處理器的設計限制,往往取決于芯片的最大尺寸,因為很難通過Cross link連接兩個區域。這是Cerebras的殺手锏之一,該公司仍然是唯一一家能提供這種規模處理器的公司。

微信圖片_20210422110303.jpg

  在Hot Chips 2020,該公司首席硬件架構師Sean Lie表示,Cerebras對客戶的主要好處之一是能夠簡化工作負載,以前需要使用GPU / TPU機架的工作,現在可以以計算相關的方式在單個WSE上運行。

  產品和合作伙伴

  Cerebras的第一代WSE作為CS-1的完整系統的一部分一起打包出售,不少實驗室與計算機中心已經部署了Cerebras WSE和CS-1。

微信圖片_20210422110326.jpg

  愛丁堡大學的超級計算中心,利用WSE進行自然語言處理、基因組學和COVID-19的相關研究。

  在美國阿貢國家實驗室(ANL),WSE被用于COVID-19研究、重力波檢測和材料發現等;并且在癌癥療法研究中,使癌癥模型的實驗周轉時間,減少了300倍以上。

  制藥企業葛蘭素史克的高級副總裁金·布蘭森表示:“其增加了生成的編碼器模型的復雜性,同時將訓練時間減少了80倍。”

  Lawrence Livermore將一臺CS-1與其23 PFLOP“拉森”超級計算機配對。匹茲堡超級計算機中心以500萬美元的價格購買了兩個系統,并將這些系統連接到他們的Neocortex超級計算機上,以實現同步AI和增強的計算能力。

  對于WSE-2的應用,國際調研公司Tirias Research首席分析師Jim McGregor認為:“顯然,對用于大型數據集的Cerebras晶圓級解決方案,有些公司和實體很感興趣。但是在企業層面,還有數百萬的其他AI應用,以及一些Cerebras不能處理的情況,這就是英偉達擁有SuprPod和Selene超級計算機的原因。與英偉達相比,Cerebras更像是一個小眾平臺,二者的廣度無法相提并論。”

  目前Cerebras在多倫多、圣地亞哥、東京和舊金山擁有約300名員工。該公司首席執行官安德魯·費爾德曼(Andrew Feldman)表示,作為一家公司,他們已經實現了盈利,已經部署了CS-1的客戶很多,并且在啟動商業系統時已經有更多的客戶在遠程試用CS-2。

微信圖片_20210422110346.jpg

  除了AI之外,由于芯片的靈活性使流體動力學和其他計算仿真成為可能,因此Cerebras在典型的商業高性能計算市場(例如石油、天然氣和基因組學)中吸引了很多客戶。

  CS-2的部署將于今年晚些時候的第三季度開始,價格已從2-3百萬美元升至“幾百萬”美元。

  

本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:aet@chinaaet.com。
亚洲一区二区欧美_亚洲丝袜一区_99re亚洲国产精品_日韩亚洲一区二区
午夜精品视频| 在线视频你懂得一区二区三区| 在线观看日韩av| 国产日韩欧美三级| 国产精品乱码人人做人人爱| 欧美日韩一区免费| 欧美精品久久一区二区| 免费观看成人鲁鲁鲁鲁鲁视频| 久久久久99精品国产片| 久久精品av麻豆的观看方式| 亚洲欧美日韩高清| 亚洲制服av| 午夜激情久久久| 午夜国产精品视频| 欧美一区观看| 久久国产加勒比精品无码| 欧美亚洲色图校园春色| 性欧美1819性猛交| 欧美专区亚洲专区| 久久国产天堂福利天堂| 久久不射中文字幕| 久久久久久亚洲精品中文字幕 | 亚洲在线第一页| 亚洲影视综合| 欧美亚洲日本一区| 久久精品国产清自在天天线| 久久精品国产综合| 狂野欧美一区| 欧美极品色图| 欧美性猛交99久久久久99按摩| 欧美天天综合网| 国产精品视频久久久| 国产欧美在线视频| 狠狠色丁香婷婷综合| 在线播放视频一区| 亚洲裸体在线观看| 亚洲自拍三区| 久久精品一本| 日韩一二在线观看| 亚洲欧美日韩成人高清在线一区| 小嫩嫩精品导航| 欧美在线日韩精品| 免费亚洲一区二区| 欧美日韩免费观看一区| 国产精品久久久爽爽爽麻豆色哟哟| 国产九色精品成人porny| 黄色av一区| 99国产精品久久久| 香蕉久久一区二区不卡无毒影院| 亚洲第一页在线| 一本大道久久a久久精品综合| 亚洲视频一区二区在线观看| 午夜在线不卡| 毛片基地黄久久久久久天堂| 欧美日韩国产一区精品一区| 国产精品人人做人人爽人人添| 国产一区二区三区高清| 亚洲黄一区二区| 亚洲一区在线观看视频| 亚洲高清二区| 亚洲在线网站| 免费看av成人| 国产精品成人在线观看| 国产亚洲成av人片在线观看桃| 亚洲激情电影在线| 亚洲一区二区三区中文字幕| 欧美在线观看视频在线| av成人老司机| 久久久久久97三级| 欧美午夜免费| 亚洲国产精品一区二区久| 亚洲一区二区三区高清| 亚洲日本va午夜在线影院| 午夜欧美精品| 欧美激情免费观看| 国产偷久久久精品专区| 99re热这里只有精品免费视频| 久久精品国产免费| 亚洲欧美日韩视频一区| 欧美高清一区| 国产综合自拍| 亚洲午夜羞羞片| 亚洲乱码视频| 久久亚洲影院| 国产目拍亚洲精品99久久精品| 亚洲三级性片| 亚洲高清自拍| 久久国产精品72免费观看| 欧美日韩国产区| 亚洲第一在线综合在线| 欧美亚洲一区在线| 亚洲一区中文| 欧美精品性视频| 狠狠色香婷婷久久亚洲精品| 亚洲午夜av| 亚洲视频网在线直播| 欧美肥婆在线| 精品88久久久久88久久久| 亚洲欧美日韩中文视频| 亚洲视频你懂的| 欧美人与性动交cc0o| 在线观看欧美一区| 久久精品国产第一区二区三区最新章节 | 一区二区三区欧美在线观看| 欧美1区2区视频| 伊人蜜桃色噜噜激情综合| 欧美一区2区三区4区公司二百 | 玖玖在线精品| 国产伊人精品| 欧美在线视频一区二区| 欧美一区二区免费观在线| 国产精品a久久久久| 亚洲精品欧洲精品| 一区二区欧美日韩| 欧美日韩第一页| 日韩一本二本av| 99精品国产福利在线观看免费| 欧美成人久久| 亚洲国产一区二区a毛片| 亚洲青色在线| 欧美激情一区二区三区| 亚洲电影在线| 亚洲理伦电影| 欧美日本网站| 亚洲三级免费电影| 制服诱惑一区二区| 欧美日韩小视频| 99视频日韩| 亚洲在线观看| 国产美女精品视频| 午夜精品久久久久久99热| 校园激情久久| 国内精品久久久| 亚洲国产精品一区二区久| 美腿丝袜亚洲色图| 亚洲精品日韩在线观看| 在线午夜精品自拍| 国产精品二区在线| 午夜精品久久久99热福利| 久久久激情视频| 精品二区久久| 亚洲精品少妇30p| 欧美日韩你懂的| 亚洲永久免费av| 久久精品首页| 亚洲福利久久| 亚洲一区bb| 国产欧美一区在线| 亚洲国产精品视频一区| 欧美精品aa| 国产精品99久久久久久白浆小说| 欧美一区二区三区免费大片| 国产视频精品xxxx| 亚洲经典自拍| 欧美日韩视频在线一区二区| 亚洲影视九九影院在线观看| 久久久噜噜噜久久中文字免| 亚洲高清免费视频| 亚洲自拍啪啪| 黑人极品videos精品欧美裸| 亚洲人成毛片在线播放| 欧美色精品在线视频| 亚洲欧美另类在线观看| 免费视频一区二区三区在线观看| 亚洲免费网站| 国产精品jizz在线观看美国 | 亚洲免费视频在线观看| 国产婷婷精品| 日韩亚洲欧美在线观看| 国产精品日韩欧美大师| 亚洲国产99精品国自产| 欧美日韩在线播放| 欧美一区二区三区久久精品| 欧美成人一区二区三区片免费| 一区二区欧美日韩视频| 久久久精品国产99久久精品芒果| 亚洲精品在线观| 久久精品网址| 一区二区三区视频在线观看 | 国语精品一区| 亚洲视频专区在线| 国产资源精品在线观看| 亚洲特级毛片| 亚洲第一主播视频| 欧美在线一二三| 亚洲剧情一区二区| 久久人人看视频| 亚洲一区在线直播| 欧美精品一区二区视频| 篠田优中文在线播放第一区| 欧美日韩国产精品一卡| 亚洲国产成人久久综合| 国产精品久久久久久av下载红粉 | 亚洲人成在线播放| 久久黄色影院| 在线视频日本亚洲性| 免费成人在线观看视频| 亚洲女女做受ⅹxx高潮| 欧美片第1页综合| 亚洲国产成人porn|