新上任的亞馬遜網絡服務負責人Adam Selipsky 周五表示，公司設計更多自己的芯片，強調客戶的成本收益。

　　“到目前為止，我們已經設計了幾種不同的芯片，未來還會有更多，”AWS 首席執(zhí)行官 Adam Selipsky 在接受外媒采訪時表示。

　　“其中一個最新的稱為Graviton2，它實際上比基于 x86 的同類芯片對客戶的性價比高 40%，”Selipsky 說，指的是對英特爾處理器至關重要的一組指令。

　　Adam Selipsky 發(fā)表上述言論之際，全球經濟正經歷半導體短缺，這已使許多行業(yè)陷入困境，并強調了芯片在日益數字化的世界中的重要性。

　　盡管亞馬遜和其他大型科技公司多年來一直致力于內部芯片設計，但一些專家認為，與大流行相關的芯片緊縮只會加速這些正在進行的努力。

　　Graviton2 是一種數據中心處理器芯片，英特爾在半導體行業(yè)的一個領域中占有強勢地位。今年 3 月，以科技為重點的新聞網站 The Information 報道稱，亞馬遜還致力于為硬件交換機制造網絡芯片，用于在網絡中移動數據。

　　今年早些時候，Selipsky 在他的前任 Andy Jassy 被提拔接替Jeff Bezos擔任亞馬遜 CEO之后接任了 AWS 的最高職位。Adam Selipsky 曾擔任Salesforce旗下數據可視化軟件公司 Tableau 的首席執(zhí)行官。

　　在此之前，Selipsky 是 AWS 的銷售、營銷和支持副總裁，AWS 是亞馬遜不斷發(fā)展的帝國中至關重要且利潤豐厚的部分。自 2014 年以來，盡管產生的收入遠低于核心電子商務部門，但它一直貢獻了公司一半以上的營業(yè)收入。

　　亞馬遜的芯片自研之路

　　在2015年，亞馬遜方面表示，公司已經同以色列芯片公司Annapurna Labs達成了收購協議，這可以看作是亞馬遜芯片業(yè)務的開端。

　　據介紹，以色列芯片制造商Annapurna Labs，由Avigdor Willenz一手創(chuàng)立。他曾創(chuàng)建另一家芯片公司Galileo Technologies，不過該公司2000年被Marvell科技集團以27億美元收購。

　　資料顯示，在被亞馬遜收購的時候，Annapurna Labs公司主要研發(fā)微處理器，這種微處理器可以讓低功率的的計算服務器和存儲服務器快速地運行數據。Annapurna Labs是過去10年中以色列國內成長起來的優(yōu)秀初創(chuàng)型芯片廠商之一。盡管仍是一家初創(chuàng)型企業(yè)，但是它在此前的私募融資中已經籌集到數千萬美元的資金。

　　到了2017年年底，亞馬遜斥資9,000萬美元低調收購安全監(jiān)視器供應商Blink，這被認為是亞馬遜在芯片行動上的提速。亞馬遜看中了Blink的省電芯片，打算用于旗下各種物聯網（IoT）裝置，包括Cloud Cam、Echo智能音響等。

　　進入2018年，亞馬遜則終于開始發(fā)布自家的芯片。2018年11月，亞馬遜在美國發(fā)布機器學習芯片AWS Inferentia，AWS Inferentia是一款機器學習推理芯片，支持TensorFlow、Apache MXNet和PyTorch深度學習框架，以及使用ONNX格式的模型。不過亞馬遜并不打算直接向用戶銷售這款芯片。

　　2018年12月， 亞馬遜 推出首款自研Arm架構云服務器CPU Graviton，目標直指英特爾。Graviton的問世顯示出亞馬遜AWS想要擺脫英特爾的決心。

　　2019年1月，據媒體媒體透露，亞馬遜旗下的AWS與三星風險投資、Avery Dennison共同參與了無線技術公司Wiliot公司價值 3000萬美元的B輪投資。2018年11初，亞馬遜攜手英特爾，微軟和美國明石風投投資了AI芯片初創(chuàng)公司Syntiant。這一系列的投資和自研動作，都顯示著亞馬遜正在由“軟”向“硬”演變。

　　2019年年底，亞馬遜的云服務業(yè)務AWS在其發(fā)布會AWS re:Invent上發(fā)布了兩款新的云端服務器芯片，分別是高性能處理器芯片Graviton2和高性能機器學習加速芯片Inferentia

　　亞馬遜的Graviton2處理器是亞馬遜研發(fā)的第二代高性能云端處理器芯片。Graviton2基于ARM的高端Neoverse核，使用7nm半導體工藝制造，晶體管數量高達300億，相比上一代芯片核心數增加了4倍，且處理器性能也大大提升。Graviton2處理器為云計算相關應用做了不少優(yōu)化，首先是浮點運算能力較上一代有不少提升，此外在指令集上計入了對于機器學習推理應用的支持，以及在芯片上集成了亞馬遜自研的數據編解碼加速器。相比于基于x86處理器的解決方案，Graviton2處理器可以大大提升性能并降低成本，性能／成本比提升可達40%。在軟件上，Grativon2處理器能兼容主流的開源Unix操作系統(tǒng)和Docker容器，這也從很大程度上解決了ARM服務器端處理器生態(tài)的問題。

　　除了高性能處理器之外，亞馬遜發(fā)布的另一款芯片是Inferentia，用于加速機器學習推理計算。根據亞馬遜公布的指標，Inferentia芯片能提供128TOPS的算力，并支持INT-8和FP-16/bfloat-16計算類型。亞馬遜同時公布了幾種搭載了Inferentia芯片的服務器配置，最高性能的版本搭載了16顆Inferentia芯片，從而能提供高達2000TOPS的峰值算力。

　　2020年9月，亞馬遜在發(fā)布新一代Echo的時候，帶來了其新款的定制芯片——AZ1神經邊緣處理器。“在處理中，時間很重要，” Amazon Echo副總裁Miriam Daniel在亞馬遜的設備和服務團隊主辦的虛擬活動中說。她解釋說：“想象一下，要求Alexa打開燈，如果有延遲，這會很抓狂。” “我們的團隊非常努力地將Alexa的響應時間削減了數百毫秒的時間”。她接著說。

　　這是通過他們的新的AZ1神經邊緣處理器，一個專門用于在邊緣運行機器學習算法的新芯片實現的。它與在AZ1上運行的新的神經語音識別模型配合使用。

　　亞馬遜高管表示， AZ1神經邊緣處理器是與半導體制造商聯發(fā)科技（MediaTek Inc.）合作開發(fā)的一部分。通過本地處理語音命令，它將使Echo能夠更快地回答用戶問題。早期的智能揚聲器必須將語音命令發(fā)送到云進行處理，然后等待結果返回，但這會延遲Alexa的響應。

　　該公司的工程師對芯片進行了重大設計改進，以促進性能提升。AZ1被描述為能夠以二十分之一的功耗為語音處理任務提供亞馬遜上一代芯片兩倍的性能。而且，它的內存使用量降低了85%，這進一步有助于提高硬件效率。

　　2021年，據The Information報道，亞馬遜正在為其硬件網絡交換機開發(fā)定制的硅芯片。據說這些芯片可以幫助亞馬遜改善其內部基礎設施以及AWS，這是亞馬遜于2015年以3.5億美元收購以色列芯片制造公司Annapurna Labs的目的之一。

　　報道進一步指出，亞馬遜為其交換機構建芯片可以幫助其解決自身基礎架構中的瓶頸和問題，特別是如果他們還定制構建在其上運行的軟件時。亞馬遜已經建立了自己的交換機，但是它依靠Broadcom為其提供芯片支持。對于公司來說，完全控制這些機器是很有意義的，特別是考慮到其Web服務業(yè)務的重要性。The Information援引Amazon提供的機器學習軟件（目前運行在Annapurna芯片上）的話，他們甚至有可能通過新的交換機提供一些以前無法提供的服務。

　　亞馬遜自研芯片對云服務的影響

　　亞馬遜今年發(fā)布最新的自研云端服務器芯片意味著云服務市場的格局在大數據-人工智能時代相比之前有了深遠的改變，而這個改變最關鍵的部分就是算力成為了越來越重要的性能指標。

　　上一代云計算主要承載的業(yè)務是讓有IT需求的公司把IT系統(tǒng)在云端執(zhí)行，這樣就省去了本地的維護成本。舉例來說，一家公司需要架設一個內部的ERP系統(tǒng)，在沒有云服務的時候需要自己去購買服務器，還需要組建一支專業(yè)的IT團隊來負責服務器硬件的維護，這樣就讓IT服務的成本變得比較高。而有了云服務之后，這類系統(tǒng)可以直接在云服務商的數據中心完成，公司無需再去購買服務器也不用擔心服務器的穩(wěn)定／維護／升級問題，這樣就大大降低了成本。公司需要做的無非就是確保選擇正確的云服務商，并保證有穩(wěn)定的網絡連接。由此可見，上一代云服務主打的賣點往往是服務器帶寬，云服務穩(wěn)定性，云服務系統(tǒng)部署簡易性等等，總而言之更偏向于服務質量，但是與硬件關系不大。

　　隨著云計算進入大數據和人工智能時代，云計算的需求也與時俱進。目前，云計算的概念已經深入人心，因此大量公司的網絡業(yè)務都已經上云，而隨著人工智能和大數據業(yè)務逐漸變?yōu)橹髁鳎朴嬎銓τ诖髷祿腿斯ぶ悄艿闹С忠残枰?。而這一代基于深度學習的人工智能浪潮對于算力的需求尤其大，算力正在成為新的基礎設施，因此，我們認為云服務的核心競爭力正在慢慢轉向算力。

　　由于算力正在成為云計算的核心競爭力，因此硬件對于云計算來說也變得越來越重要。在上一代云計算中，對于硬件的需求非常單純，只需要普通的服務器級別x86處理器搭配足夠大的內存和SSD即可，而隨著對于算力的需求提升，對于硬件的需求也在快速提升，且呈現專門化。如果總結亞馬遜云計算中算力相關硬件芯片的迭代，我們可以清楚地看到一條由通用走向專用且性能快速提升的道路。最早的云計算使用傳統(tǒng)的CPU，隨著人工智能變得火熱，帶有GPU的云服務器進入了主流視野。相比面向通用計算的CPU，GPU主要支持人工智能訓練和推理計算，通用性下降了一些但是算力提升了數百倍。在之后，亞馬遜發(fā)現GPU的性能還不夠好，尤其是在大量的人工智能推理任務上，因此這次發(fā)布了Inferentia ASIC用于高性能低成本推理計算。

　　放眼未來，我們認為云計算越來越強調算力的勢頭還將繼續(xù)，我們渴望看到更多的云計算服務商加入提升算力的行列，同時也將看到硬件和芯片將在云計算領域的地位越來越重要，成為算力的核心支柱。

　　亞馬遜自研云端芯片對于半導體行業(yè)的影響

　　亞馬遜大力投資自研云端服務器芯片意味著云端服務器芯片的市場格局發(fā)生變化，通用的CPU和GPU無法覆蓋整個市場需求。

　　從技術層面上來說，隨著深度學習神經網絡模型對于算力的需求快速提升，這意味著將催生高性能計算芯片市場較快發(fā)展。業(yè)界和學界對于高性能計算芯片的探究在數十年內從未停下，但是在人工智能時代到來之前，由于高性能計算的市場始終有限，因此相關技術的資本投入較小，主要是實驗性質的探索，新技術產品化落地的比例并不大。

　　但是隨著高性能計算在人工智能時代成為主旋律，對于新一代高性能計算技術的需求呼之欲出，因此我們預期會看到更多技術上的突破被真正產品化。我們認為，有以下的幾個技術有很大的潛力：

　?。?）chiplet技術。在高性能計算領域，芯片為了追求性能會集成越來越多的晶體管，同時會需要使用最先進的半導體工藝制造。然而，“集成越來越多的晶體管”和“使用最新半導體工藝”這兩件事在摩爾定律遇到瓶頸的今天存在一定矛盾，因為在最新半導體工藝下的大芯片良率會下降，成本也會大大提升。因此，一個解決方案就是chiplet，把一塊大芯片拆成多個小的chiplet并使用高級封裝技術做集成互聯，從而實現性能和成本間的折衷。

　?。?）眾核技術。在大數據人工智能時代，對于算力要求很高的計算往往是可以并行化的，因此可望通過眾核技術來解決并行計算的問題。下一代眾核技術需要能相比GPU的SIMT擁有更強的數據流支持，并提供更好的眾核間數據通信方案，從而提供更好的性能。

　　（3）可重構和異構計算技術?？芍貥嫼彤悩嫾夹g其實是一個硬幣的兩面，分別代表了通用性和專用性。使用可重構計算能實現較好的通用性，但是代價是性能上會有一定損失；異構計算則強調極端性能，但是一旦任務改變，則會讓芯片閑置，從而帶來dark silicon問題。如何在可重構和異構計算之間找到一個這種平衡點將是未來的一個重要技術課題。

　　從市場層面上來說，由于通用的CPU和GPU已經難以滿足用戶對于算力的需求，因此我們可望看到更多云服務商會采用非常規(guī)的芯片。這另一方面也涉及到了競爭差異化的問題，隨著算力成為最主要的競爭指標，如果使用所有競爭對手都能買到的CPU／GPU，那么就沒法實現差異化競爭了。因此，從用戶需求和競爭兩個角度來看，都會有越來越多從事云服務的互聯網巨頭加入自研芯片的行列。

　　自研芯片包括幾種形式，包括與Intel這樣的傳統(tǒng)處理器芯片商合作以開發(fā)帶有一定定制化功能的處理器芯片，或者去購買IP來搭建自己定義的SoC，以及全定制的功能模塊。一般來說，處理器核心的門檻很高，通常采用IP授權的形式，但是專用應用加速器的設計則較簡單，可以采用全定制的方案。因此，我們預計會看到越來越多的自研芯片案例，同時ARM的服務器端處理器IP授權業(yè)務將得到較大的發(fā)展，有望成為移動端處理器核心之外的另一個重要業(yè)務；但是人工智能加速器這類的IP我們認為更有可能是云服務商去做全定制。