邊緣計算是數字世界中最令人興奮的新概念之一。利用占用空間很少的微型數據中心網絡，邊緣計算使系統能夠實時收集并分析重要數據，而不會增加現有基礎設施的負擔。
在物聯網系統中，通常以端到端的方式，在特定的高度傳感器密集型環境中獲得大量數據，且數據是在邊緣生成并處理的，以降低延遲并減輕數據中心的負載。此前，邊緣計算的重點是連接在物聯網上的設備的技術，比如工業機器人。
不過，隨著技術的不斷發展，大數據、IoT 和AI的組合帶來了無限潛力，對于邊緣計算的需求已經從解決由IoT生成的數據增長而導致的數據長距離傳輸的帶寬成本問題，進化至處理實時應用程序。在這類組合中，邊緣計算需要滿足低延遲、加速實時創建和支持應用。
什么是邊緣計算？
邊緣計算有很多術語，包括“邊緣云計算”和“霧計算”。“邊緣計算”本身通常被描述為在本地服務器上運行的應用，旨在讓云進程更靠近終端設備。
“企業計算”與邊緣計算類似，但更傾向于準確地描述網絡功能，卻非描述計算的位置。“霧計算”概念是由Cisco創造的，許多人將其定義為位于邊緣計算空間上下的計算，甚至作為邊緣計算的一個子集。
作為參考，端點設備和端點通常被稱為“邊緣設備”，以免與邊緣計算相混淆。邊緣計算可以采用多種形式，包括小型聚合器、本地服務器或微型數據中心。微型數據中心可以按區域分布在永久性或可移動的存儲容器中。
邊緣計算的價值
一般來說，傳感器、攝像頭、麥克風以及一系列不同的物聯網和移動設備從其所在位置收集數據，再發送到集中式數據中心或云中。
數據顯示，到2020年，全世界會有超過500億臺智能設備實現連接。這些設備每年將產生以澤字節（ZB）計算的數據，到2025年將增長到150 ZB以上。這些數據發送到云會帶來一些重大問題。
首先，150ZB的數據會造成容量問題。其次，將大量數據從其原始位置傳輸到集中式數據中心代價高昂。據估計，目前只有12%的數據得到了分析處理，而只有3%的數據有助于產生有意義的結果，剩余97%的數據在收集和傳輸之后，就被浪費了。第三，存儲、傳輸和分析數據能耗巨大。因此，我們需要找到一種有效的方法來降低成本并減少浪費。
引入邊緣計算，在本地存儲數據，可以降低傳輸成本。同時，利用AI功能也能夠消除數據浪費。例如，現在正在使用中的新型低功耗邊緣計算服務器CPU，它們以GPU和ASIC或一系列芯片的形式連接到AI加速 SoC。
除了解決容量、能源和成本問題外，邊緣計算還可以提高網絡可靠性，因為應用可以在發生普遍的網絡中斷期間繼續運行，通過清除某些威脅配置文件（例如全局數據中心拒絕服務 （DoS） 攻擊），可以提高安全性。
最重要的是，邊緣計算能夠為實時場景（例如虛擬現實商場、移動設備視頻緩存）縮減延遲，同時在自動駕駛汽車、游戲平臺或快節奏制造等環境中創造許多新的應用機會。
5G成為邊緣計算的最強推動力
5G基礎架構是邊緣計算最具說服力的驅動力之一。5G電信提供商發現，除了傳統的數據和語音連接之外，他們還可以構建生態系統以托管獨特的本地應用。通過將服務器置于基站旁邊，蜂窩流量提供商可以向第三方主機應用開放其網絡，從而改善帶寬和延遲。
Credence Research認為，到2026年，整個邊緣計算市場的價值將為96億美元左右。相比之下，Research and Markets分析認為，移動邊緣計算市場將從今天的幾億美元增長到2026年的超過27.7億美元。盡管電信行業可能是發展最快的增長動力，但是據估計，它們僅會占據邊緣計算市場總量的三分之一。這是因為web scale、工業和企業集團也將為其傳統市場提供邊緣計算硬件、軟件和服務，期望邊緣計算也將開創新的應用機遇。
比如目前大眾快餐店的廚房正朝著更加自動化的方向發展，以確保食品質量，減少員工培訓，提高運營效率并確保客戶體驗達到預期。Chick-fil-A 是一家連鎖快餐企業，2018 年 他們宣稱：“通過提高廚房設備智能化，我們能夠收集更多數據。通過這些數據，我們可以構建更多智能系統，進而拓展業務。”他們還指出，在邊緣計算的幫助下，許多餐廳現在可以處理的業務量提高到之前的三倍。
總體而言，成功的邊緣計算基礎架構需要結合本地服務器計算功能、AI 計算功能以及與移動/汽車/IoT 計算系統的連接（圖 1）。
圖 1：邊緣計算通過使用微數據中心來分析和處理數據，從而使云計算過程更靠近終端設備
用實例了解邊緣計算
為了解使用邊緣計算帶來的延遲改善優勢，羅格斯大學和 Inria 使用 Microsoft HoloLens分析了邊緣計算（或稱“邊緣云”）的可擴展性和性能。
在案例中，HoloLens 讀取條形碼掃描儀，然后使用建筑物中的場景分割功能將用戶導航到指定房間，并在 Hololens 上顯示箭頭。該過程同時使用了映射坐標的小數據包和連續視頻的較大數據包，以驗證邊緣計算與傳統云計算相比延遲的改善。HoloLens 先讀取二維碼，然后將映射坐標數據發送到邊緣服務器，該服務器使用了 4 個字節加上標頭，花費了 1.2 毫秒 （ms），服務器找到坐標，并通知用戶該位置，總共耗時 16.22 ms。如果將同樣的數據包發送到云，則大約需要80ms（圖 2）。
圖 2：比較邊緣設備到云服務器與邊緣設備到邊緣云服務器的延遲
同樣，他們還測試了在使用 OpenCV 進行場景分割以將 Hololens 的用戶導航到適當位置時的延遲。HoloLens 以 30 fps 的速度流傳輸視頻，并在邊緣計算服務器中以 3.33 GHz 的頻率在配備 15GB RAM 的 Intel i7 CPU 上處理圖像。將數據流傳輸到邊緣計算服務器需要 4.9 ms，處理 OpenCV 圖像額外花費了 37 ms，總計 47.7 ms。云服務器上的相同過程花費了將近 115 ms，清楚顯示了邊緣計算降低延遲的明顯優勢。
該案例研究顯示了邊緣計算在降低延遲方面的顯著優勢，但是未來還會有更多新技術可以更好地實現低延遲。
5G 概述了當今延遲少于 1ms 的案例（圖 3），而 6G 已經在討論將其降低到 10 微秒 （？s） 的問題。5G 和 Wi-Fi 6 會增加連接帶寬，其中5G 預計將帶寬提高到 10Gbps，而 Wi-Fi 6 已經支持 2Gbps 帶寬。AI 加速器聲稱場景分割的時間少于 20?s，這與上述示例技術論文中引用的 Intel i7 CPU 在大約 20ms 內處理每個幀的速度相比，又有了顯著進步。
圖 3：與圖 2 中 10s 和 100s 的 Msps 相比，從 Hololens 到路由器以及從路由器到邊緣服務器的帶寬改善高達 10Gbps，另有 AI 處理的改進（從 20ms 改善到 20us），往返延遲 < 1ms。
顯然，如果邊緣計算表現的比云計算更具優勢，那么將計算全都轉移到邊緣設備中不是最好的解決方案嗎？很不幸，目前并不是所有的應用程序都是如此（圖 4）。在 HoloLens 案例研究中，如果數據使用的 SQL 數據庫太大，則無法存儲在耳機中。今天的邊緣設備，特別是發生物理磨損的設備，沒有足夠的計算能力來處理大型數據集。除了計算能力之外，云或邊緣服務器上的軟件比邊緣設備上的軟件開發成本更低，因為云/邊緣軟件不需要壓縮到更小的內存資源和計算資源中。
圖 4：比較云計算和邊緣計算與端點設備。
由于某些應用程序可以根據基礎架構不同位置的計算能力、存儲能力、存儲器可用性和延遲能力來合理地運行，因此無論是在云中、在邊緣服務器還是在邊緣設備中，未來的趨勢是混合計算能力（圖 5），邊緣計算是建立全球混合計算基礎架構的第一步。
圖 5：安裝在 Hololens、邊緣服務器和云中的 AI，使混合計算架構能夠根據應用需求優化計算、存儲器和存儲資源。
邊緣計算與AI
許多使用邊緣計算的新服務都有低延遲需求，因此許多新系統都采用了最新的行業接口標準，包括PCIe 5.0、LPDDR5、DDR5、HBM2e、USB 3.2、CXL、基于PCIe的NVMe以及其他基于新一代標準的技術。與上一代產品相比，這些技術都通過改進帶寬來降低延遲。
這些邊緣計算系統還增加了AI加速功能。例如，某些服務器芯片通過x86擴展AVX-512向量神經網絡指令 （AVX512 VNNI）等新指令提供AI加速。
除此之外，大多數新系統中還添加了自定義AI加速器。這些芯片所需的連接性通常采用帶寬最高的主機來實現加速器連接。例如，在具有多個AI加速器的某種交換配置中，由于帶寬要求影響了延遲，因此很多系統中采用了PCIe 5.0接口。
除了本地網關和聚合服務器系統之外，單個AI加速器通常無法提供足夠的性能，所以需要借助帶寬非常高的芯片到芯片SerDes PHY來擴展這些加速器。最新發布的PHY支持56G和112G連接。
圖 6：常見服務器SoC位于邊緣，根據任務數量、功率、延遲和其他需求，具有不同的處理器數量、以太網吞吐量和存儲能力。
AI算法正在突破內存帶寬要求的極限。例如，最新的BERT和GPT-2型號分別需要345M和1.5B參數，為了滿足這些需求，不僅需要高容量的內存能力，還需把許多復雜的應用放在邊緣云中執行。為了實現這種能力，設計人員正在新的芯片組中采用DDR5。除了容量挑戰之外，還需要存取AI算法的系數，以進行非線性序列中并行執行的大量多次累加計算。因此，HBM2e也成為一種被迅速采用的新技術，有些芯片實現了單芯片中的數次HBM2e實例化。
圖 7：通用AI SoC具有高速、高帶寬、內存、主機到加速器，以及高速芯片到芯片接口，用于擴展多個AI加速器。
未來，邊緣計算的需求將集中在降低延遲和功率，確保有足夠的處理能力來處理特定任務上。新一代服務器SoC解決方案不僅將具有更低的延遲和更低的功耗，而且還將納入AI功能，也就是AI加速器。
但是很明顯，AI和邊緣計算的需求也在迅速變化，我們今天看到的許多解決方案在過去兩年中已多次取得了進步，并將繼續加以改進。
圖 8：新一代服務器SoC再加上AI加速器，將加快邊緣計算速度
結語
Futuriom曾在《5G，物聯網和邊緣計算趨勢》中寫道，5G將成為邊緣計算技術的催化劑，使用5G技術的應用將改變流量需求模式，為移動蜂窩網絡的邊緣計算提供最大的推動力。
總的來說，邊緣計算是實現數據快速連接的一項重要技術，它將云服務更靠近邊緣設備，降低延遲，為消費者提供新的應用和服務；還將衍生出更多的AI功能，將其擴展到云以外。此外，它還將成為支持未來混合計算的基礎技術。