用存算一體創新架構，重構智能駕駛芯片。后摩智能是國產AI大算力智駕芯片領域跑出的一匹黑馬。
ChatGPT等人工智能應用的爆火再次引發了行業對大算力的需求。未來的計算系統相比現在的芯片，至少需要有1000倍甚至更高的效率提升才能滿足無處不在的萬物智能。AI芯片是AI算力的“心臟”，而高性能的AI芯片需要先進的制程技術來實現更小的晶體管、更高的集成度和更低的功耗。隨著摩爾定律在逼近極限，如果繼續依靠先進工藝的底層技術創新，沿這個方向走下去，能否達到未來所需的算力提升？不好說。但無論如何，行業正在為之努力。
與此同時，行業內也有人在另辟蹊徑，利用底層架構創新來實現算力的提升。近幾年來，存算一體在作為一項有望突破算力瓶頸的先進技術，正在被國內外越來越多企業選擇。存算一體這種創新的架構，通過將部分或全部的計算移到存儲中，把計算單元和存儲單元集成在同一個芯片，在存儲單元內完成運算，減少數據來回搬運造成的數據傳輸延遲、損耗等問題，以此來突破芯片性能瓶頸及提升能效比。
而在存算一體大算力這一領域，國內芯片企業走在了前列。
從0到1，國內首款存算一體大算力芯片正式量產
2023年5月10日，后摩智能正式發布首款存算一體智駕芯片——鴻途H30。僅用12nm工藝制程，該芯片的物理算力實現了高達256TOPS，在Int8全精度的計算提供下，計算延時只有1.5ns，能效比為30-150 TOPS/W，比業界同等精度計算條件下的水平提高了3倍以上。250TOPS可以說是目前國內效率最高的大算力智能駕駛芯片！35W的典型功耗也令人震驚。這就是存算一體架構技術的魅力。
除了大算力和低功耗之外，它還具有全精度、車規級、可量產、通用性的特性。而透過這些突破性技術表現，我們也嗅到了后摩智能濃濃的技術創新實力。
首先是存算一體電路結構的設計，后摩智能采用的是基于SRAM存儲介質的存算一體架構，將定制化的乘加電路和傳統的SRAM Bit Cell電路完全融合在一起。下圖中右圖是存算一體電路的架構圖，淺色部分是傳統的SRAM電路，深色部分是一些定制化的電路結構，包括乘法器、加法數、累加器等，做到數據讀取出來之后馬上可以在原地參與計算。
其次，H30芯片采用的是后摩智能自研的AI處理器架構—IPU（Intelligence Processing Unit）。目前該IPU架構規劃有三代：第一代是天樞架構，面向智能駕駛；第二代是天璇架構，它可以應用于更多的場景；第三代是天璣架構，將面向通用人工智能。H30芯片采用的是第一代天樞架構IPU。
解決了存和算的問題，在數據的傳輸方面：1）后摩智能專門設計了專用的數據傳輸總線，它能把各個Tile和各個IPU核連接起來，在它們之間建立高速的、直接的數據傳輸通道。2）在AI計算里，數據復用是一個非常重要的特性，因此，后摩智能為此設計了獨特的多波機制，避免了數據重復的讀取和傳輸。
通過存算電路底層技術的創新加上AI處理器架構的創新，再加上出色的工程實現能力，最終鴻途H30實現了多項芯片性能指標的突破。與某國際巨頭芯片對比，在工藝落后一代的情況下，進行完全相同的測試，H30芯片的功耗減少了50%以上，性能卻有2倍以上的提升。
為了幫助客戶更好的落地，后摩智能同步推出了基于鴻途 H30芯片打造的智能駕駛硬件平臺——力馭（Sailing，寓意早日揚帆起航）。僅依靠一顆H30芯片，力馭平臺的CPU算力高達200 Kdmips，AI算力高 256Tops，足夠支撐智能駕駛所有的傳感器。而且力馭平臺的功耗僅為85W，可采用更加靈活的散熱方式，實現更低成本的便捷部署。
基于鴻途H30芯片后摩智能自主研發了一款軟件開發工具鏈—后摩大道，支持 PyTorch、TensorFlow、ONNX等主流開源框架，編程兼容CUDA前端語法，同時支持SIMD和SIMT 兩種編程模型，兼顧運行效率和開發效率，進一步實現了鴻途?H30 的高效、易用。
目前后摩智能的鴻途H30芯片將于6月份開始給Alpha客戶送測。同時，后摩智能的第二代產品鴻途H50 已經在全力研發中，將于2024年推出，支持客戶 2025年的量產車型。
存算一體技術優勢已然顯現
當下，在各國都在爭搶加速進入人工智能時代的時間節點下，算力是AI技術角逐的源動力。然而持續緊張的地緣關系，國內在先進工藝采用方面的掣肘，使得國產算力的提速面對著多方面的難題，不僅是算力的需求，功耗也是行業所面臨的挑戰。此次后摩智能率先在存算一體大算力芯片上的突破，可以說用實際產品證明了存算一體技術的優勢和潛力。
計算效率高，工藝依賴度低：我們可以看到，后摩智能鴻途H30芯片，所采用的12nm的工藝并不是最先進的，但卻能達到超過200TOPS的算力。縱觀全球AI芯片的算力發展情況，基于傳統路徑的芯片在算力提升方面需要很大程度上依賴先進工藝，行業內達到200TOPS算力的AI芯片一般的工藝都要7nm甚至更先進才行，如英偉達的Orin芯片和國內的一些200TOPS左右算力的芯片等大多都是在7nm。更甚之，英偉達的Thor可以實現1000T以上的算力，但是工藝要采用4nm。
與某國際巨頭的8nm智駕領域的某款旗艦芯片，以Resnet50網絡為例，后摩智能H30的性能在等于1的配置條件下，可以達到8700幀每秒；如果把它設成8，可以突破1萬幀，達到10300幀每秒的性能。整體來說后摩H30芯片的性能可以達到友商的2倍以上。
低成本：因為對工藝的依賴性不高，所以可以實現低成本，更加普惠。后摩智能聯合創始人兼產品副總裁信曉旭在發布會上透露到：“H30芯片在成本上會非常非常有競爭力。”
更低的能耗：由于數據傳輸的高效性，存算一體芯片在計算過程中需要消耗更少的能量，從而可以實現更低的功耗，也更符合可持續和低碳環保的理念。
計算延時低：由于存儲和計算任務在同一芯片內部完成，存算一體架構芯片能夠更快地完成數據的讀寫和處理，從而提高數據處理的效率。例如，相比業界用5nm工藝的存算一體芯片，后摩智能的鴻途H30芯片在Int8全精度的計算提供下，計算延時只有1.5ns，降低了70%。
支持大規模并行計算：存算一體架構芯片能夠支持大規模并行計算，從而更好地滿足人工智能、邊緣計算、高性能計算等應用的需求。
我們也可以看到，后摩智能的鴻途H30存算一體大算力芯片落地的第一站是智能駕駛。單從市場應用場景來看，存算一體架構的芯片也顯現出多個優勢：
1：存算一體架構芯片的高效數據傳輸和計算能力可以幫助實現高效的圖像處理；
2：智能駕駛的安全性是行業密切關注的一大問題，而存算一體架構的芯片可以將敏感數據存儲在同一芯片中，從而減少了數據傳輸的風險，提高了數據的安全性；
3：智能駕駛需要支持多種算法和模型，包括神經網絡、深度學習等。存算一體芯片可以根據不同的算法和模型進行靈活配置，從而實現更高效的計算和存儲。在這方面，鴻途H30芯片可以支持經典的基礎網絡Resnet50，包括BEV網絡模型以及廣泛應用于高階輔助駕駛領域的 Pointpillar網絡模型。
后摩智能創始人吳強也表示，從技術和產品需求匹配的角度來看，存算一體帶來的技術和產品的優勢，和智能駕駛的關鍵需求是天然吻合的。其原因主要有兩方面：一方面是算力功耗的需求；另一方面從終局的角度來看，智能駕駛的終局是要代替人，實現無人駕駛。所以智能駕駛芯片一定要無限接近人腦的效率。而存算一體技術正是一個比傳統架構更接近人腦的計算形式，它也能夠達到比傳統架構高許多的計算效率。
從1到100，存算一體技術將走向更多應用
對于市場空間如此大的智能駕駛，如果后摩智能的鴻途H30芯片能夠真正走量并釋放出其優勢。那么，這將不僅為國產智能駕駛領域的客戶們提供一個差異化的新選擇，也將為存算一體架構的芯片的大規模發展奠定良好的基礎。許多機構都預測2023年將是存算一體大規模商業落地的元年，伴隨著此次鴻途H30芯片的量產發布，存算一體技術的商業化元年也即將正式開啟。
作為一項通用技術，存算一體技術可以根據不同領域和應用場景進行優化和應用。智能駕駛只是存算一體技術應用的冰山一角，存算一體還有很大的應用可能性和商業價值的潛力深埋于底下。比如人形機器人，服務機器人，以及對算力和能效有更高要求的場景如ChatGPT、云端推理等等都將是存算一體技術能夠發揮所長的應用。
當然，存算一體技術的更大商用化還需要產業界上下游的共同努力，讓存算一體技術的規模化應用從1走向100。后摩智能聯合創始人兼研發副總裁陳亮在會上透露：“在不久的將來，我們會把我們的AI處理器硬件設計開源，大家可以去下載到我們的IPU設計資料，做PPA的評估和軟件算法的開發，或者甚至將來用到自己的產品當中去。我們希望有更多的人和組織能夠參與進來，相信以大家的智慧可以更好的讓這個方向落地，大家可以共建生態，最終讓整個產業鏈受益。”
寫在最后
2020年11月成立，2022年5月驗證芯片成功點亮，2023年5月量產芯片面世，對于存算一體新架構+大算力這樣一項顛覆性技術而言，這個速度彰顯了后摩智能的產品落地能力。通過不斷突破技術瓶頸和持續的研發投入，后摩智能成功地將存算一體的概念應用于大算力AI芯片，并實現了高性能計算與低能耗的平衡。后摩智能的存算一體AI芯片取名鴻途，寓意是有鴻鵠之志，但是又腳踏實地，走向漫漫征途。
憑借這一芯片的落地，后摩智能迅速成長為國產AI芯片行業的重要創新力量。而且在當下大算力AI芯片發展遭遇瓶頸之際，作為國內率先落地存算一體大算力AI芯片的公司，后摩智能用實打實的產品，為我國發展高算力、低功耗和低成本的AI芯片注入新的發展動能。
更多精彩內容歡迎點擊==>>電子技術應用-AET<<
