在新一輪邊緣AI和嵌入式AI的“接力”賽程中，傳統芯片巨頭正全面站上賽道。
AI正以出乎意料的速度在云邊端全面突破。
如果說上一波AI應用主要集中在云端和碎片化的終端市場，那么這一波邊緣AI、嵌入式AI的增長，正是AI逐漸走向普適化的標志之一。
以往人們所熟知的AI運算平臺主要是CPU、GPU、FPGA、NPU或專用的AI處理芯片，但是在新一輪賽程中，邊緣和端側MCU、傳感器導入AI的速度明顯在加快，有望成為AI落地的新動力。
上一波AI的爆發式增長，造就了英偉達的地位，催生了大大小小的AI芯片公司。而在新一輪的“接力”賽程中，傳統的芯片巨頭TI、ST、恩智浦、瑞薩等，正全面站上賽道。
恩智浦首推MCX
兼具控制和AI處理功能
“我們正在進入邊緣計算新時代，這要求我們從根本上重新思考如何以合理方式構建靈活的MCU產品組合，該產品組合應具有擴展性、經過優化，并且能夠成為當今以及未來幾十年節能工業和物聯網邊緣應用的基礎”，恩智浦執行副總裁兼邊緣處理技術總經理Ron Martino表示。
從恩智浦（NXP）最新發布的MCX微控制器產品組合來看，首次集成了用于加快邊緣推理的神經處理單元（NPU），與單獨的CPU內核相比，可提供高達30倍的機器學習吞吐量。MCX基于恩智浦誕生于2007年的LPC系列和當時的飛思卡爾在2010年推出的Kinetis系列，可以說是傳承了兩大系列的核心優勢。
恩智浦邊緣處理事業部系統工程高級總監王朋朋認為，在MCU中集成神經處理單元，可以說是迎合時代需求。在CPU旁邊增加的NPU協處理器，內部擁有計算通道，可以實現良好的計算性能和能效。在NPU上進行機器學習運算加速時，比如二維卷積神經網絡、點卷積或深度卷積，性能會比Cortex-M33內核加速30倍以上。
以往運用CPU處理的事項，例如機器學習的卷積處理現在可以由NPU來完成，而不占用CPU資源。通過CPU和NPU的并行處理，可同時做到控制和外界的交互，因此，AI處理和通用的輸入輸出控制可以并行實現。從而在一顆通用MCU上，既實現了傳統MCU功能，也實現了AI運算加速。
恩智浦大中華區工業與物聯網市場高級總監金宇杰表示，隨著人工智能和智能邊緣計算的發展，業界所面臨的挑戰也越來越多：第一，技術格局在快速發展；第二，隨著數據的大量傳輸、運算和處理，對信息安全保護的需求也越來越重要；第三，手持設備、電池應用等領域對低功耗的要求也越來越嚴苛。MCU傳統上雖然是做控制工作，但隨著產品對智能運算、可預見性的要求越來越多，對運算的要求也大大提升。因此在MCU中嵌入算力更強的AI元素，希望通過NPU高效的計算架構，實現實時推理。
ST在MCU和傳感器加速導入AI
ST約在三年前開始將輕量的AI算法融入MCU中，作為對已有產品系列的補充和增強。驅使ST開始推行這一路線的主要原因是邊緣計算，因為隨著5G的到來，人們對傳統產品的延遲和能耗提出了更高要求。
ST旗下經典的STM32家族已經誕生約15年，面向未來，STM32確立了三大發展方向：更多無線通信技術、更先進的安全保護、以及更高的本機自主智能。
為何導入AI？ST方面認為，除了云端、服務器端的人工智能，未來，一些聯網能力并不太強、算力并不太高的設備，也需要執行一些并不太復雜的AI算法。比如通過噪聲去判斷電機本身運行的狀況、或是其他通過判斷來監測系統運行的效率……類似這樣的應用不需要聯網到云端來實現。
AI在MCU上實現的意義在于，可以將MCU低功耗、低成本、實時性、穩定性、開發周期短、廣闊的市場覆蓋率等特性，與AI強大的處理能力相結合，從而使海量終端智能涌現出來。
在AIoT系統中，還有一個非常關鍵的部分就是傳感器，傳感器的智能化也正在成為確定趨勢。以AR/VR應用為例，之所以對傳感器有高需求，是因為這個產品直接連接人體，如果AV/VR在獲取周邊物理現象和信息的同時，經過智能處理再傳給主控，一來可以降低整體系統能耗，二來可以把本身的噪聲、穩定性和精度做得更好。
ST最近發布的集成機器學習內核的車規級慣性測量單元（IMU）ASM330LHHX，就是從智能駕駛向高度自動化駕駛的又一步推進。據ST官方信息，內嵌的機器學習內核是一個用電路連接的硬連線處理引擎，能直接在傳感器上運行AI算法，確保從感測事件到車輛響應的時間延遲很短，可以實現復雜的實時性能，而對系統功耗和算力的要求遠低于嵌入在應用處理器或基于云的人工智能解決方案，這對整體系統設計理念也是一次較大的突破。
與傳統傳感器僅采集數據、傳送給主控的特性相比，導入AI的傳感器可以在采集到原始數據后，通過機器學習讓模型進行學習，再將學習后判斷的依據寫入傳感器。因此，傳感器可以通過內置的固定狀態機進行判斷，一些特定任務可以考慮在本體上運作，而不需要調動整個處理器工作。
此外，隨著未來系統功能的豐富，各項任務指標進一步追求極限的話，延時仍是一個關鍵因素。除了設備本身的算力，傳輸時間可能也是主要原因。例如，傳1M的原始數據與1K的結果數據所需時間肯定不同，這可能也是推動傳感器內置AI的一大動力。
TI針對細分市場引入AI
德州儀器（TI）約在2020年初，首次為一款汽車SoC添加了專用的深度學習加速器，這一方面說明了深度學習在汽車ADAS系統中的深入，同時也可以看出TI在重要的車用產品線的布局方向。
TI這一深度學習模塊主要基于C7x DSP IP及其內部開發的矩陣乘法加速器，通過將DSP和EVE內核結合到一起，并添加了矢量浮點計算功能，支持向后兼容代碼。
TI這一做法也是當時在邊緣/端側應用中實現人工智能加速時較為流行的做法，將DSP專用于大量數據處理，在高難度的實時環境中執行復雜的數學運算。通過DSP的數據流功能與矩陣乘法加速器相結合，提升深度學習應用的效率。
除了汽車市場，TI近期針對邊緣AI的人機界面 (HMI) 交互應用推出了新系列SoC，主打低功耗設計，全新的Sitara AM62 處理器可支持雙屏顯示和小型人機界面應用。
據TI官方資料，下一代 HMI 將帶來與機器交互的全新方式，例如在嘈雜的工廠環境中通過手勢識別來發出命令，或通過無線連接的手機或平板電腦來控制機器。將邊緣 AI 功能添加到 HMI 應用（包括機器視覺、分析和預測性維護），則有助于賦予 HMI 全新的意義，而不是僅限于實現人機交互的界面。
從硬件角度來看，AM62 系列圍繞 64 位、1.4 GHz 四核 Arm Cortex A53 處理器子系統構建，每個內核由 32 KB 的 L1 DCache 和 512 KB 的共享 L2 緩存支持。這款處理器與用于通用用途的 400 MHz 單核 Arm Cortex-M4F MCU、專用 3D 圖形引擎以及用于設備資源和低功耗管理應用的 R5F 內核相匹配。AM62 系列還有一個專用的顯示子系統，該子系統具有雙顯示支持，允許用戶將他們的邊緣 AI 和HMI 控制放在同一個硬件上。
讓日常消費者更容易應用AI，對于能否在邊緣大規模推進AI部署非常重要。TI這一新突破，使得支持未來 HMI 應用程序的 AI/ML 可以存在于設備本身中，從而為用戶提供更低的延遲、更快的響應時間和更自然直觀的體驗。
瑞薩收購，加注嵌入式AI
瑞薩的MCU產品有著非常全面的產品布局，特別在工業和物聯網是其優勢領域。隨著AIoT應用的興起，瑞薩MCU產品在不斷創新，同時投入也在不斷加大。
近年來推出的嵌入式AI技術“e-AI”，可作為一個附加單元添加到設備上，通過預先學習好的AI處理模型，實現從傳感器數據收集到數據處理、分析和評估/判斷的全過程。
瑞薩最近還宣布了在嵌入式AI領域的一筆收購。根據公開消息，瑞薩已與Reality AI達成最終協議，以全現金交易方式收購這家嵌入式AI解決方案供應商。據悉，該交易已獲得兩家公司董事會一致批準，預計將于2022年年底完成。
Reality AI的解決方案為機器學習提供信號處理，提供快速、高效的機器學習推理，甚至可用于最小的MCU。該公司的旗艦產品Reality AI Tools是一個支持整個產品開發生命周期的軟件環境，提供非視覺傳感器數據的分析。該公司在工業異常檢測、使用AI傳感器的汽車聲音識別方面已有較好的案例。
兩家公司表示，將這些技術與瑞薩的MCU、MPU組合相結合，可以提供更好的AI推理和信號處理能力，將有助于開發人員將先進的機器學習和信號處理應用于復雜問題。收購Reality AI，也將使瑞薩能夠從硬件和軟件角度提供全面和高度優化的端側解決方案，在工業物聯網、消費電子和汽車應用中更好地實現端側智能。
瑞薩總裁兼首席執行官柴田英利表示:“終端數據的重要性和需求正以前所未有的規模增長。Reality AI的AI解決方案加入到我們現有的嵌入式AI投資組合中，將進一步鞏固我們作為領先的AIoT解決方案提供商的地位。”
工業物聯網、汽車等領域的機器學習應用正在迅速增長，嵌入式機器學習、信號處理、高性能處理器的需求有望逐漸增長。一方面，用戶需要更完整的解決方案支持，另一方面，高度定制化也可能是這一領域的一大特色。基于這些趨勢，業界類似這樣的收購可能還將持續發生。
寫在最后
圖源 | VentureBeat
AI下沉到邊緣、終端和嵌入式市場，從芯片到軟件、系統、再到整體方案，都需要部署相應的AI能力，這既是挑戰，也是全新的機遇。據Gartner預測，2025年至少會有75%的數據處理將會在云端或者數據中心之外的地方進行。伴隨這一波數據機遇的來臨，傳統半導體巨頭加大AI投入是發展的必然。
那么，傳統半導體巨頭在MCU上跑AI，與業界方興未艾的AI專用芯片相比，究竟是升維還是降維競爭？其實從應用場景來看，雙方各有發展空間。專用AI芯片與場景的適配非常緊密，在某一個或某一類應用場景中有計算優勢。而通用MCU內置AI，相當于在廣泛的應用基礎上增加了AI的功能，這也從一定程度上有助于解決AI當前落地的一個痛點，即如何將AI算法適配于更多的通用場景、部署在更多的邊緣設備。
此外，從發展的路徑來看，老牌半導體巨頭除了用AI提升差異化能力之外，其發展的核心更是進一步強化生態，來保持長期的核心競爭力。不同于初創AI芯片公司從零起步、大開大合的AI戰略，巨頭布局AI基本都是沿著已有的產品路徑去規劃，同時注重將AI體系與原有的生態進行密切結合，這是其高筑的競爭壁壘，也是處于追趕階段的國產芯片廠商所面臨的一大挑戰。
