存算一體的基本概念最早可以追溯到上個世紀七十年代，但是受限于芯片設計復雜度與制造成本問題，以及缺少殺手級大數據應用進行驅動，存算一體一直不溫不火，但最近幾年，存算一體似乎已經進入爆發前夕。
尤其是國內一大批存算一體技術公司伴隨著融資信息浮出水面，如知存科技、蘋芯科技、九天睿芯、后摩智能、合肥恒爍、閃憶科技、新憶科技、杭州智芯科等，動輒億元起的融資金額也充分證明了資本對存算一體這個賽道的青睞。國外的三星和Myhtic也是該領域的潛心研究者，他們近來也動作頻頻，在最近的hotchips上，三星就披露了他們的HBM-PIM方案，Myhtic的存算一體模擬AI芯片也有了新進展。一個新的存儲計算時代似乎將要來臨。
存內計算市場為何被看好？
今年5月Myhtic C輪融資了7000萬美元，迄今為止已共計籌集了1.65億美元；6月10日，知存科技宣布完成億元A3輪融資，產品線擴充及新的產品量產，加上此前的兩輪融資，截至目前，知存科技已完成累計近3億元的A輪系列融資；6月25日九天睿芯獲億元級A輪融資，用于新產品研發和人員擴充的工作；7月2日，杭州智芯科完成近億元的天使輪融資，用于繼續搭建團隊，啟動ACIM下一階段技術研發與市場拓展；8月24日，后摩智能宣布完成3億元人民幣Pre-A輪融資，將用于加速芯片產品技術研發、團隊拓展，早期市場布局及商業落地；8月24日，蘋芯科技完成近千萬美元Pre-A輪融資，據悉，本輪融資將主要用于芯片研發相關工作。
從融資金額的用途我們也可以窺見，這些存算一體芯片公司有的處于團隊搭建階段，有的是正在芯片研發階段，還有的已經到了產品線擴充和量產階段。前幾年（2019年左右）這個市場國內也就僅有3-4家嶄露頭角的企業，但現在存算一體這個賽道顯然已經開始變得熱鬧起來了。
動輒億元的資本涌入，前仆后繼的玩家踴躍跳入。為何存算一體芯片市場會如此被看好？
存算一體技術（PIM ：Processing in-memory）被視為人工智能創新的核心。它將存儲和計算有機結合，直接利用存儲單元進行計算，極大地消除了數據搬移帶來的開銷，解決了傳統芯片在運行人工智能算法上的“存儲墻”與“功耗墻”問題，可以數十倍甚至百倍地提高人工智能運算效率，降低成本。
在知存科技CEO王紹迪的眼中，一直看好存算一體技術的原因有三：一是算力和運算數據量每年都在指數級增加，然而摩爾定律已經接近于到極限，每代芯片只有10-20%的性能提升。二是馮諾依曼架構的算力已經被內存墻所限制，只有解決內存墻問題才能進一步提高算力。在各種解決方案中，存內計算是最直接也是最高效的。
蘋芯科技CEO楊越則認為，萬物互聯+的人工智能的時代已經到來。智能產品覆蓋面積越來越大，產品形態的多樣性將迎來爆發式的增長。我們可以預見，由于傳輸延遲或數據安全考慮，很多數據處理及推理運算將在端側發生。通用性計算芯片在服務特定AI算法方面并不具備性價比優勢，為AI定制的芯片將成為人工智能產業鏈條上的底層核心技術。存內計算作為創新性極強的芯片架構形式，由于突破了困擾業界多年的存儲墻問題，且與深度學習網絡運算模型中的基本算子高度契合，使得基于存內計算架構的芯片相比于市場已有的AI加速芯片，在計算效率（TOPS/Watt）方面有數量級上的提升。在智能時代里，從可穿戴到自動駕駛，功耗約束下場景里的計算效率都是永恒的主題，存內計算是解放算力、提升能效比最強有力的武器之一。
而且與其他低功耗計算，如低電壓亞閾值數字邏輯ASIC、神經模態（Neuromorphics）計算和模擬計算比較，存內計算的優勢也盡顯。
王紹迪表示，低功耗亞閾值計算是對現有邏輯計算的功耗優化，一般能效可以提升2-4倍，但是算力相應降低，只能進行針對性的優化。而存內計算是新型的運算架構，做的是二維和三維矩陣運算，能效和算力可以提高100-1000倍。神經模態運算是為類腦算法而設計的芯片，有不同的實現方式，如模擬計算、數字計算、無時鐘計算、或者存算一體的實現方式。其實上述三種技術解決的問題是不一樣的。后摩爾時代下，無法通過工藝的提升來優化整體算力，異構計算和新架構變得更為重要。
在楊越看來，與亞閾值數字邏輯相比，存內計算仍工作在正常供電范圍，可具有實現高算力的可能性。存內計算的原理就是模擬計算。存內計算與神經形態計算有交集，就是用存內計算的原理去實現synaptic connection，可提供高平行度、高能效地synaptic weighting的計算。
存內計算的三條主流技術路徑
在認準了賽道之后，就是選擇存內計算的技術路徑。對于存算一體技術來說，處于多種存儲介質百花齊放的格局，如SRAM，DRAM，Flash等。目前選擇SRAM介質陣營的主要有蘋芯科技、后摩智能、九天睿芯。Flash陣營的代表玩家有知存科技、合肥恒爍、美國的Mythic。DRAM陣營的還相對偏少。
那么該如何選擇合適的技術路徑，這些技術路徑又有何特點、壁壘和優勢呢？蘋芯CEO楊越認為，技術路線選擇的出發點有多個，包括工藝成熟度、加入計算功能的復雜度及結果精度、向上對神經網絡算法要求的支持程度、以及落地成本等方面的考慮。
從器件工藝成熟度來看，知存科技認為，SRAM、DRAM和Flash都是成熟的存儲技術，其中SRAM可以在先進工藝上如5nm上制造，DRAM和Flash可在10-20nm工藝上制造。密度方面，Flash最高，其次是DRAM，再次是SRAM。
在電路設計難度上，存內計算的DRAM > 存內計算SRAM > 存內計算Flash ，在存內計算方面，SRAM和DRAM更難設計，它們是易失性存儲器，工藝偏差會大幅度增加模擬計算的設計難度，尤其是當容量增大到可實用的MB以上，目前市面上還沒有SRAM和DRAM的存內計算產品；Flash是非易失存儲器，他的狀態是連續可編程的，可以通過編程等方式來校準工藝偏差，從而提高精度。而近存計算的設計相對簡單，可采用成熟的存儲器技術和邏輯電路設計技術。
而談到量產難度方面，王紹迪給出的答案是DRAM> Flash >SRAM。
“我們過去做過多種存算一體介質的流片，包括Flash、SRAM、RRAM和MRAM。最終發現，Flash是密度最高的存儲介質，Flash的單個單元可以存儲的bit數最高（8-bit），這兩個特點都可以大幅度增加存內計算的算力。”王紹迪告訴筆者，所以從密度、可量產性、能效層面多方面綜合考量，知存科技最終選擇了Flash介質。
楊越表示，Flash和SRAM 路線各自具備優勢。我們選擇SRAM方案出于幾個考慮：一，SRAM的速度是所有memory類型中最快的，且沒有寫次數的限制，對于追求快響應的場景幾乎是必選。二，SRAM可以向先進制程兼容，從而達到更高的能效比，更高的面效比等。三，蘋芯現階段的研究工作可大幅提高SRAM相關計算精度，從而降低了對相關上層算法補償的要求。四，相對新型存儲器，SRAM的工藝成熟度較高，可以相對較快的實現技術落地與量產。
存內計算的最終產品形態
在討論存內計算最終的產品形態之前，讓我們首先來看下存內計算的賣點究竟是什么？它應該被認為是一個有計算能力的存儲器，還是高能效比的計算模塊。如果是前者，則往往需要和臺積電等有志于推動下一代存儲器的廠商一起合作。而后者則更傾向于以AI芯片的形式做design house。
蘋芯CEO楊越認為，存內計算硬件的出現，本身在催生一種編程觀念上的革命，也就不能再套用傳統的功能上分離的思維去理解。從功能上來說，存內計算既可以存儲數據，又可以做特定的計算，本身并不矛盾。從programmability的角度講，面向AI 的存算一體技術的出現將會很大程度上影響人們如何去編寫軟件，或者說為更有效率的去編寫軟件提供了一個非常好的基礎平臺和機會。
知存科技王紹迪則表示，兩種方案所需要解決的問題不一樣：1）有算力的存儲還是馮諾依曼架構下的存儲器，做一些加密類和低算力計算，從而節省存儲與CPU之間的帶寬。存內計算是非馮諾依曼架構，它通過存儲單元完成二維和三維矩陣運算（這類運算占據了AI中95%以上的算力），提供大算力，它存儲數據是為了高效完成運算，本質不是做存儲器。
對于存算產品，有芯片和IP兩個選擇。而目前我們觀察到，大多數企業也都是以芯片為主。
“存內計算相關的IP是很難做的，存內計算針對的是運算場景，不是存儲標品。需要針對不同場景的算力、成本、功耗需求提供更多種類的IP，并且針對不同的工藝去設計，需要投入的周期很長。從測試方面，客戶集成存算IP的芯片需要增加特殊的測試步驟。我個人覺得以單芯片和Chiplet形式提供存算一體算力是最佳的方式。”王紹迪告訴筆者。
存內計算的應用市場廣闊，但仍需時間的打磨
關于存內計算的具體應用市場方向，王紹迪認為，存內計算的發展類似于存儲器的發展路徑，隨著設計能力不斷提升，工藝不斷成熟、算力每年可以有5-10倍提升，能效每年會有1-2倍提升，成本每年會有30-50%下降，未來的存算產品可以用在大多數AI應用場景，因為它成本算力能效都可以做到最優。
蘋芯CEO楊越的觀點是，存內計算的應用方向及產品形態將隨著存算技術成熟度而演進。中早期產品將更多的出現在端側對低功耗和高能效有強烈需求的場景下。值得強調的是，隨著智能城市、智能生態等應用的普及，我們預測從邊緣端接入的智能設備的市場體量將快速增長，應用場景的多樣性也將不斷快速拓展。長遠地看，存算產品的適用范圍也可能會延伸至超大算力領域，我們將持續積極探索，為未來的應用場景做好技術儲備與戰略規劃。
據了解，目前蘋芯已開發實現了多款基于SRAM的存內計算加速單元并已完成流片，處于外部測試和demo階段，公司正與智慧穿戴、圖像物體識別領域的頭部客戶做技術驗證。
“存內計算技術的發展是一條追求高能效計算的重要技術路線，如何有效控制存內計算接口是一個重要挑戰。誰擁有兼顧計算密度與存儲密度的存內計算硬件架構，誰就擁有了打開高能效計算的金鑰匙。未來的存內計算一定會滲透到大大小小各種規模的應用中去，大大提高計算的能量效率。”楊越坦言道。
在王紹迪看來，存算一體面臨的挑戰就是時間，還有很多事情沒有做，這些都需要通過不斷的實驗去驗證和解決，需要時間，它還在發展初期，有廣闊的提升空間，這也是我最喜歡它的一點。距離存算一體的能力極限可能還有1000倍的空間，每年我們都能把它提升2-5倍，隨著算力提升和成本降低，它應用場景會越來越廣。
寫在最后
“存算一體”打破了運行70年的馮諾依曼架構，將成為AI時代主流的計算架構。目前國內外在存算一體方面都處于起步階段，存算一體正處于學術界向工業界遷移的關鍵時期，所以這可能是我們發展國產芯片的另一大重要方向。
