盡管國內已有多家公司或科研單位研制出了一些自主版權的嵌入式微處理器，但是存在著性能、功耗、軟件兼容性、價格等問題，與國際水平還有較大的差距。根本原因是我們還是采用了傳統、過時的嵌入式微處理器的設計方式和體系結構，沒有自己創新的設計技術和體系結構。可以說，剛剛起步的國產嵌入式微處理器芯片的研發和產業化工作迫切需要采用全新的嵌入式微處理器的設計技術和體系結構。
嵌入式微處理器的發展歷程為了更好的了解嵌入式微處理器的發展趨勢，簡要了解一下其發展過程是必要的。嵌入式微處理器誕生于20世紀70年代末，到目前，其間經歷了SCM、MCU、網絡化、軟件硬化四大發展階段。
1.SCM階段：即單片微型計算機（Single Chip Microcomputer）階段，主要是單片微型計算機的體系結構探索階段。Zilog公司Z80等系列單片機的“單片機模式”獲得成功，走出了SCM與通用計算機完全不同的發展道路。
2.MCU階段：即嵌入式微控制器（Micro-Controller Unit，單片機）大發展階段，主要的技術方向是：為滿足嵌入式系統應用不斷擴展的需要，在芯片上集成了更多種類的外圍電路與接口電路，突顯其微型化和智能化的實時控制功能。80C51微控制器是這類產品的典型代表型號。
3.網絡化階段：隨著互聯網的高速發展，各個系統，不論是手持型還是固定式的嵌入式電子產品都希望能聯接互聯網。因此，網絡模塊集成于芯片上就成為了一個重要模塊。
4.軟件硬化階段：隨著市場對CPU芯片產品的使用面越來越廣，對速度、性能等方面的要求越來越高，同時要求的產品開發的時間越來越短，而軟件功能和系統卻越來越復雜，要求實時處理的多媒體等大型文件的處理要求越來越多（如MP3、MP4播放器、GPS導航儀等），以及手持型數字電視飛速發展的需要，有的還需要實時在線快速改變邏輯功能，尤其是對低功耗的需要越來越嚴，僅僅采用軟件的方式已遠遠不能滿足這些市場發展的實際需要。同時，隨著半導體設計和加工技術的飛速發展以及設計水平的自動化程度的提高，極大地降低了嵌入式微處理器芯片的設計難度。為軟件硬化的普及發展帶來了極大的促進作用。
軟件硬件化思想的市場需求我們看到越來越多的嵌入式微處理器集成了硬件的視頻處理邏輯、網絡處理邏輯、專用處理電路等等，不少公司已把語音、圖像功能也硬件化了，并集成到嵌入式微處理器中。甚至，有的微處理器為了滿足網絡化的需求，不僅在其上集成了網絡電路接口，更將TCP/IP協議也用硬件邏輯電路實現了。這樣就大大減輕了CPU和軟件開發的難度和工作量。因為嵌入式微處理器與互聯網的連接越來越緊密了，需要處理多媒體信息的要求越來越強了。僅靠軟件其功耗和速度越來越不能滿足整個系統的要求了。
以前的嵌入式微處理器性能的提高，主要是依靠提高主頻或處理器的位數來實現。隨著市場對性能和速度的要求越來越高，以及處理器設計技術和生產工藝的不斷發展以及對整機功耗的限制，處理器突破性的性能提升還必須依賴處理器新的體系結構及軟件硬化等新的技術設計手段來實現。
傳統的通用計算機芯片體系結構和設計模式，如圖靈機只解決了可計算問題，不關心計算的效率。而馮？諾依曼結構雖能有效地指導算法的設計，卻不能有效地指導微處理器芯片體系結構的設計。同時，目前計算機的評價系統也是越來越全面了。尤其是在評價一個嵌入式微處理器芯片或系統時，其技術指標不能只以幾個單一的性能指標來評定，而是轉向多方面的性能指標來評定。即不僅僅評定一個“高性能”方面就行了，而是要評定幾個方面，如“高性能，高效能，高兼容性、低功耗，低成本，易開發”等等。
