一種LZ4無損壓縮電路設計
2022年電子技術應用第12期
劉 勇，郭建剛，方 震
中國電子科技集團公司第五十八研究所，江蘇 無錫214035
摘要： 為緩解存儲系統中軟件壓縮算法對計算資源的大量占用，使用LZ4算法設計了一種無損壓縮電路。提出了一種循環隊列結構的滑動字典，結合散列表模塊構建LZ4無損壓縮電路，最后使用Calgary和Canterbury語料庫，在Xilinx KC705 FPGA平臺對電路進行驗證并與軟件壓縮對比。結果表明所設計的LZ4無損壓縮電路保持了軟件壓縮相同的壓縮率的同時，在壓縮效率上遠超過軟件壓縮。
中圖分類號： TN46
文獻標識碼： A
DOI：10.16157/j.issn.0258-7998.222840
中文引用格式： 劉勇，郭建剛，方震. 一種LZ4無損壓縮電路設計[J].電子技術應用，2022，48(12)：59-64.
英文引用格式： Liu Yong，Guo Jiangang，Fang zhen. The design of the lossless compression circuit based on LZ4 algorithm[J]. Application of Electronic Technique，2022，48(12)：59-64.
文獻標識碼： A
DOI：10.16157/j.issn.0258-7998.222840
中文引用格式： 劉勇，郭建剛，方震. 一種LZ4無損壓縮電路設計[J].電子技術應用，2022，48(12)：59-64.
英文引用格式： Liu Yong，Guo Jiangang，Fang zhen. The design of the lossless compression circuit based on LZ4 algorithm[J]. Application of Electronic Technique，2022，48(12)：59-64.
The design of the lossless compression circuit based on LZ4 algorithm
Liu Yong，Guo Jiangang，Fang Zhen
No.58 Institute，China Electronic and Technology Corporation，Wuxi 214035，China
Abstract： To decrease the costs of the implementation of compression by software in a storage system, the lossless compression circuit based on LZ4 algorithm is proposed in this paper. The sliding dictionary with circulating queue structure is used, together with the Hash Table module to design the lossless compression circuit based on LZ4. Finally, the design is tested and verified with Calgary corpus and Canterbury corpus on Xilinx KC705 FPGA platform. The results are compared with LZ4 software method and it can be concluded that the compression efficiency of LZ4 circuit method greatly faster than the software method obviously, while the compress ratios keep the same.
Key words : LZ4；lossless compression；sliding dictionary
0 引言
隨著計算機和網絡技術的飛速發展和用戶的激增，互聯網產生的數據量也呈現爆發式增長的態勢。如何提高存儲器利用效率，存儲不斷產生的海量數據，成為存儲系統領域的一大難題。自兩位以色列研究者Ziv和Lempel在1977年提出了LZ77壓縮算法[1]以來，各種基于字典匹配的LZ壓縮算法的變體相繼被提出，其中包括LZ78、LZW、LZO、LZSS等。其中，基于LZ77的變體被廣泛用于文本和位圖的無損壓縮，其壓縮編碼的效率可以很大程度上逼近信源的信息熵值[2]。LZ4正是LZ77壓縮算法面向處理速度進行優化所得的變體算法，其處理速度可達傳統LZ77壓縮算法的6倍以上[3]，目前已被廣泛用于高吞吐量的存儲系統[4-5]。LZ4壓縮算法的速度優勢在于建立字典的過程中，減少了計算散列值和更新散列表單元的次數，并且采用直接編碼的方式輸出編碼，減小了輸出延遲[6-7]。但同樣由于降低散列表更新次數，導致LZ4壓縮算法的壓縮率會高于其他變體壓縮算法。
與此同時，現有的LZ4壓縮算法基本基于x86架構計算機的軟件實現，處理效率低。而且在存儲系統的訪問過程中，后臺運行的壓縮程序將會占用大量中央處理器(CPU)的運算資源，造成存儲系統請求響應延遲上升，嚴重情況下甚至抵消LZ4壓縮算法的速度優勢。因此需要設計一種專用硬件電路實現LZ4無損壓縮，以釋放存儲系統中的運算資源，提高系統實時性。
本文詳細內容請下載：http://m.jysgc.com/resource/share/2000005041。
作者信息：
劉 勇，郭建剛，方 震
(中國電子科技集團公司第五十八研究所，江蘇 無錫214035)
此內容為AET網站原創，未經授權禁止轉載。