《電子技術應用》
您所在的位置:首頁 > 可編程邏輯 > 設計應用 > 基于FPGA的CMOS相機實時數據處理設計
基于FPGA的CMOS相機實時數據處理設計
2017年電子技術應用第7期
侯絮絮1,馬松齡1,孫 晨2,郭子靖1
1.西安建筑科技大學 機電工程學院,陜西 西安710055;2.中國科學院 西安光學精密機械研究所,陜西 西安710119
摘要: 針對CMOS圖像傳感器輸出的LVDS串行數據在傳輸過程中因數據無法對齊引起誤碼率升高,圖像分辨率降低問題,提出一種基于現場可編程門陣列FPGA的CMOS相機實時數據處理研究方案。采用VHDL硬件語言,對數據處理進行模塊化設計,確保高速數據的正確采樣,減少誤碼產生。經軟件仿真及實測表明:該方案設計合理,系統運行穩定可靠,解決了高分辨率圖像在高速傳輸中的數據校正問題,輸出的圖像輪廓清晰、無斑點。
中圖分類號: TN919.3
文獻標識碼: A
DOI:10.16157/j.issn.0258-7998.2017.07.009
中文引用格式: 侯絮絮,馬松齡,孫晨,等. 基于FPGA的CMOS相機實時數據處理設計[J].電子技術應用,2017,43(7):36-39.
英文引用格式: Hou Xuxu,Ma Songling,Sun Chen,et al. Real-time data processing design of CMOS camera based on FPGA[J].Application of Electronic Technique,2017,43(7):36-39.
Real-time data processing design of CMOS camera based on FPGA
Hou Xuxu1,Ma Songling1,Sun Chen2,Guo Zijing1
1.Mechanical & Electrical Engineering College,Xi′an University of Architecture and Technology,Xi′an 710055,China; 2.Xi′an Institute of Optics and Precision Mechanics,Chinese Academy of Sciences,Xi′an 710119,China
Abstract: Aiming at the problem that the LVDS serial data error rate rised output by CMOS image sensor due to the data can not be aligned and reduce the image resolution, a research program of CMOS camera real-time data processing based on FPGA is proposed. The design uses VHDL hardware language, the modular design of data processing to ensure the correct sampling of high speed data to reduce the error generated. The simulation results show that the scheme is reasonable and the system runs stably and reliably. It solves the problem of data correction in high speed transmission of high resolution images. The output image has clear contour and no speckle.
Key words : CMOS image sensor;FPGA;data correction;high resolution

0 引言

    工業相機常用的圖像傳感器有CMOS及CCD[1-2]兩種,CMOS圖像傳感器因其驅動靈活、編程簡單、功耗低、成本低等優勢已廣泛應用到各種圖像采集系統中[3-5]。由于高速傳輸中采集的圖像數據量較大,易產生誤碼,若不及時校正,將嚴重影響圖像質量,阻礙CMOS相機的普及應用。

    本次相機系統開發采用CMV2000圖像傳感器,理論圖像分辨率可達到2 048×1 088[6]。但開發過程中發現,誤碼問題未得到很好地解決,致使成像模糊,圖像最高分辨率僅為1 088×768,遠不能滿足高分辨率的技術要求。

1 圖像傳輸過程中存在的問題

    相機控制系統功能框圖如圖1所示。系統采用FPGA[7-9],外部晶振向FPGA輸入時鐘信號,均為固定頻率,再轉換成驅動CMV2000圖像傳感器、采集像素數據及格式編排的時鐘,同時為各單元提供異步復位信號;RS422作為系統通訊協議,將收到的串行數據轉換為并行信號發送給CMV2000的驅動單元[10];FPGA通過SPI接口對CMV2000進行自動曝光、采樣模式、復位等工作參數配置。

wdz3-t1.gif

    由于傳輸的數據是經壓縮算法去除了圖像中大部分內在相關性的已編碼數據,即使相對輕微的誤碼,對解碼圖像數據也會有嚴重的影響。編碼圖像序列的一幀之內,若一個碼字出錯,將會對后面整個編碼序列解碼錯誤,導致誤碼擴散。

    CMV2000圖像傳感器輸出的16通道數據及1通道輸出時鐘的相對位置并未完全對齊,若用時鐘直接采樣會出現誤碼現象,致使數據傳輸錯誤。基于CMV2000的相機是高速高分辨率相機,傳輸的數據速率高達480 Mb/s,傳輸過程中若數據校正問題沒有得到解決必會引起誤碼概率增加。從相機開發過程中發現,誤碼對實時傳輸的圖像分辨率影響最大。圖2(a)是數據傳輸錯誤圖例,圖2(b)是截取其局部圖像進行3:1放大,圖中出現許多白色的小雪花狀斑點,而且各個樓層的棱角模糊不清,其中某樓層的右下角處圖像不完整,如箭頭所示。圖像分辨率僅為:1 088×768。

wdz3-t2.gif

    因此,對16通道數據進行位和字的校正調整,將亂序數據及時校正是降低誤碼率、提高圖像分辨率的基本保障,也是數據處理的核心內容。

2 數據處理單元設計

    數據處理單元是驅動控制系統的核心部分,在FPGA內部完成,主要實現LVDS圖像數據的串并轉換、亂序數據之間的順序調整、高速數據的乒乓緩存及Camera Link傳輸協議進行格式編碼后發送4項功能。整個數據處理過程實現了圖像數據的實時傳輸。

2.1 串并轉換

    數據在進行串并轉換時,經時鐘倍頻后,在其下降沿開始采集數據。圖像數據及同步數據存儲時選用17個10位移位寄存器。當同步數據有效時,若16路并行圖像數據也有效,則對其進行存儲。圖3是CMV2000一行數據的輸出格式。每5個數據時鐘周期中,FPGA接收的16路10 bit數據并非順序輸出,務必加大數據排序和存儲的難度。每10個時鐘周期內,FPGA接收到32路10 bit數據是連續的,可將連續的8個數據合并為1個數據后再進行數據存儲。因此,僅需4個時鐘周期就可以儲存32個數據。由于數據傳輸芯片TLK2711需要接收16 bit的并行數據,所以FPGA在存儲數據前將每個數據高6位補0,并將8個16 bit數據合并成一個128 bit數據進行存儲。若不補0或少補0,則會導致大量數據相繼錯位,數據傳輸錯誤,嚴重影響輸出圖像質量。

wdz3-t3.gif

2.2 位對齊和字對齊

    常用的方法是使用有限狀態機對數據位、字進行校正設計,但該方法代碼冗長,過程中會產生大量剩余狀態。若不及時處理,狀態機可能進入不可預測的狀態,會出現短暫失控;若對其進行處理又會耗用更多的邏輯資源;此外,在對時序進行仿真時,時鐘有效邊沿的輸出端會產生許多毛刺;若加一個寄存器在輸出端,雖可消除毛刺保證輸出信號的穩定性,但輸出會延遲一個周期,可能導致誤碼概率增加。

    從節省邏輯資源、減少毛刺、降低誤碼率方面考慮,本次設計舍棄狀態機,利用FPGA自身性能,采用VHDL硬件語言對每條通道中的亂序數據進行位、字校正調整編程設計。

    數據校正流程如圖4所示,在training模式下,經異步復位rstin后,數據全部清零(BitCunt<=0),進入眼圖采樣狀態,要實現采樣時鐘恰好在眼圖的中心位置,需通過FPGA的選型,對數據傳輸通道進行延時控制;然后將輸出的并行10位數據與上次接收數據進行比較,若數據發生變化,則表明采樣點不在眼圖的中央位置,記錄此時的延遲拍數,找到延遲邊緣的中間點即為最佳采樣位置,將采樣點移到眼圖中間即完成位對齊。位對齊完成后,進入圖像字對齊(Align_Image Bit),為確保每個通道在同一時鐘沿上采集到第一個字節,在傳感器training模式下,發送相應的訓練字節,接收模塊解串后,通過旋轉解串后的字節,讓其與訓練字節匹配,若采集到的10 bit字節與所期望的字節不匹配,則返回到Make_CtrlAlign操作,使控制進程重新對齊,如此反復,直到并行數據與訓練字匹配為止,從而實現字對齊。

wdz3-t4.gif

2.3 乒乓緩存

    該模塊的設計是為獲得傳感器最快的輸出模式,將CMV2000的輸出模式配置成16通道,但Camera Link接口標準在Base配置模式下僅有8通道,因此將兩路圖像數據轉換成一路圖像數據。實現與Camera Link協議Base模式下8個PORT映射對接[11]。因此,本次設計利用XC6SLX150內部IP核創建2個容量為256×128 bit的雙口RAM進行乒乓緩存;然后將讀出的圖像數據寬度設定為16 bit,讀出時鐘采用較高頻率。這種在雙RAM中同時進行寫入和讀取操作的方法提高了數據之間的存儲速度。

2.4 格式編碼

    Camera Link協議中,其接口芯片同時接收28 bit TTL/CMOS信號:24 bit數據信號、4 bit幀有效FVAL信號及行有效LVAL信號。FPGA僅接收數據信號,因此,異步FIFO(First In First Out)要在控制圖像數據時序的同時,生成FVAL和LVAL兩個同步控制信號。當前較常用的FIFO器件很難滿足系統要求,本次采用VHDL硬件語言設計了一種既提供數據緩存,又匹配Camera Link接口標準的異步FIFO。整個系統使用3個FIFO,分別用于幀號、行號及圖像數據的儲存。在發送的每行圖像數據前加8 bit輔助數據后,按照規定的列數和行數有序地選擇FIFO并讀取數據。此外,在每行、每幀之間的空閑狀態,向TLK2711發送一個16 bit空閑碼,保證TLK2711發送端串行數據的同步。

3 試驗結果

    根據以上軟件設計,結合硬件設計,采用ISE14.3軟件中自帶的在線邏輯分析儀ChipScope,對本次設計進行板級圖像數據和時序抓拍分析,圖5為讀取一行的像素數據,依次讀取0~7通道,ch_id為相應通道號。圖6為通道6采樣的具體數據讀取,addr為相應的地址,其中高低位像素做了重置。由ChipScope捕捉的時序圖可以看出,該系統成功采集到了經過數據處理后的圖像數據。

wdz3-t5.gif

wdz3-t6.gif

    為了驗證本次設計數據處理后的成像效果,采用頻率為48 MHz的主時鐘,數據傳輸速率為480 Mb/s,圖7(a)為數據校正后的圖片,選取相同圖像部分進行3:1放大后對比發現,圖7(b)中每幢樓層的棱角清晰,顏色分明,除此之外,樓層右下角可以清楚地看到幾顆大樹的樹頂。整體圖像無斑點、無錯誤區域,圖像質量明顯提高,分辨率達到2 048×1 088。

wdz3-t7.gif

4 結論

    通過深入分析圖像數據傳輸過程中影響成像質量的原因,采用VHDL硬件語言,設計基于FPGA的數據處理程序,既充分利用FPGA內部邏輯資源,避免使用狀態機處理數據校正時過度占用FPGA資源、產生大量毛刺和剩余狀態問題,又能很好地解決誤碼問題。實驗證明經過本數據處理環節后,數據傳輸中誤碼率降至5%,解決了高速傳輸過程中的數據校正問題,使最終顯示到計算機上的圖像質量高、無錯誤區域,分辨率達到2 048×1 088,滿足預期的技術要求。

參考文獻

[1] 孫波,王曉艷.CCD圖像傳感器和CMOS圖像傳感器的比較研究[J].信息通信,2015,156(12):35-36.

[2] 雷蕾.基于CCD與CMOS圖像傳感新技術的研究[J].科技創新導報,2014(14).

[3] 王晗,李翔,李忠敏,等.基于OV7670的圖像采集與顯示設計[J].中國科技信息,2013(11):90-91.

[4] 丁昊杰,劉敬彪,盛慶華.基于CMOS圖像傳感器的視頻采集系統設計[J].現代電子技術,2012,35(14):178-181.

[5] 魏麗玲,朱平,石永亮.基于FPGA的圖像采集與存儲系統設計[J].電子技術應用.2015,41(11):67-69.

[6] CMOSIS.200 Megapixel Global shutter CMOS image sensor datasheet[J/0L].www.Cmosis.com/producta/product.detail/cmv2000,2013:1-44.

[7] 王征,何云豐,曹小濤,等.基于FPGA的大面陣CMOS相機高速率電子學系統設計[J].液晶與顯示,2016,31(2):174-178.

[8] 李方寧,王延杰,張濤,等.基于AM41V4傳感器的高清高速CMOS相機系統設計[J].液晶與顯示,2015,30(3):492-498.

[9] 任偉,張彥軍,白先民.基于LVDS的高速數據傳輸裝置的設計[J].科學技術與工程,2012,12(29):7759-7763.

[10] 索義芳,高飛,孫磊.基于FPGA的差分RS422串行收發模塊的設計實現[J].微計算機信息,2010,26(12):125-126.

[11] 王小艷,張會新,孫永生,等.Camera link協議和FPGA的數字信號源設計[J].國外電子元件,2008,16(7):59-61.



作者信息:

侯絮絮1,馬松齡1,孫  晨2,郭子靖1

(1.西安建筑科技大學 機電工程學院,陜西 西安710055;2.中國科學院 西安光學精密機械研究所,陜西 西安710119)

此內容為AET網站原創,未經授權禁止轉載。
亚洲一区二区欧美_亚洲丝袜一区_99re亚洲国产精品_日韩亚洲一区二区
国产日韩欧美精品| 亚洲精品免费看| 欧美日韩精品综合| 麻豆精品视频| 久久女同精品一区二区| 欧美一进一出视频| 亚洲欧美日本日韩| 亚洲精品综合| 亚洲片国产一区一级在线观看| 午夜亚洲影视| 欧美在线网站| 久久国产精品一区二区三区四区| 篠田优中文在线播放第一区| 亚洲视频中文字幕| 欧美日韩大片| 亚洲欧美另类综合偷拍| 日韩一级黄色av| 日韩天堂在线观看| 99精品热视频| 亚洲天堂网在线观看| 亚洲视频在线看| 亚洲欧美国产精品va在线观看 | 欧美一区二区三区在线视频| 亚洲欧美国产日韩天堂区| 亚洲欧美日本国产有色| 午夜精品婷婷| 久久精品亚洲| 亚洲蜜桃精久久久久久久| 9色porny自拍视频一区二区| 正在播放欧美视频| 午夜久久福利| 久久精品夜色噜噜亚洲a∨| 久久躁日日躁aaaaxxxx| 欧美成人a视频| 欧美日韩三级在线| 国产精品日本| 国内一区二区在线视频观看| 在线观看亚洲a| 亚洲精选成人| 午夜精品视频在线观看一区二区| 久久精品国产精品亚洲综合| 亚洲看片免费| 亚洲欧美综合精品久久成人| 久久亚洲高清| 欧美日韩不卡在线| 国产精品综合色区在线观看| 伊人久久大香线蕉综合热线| 亚洲美女av网站| 亚洲综合99| 亚洲福利小视频| 在线中文字幕一区| 欧美主播一区二区三区| 美女精品网站| 欧美体内she精视频在线观看| 国产毛片一区二区| 亚洲电影在线观看| 亚洲一区二区三区激情| 久久精品视频在线| 亚洲婷婷国产精品电影人久久| 欧美一区二区三区在线播放| 免费观看成人| 国产精品日韩欧美| 在线观看一区视频| 一区二区三区欧美在线| 久久av在线看| 亚洲愉拍自拍另类高清精品| 久久久久9999亚洲精品| 欧美日韩一卡| 在线精品亚洲一区二区| 亚洲系列中文字幕| 亚洲精品视频啊美女在线直播| 午夜在线观看欧美| 欧美激情视频一区二区三区免费| 国产精品影院在线观看| 亚洲日本一区二区| 久久av一区二区三区漫画| 亚洲天堂黄色| 欧美大尺度在线| 国产拍揄自揄精品视频麻豆| 日韩网站在线| 亚洲欧洲精品一区| 久久精品亚洲热| 国产精品国产三级国产a| 亚洲国产精品va| 久久国产精品久久久| 亚洲男女毛片无遮挡| 欧美久久在线| 在线免费观看日本欧美| 欧美亚洲在线视频| 亚洲欧美日韩区| 欧美日韩在线播放| 亚洲国产欧美不卡在线观看| 久久av一区二区三区| 午夜欧美电影在线观看| 欧美人与性禽动交情品| 国产一区二区三区在线播放免费观看 | 99这里有精品| 欧美成va人片在线观看| 韩国一区二区三区美女美女秀| 亚洲一区二区三区乱码aⅴ| 99精品欧美一区二区三区综合在线| 久久天堂国产精品| 国产日韩欧美精品一区| 亚洲一级影院| 亚洲尤物视频在线| 欧美色综合天天久久综合精品| 亚洲国产网站| 99ri日韩精品视频| 欧美激情中文不卡| 亚洲国产日韩在线| 亚洲人屁股眼子交8| 久久伊伊香蕉| 一区二区三区在线免费观看 | 亚洲欧洲一区二区三区| 久久综合图片| 精品av久久707| 亚洲高清在线| 久久综合网络一区二区| 黄色一区二区在线| 久久国产日韩欧美| 久久久久99精品国产片| 韩国在线一区| 亚洲激情在线| 欧美成人一区二区在线| 91久久久亚洲精品| 一区二区三区视频在线| 欧美新色视频| 亚洲在线不卡| 久久国产精品99精品国产| 国产欧美一区二区三区视频| 亚洲欧美经典视频| 久久国内精品自在自线400部| 国产日韩欧美精品在线| 久久精品国产77777蜜臀| 麻豆精品在线播放| 亚洲国产mv| av成人激情| 国产精品美女xx| 欧美一区二区三区免费观看视频| 久久国产精品免费一区| 韩国精品久久久999| 亚洲人成网站777色婷婷| 欧美精选午夜久久久乱码6080| 一本久道久久综合狠狠爱| 午夜免费在线观看精品视频| 国产日韩精品一区二区三区在线| 欧美伊人影院| 欧美国产成人在线| 中文一区二区在线观看| 久久都是精品| 亚洲国产精品久久人人爱蜜臀 | 欧美亚洲综合在线| 国产一区二区在线观看免费| 最新日韩在线视频| 欧美日韩精品一区二区| 亚洲一级高清| 久久影院午夜片一区| 亚洲理论在线| 欧美在线你懂的| 亚洲高清在线观看一区| 国产精品99久久久久久人| 国产欧美1区2区3区| 亚洲大胆人体视频| 欧美日韩视频一区二区三区| 亚洲欧美综合另类中字| 欧美a级在线| 亚洲一区在线直播| 欧美成人视屏| 亚洲伊人伊色伊影伊综合网| 美女精品一区| 亚洲色图制服丝袜| 久久午夜国产精品| 夜夜嗨av一区二区三区 | 噜噜噜91成人网| 日韩午夜免费视频| 久久人人爽人人爽| 一区二区欧美在线观看| 久久色在线播放| 夜夜嗨av一区二区三区| 老鸭窝毛片一区二区三区| 日韩亚洲欧美一区二区三区| 久久精品一区蜜桃臀影院| 亚洲毛片在线看| 久久久综合网| 亚洲一级网站| 欧美另类人妖| 亚洲电影欧美电影有声小说| 国产精品久久久久永久免费观看| 亚洲国产一区二区精品专区| 国产精品久久久久999| 亚洲日本免费电影| 国产午夜精品久久久久久久| 在线视频一区二区| 在线观看视频一区| 久久国产日本精品| 亚洲图片欧美一区| 欧美久久一区| 亚洲国产人成综合网站| 国产日韩在线播放| 亚洲自拍啪啪|