《電子技術應用》
您所在的位置:首頁 > 其他 > 設計應用 > 從頻域角度重新分析對抗樣本
從頻域角度重新分析對抗樣本
信息技術與網絡安全 5期
丁 燁1,王 杰1,宛 齊1,廖 清2
(1.東莞理工學院 網絡空間安全學院,廣東 東莞523820; 2.哈爾濱工業大學(深圳) 計算機科學與技術學院,廣東 深圳518055)
摘要: 目前在空間域上關于對抗樣本的研究成果已經相當成熟,但是在頻域上的相關工作卻是十分缺乏。從頻域的角度對對抗樣本進行深入的研究,發現對抗樣本在DCT域上表現出了高度可識別的偽影,并利用這些偽影信息訓練了一個基于頻域的對抗樣本檢測器CNN-DCT,結果表明,對于常見的對抗樣本在數據集CIFAR-10和SVHN上都能達到98%的檢測準確率。此外,針對對抗樣本在頻域上存在的偽影,也提出一種通用的改進算法IAA-DCT來解決。簡而言之,本文不僅填充了對抗樣本在頻域上工作的缺少,也改進了對抗攻擊算法在頻域上存在偽影的弊端。
中圖分類號: TP391
文獻標識碼: A
DOI: 10.19358/j.issn.2096-5133.2022.05.009
引用格式: 丁燁,王杰,宛齊,等. 從頻域角度重新分析對抗樣本[J].信息技術與網絡安全,2022,41(5):59-65,76.
Analysis of adversarial examples from frequency domain
Ding Ye1,Wang Jie1,Wan Qi1,Liao Qing2
(1.School of Cyberspace Security,Dongguan University of Technology,Dongguan 523820,China; 2.School of Computer Science and Technology,Harbin Institute of Technology(Shenzhen),Shenzhen 518055,China)
Abstract: Research on adversarial examples in spatial domain is well studied, but related works in frequency domain is scarce. In this paper, we conduct thorough study of adversarial examples in frequency domain and find that adversarial examples exhibit highly identifiable artifacts in Discrete cosine transform(DCT) domain. Hence, a frequency domain-based adversarial example detector, CNN-DCT, is trained based on such artifact information, and the results achieve 98% detection accuracy for common adversarial examples on both CIFAR-10 and SVHN datasets. In addition, a general improved algorithm, IAA-DCT, is also proposed to address the artifacts that exist in the frequency domain for the adversarial examples. In conclusion, this paper not only provides studies of adversarial examples in frequency domain, but also improves the disadvantages of the adversarial attack algorithm with artifacts in the frequency domain.
Key words : adversarial example;frequency domain;discrete cosine transform(DCT) domain;adversarial attack

0 引言

對抗攻擊通過在深度學習模型中加入人類視覺上無法察覺的擾動,被稱為對抗樣本[1]。對抗樣本可以使模型受到干擾而產生錯誤的分類,從而導致錯誤類別的置信度大于正確類別的置信度。隨著深度學習在不同的任務上取得優異性能,如人臉識別、自動駕駛、會議記錄等,對人類社會進步帶來了巨大的貢獻。然而在許多的研究工作中,對抗攻擊被證明可以在圖像、視頻、語音等領域的深度學習中執行惡意任務,從而造成重大的安全問題。

為了解決對抗攻擊帶來的影響,避免這種惡意的攻擊,研究者們開始了對對抗攻擊的防御工作。對抗防御主要分為兩個方面,一個方面是直接改進模型而讓現有的對抗攻擊方法失效,如防御性蒸餾[2]。另外一個方面是進行對抗樣本的檢測。關于對抗檢測的研究主要集中在圖像域中對圖片特征處理,如Xu等人[3]提出了一種基于特征壓縮的對抗樣本檢測方法;Joel等人[4]在頻譜上綜合分析了現有的攻擊方法和數據集,發現大部分的對抗樣本在頻域都出現了嚴重的偽影,并且在頻域空間這些偽影數據可以分離,從而能夠分類識別。



本文詳細內容請下載:http://m.jysgc.com/resource/share/2000004248





作者信息:

丁  燁1,王  杰1,宛  齊1,廖  清2

(1.東莞理工學院 網絡空間安全學院,廣東 東莞523820;

2.哈爾濱工業大學(深圳) 計算機科學與技術學院,廣東 深圳518055)


此內容為AET網站原創,未經授權禁止轉載。
主站蜘蛛池模板: 女人被躁到高潮嗷嗷叫游戏| 欧美又大粗又爽又黄大片视频| 国产中文字幕在线播放| 两个人看的www在线视频| 国内一级毛片成人七仙女| √天堂中文官网8在线| 扒开美妇白臀扒挺进在线视频| 久久天天躁狠狠躁夜夜| 极品丝袜乱系列在线阅读| 亚洲欧洲日产国码在线观看| 狠狠色先锋资源网| 动漫美女被羞羞动漫小舞| 老子影院在线观看| 国产亚洲精品成人久久网站| 黑人一个接一个上来糟蹋| 国产精品jlzz视频| 717午夜伦伦电影理论片| 在线观看视频中文字幕| jjizz全部免费看片| 少妇无码av无码专区线| 中文国产成人精品久久app| 日本一区免费观看| 久久无码专区国产精品| 最近中文字幕2018| 亚洲gv天堂无码男同在线观看 | 一本到在线观看视频| 成人综合在线视频| 中文字幕无码视频专区| 日日婷婷夜日日天干| 久久亚洲最大成人网4438| 日韩一级电影在线观看| 久久精品国产亚洲av电影| 日韩高清在线中文字带字幕| 亚洲一区二区日韩欧美gif| 欧美人与动性xxxxx杂性| 亚洲国产精品福利片在线观看| 欧美牲交A欧美在线| 亚洲最大av网站在线观看| 欧美极品另类高清videos| 亚洲欧美日韩另类| 欧美激情一区二区三区在线 |