安全內參2月2日消息，去年11月OpenAI正式發布ChatGPT時，程序員們驚訝地發現，這個AI驅動的聊天機器人不僅能輕松模仿人類語言，甚至可以編寫代碼。

　　在發布的幾天之后，程序員們貼出了一條條令人瞠目結舌的代碼生成示例。從串接云服務到將Python代碼移植為Rust，ChatGPT至少在某些基礎編程任務上已經表現出非凡的能力。

　　但我們也需要擦亮雙眼，將圍繞ChatGPT掀起的炒作跟真實情況區分開來。ChatGPT的編程能力先后登上一系列頭條新聞，類似“ChatGPT對網絡安全的威脅遠超大多數人想象”的標題也確實讓人心頭一緊。不單是普通讀者好奇于ChatGPT編寫惡意軟件的能力，經驗豐富的黑客更想檢驗這個大語言模型到底能在惡意攻擊中發揮多大作用。

　　實測：

　　ChatGPT缺乏編碼專業知識

　　Marcus Hutchins（ID為MalwareTech）是一位從黑帽轉型為白帽的黑客，曾在2017年因阻止WannaCry勒索軟件傳播而備受關注。此前曾編寫銀行木馬的他，當然也對ChatGPT究竟有多大本事充滿好奇。聊天機器人真能用來編寫惡意軟件嗎？

　　一番嘗試之下，結果令人失望。Hutchins在采訪中表示，“這十年來，我一直在以合法身份開發惡意軟件。我一般要花三個小時才能寫出一段功能性代碼，而且得用開發效率較高的Python語言。”

　　經過幾個小時的忙碌，Hutchins成功編寫出勒索軟件程序中的一個組件：文件加密例程。接下來，他嘗試讓ChatGPT把該組件跟其他必要功能組合成完整的惡意軟件，但這位“AI新秀”笨拙地失敗了。事實證明，ChatGPT不光難以把各種組件整合起來，甚至連正確打開文件都很費勁。

　　在這類基本排序問題中的糟糕表現，證明ChatGPT等生成式AI系統仍存在嚴重缺陷。盡管它們能夠創建出與訓練數據極為相似的內容，但大語言模型往往缺乏構成專業知識的糾錯工具與上下文知識。人們在驚訝于ChatGPT模仿效果的同時，卻經常忽視了它的局限性。

　　如果大家全盤接受炒作所灌輸的觀點，那ChatGPT已經幾乎無所不能。從文職工作到學術論文、再到專業考試，也包括黑客們擅長的惡意軟件開發，這一切都將被ChatGPT所掌控。然而，這種論調其實掩蓋了ChatGPT等工具的核心應用方式——并不是要取代人類專業知識，而是充當高效的AI助手。

　　ChatGPT編碼依賴專家指導

　　在ChatGPT發布的幾周之后，就有多家網絡安全公司發布一系列報告，證明該機器人可能被用于編寫惡意軟件。消息一出，旋即催生了一大堆關于ChatGPT編寫“多態惡意軟件”的頭條新聞。但這些報告往往掩蓋了技術專家在指示模型編寫代碼，特別是糾正所生成代碼結果方面發揮的重要作用。

　　去年12月，安全解決方案供應商CheckPoint的研究人員展示了ChatGPT如何從頭到尾構建惡意軟件——包括編寫網絡釣魚電子郵件和惡意代碼。然而，要想讓它生成功能完備的代碼，必須由專業程序員一步步提供引導和提示，例如添加沙箱檢測和檢查某項功能是否對SQL注入開放。

　　CheckPoint公司研究員Sergey Shykevich表示，“攻擊者必須知道自己想要什么，并指定相應功能。單純要求其「編寫惡意軟件代碼」并不能生成真正有用的結果。”

　　對于Hutchins這樣的黑客來說，提出正確的問題就是成功的一半。另外，很多將ChatGPT宣傳成編程工具的媒體，往往也忽視了使用ChatGPT協助軟件開發對于研究人員自身的專業知識要求。

　　Hutchins認為，“精通編程的用戶其實是在引導ChatGPT進行開發，他們可能沒意識到自己在過程中起了多么重要的作用。如果缺乏編程經驗，用戶甚至不知道該給ChatGPT什么樣的提示。”

　　必須承認，ChatGPT目前仍是眾多惡意軟件開發工具中的一員。在上周發布的報告中，威脅情報公司Recorded Future在暗網和內部論壇中，發現了1500多條關于使用ChatGPT開發惡意軟件、創建概念驗證代碼的參考資料。這份報告還提到，其中大部分代碼都公開可用。

　　Recorded Future認為，ChatGPT對于“腳本小子、黑客行動主義者、欺詐分子/垃圾郵件發送者、支付卡欺騙者等技術水平不高的網絡犯罪分子”最有幫助。

　　對于惡意開發領域的新手，ChatGPT也能提供一定幫助。報告總結稱，“ChatGPT能為迷茫的初學者提供實時示例、教程和資源，降低了惡意軟件開發的準入門檻。”

　　ChatGPT有望降低黑客技術門檻，

　　但掀起革命火候未足

　　但總體來看，惡意黑客方獲得的助益非常有限。ChatGPT雖然降低了黑客技術的學習難度和接觸門檻，但同樣的內容也完全可以在谷歌上輕松查到。

　　外媒CyberScoop在去年12月曾報道，隨著ChatGPT和其他大語言模型的發展成熟，其編寫合法和惡意原始代碼的能力也將不斷提高。但在真正的轉折來臨之前，ChatGPT等工具所發揮的仍以輔助作用為主，做不到憑空生成惡意軟件。

　　例如，ChatGPT確實能夠高效生成網絡釣魚電子郵件。對于難以順暢使用英語（或其他目標語言）編寫含鏈接惡意消息的俄語黑客來說，ChatGPT能迅速提高他們的寫作技巧。

　　哥倫比亞大學計算機科學助理教授、Barracuda網絡安全公司顧問Asaf Cidon提到，“目前絕大多數攻擊源自電子郵件，而絕大多數郵件攻擊并不屬于惡意軟件攻擊。對方只是想誘導用戶交出憑證或者執行轉賬操作。”Cidon認為“ChatGPT確實很擅長這方面工作”，所以釣魚欺詐會變得更容易。

　　但這只是變化中的一環，還不至于掀起黑客革命。高質量的網絡釣魚郵件已經很容易制作——可以由攻擊者自己編寫，也可以在外包平臺上雇用專業翻譯完成。ChatGPT的出現，只是把釣魚郵件推向了規模化時代。在Cidon看來，ChatGPT“降低了所需投入”。

　　還有一種特殊的使用方法，惡意黑客可以利用以往郵件歸檔對大語言模型進行微調，使其學會企業CEO的文字風格。Cidon提到，這樣訓練出的大語言模型往往能輕松騙過公司員工。

　　但專家們強調，在對ChatGPT的網絡安全影響進行廣泛評估時，必須持續關注整體趨勢。目前，已經出現了在針對性攻擊中使用大語言模型的有趣案例。不過至少在多數情況下，ChatGPT恐怕還無法提高成功幾率。畢竟根據喬治敦大學安全與新興技術中心研究員Drew Lohn的觀察，“網絡釣魚活動已經非常成功，ChatGPT的加入可能并不會產生太大影響。”

　　總的來說，ChatGPT等工具有望降低準入門檻、擴大惡意黑客的群體規模。Lohn認為，ChatGPT也許能“引導黑客在不借助任何新型惡意軟件的情況下，順利完成入侵過程。……目前網絡上已經充斥著大量開源工具和預先打包的惡意軟件，我擔心ChatGPT的普及會把這些工具交付到每個人手上。”

　　他也承認這個領域仍處于快速變化階段，情況隨時可能不同：“一個禮拜之后，也許一切都將改變。”

　　歡迎關注電子技術應用2023年2月22日==>>商業航天研討會<<