在人們的心目中，銀行是一個管理制度嚴格、工作細致嚴謹的地方。我們經常會聽到銀行職員成功阻止了某位老年人向詐騙分子巨額轉賬等類似報道。然而這一次，阿聯酋一家銀行卻被一個利用“深度偽裝（Deepfake）”技術的詐騙團伙騙取了3500萬美元的資金。
事件始末
2020年初，阿聯酋的一位銀行經理接到了一家大公司董事打來的電話。該董事聲稱其所在的公司正在進行一項大型收購，所以需要這家銀行授權向美國的幾個賬戶轉賬3500萬美元，并表示已經發送一封來自律師的電子郵件來確認這筆轉賬。該銀行經理能夠分辨出這位董事的聲音，因為他們之前交談過，并且在收件箱中看到了來自董事和律師的電子郵件，他認為一切程序看起來都是合法的，于是確認了這筆轉賬。
然而這位大公司的“董事”的聲音實際上是詐騙團伙利用一種名為“深度偽裝（Deepfake）”的人工智能技術合成的，聽起來很像本人的聲音。阿聯酋有關部門目前正在尋求美國警方的幫助，以追回丟失的資金。據悉，這些資金已被詐騙分子轉移到他們在全球各地的至少17個賬戶上。
這并不是Deepfake語音技術第一次被用于網絡詐騙犯罪。無獨有偶，2019年3月，一家總部位于德國的英國能源公司的管理者也曾被Deepfake技術所騙，損失了約25萬美元。詐騙團伙利用Deepfake技術生成了德國母公司CEO的聲音，并命令英國分公司的經理緊急匯款。可笑的是，攻擊者在第一次詐騙成功得手后，故技重施，兩天后再次給這名經理打電話，并指示其追加10萬美元匯款。但這次，英國分公司經理察覺到了一些可疑之處，并阻止了再次被騙。
何為Deepfake技術
到底什么是Deepfake技術？這種技術為什么如此厲害，連銀行經理、公司高管都會被蒙騙上當？
Deepfake是由“deep machine learning”（深度機器學習）和“fake photo”（假照片）組合而成，本質是一種深度學習模型在圖像合成、替換領域的技術框架，屬于深度圖像生成模型的一次成功應用。
其實該技術的最初版本在2017年底就被提出了，當時在構建模型的時候使用了Encoder-Decoder自編解碼架構，在測試階段通過將任意扭曲的人臉進行還原，整個過程包含了：獲取正常人臉照片—>扭曲變換人臉照片—> Encoder編碼向量—> Decoder解碼向量—> 還原正常人臉照片五個步驟。后來，在Encoder-Decoder的框架之上，又引入了GAN（生成對抗網絡）技術，不但降低了同等條件下的模型參數量和模型復雜度，同時使生成的人臉更為清晰，大大降低了對原圖的依賴，顯著提升了換臉的效果，從而形成了目前基于GAN技術的Deepfake改進版。
簡而言之，只要提供足夠多的照片或聲音素材，Deepfake就能夠實現以假亂真的變臉或變聲，還自帶動態捕捉，可以直接在視頻甚至實時影像中進行面部更換。
Deepfake技術被濫用究竟有何威脅？
每項新技術的產生都具有兩面性。一方面，Deepfake技術應用在影視文化行業等領域的想象空間極大；另一方面，利用Deepfake技術實施詐騙、用于政治爭斗和誹謗他人等，使該技術從誕生之初就伴隨著肖像權、版權和倫理層面的爭論。
一是用于網絡詐騙
就像前面提到的這兩起網絡詐騙事件一樣，預計，今后網絡犯罪分子將會積極利用Deepfake技術實施詐騙活動。在使用 Deepfake技術制作的視頻中，可能會檢測到細微的奇怪之處，但以目前的技術水平生成的聲音文件與真實聲音非常相似，真假難辨。
安全公司Cato Networks的網絡安全高級主管伊泰·毛爾（Etay Maor）表示：“目前已經出現了很多類似Deepfake技術這種可以生成深度偽裝語音的開源工具。網絡犯罪分子的目的是賺錢。只要能賺錢，他們愿意肆無忌憚地學習和使用任何新技術。如果Deepfake技術被反復用于這種大規模的詐騙技術，那么這些開源工具也將會如此，攻擊者沒有理由不使用它們。雖然Deepfake技術合成的視頻尚不完善，但語音合成技術已經足夠成熟，且使用起來并不難。”
二是用于政治目的
在Deepfake技術剛出現時，專家們就擔心它們會被惡意用于政治活動中。也就是說，他們擔心別有用心者模仿政客的臉和聲音制作出虛假視頻，散布不負責任的言論，從而引發社會轟動。
2018年4月，美國網絡媒體Buzzfeed在Youtube上上傳了一條視頻，令人大吃一驚。視頻的內容是前任美國總統奧巴馬辱罵時任美國總統特朗普。在該視頻中，前美國總統奧巴馬稱特朗普是個十足的笨蛋。其實，這是Buzzfeed為了警示人們Deepfake技術的危險性而與電影導演喬丹·皮爾（Jordan Peele）一同制作的視頻。該視頻制作得十分巧妙，一般人很難辨別其真偽。因此， 如果Buzzfeed沒有公開該視頻的真實意圖，此事件將會引起軒然大波。
三是用于誹謗他人
利用女明星、成功人士等公眾人物的臉制作虛假色情視頻等進行惡意炒作并引發關注，這是Deepfake技術的慣用伎倆，任何熟悉互聯網的人都不會對此感到驚訝。2019年10月，荷蘭網絡安全公司Deep trace發布了一份統計報告顯示，利用Deepfake技術制作的視頻中96%都涉及色情，并且大部分受害者都是娛樂圈女星。
四是損害大眾的信任
Deepfake技術可能構成的最大威脅是，它們的存在令人們對合法視頻和真實新聞增加了一份不信任感。Deepfake技術具有前所未有的篡改內容的能力，這對消費者、品牌方、決策者、政治家和所有作為信息提供者的媒體蒙上了一層“不信任”的陰影。并且隨著AI和深度學習技術的不斷發展，虛假音視頻的制作也將變得更加容易、更為“真實”。因此，Deepfake技術破壞信任和傳播假消息的潛力也前所未有地增強了。
我們該如何預防此類詐騙
此次阿聯酋銀行詐騙事件不是Deepfake語音技術第一次被用于網絡詐騙犯罪，也不會是最后一次。類似的事件將來還會發生，而且規模可能會更大。那么，我們該如何預防呢？
引入零信任
安全公司Cato Networks的網絡安全高級主管伊泰·毛爾將這兩次利用Deepfake技術成功詐騙的事件描述為“最終與信任相關的事件”。他表示：“對于冒充認識的人發送電子郵件要錢和直接打電話要錢的人來說，這是兩件完全不同的事情。因為語音中包含的信息比文字多得多，除了說話的內容外，還有聲音的音色、語調、語氣等其他信息。如果連這些信息都和原始信息相似，則它更有可能被信任。沒有人能不上當受騙。”
毛爾認為，在Deepfake技術變得如此普遍的當下，別無他選，只能在所有環境下引入零信任。毛爾強調：“這不只是與引入新技術或最新技術相關要素的問題，而是必須在我們所有的情況和環境下建立一種‘確認并相信’的文化。”
運用人工智能識別
有專家認為，由于Deepfake技術仍在不斷改進，最終會變得更加強大，以至于人類無法正確識別。但經過訓練的人工智能可能會識別出深度偽造的行為，因為克隆受害者的面孔和聲音往往包含一些錯誤，例如數字噪音或人類不可能發出的一些聲音等。
加強個人信息保護
有人認為，現在只需要5分鐘的樣本音頻，即可制造出合成語音；但也有部分人持不同意見，認為至少需要2至3個小時的音頻樣品，才能合成出像樣的深度假聲。這可能僅是一種對判斷Deepfake聲音的完成度存在分歧而已，歸根結底，虛假音視頻的制作都必須以一定數量原聲素材為基礎。只要我們注意保護好個人信息，不要將個人的音視頻資料外泄，就會降低被利用的風險。
立法保護
僅在技術層面打擊這一技術的濫用是不夠的，我們還需要法律的支持。我國《民法典》之人格權編規定，任何組織或者個人不得以丑化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權。這意味著即便沒有營利目的和主觀惡意，未經本人同意的AI換臉和模仿聲音同樣有可能構成侵權。
另外，我國《網絡音視頻信息服務管理規定》中，作為網絡視頻規范強化的要點，明確規定利用Deepfake或假想現實等技術進行的虛假音視頻傳播的行為是非法的。
