蘋(píng)果公司上周五表示，將在 iOS、iPadOS、watchOS和macOS中引入新的兒童安全功能，以限制兒童性虐待材料 （CSAM） 在美國(guó)的傳播。該舉措引起全球?qū)τ陔[私的熱議，斯諾登更是稱蘋(píng)果這是強(qiáng)推：“大規(guī)模監(jiān)視”。
為此，蘋(píng)果公司表示，除了利用設(shè)備上的機(jī)器學(xué)習(xí)來(lái)審查所有iMessage信息外，它還打算開(kāi)始對(duì)通過(guò)每臺(tái)Apple設(shè)備共享的圖像進(jìn)行客戶端掃描，以查找正在上傳到iCloud照片的已知虐待兒童內(nèi)容。未成年人帳戶（13 歲以下）發(fā)送或接收的圖像，以警告父母注意通過(guò)消息平臺(tái)共享的色情照片。
此外，Apple還計(jì)劃更新Siri和Search，以便在用戶嘗試搜索CSAM相關(guān)主題時(shí)進(jìn)行干預(yù)，提醒“對(duì)該主題的興趣有害且有問(wèn)題”。
“消息使用設(shè)備上的機(jī)器學(xué)習(xí)來(lái)分析圖像附件并確定照片是否具有色情內(nèi)容，”Apple指出。“該功能旨在讓Apple無(wú)法訪問(wèn)這些消息。” 該功能稱為通信安全，據(jù)說(shuō)是一種選擇加入設(shè)置，必須由父母通過(guò)家庭共享功能啟用。
如何檢測(cè)兒童性虐待材料
已知CSAM圖像的檢測(cè)涉及在照片上傳到云端之前，使用國(guó)家失蹤與受虐兒童中心 （NCMEC） 和其他兒童安全組織提供的已知CSAM圖像哈希數(shù)據(jù)庫(kù)進(jìn)行設(shè)備匹配。“NeuralHash”，正如系統(tǒng)所稱，由一種稱為私有集合交集的加密技術(shù)提供支持。但是，值得注意的是，雖然掃描是自動(dòng)進(jìn)行的，但該功能僅在 iCloud照片共享打開(kāi)時(shí)才有效。
更重要的是，Apple 預(yù)計(jì)將使用另一種稱為閾值秘密共享的加密原理，如果 iCloud照片帳戶超過(guò)已知虐待兒童圖像的閾值，它可以“解釋”內(nèi)容，然后手動(dòng)審查內(nèi)容以確認(rèn)存在匹配，如果是，則禁用用戶的帳戶，將材料報(bào)告給NCMEC，并將其傳遞給執(zhí)法部門(mén)。
研究人員對(duì)隱私表示擔(dān)憂
Apple的CSAM計(jì)劃促使安全研究人員表達(dá)了他們的擔(dān)憂，即它可能會(huì)受到任務(wù)蠕變的影響，并被擴(kuò)展到檢測(cè)可能具有政治和安全影響的其他類(lèi)型的內(nèi)容，甚至通過(guò)向無(wú)辜的人發(fā)送旨在出現(xiàn)的無(wú)害但惡意的圖像來(lái)陷害他們作為兒童色情的匹配項(xiàng)。
美國(guó)舉報(bào)人愛(ài)德華·斯諾登在推特上表示，盡管該項(xiàng)目的意圖是好的，但蘋(píng)果推出的是“大規(guī)模監(jiān)視”，毫無(wú)疑問(wèn)：如果他們今天可以掃描兒童色情內(nèi)容，他們明天就可以掃描任何內(nèi)容。而約翰霍普金斯大學(xué)密碼學(xué)教授和安全專(zhuān)家馬修格林 說(shuō)，“問(wèn)題在于加密是一種強(qiáng)大的工具，提供隱私，你不可能真正擁有強(qiáng)大的隱私，同時(shí)監(jiān)視任何人發(fā)送的每張圖像。”
蘋(píng)果CSAM檢測(cè)
Apple已經(jīng)根據(jù)已知的虐待兒童圖像檢查了通過(guò)電子郵件發(fā)送的iCloud文件和圖像，谷歌、Twitter、微軟、Facebook 和 Dropbox等科技巨頭也是如此，它們采用類(lèi)似的圖像散列方法來(lái)尋找和標(biāo)記潛在的虐待材料，但該公司的試圖走隱私鋼絲繩可能會(huì)重新引發(fā)關(guān)于削弱加密的辯論，升級(jí)數(shù)字時(shí)代關(guān)于隱私和警務(wù)的長(zhǎng)期拉鋸戰(zhàn)。
《紐約時(shí)報(bào)》在2019年的一項(xiàng)調(diào)查中透露，2018年有創(chuàng)紀(jì)錄的4500萬(wàn)張兒童被性虐待的在線照片和視頻被報(bào)道，其中Facebook Messenger占近三分之二，F(xiàn)acebook整體占據(jù)報(bào)告的90%。
對(duì)于一家與Facebook旗下的WhatsApp一起一直抵制有意削弱加密和后門(mén)系統(tǒng)的努力的公司來(lái)說(shuō)，即將發(fā)生的變化也標(biāo)志著某種轉(zhuǎn)變。路透社去年報(bào)道稱，在美國(guó)聯(lián)邦調(diào)查局 （FBI） 擔(dān)心這樣做會(huì)阻礙調(diào)查之后，該公司放棄了在 2018年加密用戶到iCloud的完整備份的計(jì)劃。
“剝削兒童是一個(gè)嚴(yán)重的問(wèn)題，蘋(píng)果并不是第一家為了打擊它而改變其隱私保護(hù)立場(chǎng)的科技公司。但這種選擇將為整體用戶隱私付出高昂的代價(jià)，”電子前沿基金會(huì)（EFF）說(shuō)，在一份聲明中指出，蘋(píng)果此舉可能會(huì)破壞加密保護(hù)，并打開(kāi)大門(mén)更廣泛的濫用。
“擴(kuò)大Apple正在構(gòu)建的狹窄后門(mén)所需要的只是擴(kuò)展機(jī)器學(xué)習(xí)參數(shù)以尋找其他類(lèi)型的內(nèi)容，或者調(diào)整要掃描的配置標(biāo)志，不僅是兒童的賬戶，而是任何人的賬戶。那不是一個(gè)滑坡；這是一個(gè)完整的系統(tǒng)，只是在等待外部壓力做出最細(xì)微的變化，”它補(bǔ)充道。
CSAM工作將在未來(lái)幾個(gè)月內(nèi)作為iOS 15和macOS Monterey的一部分在美國(guó)推出，但它是否或何時(shí)在國(guó)際上可用還有待觀察。2020年12月，F(xiàn)acebook被迫關(guān)閉其在歐洲的一些兒童虐待檢測(cè)工具，以響應(yīng)歐盟委員會(huì)電子隱私指令的最新變化，該指令有效禁止自動(dòng)系統(tǒng)掃描兒童性虐待圖像和其他非法內(nèi)容而無(wú)需用戶明確同意。
