作為擁有先進(jìn)技術(shù)的科技巨頭，谷歌這樣的公司不免會(huì)與軍事計(jì)劃產(chǎn)生聯(lián)系。在有侵犯隱私、違背倫理的風(fēng)險(xiǎn)下，是否應(yīng)該接下巨額合同？最近，聽聞公司正在參與美國(guó)國(guó)防部「Project Maven」AI 軍事計(jì)劃，很多谷歌員工發(fā)起了抵制，他們上書 CEO Sundar Pichai 的公開信現(xiàn)在已經(jīng)獲得了數(shù)千人的聯(lián)名簽署。
五角大樓項(xiàng)目「Project Maven」主要應(yīng)用深度學(xué)習(xí)計(jì)算機(jī)視覺技術(shù)，旨在幫助國(guó)防部門從圖像和視頻中提取值得注意的對(duì)象。該項(xiàng)目是在 2017 年 4 月由時(shí)任副國(guó)防部長(zhǎng) Bob Work 在一份備忘錄中首次披露的。目前，美國(guó)已經(jīng)成立了一個(gè)算法戰(zhàn)爭(zhēng)混合任務(wù)團(tuán)隊(duì)（Algorithmic Warfare Cross-Functional Team），由國(guó)防情報(bào)局副部長(zhǎng)監(jiān)督。
數(shù)千名谷歌員工簽署了一封致 CEO Sundar Pichai 的信函，抗議谷歌參與一個(gè)旨在提高無(wú)人機(jī)打擊能力的項(xiàng)目。（圖源：Michael Short/Bloomberg）
近日，數(shù)千名谷歌員工（包括數(shù)十名高級(jí)工程師）簽署了一份聯(lián)名信函，抗議該公司參與五角大樓的一個(gè)項(xiàng)目，該項(xiàng)目利用人工智能解讀視頻圖像，旨在提高無(wú)人機(jī)打擊的精準(zhǔn)度。
該信函在谷歌內(nèi)部迅速流傳開來(lái)，已有超過 3100 人簽名，反映了硅谷與聯(lián)邦政府之間的文化沖突。隨著人工智能前沿技術(shù)越來(lái)越多地用于軍事領(lǐng)域，這種沖突可能會(huì)愈演愈烈。
信是寫給谷歌 CEO Sundar Pichai 的。信中寫道：「我們認(rèn)為谷歌不應(yīng)卷入戰(zhàn)爭(zhēng)。」信中要求谷歌撤出五角大樓的試點(diǎn)項(xiàng)目 Project Maven，并宣布永遠(yuǎn)不會(huì)「發(fā)展戰(zhàn)爭(zhēng)技術(shù)」。
當(dāng)然，這種理想主義的想法并不是所有谷歌員工都認(rèn)同的，但對(duì)于一家以「不作惡」（信中也有引用）為座右銘的公司來(lái)說，提出這種想法是很正常的。但這顯然與華盛頓龐大的國(guó)防工業(yè)不同，當(dāng)然也與五角大樓不同。現(xiàn)任美國(guó)國(guó)防部長(zhǎng) Jim Mattis 經(jīng)常說，五角大樓的中心目標(biāo)是提高美國(guó)軍隊(duì)的「殺傷力」。
從早期開始，谷歌就鼓勵(lì)員工就涉及公司的問題發(fā)表意見。該公司提供了內(nèi)部留言板和社交網(wǎng)絡(luò)，員工可以在這些平臺(tái)上就公司的產(chǎn)品和政策向管理層或同事提出意見。最近，圍繞谷歌努力打造一支更加多元化的員工隊(duì)伍的激烈辯論日益公開化。
谷歌員工已就一系列問題發(fā)出了抗議請(qǐng)?jiān)笗ㄔ摴韭浜笥?Facebook 的社交網(wǎng)站 Google Plus 以及谷歌對(duì)保守政治行動(dòng)會(huì)議（CPAC）的贊助。
在最近的一次公司會(huì)議上，員工就谷歌參與 Project Maven 提出質(zhì)疑。當(dāng)時(shí)，谷歌云基礎(chǔ)設(shè)施業(yè)務(wù)主管 Diane Greene 為這一項(xiàng)目辯護(hù)，并試圖安撫相關(guān)員工。公司發(fā)言人表示，抗議信上的大多數(shù)簽名是在公司對(duì)此情況進(jìn)行解釋之前收集的。
該公司隨后將 Project Maven 的工作描述為「非攻擊性的」，盡管五角大樓的視頻分析通常用于反暴動(dòng)和反恐行動(dòng)，國(guó)防部也曾發(fā)文表示該項(xiàng)目用于支持這些行動(dòng)。谷歌和五角大樓都表示，谷歌的產(chǎn)品不會(huì)創(chuàng)造出無(wú)需人類操作者就能開火的自主武器系統(tǒng)，自主武器系統(tǒng)在人工智能應(yīng)用中也有很大爭(zhēng)議。
對(duì)無(wú)人機(jī)視頻做進(jìn)一步分析，可以挑選出人類目標(biāo)并實(shí)施襲擊，換個(gè)角度來(lái)說，這也有助于更好地分辨出平民，以減少無(wú)辜者被意外殺害的風(fēng)險(xiǎn)。
谷歌周二發(fā)布的一項(xiàng)聲明并未直接提及這份致 CEO Sundar Pichai 的信函，聲明中提到：「任何機(jī)器學(xué)習(xí)的軍事化應(yīng)用都會(huì)導(dǎo)致人們的合理?yè)?dān)憂，這是自然的。我們正在公司內(nèi)部積極鼓勵(lì)對(duì)該重要議題進(jìn)行充分討論。」谷歌稱這種交流「非常重要，也非常有益」，而熟知信件內(nèi)容的多名谷歌員工僅在匿名條件下發(fā)聲，并表示這是因?yàn)閾?dān)心被報(bào)復(fù)。
該聲明稱谷歌在 Project Maven 中所參與的部分「僅限于非攻擊性的目的」，雖然官方拒絕提供相關(guān)的合同內(nèi)容。美國(guó)國(guó)防部稱由于谷歌是主承包商 ECS Federal 在 Project Maven 的分包商，它不能提供谷歌合同或合同內(nèi)容。ECS Federal 尚未回應(yīng)該詢問。
谷歌稱五角大樓在使用基于未分類數(shù)據(jù)且「對(duì)任何谷歌云客戶開放的開源目標(biāo)識(shí)別軟件」。谷歌表示，「這項(xiàng)技術(shù)用于標(biāo)記圖像，以幫助人工審查，其目的是把人們從高度單調(diào)的工作中解放出來(lái)。」
谷歌部分高管和五角大樓有密切聯(lián)系。該公司前執(zhí)行董事長(zhǎng) Eric Schmidt（目前仍是谷歌母公司 Alphabet 的執(zhí)行董事會(huì)成員）為五角大樓顧問團(tuán) Defence Innovation Board 的成員，該顧問團(tuán)還包括谷歌副總裁 Milo Medin。
在 11 月份的一個(gè)采訪中，Mr. Schmidt 承認(rèn)「技術(shù)社區(qū)普遍擔(dān)心軍工行業(yè)會(huì)使用他們的成果去錯(cuò)誤地傷害人類」。他說他將在董事會(huì)中「至少起到交流作用」，并且建議軍方「使用這些技術(shù)來(lái)幫助保護(hù)國(guó)家安全」。
谷歌這一小部分對(duì)軍事合同感到不安的員工（超過 70000 名）也許并不能對(duì)公司的發(fā)展造成大的阻礙。但在人工智能研究領(lǐng)域中，谷歌正忙于和其它技術(shù)公司激烈「搶人」，因此如果某些候選者被谷歌的辯解所推遲，這將會(huì)造成人事聘用上的麻煩。
谷歌在內(nèi)部異議中為國(guó)防合同辯護(hù)，但與此同時(shí)它的競(jìng)爭(zhēng)對(duì)手并不羞于宣傳自己的國(guó)防項(xiàng)目。亞馬遜向國(guó)防部大力宣傳其圖像識(shí)別研究成果，而微軟則表示他們的云技術(shù)已經(jīng)與美國(guó)政府簽訂合同，為軍事和國(guó)防機(jī)構(gòu)處理機(jī)密信息。
當(dāng)前的爭(zhēng)論由 Gizmodo 首次報(bào)道，主要集中在 Project Maven。該試點(diǎn)項(xiàng)目于去年開始，旨在找到加速軍方應(yīng)用最新 AI 技術(shù)的方式。五角大樓發(fā)言人表示，預(yù)計(jì)該項(xiàng)目第一年花費(fèi)不到 7000 萬(wàn)美元。但谷歌公開信的簽名者明確希望阻止谷歌參與更大規(guī)模的五角大樓合同（人工智能國(guó)防應(yīng)用不斷發(fā)展）。
外界普遍認(rèn)為，目前谷歌正與其他科技巨頭（如亞馬遜和微軟）競(jìng)爭(zhēng)一份為期多年、價(jià)值數(shù)十億美元的國(guó)防部云服務(wù)合同。國(guó)防部首席管理官 John Gibson 在三月份的一次講話中提到：「聯(lián)合企業(yè)國(guó)防基礎(chǔ)設(shè)施云（Joint Enterprise Defense Infrastructure Cloud）」采購(gòu)計(jì)劃的部分目的是「提升殺傷力和做好準(zhǔn)備」，這凸顯了將軟件、云服務(wù)等相關(guān)服務(wù)與實(shí)際商業(yè)戰(zhàn)爭(zhēng)之間分開的難度。
谷歌員工寫給 Pichai 的公開信已經(jīng)在谷歌內(nèi)部通信系統(tǒng)中傳播了數(shù)周，信中認(rèn)為，參與軍事項(xiàng)目可能會(huì)疏遠(yuǎn)用戶，甚至影響未來(lái)的人才引進(jìn)。
「這一計(jì)劃將不可挽回地?fù)p害谷歌的品牌和人才吸引力，」信中提到，「由于人們?cè)絹?lái)越擔(dān)心人工智能的偏見與武器化，谷歌爭(zhēng)取用戶信任的道路已經(jīng)越來(lái)越難走了。」在未來(lái)，谷歌或許會(huì)被視為加入雷神、通用動(dòng)力以及 Palantir 這樣的國(guó)防承包商行列。
「其他大型科技公司如微軟和亞馬遜也參與了這一項(xiàng)目，但這并不會(huì)讓谷歌承擔(dān)的風(fēng)險(xiǎn)變小。」信中說，「谷歌擁有獨(dú)特的歷史，它的座右銘是『不作惡』（Don't Be Evil），谷歌直接觸及數(shù)十億用戶的生活，這讓它與眾不同。」
和其它新貴最終成為了強(qiáng)大的硅谷巨人一樣，谷歌也正被迫面對(duì)早年引導(dǎo)公司的理念。Facebook 開始時(shí)的使命是連接世界上所有的人，但是最近因?yàn)樘摷傧⑶篮捅欢砹_斯用來(lái)影響 2016 年的選舉而受到抨擊，此外，它同樣還被指控在美國(guó)選民中傳播異議。
考慮到谷歌的歷史和五角大樓目前在軍事方面對(duì) AI 的強(qiáng)烈需求，前五角大樓的官員和「Army of None」的作者 Paul Scharre 表示，這在谷歌內(nèi)部是不可避免的。
華盛頓新國(guó)家安全中心的高級(jí)成員 Scharre 說：「技術(shù)開發(fā)者之間存在著強(qiáng)烈的自由主義精神，并且對(duì)政府使用技術(shù)會(huì)感到擔(dān)憂。目前，人工智能突然且快速地從實(shí)驗(yàn)室走出來(lái)，邁進(jìn)了現(xiàn)實(shí)生活，這尤其加劇他們的擔(dān)憂。」
公開信原文：
親愛的 Sundar：
我們認(rèn)為谷歌不應(yīng)卷入戰(zhàn)爭(zhēng)。因此，我們請(qǐng)求公司撤銷 Project Maven，同時(shí)起草、公布并執(zhí)行一項(xiàng)明確的決策：谷歌及其合約商永不發(fā)展戰(zhàn)爭(zhēng)科技。
谷歌目前正在實(shí)施 Project Maven，這是一個(gè)定制的 AI 監(jiān)控引擎，它使用美國(guó)政府獲取的「廣域運(yùn)動(dòng)圖像（Wide Area Motion Imagery）」來(lái)檢測(cè)汽車和其他物體并追蹤其運(yùn)動(dòng)，檢測(cè)和追蹤結(jié)果提交給國(guó)防部。
最近，谷歌員工在公司內(nèi)部表示了對(duì) Maven 的擔(dān)憂。Diane Greene 在回應(yīng)中保證該技術(shù)不會(huì)「在無(wú)人機(jī)上運(yùn)行」，也「不會(huì)被用于武器開發(fā)」。雖然這排除了極小部分的直接應(yīng)用，但該技術(shù)是為軍事用途而開發(fā)，一旦交付，就會(huì)輕易被用于這些任務(wù)的輔助工作。
這一計(jì)劃將對(duì)谷歌的品牌及人才吸引力造成不可挽回的傷害。隨著對(duì) AI 偏見化和武器化的恐懼日益加劇，谷歌谷歌爭(zhēng)取用戶信任的道路已經(jīng)越來(lái)越難走了。而簽署這份協(xié)議，谷歌將加入 Palantir、雷神、通用動(dòng)力等公司的行列。其他大型科技公司如微軟和亞馬遜也參與了這一項(xiàng)目，但這并不會(huì)讓谷歌承擔(dān)的風(fēng)險(xiǎn)變小。谷歌擁有獨(dú)特的歷史，它的座右銘是『不作惡』，谷歌直接觸及數(shù)十億用戶的生活，這讓它與眾不同。
我們不能把技術(shù)的道德責(zé)任外包給第三方。谷歌宣揚(yáng)的價(jià)值觀清晰地表明：每一個(gè)用戶都在給予我們信任，永遠(yuǎn)不要辜負(fù)這一點(diǎn)。這個(gè)合同使谷歌的名譽(yù)受到威脅，而且與我們的核心價(jià)值觀相悖。發(fā)展一項(xiàng)技術(shù)協(xié)助美國(guó)政府進(jìn)行軍事監(jiān)控，而且該技術(shù)可能造成致命結(jié)果，這是不可接受的。
考慮到谷歌的道德倫理責(zé)任，以及這對(duì)谷歌名譽(yù)的潛在危害，我們請(qǐng)求你：
1. 立即取消這一項(xiàng)目。
2. 起草、公布并執(zhí)行一項(xiàng)明確的策略，聲明谷歌及其合約商永遠(yuǎn)不會(huì)染指軍事技術(shù)。