由于和美國軍方合作進(jìn)行人工智能項(xiàng)目，科技巨頭谷歌面臨的內(nèi)部辭職潮和外部輿論壓力，有愈演愈烈之勢。
為了平息輿論壓力，谷歌向公司員工承諾，將制定一套原則，來指導(dǎo)其人工智能業(yè)務(wù)在防務(wù)和情報(bào)合同中，如何越過道德雷區(qū)。谷歌也向外界表示，新的原則將會(huì)避免讓人工智能朝武器化發(fā)展。但在實(shí)際實(shí)施中如何應(yīng)用，還尚未清楚。
去年4月份，美國軍方提出Maven項(xiàng)目。Maven的目標(biāo)是“加快國防部整合大數(shù)據(jù)和機(jī)器學(xué)習(xí)”，也被美國國防部稱為算法戰(zhàn)爭跨功能團(tuán)隊(duì)（AWCFT：Algorithmic Warfare Cross-Functional Team）。此前谷歌稱，該項(xiàng)目中向美國國防部提供用于機(jī)器學(xué)習(xí)應(yīng)用的TensorFlow API接口，以幫助軍事分析人員檢測圖像中的物體。
谷歌究竟參與程度如何，雙方都未提及。據(jù)《紐約時(shí)報(bào)》5月30日的報(bào)道，谷歌云CEO黛安·格林曾在每周的全公司TGIF（Thanks God, it"s Friday）會(huì)議上發(fā)言，她稱，這個(gè)項(xiàng)目不是為了攻擊目的，雙方的合同價(jià)值相當(dāng)小，僅900萬美元。
盡管如此，谷歌內(nèi)部員工的憤怒和失望情緒并沒有得到安撫，他們認(rèn)為這次的合作影響到了谷歌的聲譽(yù)和公司文化，也關(guān)乎機(jī)器學(xué)習(xí)發(fā)展和使用的道德問題。
截至美國當(dāng)?shù)貢r(shí)間5月14日，谷歌已有十幾名員工正式因這一項(xiàng)目向谷歌請辭，以抗議公司繼續(xù)參與軍方的Maven項(xiàng)目。同時(shí)，學(xué)術(shù)界有364名人工智能專業(yè)人士也聯(lián)名上書，反對谷歌。
谷歌對于事態(tài)的發(fā)展并沒有做好準(zhǔn)備。更令谷歌頭疼的是，Maven項(xiàng)目引發(fā)的爭議可能在未來幾個(gè)月還會(huì)加劇。
原因是據(jù)《連線》5月29日的報(bào)道，到了2018年，Maven項(xiàng)目開始擴(kuò)展到新領(lǐng)域，包括利用開發(fā)工具以更高效地驅(qū)動(dòng)硬盤。另外，今年Maven項(xiàng)目獲得的資金也有望擴(kuò)大到1.31億美元。美國五角大樓還計(jì)劃與硅谷建立聯(lián)合人工智能中心，可能會(huì)效仿Maven項(xiàng)目，以支持美國軍方，并為情報(bào)機(jī)構(gòu)提供服務(wù)。一方面是不想失去軍方的合同，另一方面是員工對于公司文化的質(zhì)疑，谷歌在“不作惡”和“做正確的事”之間面臨了兩難的困境。
李飛飛不支持AI武器化，谷歌將發(fā)布AI技術(shù)使用規(guī)范
為了安撫內(nèi)部員工的情緒，《紐約時(shí)報(bào)》稱，谷歌在上周四（5月24日）召開了內(nèi)部討論會(huì)。
谷歌現(xiàn)任CEO桑達(dá)爾·皮查伊（Sundar Pichai）在會(huì)上表示，公司會(huì)公布一系列機(jī)器學(xué)習(xí)使用的政策和防護(hù)安全措施文件，這些原則必須要經(jīng)得住時(shí)間的考驗(yàn)。
但實(shí)際上，谷歌在Maven項(xiàng)目成立之初就提到了這些原則和安全措施文件，直到到現(xiàn)在都未對外界公開。谷歌的員工希望公司能在未來幾個(gè)星期內(nèi)提交這些原則和安全措施。
面對這場公司內(nèi)部的辭職潮，谷歌原本有機(jī)會(huì)在項(xiàng)目合作時(shí)就避免事態(tài)嚴(yán)重化。
去年9月份，谷歌內(nèi)部在討論如何向公眾解釋這個(gè)事情時(shí)，谷歌云首席科學(xué)家、副總裁李飛飛曾在郵件中強(qiáng)烈建議雙方在合同中回避“AI”（人工智能）這個(gè)字眼。
“無論付出什么代價(jià)，都必須要避免提及或者使用到AI這兩個(gè)字。武器化人工智能可能是AI領(lǐng)域里最敏感的話題，沒有之一。對于媒體而言這簡直就是紅肉（red meat），他們會(huì)找到一切方式毀掉谷歌。”這位來自斯坦福大學(xué)人工智能實(shí)驗(yàn)室的學(xué)者在郵件中說。
“我不知道如果媒體開始谷歌正在秘密建造AI武器或AI技術(shù)，并為國防工業(yè)服務(wù)會(huì)發(fā)生什么。”李飛飛說，因此她希望在對外公布合同時(shí)，能將項(xiàng)目描繪為是谷歌云平臺(tái)的重大勝利。不過李飛飛也在郵件中指出，這是她的建議，最終決定權(quán)還在她的老板身上。
李飛飛一直堅(jiān)持相信的是以人為中心的人工智能，可以用積極和慈善的方式讓人類受益。她還表示，任何將人工智能武器化的項(xiàng)目研究，都將違背她的原則。
最后，谷歌選擇不將Maven項(xiàng)目公之于眾。只有反對的員工通過谷歌內(nèi)部溝通平臺(tái)開始抗議時(shí)，谷歌作為Maven項(xiàng)目分包商的事才引起了公眾的關(guān)注。
到了今年4月初，反對的聲音越來越大，導(dǎo)致大約有3100多名谷歌員工簽名，向谷歌現(xiàn)任CEO桑達(dá)爾·皮查伊（Sundar Pichai）提交了一封信，要求皮查伊立即取消參與Maven項(xiàng)目，并起草并公開一份清晰的政策表明：谷歌和它的合作方不會(huì)開發(fā)用于戰(zhàn)爭的技術(shù)。
“谷歌在Maven項(xiàng)目中的相關(guān)參與計(jì)劃將不可挽回地毀滅谷歌的品牌和它吸納人才的能力。在越來越多的對于人工智能可能會(huì)偏激化和武器化的恐懼中，谷歌在獲取公眾信任方面已經(jīng)顯得力不從心了。這一協(xié)議將會(huì)使谷歌的聲譽(yù)面臨威脅，并將會(huì)使谷歌站在其核心價(jià)值觀的對立面。”谷歌的員工在信中寫到。
而除了員工反對外，谷歌在外部也遭遇了輿論壓力。5月15日，國際機(jī)器人武器控制委員會(huì)（ICRAC）向谷歌母公司Alphabet的CEO拉里·佩奇、谷歌現(xiàn)任CEO桑達(dá)爾·皮查伊、谷歌云CEO黛安·格林、谷歌云首席科學(xué)家、副總裁李飛飛發(fā)出了一封公開信，再次要求谷歌停止其與國防部在Maven項(xiàng)目上的合作協(xié)議，承諾不去開發(fā)軍事科技，并保證不將其搜集的個(gè)人數(shù)據(jù)用于軍事行動(dòng)。
爭議：如何界定技術(shù)的使用
在遭遇大量員工辭職潮后，4月11日，谷歌還舉行了關(guān)于Maven項(xiàng)目的討論。據(jù)觀看討論的員工透露，格林堅(jiān)定地認(rèn)為，Maven項(xiàng)目沒有將AI用于攻擊目的，而谷歌AI研究Meredith Whittaker則認(rèn)為很難界定如何使用該技術(shù)。
Maven項(xiàng)目的首要任務(wù)是幫助美國國防部有效地處理來自全球各地的海量的視頻資料。美國國防部每天收集到數(shù)量龐大的無人機(jī)飛行畫面，但人類圖像分析師遠(yuǎn)遠(yuǎn)跟不上視頻數(shù)量的增長。因此，國防部希望能利用機(jī)器學(xué)習(xí)來識(shí)別無人機(jī)鏡頭中的車輛和其他物體，從而減輕分析人員的負(fù)擔(dān)。在自身資源不足的情況下，國防部轉(zhuǎn)向了學(xué)界與業(yè)界的人工智能專家合作。
在這一爭議項(xiàng)目中，谷歌提供的TensorFlow是一款人工智能領(lǐng)域里的免費(fèi)開放軟件，也是谷歌人工智能戰(zhàn)略的關(guān)鍵。它為機(jī)器學(xué)習(xí)工程師提供了進(jìn)行數(shù)據(jù)排序和訓(xùn)練算法的框架，并且在整個(gè)行業(yè)中被廣泛使用。
但反對聲音稱，新技術(shù)并非總能帶來便利，已經(jīng)有研究人員發(fā)出警告，人工智能技術(shù)可能會(huì)以不易察覺的方式產(chǎn)生重大偏見。
學(xué)界認(rèn)為，谷歌收集了大量關(guān)于用戶行為、活動(dòng)和興趣的數(shù)據(jù)。谷歌不能僅利用這些數(shù)據(jù)改進(jìn)自己的技術(shù)和擴(kuò)大業(yè)務(wù)，還應(yīng)該造福社會(huì)。公司的座右銘是“不作惡”，這是眾所周知的責(zé)任。
“像谷歌這樣跨國公司的責(zé)任必須與他們的用戶國際化相匹配。根據(jù)谷歌所考慮的國防部合同，以及微軟和亞馬遜已經(jīng)實(shí)施的類似合同，這樣的做法標(biāo)志著擁有大量全球敏感私人數(shù)據(jù)的科技公司與一個(gè)國家軍隊(duì)的危險(xiǎn)聯(lián)盟。它們還表明，谷歌未能與全球公民社會(huì)和外交機(jī)構(gòu)進(jìn)行接觸，這些機(jī)構(gòu)已經(jīng)強(qiáng)調(diào)這些技術(shù)的道德風(fēng)險(xiǎn)。”ICRAC在向谷歌提交的公開信中稱。
在谷歌創(chuàng)始人謝爾蓋·布林（Sergey Brin）看來，他能理解Maven項(xiàng)目中的爭議，但他表示，如果世界各國的軍隊(duì)都與谷歌這樣的國際組織合作，而不是僅僅與民族主義的國防承包商合作，這將有利于和平。