谷歌與美國(guó)軍方合作人工智能項(xiàng)目到期后會(huì)不會(huì)再續(xù)約?
谷歌妥協(xié)：與美國(guó)軍方合作人工智能項(xiàng)目明年到期后不再續(xù)約。
面對(duì)員工的強(qiáng)烈反對(duì)和外部持續(xù)的輿論壓力，最終，谷歌妥協(xié)了。
當(dāng)?shù)貢r(shí)間6月1日，谷歌稱(chēng)將不會(huì)與美國(guó)國(guó)防部合作的Maven項(xiàng)目續(xù)約。谷歌云CEO黛安·格林(Diane Greene)在谷歌云每周五的例會(huì)上向員工公布了上述消息。她表示，目前谷歌與美國(guó)軍方簽訂的Maven合同將在2021年到期，屆時(shí)谷歌將不會(huì)再尋求續(xù)約的機(jī)會(huì)。
谷歌子彈。
此外，格林還在會(huì)上稱(chēng)，谷歌不會(huì)再推進(jìn)Maven項(xiàng)目，因?yàn)橥饨鐚?duì)這一項(xiàng)目的反饋給公司造成了糟糕的影響。她還補(bǔ)充說(shuō)公司計(jì)劃在下周推出關(guān)于使用人工智能(AI)的新到的原則。
去年4月份，美國(guó)軍方提出Maven項(xiàng)目。Maven的目標(biāo)是“加快國(guó)防部整合大數(shù)據(jù)和機(jī)器學(xué)習(xí)”，也被美國(guó)國(guó)防部稱(chēng)為算法戰(zhàn)爭(zhēng)跨功能團(tuán)隊(duì)(AWCFT：Algorithmic Warfare Cross-Functional Team)。Maven項(xiàng)目的首要任務(wù)是幫助美國(guó)國(guó)防部有效地處理來(lái)自全球各地的海量的視頻資料。美國(guó)國(guó)防部每天收集到數(shù)量龐大的無(wú)人機(jī)飛行畫(huà)面，但人類(lèi)圖像分析師遠(yuǎn)遠(yuǎn)跟不上視頻數(shù)量的增長(zhǎng)。因此，國(guó)防部希望能利用機(jī)器學(xué)習(xí)來(lái)識(shí)別無(wú)人機(jī)鏡頭中的車(chē)輛和其他物體，從而減輕分析人員的負(fù)擔(dān)。在自身資源不足的情況下，國(guó)防部轉(zhuǎn)向了學(xué)界與業(yè)界的人工智能專(zhuān)家合作。
在該項(xiàng)目中，谷歌向美國(guó)國(guó)防部提供用于機(jī)器學(xué)習(xí)應(yīng)用的TensorFlow API接口，以幫助軍事分析人員檢測(cè)圖像中的物體。但合作到哪種程度，雙方都未對(duì)外界透露。
谷歌與美國(guó)軍方的合作一開(kāi)始在公司內(nèi)部就引起了不滿(mǎn)，谷歌內(nèi)部的員工認(rèn)為這種合作影響了聲譽(yù)和公司文化，也關(guān)乎機(jī)器學(xué)習(xí)發(fā)展和使用的道德問(wèn)題。今年4月份，谷歌內(nèi)部有3000多名員工寫(xiě)了公開(kāi)信給谷歌高層，要求停止與美國(guó)軍方合作。到了5月份，谷歌有十幾名員工正式因?yàn)檫@一項(xiàng)目向谷歌請(qǐng)辭。
另一方面，外部也給予了谷歌巨大的輿論壓力，學(xué)術(shù)界有364名人工智能專(zhuān)業(yè)人士也聯(lián)名上書(shū)，反對(duì)谷歌。
對(duì)于內(nèi)部遭遇的辭職潮和外部輿論壓力，谷歌一度曾選擇“冷處理”。去年9月份，谷歌內(nèi)部在討論如何向公眾解釋這個(gè)事情時(shí)，谷歌云首席科學(xué)家、副總裁李飛飛曾在郵件中強(qiáng)烈建議雙方在合同中回避“AI”(人工智能)這個(gè)字眼。
“無(wú)論付出什么代價(jià)，都必須要避免提及或者使用到AI這兩個(gè)字。武器化人工智能可能是AI領(lǐng)域里最敏感的話(huà)題，沒(méi)有之一。對(duì)于媒體而言這簡(jiǎn)直就是紅肉(red meat)，他們會(huì)找到一切方式毀掉谷歌?！边@位來(lái)自斯坦福大學(xué)人工智能實(shí)驗(yàn)室的學(xué)者在郵件中說(shuō)。
“我不知道如果媒體開(kāi)始討論谷歌正在秘密建造AI武器或AI技術(shù)，并為國(guó)防工業(yè)服務(wù)會(huì)發(fā)生什么?！崩铒w飛說(shuō)，因此她希望在對(duì)外公布合同時(shí)，能將項(xiàng)目描繪為是谷歌云平臺(tái)的重大勝利。李飛飛一直堅(jiān)持相信的是以人為中心的人工智能，可以用積極和慈善的方式讓人類(lèi)受益。她還表示，任何將人工智能武器化的項(xiàng)目研究，都將違背她的原則。
不過(guò)，最終谷歌選擇不將Maven項(xiàng)目公之于眾。只有反對(duì)的員工通過(guò)谷歌內(nèi)部溝通平臺(tái)開(kāi)始抗議時(shí)，谷歌作為Maven項(xiàng)目分包商的事才引起了公眾的關(guān)注。
到了今年4月份，反對(duì)聲音愈演愈烈。谷歌才在內(nèi)部召開(kāi)了一次大會(huì)，向員工介紹了谷歌在做的事情。谷歌現(xiàn)任CEO桑達(dá)爾·皮查伊(Sundar Pichai)也在這次的會(huì)議上表示，谷歌將制定一套原則，來(lái)指導(dǎo)其人工智能業(yè)務(wù)在防務(wù)和情報(bào)合同中，如何越過(guò)道德雷區(qū)。谷歌也向外界表示，新的原則將會(huì)避免讓人工智能朝武器化發(fā)展。
在更早一次谷歌每周的全公司TGIF(Thanks God, it's Friday)會(huì)議上，格林也在極力打消員工的疑慮。她在這次會(huì)上稱(chēng)，Maven項(xiàng)目不是為了攻擊目的，雙方的合同價(jià)值相當(dāng)小，僅900萬(wàn)美元。并且，谷歌高層認(rèn)為，這一項(xiàng)目有利于拓展谷歌云和政府、軍方的合作。
但據(jù)5月29日?qǐng)?bào)道，Maven項(xiàng)目到2021年，將開(kāi)始擴(kuò)展到新領(lǐng)域，包括利用開(kāi)發(fā)工具以更高效地驅(qū)動(dòng)硬盤(pán)。另外，今年Maven項(xiàng)目獲得的資金也有望擴(kuò)大到1.31億美元。美國(guó)五角大樓還計(jì)劃與硅谷建立聯(lián)合人工智能中心，可能會(huì)效仿Maven項(xiàng)目，以支持美國(guó)軍方，并為情報(bào)機(jī)構(gòu)提供服務(wù)。這讓Maven項(xiàng)目引發(fā)的爭(zhēng)議可能在未來(lái)幾個(gè)月還會(huì)加劇。
這樣的情況，也讓谷歌做出了妥協(xié)，盡管不想失去軍方的合同，但在輿論壓力下，谷歌選擇了“不作惡”。