當地時間6月1日, 穀歌稱將不會與美國國防部合作的Maven項目續約. 穀歌雲CEO黛安·格林 (Diane Greene) 在穀歌雲每周五的例會上向員工公布了上述消息. 她表示, 目前穀歌與美國軍方簽訂的Maven合同將在2019年到期, 屆時穀歌將不會再尋求續約的機會.
此外, 格林還在會上稱, 穀歌不會再推進Maven項目, 因為外界對這一項目的反饋給公司造成了糟糕的影響. 她還補充說公司計劃在下周推出關於使用人工智慧 (AI) 的新到的原則.
去年4月份, 美國軍方提出Maven項目. Maven的目標是 '加快國防部整合大數據和機器學習' , 也被美國國防部稱為演算法戰爭跨功能團隊 (AWCFT: Algorithmic Warfare Cross-Functional Team) . Maven項目的首要任務是幫助美國國防部有效地處理來自全球各地的海量的視頻資料. 美國國防部每天收集到數量龐大的無人機飛行畫面, 但人類映像分析師遠遠跟不上視頻數量的增長. 因此, 國防部希望能利用機器學習來識別無人機鏡頭中的車輛和其他物體, 從而減輕分析人員的負擔. 在自身資源不足的情況下, 國防部轉向了學界與業界的人工智慧專家合作.
在該項目中, 穀歌向美國國防部提供用於機器學習應用的TensorFlow API介面, 以幫助軍事分析人員檢測映像中的物體. 但合作到哪種程度, 雙方都未對外界透露.
穀歌與美國軍方的合作一開始在公司內部就引起了不滿, 穀歌內部的員工認為這種合作影響了聲譽和公司文化, 也關乎機器學習發展和使用的道德問題. 今年4月份, 穀歌內部有3000多名員工寫了公開信給穀歌高層, 要求停止與美國軍方合作. 到了5月份, 穀歌有十幾名員工正式因為這一項目向穀歌請辭.
另一方面, 外部也給予了穀歌巨大的輿論壓力, 學術界有364名人工智慧專業人士也聯名上書, 反對穀歌.
對於內部遭遇的辭職潮和外部輿論壓力, 穀歌一度曾選擇 '冷處理' . 去年9月份, 穀歌內部在討論如何向公眾解釋這個事情時, 穀歌雲首席科學家, 副總裁李飛飛曾在郵件中強烈建議雙方在合同中迴避 'AI' (人工智慧) 這個字眼.
'無論付出什麼代價, 都必須要避免提及或者使用到AI這兩個字. 武器化人工智慧可能是AI領域裡最敏感的話題, 沒有之一. 對於媒體而言這簡直就是紅肉 (red meat) , 他們會找到一切方式毀掉穀歌. ' 這位來自斯坦福大學人工智慧實驗室的學者在郵件中說.
'我不知道如果媒體開始討論穀歌正在秘密建造AI武器或AI技術, 並為國防工業服務會發生什麼. ' 李飛飛說, 因此她希望在對外公布合同時, 能將項目描繪為是穀歌雲平台的重大勝利. 李飛飛一直堅持相信的是以人為中心的人工智慧, 可以用積極和慈善的方式讓人類受益. 她還表示, 任何將人工智慧武器化的項目研究, 都將違背她的原則.
不過, 最終穀歌選擇不將Maven項目公之於眾. 只有反對的員工通過穀歌內部溝通平台開始抗議時, 穀歌作為Maven項目分包商的事才引起了公眾的關注.
到了今年4月份, 反對聲音愈演愈烈. 穀歌才在內部召開了一次大會, 向員工介紹了穀歌在做的事情. 穀歌現任CEO桑達爾·皮查伊 (Sundar Pichai) 也在這次的會議上表示, 穀歌將制定一套原則, 來指導其人工智慧業務在防務和情報合同中, 如何越過道德雷區. 穀歌也向外界表示, 新的原則將會避免讓人工智慧朝武器化發展.
在更早一次穀歌每周的全公司TGIF (Thanks God, it 's Friday) 會議上, 格林也在極力打消員工的疑慮. 她在這次會上稱, Maven項目不是為了攻擊目的, 雙方的合同價值相當小, 僅900萬美元. 並且, 穀歌高層認為, 這一項目有利於拓展穀歌雲和政府, 軍方的合作.
但據《連線》5月29日報道, Maven項目到2018年, 將開始擴展到新領域, 包括利用開發工具以更高效地驅動硬碟. 另外, 今年Maven項目獲得的資金也有望擴大到1.31億美元. 美國五角大樓還計劃與矽谷建立聯合人工智慧中心, 可能會效仿Maven項目, 以支援美國軍方, 並為情報機構提供服務. 這讓Maven項目引發的爭議可能在未來幾個月還會加劇.
這樣的情況, 也讓穀歌做出了妥協, 儘管不想失去軍方的合同, 但在輿論壓力下, 穀歌選擇了 '不作惡' .