当地时间6月1日, 谷歌称将不会与美国国防部合作的Maven项目续约. 谷歌云CEO黛安·格林 (Diane Greene) 在谷歌云每周五的例会上向员工公布了上述消息. 她表示, 目前谷歌与美国军方签订的Maven合同将在2019年到期, 届时谷歌将不会再寻求续约的机会.
此外, 格林还在会上称, 谷歌不会再推进Maven项目, 因为外界对这一项目的反馈给公司造成了糟糕的影响. 她还补充说公司计划在下周推出关于使用人工智能 (AI) 的新到的原则.
去年4月份, 美国军方提出Maven项目. Maven的目标是 '加快国防部整合大数据和机器学习' , 也被美国国防部称为算法战争跨功能团队 (AWCFT: Algorithmic Warfare Cross-Functional Team) . Maven项目的首要任务是帮助美国国防部有效地处理来自全球各地的海量的视频资料. 美国国防部每天收集到数量庞大的无人机飞行画面, 但人类图像分析师远远跟不上视频数量的增长. 因此, 国防部希望能利用机器学习来识别无人机镜头中的车辆和其他物体, 从而减轻分析人员的负担. 在自身资源不足的情况下, 国防部转向了学界与业界的人工智能专家合作.
在该项目中, 谷歌向美国国防部提供用于机器学习应用的TensorFlow API接口, 以帮助军事分析人员检测图像中的物体. 但合作到哪种程度, 双方都未对外界透露.
谷歌与美国军方的合作一开始在公司内部就引起了不满, 谷歌内部的员工认为这种合作影响了声誉和公司文化, 也关乎机器学习发展和使用的道德问题. 今年4月份, 谷歌内部有3000多名员工写了公开信给谷歌高层, 要求停止与美国军方合作. 到了5月份, 谷歌有十几名员工正式因为这一项目向谷歌请辞.
另一方面, 外部也给予了谷歌巨大的舆论压力, 学术界有364名人工智能专业人士也联名上书, 反对谷歌.
对于内部遭遇的辞职潮和外部舆论压力, 谷歌一度曾选择 '冷处理' . 去年9月份, 谷歌内部在讨论如何向公众解释这个事情时, 谷歌云首席科学家, 副总裁李飞飞曾在邮件中强烈建议双方在合同中回避 'AI' (人工智能) 这个字眼.
'无论付出什么代价, 都必须要避免提及或者使用到AI这两个字. 武器化人工智能可能是AI领域里最敏感的话题, 没有之一. 对于媒体而言这简直就是红肉 (red meat) , 他们会找到一切方式毁掉谷歌. ' 这位来自斯坦福大学人工智能实验室的学者在邮件中说.
'我不知道如果媒体开始讨论谷歌正在秘密建造AI武器或AI技术, 并为国防工业服务会发生什么. ' 李飞飞说, 因此她希望在对外公布合同时, 能将项目描绘为是谷歌云平台的重大胜利. 李飞飞一直坚持相信的是以人为中心的人工智能, 可以用积极和慈善的方式让人类受益. 她还表示, 任何将人工智能武器化的项目研究, 都将违背她的原则.
不过, 最终谷歌选择不将Maven项目公之于众. 只有反对的员工通过谷歌内部沟通平台开始抗议时, 谷歌作为Maven项目分包商的事才引起了公众的关注.
到了今年4月份, 反对声音愈演愈烈. 谷歌才在内部召开了一次大会, 向员工介绍了谷歌在做的事情. 谷歌现任CEO桑达尔·皮查伊 (Sundar Pichai) 也在这次的会议上表示, 谷歌将制定一套原则, 来指导其人工智能业务在防务和情报合同中, 如何越过道德雷区. 谷歌也向外界表示, 新的原则将会避免让人工智能朝武器化发展.
在更早一次谷歌每周的全公司TGIF (Thanks God, it 's Friday) 会议上, 格林也在极力打消员工的疑虑. 她在这次会上称, Maven项目不是为了攻击目的, 双方的合同价值相当小, 仅900万美元. 并且, 谷歌高层认为, 这一项目有利于拓展谷歌云和政府, 军方的合作.
但据《连线》5月29日报道, Maven项目到2018年, 将开始扩展到新领域, 包括利用开发工具以更高效地驱动硬盘. 另外, 今年Maven项目获得的资金也有望扩大到1.31亿美元. 美国五角大楼还计划与硅谷建立联合人工智能中心, 可能会效仿Maven项目, 以支持美国军方, 并为情报机构提供服务. 这让Maven项目引发的争议可能在未来几个月还会加剧.
这样的情况, 也让谷歌做出了妥协, 尽管不想失去军方的合同, 但在舆论压力下, 谷歌选择了 '不作恶' .