willowsprings201603

Balmoral2017

scroll back to top
抗议谷歌为五角大楼开发AI 员工纷辞职
新闻频道 - 国际传真
作者:EET   
2018-05-16 11:06

128

今天谷歌出大事了,因为公司决定协助美国国防部开发人工智能项目,用于分析无人机拍摄的视频,但因为这一项目和军事目的关联很大,谷歌员工和民间团体纷纷表示抗议,甚至目前已经有十几名员工以辞职的形式表达了自己的不满。

5月15日据Gizmodo报道,3个月前,谷歌被曝决定为有争议的美国国防部军事试验项目Project Maven提供人工智能(AI)支持,该项目旨在通过自动对物体和人的图像进行分类,来加速对无人机拍到视频的分析。 不少员工表示抗议,当时有多大3000名谷歌员工签向谷歌现任CEO桑达尔·皮查伊(Sundar Pichai)提交了一封信,要求皮查伊立即取消参与Maven项目,并起草并公开一份清晰的政策表明:谷歌和它的合作方不会开发用于战争的技术。 20180516-google-AI “谷歌在Maven项目中的相关参与计划将不可挽回地毁灭谷歌的品牌和它吸纳人才的能力。在越来越多的对于人工智能可能会偏激化和武器化的恐惧中,谷歌在获取公众信任方面已经显得力不从心了。这一协议将会使谷歌的声誉面临威胁,并将会使谷歌站在其核心价值观的对立面。”谷歌的员工在信中写到。

182

不过,这封信在谷歌内部并没有起到作用。现在已经有十多名谷歌员工辞职,以抗议公司继续参与Project Maven。

谷歌员工:没有人重视我们的声音

辞职员工的情绪十分沮丧,他们特别担心AI被用于无人机战争中,同时担心谷歌的政治决策,这些行动可能导致用户的信任受到侵蚀。那些辞职的员工表示,高管们对有争议的商业决策已经不那么透明了,“过去几个月中,没有人愿意倾听我们的声音,我们没有得到满意的答复。”。

在Project Maven的例子中,谷歌正在帮助国防部实现机器学习,将无人机收集的图像进行分类。但有些员工认为,人类而非算法应该对这种敏感和潜在的致命工作负责,而谷歌不应该参与军事项目。

从历史上看,谷歌奉行开放的企业文化,鼓励员工挑战和讨论产品决策。但许多员工认为,他们的上司不再关注他们的担忧,而是让他们直接面对后果。一位辞职员工表示:“在过去的几个月里,我对人们的反应以及人们对自己正受到的关注和倾听的担忧越来越淡然。”

2015年,员工和用户都成功地挑战了谷歌禁止在博客上发布露骨内容的禁令,但这是谷歌员工首次为抗议公司业务决定而大规模辞职。

然而,越来越多的员工压力似乎没有影响谷歌的决定,该公司不仅继续为其行为辩护,甚至还在争取参加美国国防部另一个重要云计算项目——联合企业国防基础设施(JEDI),该项目目前正在招标。员工们要求谷歌结束其国防部合同的要求,也因谷歌声称只向Project Maven提供开源软件而变得更加复杂,这意味着即使谷歌不接受付款或提供技术援助,军方仍然能够使用该技术。

谷歌原董事长施密特曾明确表示不与军方合作

辞职的员工认为,谷歌在Project Maven的工作与公司“不作恶”信条不一致。谷歌官方发言人强调“这一技术不会用于攻击中,AI 用于军事领域可能会引起人们的担心,谷歌内部也对这一话题进行过讨论,AI 将只会被用于非保密图像的分析中,并且还会制定一系列围绕机器学习和人工智能的安全保障措施。”

但是在国防部无人机项目中使用AI,仍然会给技术工作者和研究机器学习领域的学者们带来复杂的伦理和道德问题。除了在谷歌内部的请愿活动外,Tech Workers Coalition特在4月份发起了一项请愿,要求谷歌放弃Project Maven合同,科技公司(包括IBM、微软和亚马逊)应拒绝与美国国防部合作。

161

谷歌母公司Alphabet原董事长的埃里克·施密特(Eric Schmidt)曾在一次谈话中说到科技圈与军方合作关系的担忧。

施密特表示,“技术社区普遍担心军事和工业结合体,会被作为不正当杀人利器,”同样也是国防创新委员会成员的他补充说,“我不会在军队内部提供Alphabet的东西。”

但谷歌公司在Maven项目中的态度,让谷歌的员工产生了怀疑。他们从一开始的愤怒,逐渐转为失望。

越来越多学者加入对谷歌的声讨

在学界,也有越来越多的人加入对谷歌的声讨中。5月15日,国际机器人武器控制委员会(ICRAC)联合90多名人工智能、伦理学和计算机科学领域的学者,向谷歌母公司Alphabet的CEO拉里·佩奇、谷歌现任CEO桑达尔·皮查伊、谷歌云CEO黛安·格林、谷歌云首席科学家、副总裁李飞飞发出了一封公开信,呼吁谷歌结束其对Project Maven的支持,转而支持禁止自主武器系统的国际条约。  这封信的两位作者彼得·阿萨罗(Peter Asaro)和露西·苏希曼(Lucy Suchman)曾在联合国就自动武器问题作证,第三位作者Lilly Irani是一位科学教授、前谷歌员工。

值得一提的是,目前已有364名专家和学者在这封信上签名,签名数量也在不断地增加。

苏希曼在文中表示,谷歌对Project Maven的贡献可以加速全自动武器的开发。虽然谷歌总部位于美国,但它有义务保护全球用户群,而不是与任何一个国家的军队结盟。谷歌的高管们正在为参加Project Maven辩护,包括Google Cloud业务主管黛安·格林(Diane Greene),她曾多次力挺这个项目。

不过这个时候用“螳臂当车”来形容这些抗议或许更合适一些,因为据美国国防部的公开数据,已经有多达100家公司参与到了 Maven 项目之中,因为 Maven 不仅会用于无人机的视频分析,未来还会拓展到所有视频监控类的数据分析中,以打击恐怖活动。

大家觉得,参与这种军事项目,究竟是“作恶”,还是“保卫和平”呢?

120

 

weibo365     weixin365

 

 

scroll back to top