出品 | 网易智能（大众号 smartman163）

作者 | 丁广胜

我们关于AI要挟的担忧从未停歇，但这并无妨碍要挟不时加剧。

现实上，不管专家们如何歇斯底里地呼吁，很多人工智能武器和国防项目都在马不停蹄地推进，美国作为人工智能的桥头堡，这个顺手的成绩很快摆在了决策者的办公桌上，谷歌、微软、亚马逊等科技巨头无一幸免……

那么，究竟是谁出了错？科技巨头遭到连环抵抗又将对AI行业带来哪些影响？面临应战的AI品德又将何去何从？

1

首先惹起员工激烈反弹的是“不作恶”的谷歌，谷歌云首席迷信家李飞飞在政府AI项目签署之初就担忧：这是媒体损坏谷歌名誉的绝佳时机，你们大约听说过伊隆・马斯克的评论，他以为人工智能能够引发第三次世界大战，我不晓得假如媒体开端渲染谷歌机密开发人工智能武器，或许用人工智能为国防行业开发武器会发作什么事情。

但是，令谷歌管理层揪心的事情还是发作了。从往年三月份开端，就有媒体曝出谷歌参与政府的AI项目订单，将人工智能技术使用于和平中的无人机控制，彼时引发了数千名谷歌员工的联名上书，谷歌云CEO戴安・格林（Diane Greene）为了平稳员工心情，试图敷衍过来，表示合同其实只要900万美金。她希望大家心里明白，900万美金的小项目关于谷歌这样的庞然大物来说的确不值一提了。

The Intercept于3月7日报道了谷歌悄然取得国防部的新算法和平实验项目

不过，随着The Intercept的爆料，谷歌管理层的敷衍做法没有未遂，爆料显示，谷歌估计的项目支出从开端的15000美金添加到了2.5亿美金，假如900万是小项目，那2.5亿美金的项目则牵动了整个谷歌。

接上去发作的事情大家应该晓得了，这件事在谷歌外部迅速蔓延，随即迸发了更大规模的抗议，更有很多员工以离任相要挟。

眼看事态无法控制，谷歌管理层终于在事情迸发的三个月后作出退让，谷歌CEO皮查伊在官网发布了一篇名为《Google人工智能：我们的准绳》的文章，并宣布不再与国防部续约合同。

皮查伊表示，人工智能技术的使用目的应该是：对社会无益；防止制造或加剧成见；提早测试以保证平安；由人类担责；保证隐私；坚持迷信高规范。

而不应该将人工智能技术使用于：制造全体损伤之处，如一项技术能够形成损伤，我们只会在其益处大大超越损伤的状况下停止研发，并提供平安维护措施；武器或其他用于直接损伤人类的产品；搜集运用信息，以完成违背国际标准的监控的技术；目的违背被普遍承受的国际法与人权准绳的技术。

他们希望以这些框架为准绳，防止谷歌的人工智能呼吁行业者在政府部门出台相关政策标准的之前，从业者一定要规范自己的行为准则健康有序的快速发展。技术再次触碰红线。

2

无独有偶，另一位巨头亚马逊的政府人脸辨认项目异样遭到抵抗。

据Futurism的报道，早在2016年亚马逊就推出了Rekognition，它是一种人工智能驱动的面部辨认软件 ，扫描视频或照片来检测人或物体，该技术可以剖析一团体的脸部以确定他的心情随着中国经济向消费型模式的转型， 电子商务和移动电子商务的快速发展带来了支付行业强劲的增长。，还可以在一张照片中辨认出100张面孔，并在整个视频中跟踪一团体，即便他们分开偏重新进入视野。

亚马逊官网关于 Rekognition 技术的引见，图为人脸辨认

换句话说，这是一个弱小的监控工具，政府机构和执法机构显然是亚马逊的目的客户，如今，在美国支持科技公司参与政府AI项目的浪潮下，亚马逊的项目也不可防止的卷了出去。

目前，美国公民自在联盟（ACLU）华盛顿基金会的署名信和亚马逊19位股东的签署信曾经呈上亚马逊CEO贝索斯的办公桌。

但这位被称为世界上“最蹩脚”的老板还没有表态。

3

当然，这样的糟心事儿也被刚从“得到挪动互联网”中缓过劲来的微软赶上了，而且微软的AI项目抵抗危机来的愈加直接。

事情原因是在美国外地工夫6月24日，美国总统特朗普发推：我们不能让这些人侵入我们的国度，当有人来了，我们必需立刻在没有法院和立案的状况下，把他们送回他们来的中央。

“零容忍”大棒之下，美国疆土平安部证明，在4月19日到5月31日时期，美国边境巡查队曾经把近2000名合法移民儿童从他们的父母身边带走，而子女与父母走的是完全一模一样的两种顺序――对儿童提供必要的协助，成人则关押起来等候被直接遣返。

《时代》周刊杂志封面：“零容忍”边境政策下哭泣的两岁孩子和特朗普

事情发作后，责备甚至咒骂漫山遍野，最引人关注的是五位前第一夫人的发声，她们纷繁责备特朗普政府的不人道行径，更有很多州政府宣布不会向美国东北边境派驻国民警卫队。

截止目前，虽然特朗普签署了不再将儿童从合法移民手中夺走的政府文件，但该事情还在继续发酵，民众愤恨的对象烧向了为政府提供AI技术的微软公司，材料显示，微软为移民和海关执法局（ICE）提供云效劳和人脸辨认技术，他们被指是ICE的爪牙。

异样，微软的员工也不买帐，他们纷繁站出来发声责备，并且有人说：是时分仔细思索离任的事情了。

面对压力，微软官方的回应显得拖泥带水，没有谷歌那样武断，微软在针对该事情的声明中表示，我们不晓得政府用我们的技术干了这样的事情，我们也没有和ICE协作毁坏他人的家庭，发作这样的事我们也很诧异。

4

你能够不清楚人工智能技术，但你一定听说过AI要挟论，霍金、马斯克们的预言和警醒以及《西部世界》这类AI伦理电影都输入着这样的观念，他们担忧人类被人工智能替代、统治甚至消灭。

人工智能要挟真的到了最紧迫的时分？

上文提到的担忧应该是AI要挟的2.0版本了，其实，在更多时分大家讨论的是AI假如攫取我们任务应该怎样办，据布鲁金斯学会（the Brookings Institution）研讨人员停止的一项调查显示，52%的被调查者置信，30年内机器人将退化到可以完成目后人类大局部活动的阶段。民意调查还发现，关于美国政府能否应该设立一个联邦机器人委员会（Federal Robotics Commission）来管理机器人的开发和运用，有29%至32%的人持支持态度。

假如说1.0版本的AI要挟大家还可以坐上去心平气和的争论，那如今美国讨论的AI要挟则是真正意义上的要挟，它运用到和平和统治当中，进而要挟人类的生命权以及自在权，结果不可思议。

你能够不由要问，谷歌、亚马逊、微软发作这样的事情，究竟是谁错了？我们看看，其中的参与方包括政府、AI巨头、员工、普通民众，细心揣摩仿佛都没有错――政府出于平安目的（侵略行为另当别论）；AI巨头出于商业利益目的；员工和普通民众出于担忧AI技术众多，维护人类不受AI技术进犯目的。

笔者以为，这里的关键是美国政府的意志，他们在制定国防战略和商业订单的时分，需求在顶层设计时将AI伦理成绩思索出来，让AI技术在合理的中央发扬价值，假如微软的技术没有协助政府将偷渡者“骨肉别离”，而是停止城镇布控和抓捕逃犯，那民众的反弹一定会巨大很多。

异样，假如谷歌的技术没有用于无人机攻击而是民用范畴，那员工一定举双手赞成，而谷歌的AI项目事情特殊性还在于，和平是有原罪的，它一定是树立在流血的根底上。

毕竟，任何的AI要挟言论都是危言耸听，除非有人成心指使，将AI武器严厉管控起来，就像核武器那样，人类还需求一点工夫。

在此之前，我们就寄希望于人类社会的容错机制吧。

关注网易智能大众号（smartman163），为你解读AI范畴大公司大事情，新观念新使用。