围绕人工智能潜在风险的争辩已蔓延至整个科技行业，招致整个硅谷都想理解人工智能带来的不可预测的影响。

扎克伯格以为，他的好友兼硅谷亿万富翁马斯克有点庸人自扰。

马斯克是SpaceX公司和电动汽车制造商特斯拉的开创人，他在电视采访中和社交媒体上向全世界收回正告，人工智能“能够比核武器更风险”。

2014年11月19日，扎克伯格在加州帕洛阿尔托的家中设宴款待马斯克。作陪的有Facebook新成立不久的人工智能实验室的两名顶级研讨人员和另外两名公司高管。

吃饭时期，Facebook的团队试图压服马斯克置信，他对人工智能的看法是错误的。但他并没有因而而坚定。参与这次晚宴的Facebook人工智能实验室研讨人员Yann LeCun表示：“马斯克事先说‘我真的以为人工智能是风险的’。”

从实质上说，马斯克对人工智能表示担忧的缘由其实很复杂，就是假如我们发明出比人类更聪明的机器，它们能够会背叛我们。（就像电影《The Terminator》、《The Matrix》以及《2001: A Space Odyssey》里所演的那样）他对整个科技行业说，在人工智能彻底普及之前，请细心考虑我们如今正在研讨的人工智能技术将来将会带来怎样意想不到的结果。

之前并没有媒体报道称，马斯克和扎克伯格不会在这次晚宴中详细讨论人工智能的利害，也没有长工夫的争论这方面的成绩。

Superintelligence这个词是描述超人工智能技术的打破，标明人工智能曾经提升到了更高的一个呼吁行业者在政府部门出台相关政策标准的之前，从业者一定要规范自己的行为准则健康有序的快速发展。级别，并发生了不少人工智能机器。这些机器不但可以替代人类执行复杂反复的义务（比方无人驾驶汽车），还可以完成一些超出人类才能的义务，就和科幻小说里的一样。但是，围绕人工智能的争论曾经蔓延至整个科技行业。

谷歌的4000多名员工最近签署了一份请愿书，抗议该公司与美国国防部签署的900万美元的人工智能合同。这笔收益微薄的买卖令该公司的许多人工智能研讨人员深感不安。6月1日，谷歌云计算首席执行官Diane Greene试图安抚员工，并表示他们目前的合同将于2019年到期，在那之后，谷歌不会再续签新的合约。

人工智能研讨具有宏大的潜力和影响力，它既是经济引擎又是军事优势的来源。中国政府表示，他们情愿在将来几年投入数十亿美元，让中国成为全球抢先的人工智能技术国度，而the Pentagon也正在积极寻求科技行业的协助。一种新型的人工智能武器行将降生。

各种行业大家们都参加了这场争辩。亚马逊首席执行官Jeff Bezos在加利福尼亚州棕榈泉市举行了一场年度会议，不少来自中部沿海地域的哲学家和迷信家们纷繁前来参与。

“如今先忘掉科幻小说里的场景，再来谈谈人工智能带来的风险。”人类将来研讨机构（the Future of Humanity Institute）的人工智能项目担任人Allan Dafoe说。人类将来研讨机构是牛津大学的研讨中心，专门研讨先进技术的风险和机遇。

在过来的几个月中，Facebook和其他科技公司曾经向大众做了很多宣传任务，旨在提出硅谷的研发技术行将带来的不可预测的风险成绩。

四月，扎克伯格花了两天的工夫，答复国会议员提出的有关数据隐私和Facebook在2016年大选前传达的误导性新闻成绩。就在上月，他在欧洲异样遇到了相似的成绩。

Facebook认识到，想要让整个世界改动对人工智能可以造福人类的看法并停止反思是很困难的，不论人们能否真的喜欢它。

即便像微软开创人比尔盖茨和已去世的斯蒂芬霍金这样有影响的人物也担忧过发明出来的机器会比人类更聪明。虽然超人类智能看似还需求开展几十年才干成熟，难道我们不应该趁着事情还不算太晚之前思索一下这个成绩吗？

康奈尔大学计算机迷信教授兼贝尔实验室前研讨员Bart Selman说：“我们正在研讨的人工智能技术是十分弱小的，但是我们也无法清楚晓得它们能够带来的影响。”

不完善的通讯软件

Pacific Grove是加利福尼亚中部海岸的一个小镇。1975年的冬天，一群遗传学家聚集到了那里相互讨论他们目前的任务（基因编辑）能否最终会危害到全世界。2017年1月，异样的一团体工智能开发团队也在这个小镇上停止了相似的讨论。

在Asilomar酒店举行的那场公家聚会是由Future of Life Institute组织的。参与这次聚会的人都是为了讨论有关人工智能以及其它科技的潜在要挟而来的。

人工智能范畴的分量级人物都聚集在这里——其中包括之前在帕洛阿尔托参与晚宴的Facebook人工智能实验室的老板LeCun先生，他已经协助开发过人工智能范畴中最为重要的工具之一的神经网络。Nick Bostrom异样也参与了晚宴，他在2014年出版的著作《Superintelligence: Paths, Dangers, Strategies》关于人工智能讨论有着十分大的影响。前华盛顿大学计算机迷信教授，在西雅图接收了艾伦人工智能研讨所的Oren Etzioni也在这一批人之列。指导着DeepMind（Google旗下的具有极大影响力的人工智能研讨所）的Demis Hassabis也受邀列席。

当然，也少不了马斯克先生，他在2015年向马萨诸塞州的研讨所捐赠了1000万美元。童年，他还协助建造了一个名为OpenAI独立的人工智能研讨所，并为其确立了明白的目的：发明出一个超级智能机器，并要确保其不会失控。这也使得马斯克很分明是与Bostrom先生站在一边的。

在休假的第二天，马斯克参与了一个由九人组成的小组，专门讨论超级人工智能的成绩。每个小组成员都被问到了人工智能能否可以完成这个成绩。直到麦克风传到马斯克手里之前，无论麦克风传到谁的手里，答案都是一定的。马斯克斩钉截铁的说了不。小礼堂里充溢了会意的笑声。一切人都晓得马斯克不只觉得人工智能不太能够完成，甚至还觉得它很风险。

马斯克随后还补充说：“我们目前要么就是走向人工智能的完成，要么就是走向文明的终结。”

在这个座谈会完毕之际，马斯克被问及社会该怎样开展才干与人工智能共存。他答复道，我们需求做的是将我们的大脑与超级智能衔接起来。几个月后，他推出了一家名为Neuralink的初创公司，并且总共收到了1亿美元的投资。这家公司的目的就是希望经过将电脑与人脑相结合，发明出一种所谓的神经界面。

当然关于人工智能风险的一些正告这几年不断都有被提及。但是提出这些正告的人中简直没有人有着像马斯克一样的技术信誉。就算有，也很少有人真正的在这方面破费大笔资金和工夫。而且能够没有一团体有着像马斯克那样复杂的技术背景。

马斯克在扎克伯格家中的晚宴表示了对人工智能的担忧。几个星期后，马斯克打电话给LeCun，想要晓得人工智能资深研讨人员的名字，并且这些研讨人员可以协助参与特斯拉的无人驾驶方案。

在最近的一次特斯拉财报电话会议中， 马斯克批判了新闻媒体不够关注那些明明可以经过自动技术防止的死亡——关于一个继续正告世界人工智能是具有风险性的人来说这次表态也是意义严重的。马斯克最近还由于大众质疑其公司的财政损失以及担忧车辆质量等成绩而焦头烂额。

Palm Springs的战役

在硅谷有这么一句话：我们高估了本人破费三年工夫能做的事情，并且低估了本人破费工夫可以做到的事情。

2016年1月27日，谷歌旗下的DeepMind实验室推出了一款可以在陈旧的围棋游戏中击败职业棋手的机器。在几个月前的一场竞赛中，名为AlphaGo的机器以五比零击败了欧洲冠军樊麾。

甚至连初级人工智能研讨员都以为开收回可以完全处理这个游戏的机器还需求再花上个十年。围棋是很复杂的（能够存在的棋盘位子比宇宙中的原子数量还多），而且最好的棋手赢棋不只仅是靠地道的计算，更是要依托本身的直觉。在AlphaGo推出前两周，LeCun先生也说要造出这样一个机器简直是不能够的。

但是就在几个月后，AlphaGo回击败了李世石，过来十年里最棒的一个围棋手。这台机器的棋法让人类专家都感到困惑，而且还最终获得了成功。

包括DeepMind和OpenAI指导者在内的许多研讨人员置信，AlphaGo面前的自我学习技术为“超级智能”提供了一条路途。他们置信，这一范畴的停顿将在将来几年明显放慢。

OpenAI最近“训练”了一个零碎并用其来玩赛艇视频游戏，在游戏中研讨人员会鼓舞它尽能够多地博得游戏点数。它的确可以继续博得点数，但是在进程中会不时旋转，或许撞上石头墙以及其它赛艇。

也正是这种不波动性惹起了人们关于人工智能（也包括超级智能）的担忧。

但在往年3月，亚马逊和贝佐斯先生在Palm Springs举行的一个机密会议上，关于这些担忧的激烈支持数不胜数。

一天早晨，麻省理工学院(Massachusetts Insti回到当下汹涌澎湃的AI浪潮，正如所有的企业都被互联网化一样，所有的互联网企业都将 AI 化。而这些互联网企业中，也包含CSDN。同时，作为全球最大的中文IT社区，CSDN还有一个历史使命——为广大的互联网公司进行AI赋能。tute of Technology)的机器人学家Rodney Brooks与神经学家、哲学家、播客作者Sam Harris就人工智能的潜在风险展开了争辩。《纽约时报》取得的一段录音显示，这场争辩十分带有团体颜色。

Harris正告说由于现今世界正处于一场人工智能的研发竞赛中，研讨员们能够基本没有工夫去确保超级智能是在完全平安的状况下被研收回来的。

Brooks则回应道：“这基本就是本人臆想出来的东西而已。” 他暗示Harris先生的论点是基于非迷信的推理。这基本不能用来证明人工智能是好是坏——这是对迷信家们的凌辱。

“假如他说的有道理，我自然谦虚承受。”Harris说道。

一位掌管人最终完毕了这场争辩争斗，并向观众发问。艾伦研讨所所长Etzioni接过了麦克风。“我就不走下台说话了，”他说。但在Brooks的敦促下，他仍然走上了舞台，并针对Harris说了三分钟的话。他说当今的人工智能零碎开发照旧是如此无限，花这么多工夫担忧超级智能是没有意义的。

站在马斯克这边的普遍是哲学家、社会迷信家、作家——而很少有在人工智能范畴任务的研讨员，Etzioni说道。在人工智能迷信家之中，我们应该开端担忧有关超级智能的概念的是其“曾经变成一个十分边缘的论点”。

扎克伯格动身去华盛顿

自从三年前两人吃过一顿晚饭之后，扎克伯格和马斯克之间的争论就变的不愉快了。去年夏天，扎克伯格在自家后院录制了一段和妻子在烧烤的Facebook直播视频，视频中他表示马斯克关于人工智能的观念是“十分不担任任的”。

在人工智能还未开展开来的如今就对其发生这样的恐慌会使得很多跟人工智能相关的有利的事情也遭到不能开展的要挟，例如自动驾驶汽车和人工智能医疗维护等，他说道。

扎克伯格表示：“我关于人工智能不断坚持积极态度，我就是无法了解那些唱反调的人为什么要宣扬那些末日场景。”

换句话说：你想得太多了，马斯克。放轻松点。

马斯克也用推特停止了回应。“我跟扎克伯格谈过这些，”马斯克写道，“他关于人工智能的了解仍然有局限。”

往年四月，扎克伯格走上国会参与听证会，解释Facebook将如何处理本人捅的篓子。

其中一个办法就是倚靠人工智能技术。但在他的证词中，扎克伯格供认，迷信家们还没有搞清楚某些类型的人工智能是如何停止自我学习的。

他说道：“这关于将来几十年里我们会如何对待人工智能零碎来说，会是一个十分中心的成绩。现如今就有很多人工智能零碎会在远超人类了解才能的根底上做出自我决议。”

科技巨头和迷信家能够会讪笑马斯克在人工智能上畏畏缩缩的态度，但他们似乎正在向他的观念靠拢。

在谷歌公司外部，一个小组正在寻觅可以诈骗计算机零碎并使人检查不存在的东西的人工智能的缺陷。研讨人员正告说，自动生成真实图像和视频的人工智能零碎将很快使我们更难置信我们在网上看到的东西。

DeepMind和OpenAI的研讨小组如今都开端努力于研讨“人工智能平安”成绩了。

DeepMind的开创人Hassabis依然以为马斯克的观念有点极端。并且表示本人的观念与扎克伯格分歧。他以为人工智能并没有风险，最少目前没有。但是如今Facebook的成绩的确是一项正告。

Hassabis说道：“我们需求应用这段低谷时期，目前一切技术照旧还在控制范围内，因而我们可以提早预备好应对事态变得更为严肃所要做的一切措施。我们目前的工夫是很珍贵的，所以我们要愈加充沛地去应用。”

AD： 6月15日，北京千禧大酒店！猎云网将与您相约“破界·推翻——猎云网2018年度区块链产业峰会”，共同见证行业嘉宾的思想洞见与最新前沿趋向！