[ 摘要 ]人工智能研讨具有宏大的潜力和影响力，它既是经济开展的引擎，也是树立军事优势的手腕。

【腾讯科技编者按】马克-扎克伯格（Mark Zuckerberg）不断都以为，埃隆-马斯克（Elon Musk）对人工智能的担忧，完全就是庸人自扰。

这位SpaceX和电动汽车公司特斯拉的创建者曾一再经过电视和各种社交媒体渠道提示全世界，人工智能“能够要比核武器更风险”。

因而在2大多数人都曾因不佳的交通状况而迟过到、叫过苦。经济的快速发展带动的是社会各方面的全面提升，但在此过程中，交通的发展却没跟得上前进的步幅，各类交通难题让交管部门伤透脑筋，如何利用AI来解决相关难题已成当务之急。014年11月19日，Facebook首席执行官扎克伯格一度约请马斯克到本人位于加州帕洛阿尔托的家中共进晚餐，并且列席的还有Facebook人工智能实验室的两名顶级研讨人员以及另外两位Facebook高管。

在晚餐停止中，Facebook的代表们试图让马斯克置信本人之前的观念是错误的，但仿佛并没有起就任何作用。“我真的以为这很风险，”马斯克在餐桌上表示。事先这次晚餐的参与者之一，包括了Facebook人工智能团队的首席迷信家Yann LeCun。

马斯克对人工智能的恐惧，从实质下去说其实不难了解。假如我们发明出比人类更聪明的机器，就会对我们不利（参考一下《终结者》、《黑客帝国》以及《2001太空遨游》等电影）。我们再一次面临了这样的场景，当科技开展到一定水平之后，我们将它向全世界推行，往往会带来很多意想不到的结果。

无论是马斯克还是扎克伯格，一定都不会过多的泄漏这顿晚餐所讨论的细节，之前媒体也没有报道过、也没有讨论过二人临时以来对人工智能观念的分歧。

“超级智能”这一概念的降生，是一种技术的打破，将人工智能提升到了一个新高度。并且可以发明出新型的机器，不只可以完成普通人类能完成的广义义务（比方驾驶汽车），甚至还能逾越人类，听起来就像科幻小说普通。但围绕将来人工智能的争论，曾经蔓延到了整个科技行业。

最近，有4000多名谷歌员工签署了请愿书，抗议谷歌公司与五角大楼签署了一份价值900万美元的人工智能合同。这笔买卖关于谷歌这家科技巨头来说是稳赚的买卖，但是却让很多人工智能范畴的员工深感不安。上周，一位安抚员工心情的谷歌高管表示，在明年本人的任务合同到期后，不会持续为谷歌任务。

人工智能研讨具有宏大的潜力和影响力，它既是经济开展的引擎，也是树立军事优势的手腕。因而五角大楼曾经开端积极的向科技范畴寻求协助，间隔研制出一种新型自主武器的日子曾经并不悠远了。

有各种各样的观念都曾经参加到了这种剧烈的争辩中，从加州中部海岸的哲学家到聚集在加州棕榈泉的迷信家年度会议都是如此，亚马逊首席执行官杰夫-贝索斯（Jeff Bezos）甚至还成为了这次会议的掌管人。

“如今关于人工智能风险的讨论，并没有外表上看起来像小说一样梦境。”牛津大学先进技术研讨中心人工智能将来研讨所的Allan Dafoe表示。

在过来的几个月中，Facebook和其它曾经上市的科技公司，都不同水平的引发了外界关于硅谷这项新的研讨效果所带来结果的讨论。

往年4月，扎克伯格用延续两天的工夫答复了美国国会议员关于数据隐私和Facebook在2016年大选时期所扮演角色的成绩。就在上个月，他又在欧洲面临了异样的考验。

Facebook曾经看法到，本人对正在发作的事道理解速度还是不够快，因而这家科技巨头也稀有的呈现了自我反省的行为。要晓得不断以来，科技行业一直秉持这样一种观念，不论世界能否喜欢或接纳，只需能让世界变得更美妙，就是好的技术。

即便是像微软开创人比尔-盖茨（Bill Gates）以及已故的物理学家史蒂芬-霍金（Stephen Hawking）这样有影响力的人物，也异样表达了对人类发明出比本人更聪明机器的担忧。虽然超级智能概念的提出曾经超越十年，但很多人仍然坚持以为，我们应该在付诸理论之前仔细的思索所能发生的结果。

“我们正在发明的这种零碎十分弱小，”康奈尔大学计算机迷信教授、贝尔实验室前研讨员Bart Selman说，“我们如今还无法了解它的影响力。”

不完满的信使

Pacific Grove是加州中部海岸的一个小镇。1975年冬天，一群遗传学家聚集在这里，讨论了基因编辑技术最终能否会对这个世界带来损伤。2017年1月，人工智能范畴在这个海滨小镇停止了相似的讨论。

在Asilomar酒店举行的这场公家聚会，是由“生命研讨所”组织，这是一个为讨论人工智能和其它技术存在风险而树立的智库。

全世界人工智能范畴分量级的人物聚集在这里，其中包括在下面提到列席扎克伯格约请马斯克晚宴的Facebook人工智能担任人Yann LeCun。他曾开收回了一种神经网络，这也是当古人工智能范畴最重要的工具之一。列席会议的还包括了2014年出版《超级智能：路途、风险和战略》一书的Palo Alto，这本书对人工智能会形成恐慌的概率停止了深化的讨论。还包括了前华盛顿大学计算机迷信教授、前西雅图艾伦人工智能研讨所担任人的Oren Etzioni、以及大名鼎鼎的DeepMind人工智能研讨实验室担任人Demis Hassabis。DeepMind也是谷歌在伦敦树立最有影响的人工智能机构。

马斯克也是如此，他在2015年向马萨诸塞州的Cambridge研讨所捐赠了1000万美元。同年他还出资树立了独立人工智能实验室OpenAI。这家实验室的目的是开发确保不会失控的超级智能技术。显然这个目的与Bostrom的观念坚持了分歧。

后来，马斯克参与了一个9人的专家小组，专门讨论超级智能的成绩。每个小组成员都被问及了超级智能能否最终会完成的成绩。当麦克风被摆到马斯克面前时，他与后面几位成员的态度截然相反。这引发了与会者的笑声，每团体都晓得马斯克对超级智能的观念，不只不能够，而且还十分风险。

在小组讨论完毕之后，有人问马斯克，人类社会如何才干最完满的与超级智能共存。马斯克表示人类需求大脑与机器之间的直接联络。几个月之后，马斯克兴办了一家名叫Neuralink的初创公司，该公司的投资总额高达1亿美元，旨回到当下汹涌澎湃的AI浪潮，正如所有的企业都被互联网化一样，所有的互联网企业都将 AI 化。而这些互联网企业中，也包含CSDN。同时，作为全球最大的中文IT社区，CSDN还有一个历史使命——为广大的互联网公司进行AI赋能。在经过电脑与人类大脑的衔接发明出所谓的“神经界面”。

当然，关于人工智能风险的正告曾经存在多年，但这些预言家们很少有人拥有马斯克这样的位置和压服力。要晓得简直没有人花那么多的工夫和资金在这方面，也没有哪个国度的技术有如此复杂的历史。

就在马斯克完毕了扎克伯格晚宴后的几周，他又打电话给Yann LeCun，讯问了那些可以为特斯拉Autopilot技术任务的顶级人工智能研讨人员名单。（最近发作了两起特斯拉致命事故，并且都开启了Autopilot功用。其中一同发作在2016年5月的佛罗里达州，另外一同发作在往年3月）。

特斯拉在最近的一次电话财报会议中披露，他并不赞同外界对公司财务以及汽车质量的担忧，甚至批判媒体过度关注事故中死亡的新闻点而疏忽的之前自动驾驶技术解救人类生命的作用。这对一位不断持有支持人工智能技术、以为其具有极大风险性立场的人来说，是一种了不起的观念。

来自棕榈泉的分歧

在硅谷有句谚语：我们会高估三年内的效果，但低估10年后的成果。

2016年1月27日，谷歌旗下的DeepMind实验室打造了一款可以击败人类最顶尖围棋高手的机器。在一次对决中，这台名叫AlphaGo的机器击败了欧洲围棋冠军樊麾，后者在五场对决中完败。

即便是最顶尖的人工智能研讨员也以为，机器还需求10年的工夫才干处理这个成绩。围棋是一种极端复杂的棋类运动，它有不计其数种能够，而最好的选手通常不只是依托地道的计算，还包括了本人的直觉。在Alpha亮相的两周之前，LeCun还表示这种机器是不存在的。

但几个月之后，AlphaGo又击败了李世石，后者是过来十年中这个星球上最出色的围棋选手。虽然AlphaGo让很多人类专家感到困惑，但最终并没有障碍本人获得完胜。

包括DeepMind和OpenAI担任人在内的很多研讨人员都以为，AlphaGo的自我学习技术为“超级智能”提供了一种途径。他们置信在将来的几年中，这一范畴会有飞速的提高。

OpenAI最近“训练”了一种可以玩赛车游戏的零碎，并且想要让它更多的博得竞赛。而正是这种不可预测性让人们对人工智能的崛起发生了严重的忧虑，包括超级智能。

往年3月，在亚马逊开创人贝索斯在棕榈泉举行的会议上，人们对人工智能的担忧心情绝后低落。

麻省理工学院的机器人专家Rodney Brooks与神经学家、哲学家和播客作者Sam Harris讨论了人工智能的潜在风险，这是一种比拟具有代表性的声响。依据《泰晤士报》获取的录音片段来看，这场争辩极具团体主义。

Harris正告说，全世界目前曾经处于对人工智能的“军备竞赛”中，研讨人员能够没有足够的工夫来确保超级智能的树立是以平安为前提。

但Brooks对此观念停止了反驳，他以为Harris的论点并不迷信，而不能被论证对错的结论，是迷信家们所不能承受的。

最终由于讨论过于剧烈，掌管人不得不自动中止了说话，并且开端向观众发问。艾伦研讨所的担任人Etzioni也表达了本人的观念，他以为明天的人工智能零碎仍然十分无限，花太多工夫去担忧它的平安性，完全没有意义。

而那些承受马斯克观念的人，大少数是哲学家、社会迷信家、作家，而不是在人工智能范畴任务的研讨人员。人工智能范畴的迷信家，都对马斯克的“超级智能要挟论”的观念不够注重。

扎克伯格与华盛顿

自从三年前的晚宴完毕后，扎克伯格与马斯克之间的分歧变得越来越大。去年夏天，扎克伯格在Facebook上直播了一段视频，在视频中他和妻子在自家后院烧烤。扎克伯格表示马斯克对人工智能的看法“相当不担任任”。

扎克伯格说，人工智能开展的晚期呈现恐慌心情，能够会要挟到诸如自动驾驶汽车和人工智能医疗等诸多好处的开展。

“特别是在人工智能方面，我十分悲观。那些唱反调的人，去宣扬世界末日的场景，我真的不明白。”扎克伯格说。

扎克伯格的弦外之音，就是挖苦马斯克有些过于超前。“曾经和马斯克讨论过这件事，他对这个成绩的了解十分无限。”

往年4月，扎克伯格在列席国会听证会的时分解释了Facebook如何处理隐私成绩，其中一种方式就是依托人工智能。但在他的证词中，扎克伯格供认迷信家们目前还没有弄清楚某些类型的人工智能是如何停止学习的。

“这将是一个十分中心的成绩，我们如何看到将来10年及当前的人工智能零碎。如今很多人工智能零碎都还是以无人了解人类的方式做出决策。”扎克伯格说。

科技巨头和迷信家能够会讪笑马斯克在人工智能上的“目光短浅”，但事情似乎正朝着他的观念去开展。

在谷歌外部，曾经有一群人正在探究人工智能技术的缺陷，这种缺陷可以让计算机零碎误以为不存在的东西。研讨人员正告称，自动生成效果逼真的图像及视频的人工智能零碎很快就会在网上出现出不存在的东西。

但作为DeepMind的开创人，Harris仍然以为马斯克的观念很极端，同时他对扎克伯格的观念表示认同。虽然他们都以为要挟不存在，但Facebook却曾经对此成绩提出了正告。

Hassabis说：“我们需求应用工夫好好思索，为将来几十年的开展做好预备。如今的工夫很珍贵，我们要好好应用。”（编译/音希）