人工智能的继续提高和普遍使用带来的益处将是宏大的。但是，为了让人工智能真正无益于人类社会，我们也不能无视人工智能面前的伦理成绩。如今的人工智能界更多是工程师在参与，缺乏哲学、伦理学、法学等其他社会学科的参与，将来跨学科的人工智能伦理测试需求增强研讨。

英国人阿兰·温菲尔德是世界上独一一名 AI 伦理学家。作为西英格兰大学工程、设计和数学系的教授，他的次要研讨内容就是「 机器人 伦理」。由于天天揣摩AI成绩，他管本人叫做「一个专业忧愁的人」。不过，与整日忧心AI消灭人类的霍金不同，温菲尔德提出的更多是实在可行的应对之道。在他看来，AI虽然带来了令人忧愁的伦理成绩，但有些焦虑并没有必要。

《人物》：你被称为目前世界上独一的AI伦理学家，这是真的吗？一个AI伦理学家如何任务？

阿兰·温菲尔德：虽然还不能完全确认，但这样称谓我应该没有错。当然，在AI范畴还有很多出色的研讨者，我想我跟他们最大的区别就是——只要我把这件事写进了任务头衔里。

AI开展到明天，它带来了很多伦理层面的影响，这其中触及社会、经济、政治和环境范畴。AI伦理是一个影响普遍的庞大话题，它不只触及AI如何影响我们每个集体，还包括它在伦理上如何影响社会，乃至整个地球。一个AI伦理学家的义务，就是去发现、研讨AI的开展在这些范畴带来的「不品德成绩」。

不过，我想阐明的一点是，AI伦理和人类伦理其实并没有边界，也就是说，我所研讨的对象仍然是人——制造AI的人，能够是设计者、开发者，或许是维护者、维修者。

《人物》：关于AI伦理学的研讨，可以举一些例子吗？

阿兰·温菲尔德：在实验室里，我们有一个十分直观的实验——我们会让一些小机器人扮演人的角色，它们在不时向前走，然后训练一个机器人学习如何阻止它们掉进后方的洞里。

最开端，担任维护的机器人做得不错。一个代表人的小机器人朝着洞的方向行进，维护机器人会马上冲过来，把它推到路边。但是当两个代表人的小机器人呈现后，维护机器人开端慌了，它必需做出判别——该救哪一个呢？

有时分，它执意救其中一团体，而另一团体掉进了洞里。也有那么几次，它跑动比拟快，两团体都得救了。但是在总计33次测试中，有14次实验后果都是，面对品德选择，维护机器人花了少量工夫镇静犹疑，无法作出决议，最初两团体都掉进了洞里。

我们管这种机器人叫做「品德僵尸」，它虽然举动上解救了他人，却并不懂得这面前的缘由。这种状况对一切人最直观的例子，大约是 无人驾驶 汽车。虽然理想中能够还要很长一段工夫才干在马路上看到它，但它提供了一个了解AI伦理成绩的很好的思绪——当无人驾驶车上载着乘客，路上有路人或是其他车，遇到不得不撞击的危机情况时，人类应该如何设计规则，是让它学习优先维护本人车上的乘客，还是保证车祸带来的损伤总人数最少？

与之绝对的一门研讨是发明「讲品德的AI」，也就是说，AI可以本人做出品德判别，选择如何举动。但这是一门十分前沿的研讨，目前在全世界范围内只要十分少的研讨者从事相关任务，还不确定人类能否能发明出它们。所以想要看到一个「讲品德的AI」的降生，能够还要等上很多很多年。

《人物》：AI会呈现什么样的「不品德行为」？

阿兰·温菲尔德：如今从很多案例可以看出，充溢成见的AI曾经被开收回来了。有些AI做判别时存在歧视，比方交通监测范畴的AI会更倾向中年白人，而以为黑人更容易违背交通规则。它们呈现的最大缘由，就是开发者在设计进程中存在少量偏向和失误，一切人类的成见都被机器学习和吸收了，这是AI开展所面临的一种品德危机。

人脸辨认是这方面最典型的例子。对AI来说，你给它的学习素材是什么样的，失掉的AI就会是什么样的。假如所运用的学习数据直接来自互联网，这种素材自身就存在成见，这样训练出的AI就十分容易更喜爱白种人，特别是白种男人。

当然，引发一系列「不品德成绩」的AI，不只仅指AI机器人，也包括 AI零碎 。

在政治范畴，我们留意到，相似Facebook这样的AI零碎，被用来影响选举后果。很大水平上，这是一种有详细目的指向性的、不品德的广告。但是，并非Facebook自身不品德，不品德的是应用AI操控选举后果的这种人类行为。

异样的，在经济范畴，我能想到的互联网电子商务和移动商务消费渠道的普及，使得支付市场将在不久的将来继续呈现更加美好的增长前景。是「另类买卖零碎」（alternative trading systems），这种AI零碎可以根据一定规则，自动买入卖出股票或许其他证券产品。我不是金融方面的专家，但是我关注到，它们的行为招致了Flash Crush，也就是2010年的「闪电崩盘」事情。

对我来说，带来损伤的行为就是不品德。一个最容易了解的不品德案例，就是电脑病毒——一个十分小的AI顺序，设计初衷就是为了带来损伤，这是一种十分分明、成心为之的不品德。

《人物》：是什么让机器人拥有了品德？决议AI能否有品德的要素是什么？

阿兰·温菲尔德：现实上，这句话应该这么说——大局部的机器人并非没有品德，它们只是「与品德有关」。没什么讲不讲品德之分，是人类的运用方式让它们面对了伦理窘境。

就拿车来举例吧，当你开车去协助他人，送祖母去超市买东西，送病人去医院就诊，车是一个讲品德的好机器。但车异样可以做恶，假如你是一个坏心为数亿中文用户免费提供海量、全面、及时的百科信息，并通过全新的维基平台不断改善用户对信息的创作、获取和共享方式。肠的人，也可以开车去抢银行、去杀人。

一个有品德的开发者所开收回来的AI，显然要比品德程度低的同行做出来的更守伦理。但想要一个机器人可以自主作出伦理判别，晓得如何在伦理窘境下选择，所需求的远远不止一个有品德的开发者。

为此，我参与开发了一系列的机器人品德规范。其中，BS8611是全世界第一份机器人品德规范，它其实更像是「工程师的工具箱」，这份指南提供了AI设计的一系列根本原则，比方机器人的设计不应该以杀害或许损伤人类为次要目的，以及任何机器人都应该有担任人，由这团体类为机器人的行为担任。你可以应用它对本人的零碎停止「品德风险评价」，经过这种方式，将AI能够带来的品德成绩风险降到最低。

《人物》：假如公司使用了这种品德风险规范，会影响他们赚钱吗？你有决心压服他们牺牲赢利，而变得更有品德吗？

阿兰·温菲尔德：这也许会影响直接赢利，但是在我看来，一个公司假如可以自动承当品德责任，它们会更容易获得商业上的成功。就拿我来举例，我会回绝运用品德低下的公司的产品，哪怕它给我省了钱或许带来了便当。至多在英国，像我这样的消费者越来越多。

《人物》：很多迷信家对AI持消极态度，比方史蒂芬·霍金教授就曾说过，「开发完全的 人工智能 ，能够招致人类沦亡。一旦它们被设计出来，就会自我启动，并高速自我更新。人类遭到迟缓的生物退化的限制，无法与之竞争，最终将会被其取代。」在人工智能的品德成绩上，你也有焦虑吗？

阿兰·温菲尔德：这一点我曾在承受BBC采访时说过，我以为霍金教授的观念毫有意义。霍金教授所谈到的成绩，是基于一系列连锁反响后的一个小概率能够性。人工智能还远远没有那样智能，而且他所提到的成绩也并不是不可防止的。相比之下，我们应该思索的是更多更理想的焦虑，比方AI带来的财富和性别的不对等。

此刻世界上最富有的人，这一代的亿万富翁，正由于AI变得愈加有钱，比方亚马逊的杰夫·贝索斯。我以为，一个更讲品德的AI应该造福于整个社会，而不是极多数的超级穷人。

另一方面，在AI范畴，没有足够多的女性参与其中，特别是在中高层级。AI的开展并没有正确表现出女性的需求。

《人物》：你的日常任务是考虑机器人的伦理成绩。那么作为人类的你，也遇到过伦理窘境吗？你是怎样处理的？

阿兰·温菲尔德：现实上不止是我，我们每团体的每一个决议，多多少少都会触及伦理成绩。你也可以想一想，这时分你都是怎样处置的呢？你会考虑，会关怀，会爱，会秉持着正义感和责任心去面对。这也是我对伦理窘境找到的一大对策：当你需求做出决议的时分，记着要有正义感和责任心。