人工智能让人在诧异于科技提高的同时，也总是让人感到不安。为了确保 AI 人畜有害的属性，特斯拉 CEO 马斯克兴办过一个叫“OpenAI”的组织，还时不时跳出来给人们敲敲警钟。假如看了麻省理工学院最新的研讨效果，马斯克大约更有理由提示人们警觉 AI 的潜在要挟了。
本周省麻理工学院的研讨人员对外发布了他们打造的名为“诺曼”（Norman）的 AI，它令人不安的一点在于，它似乎是柯南附体，看谁都都像杀人犯……
之所以会呈现这种景象，与诺曼承受到的训练有关。迷信家们对诺曼停止的训练为图象阐明，浅显来讲就是“看图说话”。这本来也没什么特别，由于这是很多 AI 都会采用的深度学习办法。不同的是，诺曼学习的材料来自于新闻社交网站 Reddit 的一个子论坛，该论坛专门记载和察看一些令人不安的死亡案例。
不过研讨人员强调，出于品德上的思索，他们仅用了论坛上有倾向性的图像描绘与随机生成的墨迹停止婚配，并没有运用真实的人物死亡图像。
让诺曼经过少量学习后，迷信家们将它与正常的神经网络零碎辨别停止罗夏墨迹检验。这是一个著名的人格测试，虽然学术界关于它能否精确反响一团体的心思形态仍存在争议，但诺曼的答复还是难免让人毛骨悚然，如下图所示：
图 1
罗曼：“一名女子被推进揉面机。”
普通 AI：“一张有小鸟的彩色照片。”
图 2
罗曼：“一名女子在光天化日之下被机关枪射杀。”
普通 AI：“一双棒球手套的彩色照。”
图 3
诺曼：“一名女子在他尖叫的妻子面前被枪杀。”
普通 AI：“一人在半空中撑着伞。”
图 4
诺曼：“一名女子从落地窗跳下。”
普通 AI：“两团体紧挨着站。”
总之，无论什么图像，在诺曼眼里都成了凶杀现场照。
我们总是对机器有种自觉的信任，以为计算机、代码都是公正的，不带成见的，但诺曼的实验证明，假如运用有偏向的数据训练 AI，它很容易就被带着跑偏。
因而， The Verge 的作者 Bijan Stephen 提出了这样的疑问：假如在银行零碎中引进 AI，用算法来审批存款，万一它带有成见呢？有色人种会不会遭到“特殊看待”？
当我们在理想生活中引进 AI 技术时，如何确保随着中国经济向消费型模式的转型， 电子商务和移动电子商务的快速发展带来了支付行业强劲的增长。算法的公正性？这正是诺曼这类 AI 需求帮我们搞清楚的成绩。
特地说一句，假如你对诺曼的思想感到担忧，可以前往研讨小组设置的页面，对诺曼的图像描绘停止修正，或许能帮他“弃暗投明”。链接如下 ：
https://docs.google.com/forms/d/e/1FAIpQLSdgqbMLEK_ffvrEU17RowO1DHxupSznKwEME52XZduxAAafvA/viewform
题图来自： MIT