大众号/机器之能

在中国，「 人工智能 」和「挪动互联网」一样，遭到了群众的普遍欢送。但是在美国，以 Twitter 和 Facebook 为首的社交网络正在因其算法「纵容俄罗斯分布虚伪旧事并操纵选举」而遭到大规模的征伐。本文作者 Natasha Lomas 就以饱含愤恨的口吻描绘了「社交网络如何作恶」，并呼吁全体大众坚持警觉。

编译 | 陈韵竹 王宇欣 邱陆陆

作者 | Natasha Lomas

来源 | TechCrunch

在科技范畴，有些东西曾经烂到骨子里了。

不过，在种种针对虚伪旧事的绝望心情中，在关于克里姆林宫用虚伪音讯歪曲了美国大选后果的控诉中、在各政治联盟呼吁科技巨头保有社会良知的呼声里，我们逐步构成了一个愈加复杂的认知。

虚伪旧事和虚伪情报只是那些错误和腐朽的一小局部。平台巨头们存在的成绩其实要更为实质。

关键成绩在于，这些功用弱小的算法引擎都是黑箱。而且，当你从用户的角度凝视这些算法时，每个用户只能看到本人被分发的内容。

社交媒体制造了一个宏大的谎话，声称它们向我们展现了整个世界。并且接着谎称：它们技术产品拉近了我们的间隔。

但是，社交媒体和电话不一样，它不是「望远镜」这样单纯协助我们取得更多现实的工具。实践上，它是一个招致意见分裂的「棱镜」，它用越来越浓的过滤器泡沫砌成墙，取代了原因由全社会共享的公共范畴及不时交叠的范畴间披露，并借此毁坏社会凝聚力。

社交媒体并非衔接社会的结缔组织，而是类基因工程中的细胞分裂机制，将每团体视作独立单位，然后与别人剥分开。

请细心想一想吧。这几乎是密集恐惧症的噩梦。

或许，社交媒体可以被比作一个环形监狱——每团体都被关在一个小房间里，而平台的控制者经过单向玻璃塔监视着一切人的一举一动。

因而，音讯可以经过社交平台迅速地分散、收缩也就屡见不鲜了——社交网络不只急剧放慢了信息传达的速度，还蓄意引导用户沉溺在其自我的成见中。

它投合我们、极化我们，最初分裂我们。

当我们登录 Facebook，或许在 Google 上检查特性化的搜索后果时，就仿佛被推进了一间黑漆漆的独座电影院，房间里没有窗户，没有门，我们被戴上定制化调频的耳机，观看一部不时循环的定制电影。

是不是有幽闭恐惧症的觉得？

算法引擎深信你会喜欢这部电影。由于它晓得你最喜欢的演员是谁，你最爱的电影类型是什么，闭起双眼你最牵挂谁，眼睛张开身边竟是谁。

它理解你的政治观念、你的冤家，晓得你要去哪儿。它一刻不停地监视着你，然后把全部的察看打包成这部量身定制的、不时迭代的、心情操控的电影，只为你一人放映。

它的秘诀就是从互联网的每一个角落里刮取你不经意留下的有关本身好恶的碎片，然后将其混合在一同。（你在线下流露出的习气也逃不过它们的魔爪——它会雇佣数据中介去偷取这些信息的。）

其别人基本看不到这部电影，他们甚至都不晓得它的存在。没有广告为它的上映做宣传——为一部只属于你的电影投放广告有什么意义呢？但无论如何，特性化内容简直能保证把你牢牢绑在座位上。

假如社交媒体平台是火腿肠工厂，我们至多可以在运输车驶收工厂大门的时分拦住它们，探测那些塑料包装里有着肉的颜色的物质究竟有什么化学成分，以及它能否真的像广告里宣称的那样美味。

虽然我们依然需求上千次的测试才干取得有关每袋火腿肠的有意义的数据。但是这至多是一项有能够完成的义务。

可是这些社交网络平台基本不消费实体产品，也不会给我们留下任何可追踪的实体证据。

烟雾与镜子

假如你试图理解平台的「信息是怎样炼成的」，你需求拿到拜访平台的算法黑箱的权限。但是算法都是被锁在企业总部大楼里的——门外竖着醒目的大牌子，上书「公家一切！游客止步！商业秘密！」

只要工程师战争台一切者才有权拜访。而且即便是他们，也不一定总能了解机器正在做出的决议。

但是我们怎样能容忍这种信息不对称呢？假如我们，大众——平台指望着我们做它的数据来源、内容来源、支出来源，换句话说我们就是它们的商业模型——不晓得我们是如何被它们经过涓滴细流的推送区分开的，那么我们如何判别这项科技如何影响一团体、影响一个群体，如何理解它如何将零碎化偏重塑这个社会？

直到我们实在地遭到了损伤，我们都无法权衡其影响。

假如我们无法取得有意义的统计数据，我们怎样能判别，我们花在这样那样的投合我们成见的广告平台上的工夫是有价值的？

当一个火车站甚至不得不挂起标志牌，正告父母们「别再看手机了，看好本人的孩子吧」时，我们应该作何感想？

是这个社会上忽然呈现了一群白痴吗？还是我们的留意力被以一种不合理的方式剥夺了？

当科技公司的 CEO 们地下供认，他们不希望本人的孩子去碰他们开发并竭力推销给其别人的产品时，我们应该作何感想？

听上去，就连他们本人也供认，社交网络，能够就是新型毒品。

内部研讨者不断试图绘制互联网上的观念及其影响力的活动图，试图以此量化平台巨头们的社会影响力。

但是，举个例子，Twitter 就又当又立地仗着本人信息分发渠道的身份，对这些研讨效果挑三拣四，把它们不喜欢的结论批判得一文不值，给出的理由竟然是，这些研讨者的信息是不完好的，因而结论是有缺陷的。

为什么信息不完好？由于内部研讨人员无法取得 Twitter 的全部信息流。为什么无法取得全部信息流？由于研讨者看不到 Twitter 的算法影响数据的进程，也看不到每个推特用户如何反过去影响 Twitter 消费「香肠」并决议给谁吃的方式进程。

为什么研讨人员看不到这个进程来着？哦，由于 Twitter 不会给任何内部人士拜访权限。抱歉，你没看到大大的「游客止步」标志竖在那儿吗？

而且，假如政治家对公司施压，让他们交出那些只要 Twitter 外部才干看到的数据的时分，失掉的只是另一些 Twitter 出于公司利益考量而挑选过的数据渣滓罢了。

我们如何能指望 Facebook 去树立起无力的、严厉的政治营销披露零碎呢？他们连公司现有的广告规范都维持不了。

扎克伯格希望我们能置信他会做出正确的选项。可是他是这样一家科技巨头的 CEO，是一个蓄意无视人们对 Facebook 上猖狂的歹意虚伪信息的担忧的人，是一个对那些相当有见地的政治家收回的「虚伪旧事会影响国度的民主性」正告不闻不问的人。

成见的黑箱

在假旧事成为危及 Facebook 运营的生死存亡的危机之前，Zuckerberg 对那些关于 Facebook 上内容的担忧总是一副轻描淡写的态度——他有一套极为无耻的说辞：「我们不是一家媒体公司；我们是一家科技公司」。

现实证明，他或许没说错。由于媒体监管规则能够并不适用于科技平台。大型科技平台的确需求一种针对它们量身定制的监管规则。这种监管规则要针对出他们消费出的——密集恐惧症请闭眼——40 亿款定制化产品的超级指向性特征作出限制。

近年来，我们听到一些呼声，呼吁「监管人员应该持有算法黑箱的拜访权限，并对其停止监管」。

随着人工智能愈发普遍的使用，这种呼声会越来越激烈。假如科技公司可以不受监管地将对其有利的成见信息放入他们的算法黑箱里，那么这种成见将会随着平台的扩张而飞速蔓延。

难么，让平台自曝其短就是公道正义的吗？或许最少要求平台接到一定规模的赞扬之前、在一些具有足够影响力的小人物留意到这件事并为此发声之前，就这么做？

树立算法追责制度不是说，呈现了一个小技术毛病，需求我们要投入少量人力物力来做逆向工程。我们必需树立适当的流程和有意义的追责制度，不惜任何代价。

假如人们发现，巨头平台每次答复那些影响范围远超本身商业利益的成绩时，都在有意推诿并且捏造现实——而这些成绩的答案，让我再强调一遍，只要他们拥有——那么打破黑箱的呼吁将会愈演愈烈，由于这将会失掉全体民众的支持。

立法者曾经开端留意算法追责一词了。我们听到这个概念被频繁提及。相应的风险逐步取得明晰的解读。而现有的危害也正在被评价。在这些超级平台耗时十余年在大众身上停止这场大型超级特性化实验之后，算法黑箱正在得到大众的信任。

如今，没有人会疑心这些平台会影响乃至重塑公共讨论的走向了。但是，最可怕的是，近年来，算法经过奖励那些影响恶劣的怂恿者，曾经让我们的公共空间愈发粗鄙、愤恨、充满着暴行，而短少见建立性的意见。

所以只需有足够多的人——足够多的「用户」——终于串联起了蛛丝马迹，明白了终究是什么让他们在运用互联网的时分变得如此不安与反胃，这些产品会渐渐加入历史舞台。

由于这个成绩没有工程上的处理方案。即便生成式人工智能可以很好地凭替代人类完成想象类任务，但是人工智能毕竟不是人，而科技巨头所依赖的广告需求「人」的关注。（『平台内容由用户生成』这个概念应该与并未取得普遍提及但是明显相关的『内容由用户消费』放在一同。）

本周，英国首相特蕾莎·梅在达沃斯世界经济论坛上鞭挞了社交媒体平台丧失社会良知的行径。

在激烈谴责了 Facebook、Twitter 和谷歌等巨头的行为之后——如她所言，这些平台推进了优待儿童、古代奴隶制以及恐惧主义和极端主义内容的传达——她进一步指出，依据 Edelman 公司的调查显示，全球对社交媒体的信任正逐渐减弱（同时，人们对旧事业的信任正在逐渐攀升。）

她的潜台词很明白：如这些科技巨头担忧的一样，世界指导者如今有激烈的动机，也有相应的才能，去磨刀霍霍宰向他们了。

她也不是独一一个在达沃斯论坛上将社交媒体放在火上烤的人。

「Facebook 和谷歌曾经生长为愈加弱小的垄断者，它们曾经成为了创新的妨碍并且引发了各种成绩，而这些成绩我们刚方才开端认识到，」美国慈悲家，亿万富翁 George Soros 如是说道。他呼吁停止相应监管举动，以打破平台对我们的控制。

虽然政治家（和记者——也许还包括 Soros）曾经习气了大众的敌视态度，但是惹起民愤关于科技公司来说，还是全新的体验。这些科技公司多年来不断被「创新」这个词汇所维护着，「全民抵抗」历来不曾呈现在它们的字典里。就像「社会责任」一样，那是另一个近期才遭到它们关注的概念。

你只需求看看 Zuckerberg 脸上那一条接一条呈现的懊恼纹，就能晓得这位少年失意的硅谷王者关于席卷而来的民愤，预备是多么缺乏。

猜谜游戏

大型科技平台的不通明性形成的蹩脚、非兽性化的影响不只仅针对对其用户——连他们的内容创作者也不能幸免。

像 Youtube 这样的平台，依赖于创作者意愿大军来保证永远有源源不时的内容流向其用户。数十亿的流量从平台流向用户（同时数十亿的广告支出流入谷歌的口袋），但是平台自身和其内容创作者之间仍隔着一面不通明的屏幕。

YouTube 有一些内容政策，它要求其内容上传者必需恪守这些规则。但是谷歌不断没有严厉执行这些政策。只要媒体丑闻或广告商的抵抗能够会触发内容政策的强迫执行，徒留创作者想尽方法应对这些「飞来横祸」。

一位创作者与 TechCrunch 联络是由于，她发布的挖苦「吃汰渍洗衣球应战（Tide Pod Challenge）」的视频竟然让她收到了平安正告。这个正告是由 YouTube 高度自动化的零碎收回的，她将这个零碎称为「发布者心中永远的痛」和「毫无兽性的猜谜游戏」。

Aimee Davison 通知我们，「我在 YouTube 上遇到的大局部成绩都是那些自动评级，匿名标志（一项被滥用的功用），和那些指示模糊的、没什么修正权限的零碎邮件支持形成的。」她还表示，「平台与内容发明者之间的协作同伴关系需求人类与人类的直接互动、协商。YouTube 应该有一个一以贯之的审查指点方针，并且向内容发明者作出明白的阐明。」

她补充说，「YouTube 需求对其内容停止充沛的分级，而不是停止过度的艺术审查——他们需求兽性化地管理我们的账号。」

但是 YouTube 甚至无法妥善管理那些程度最高的内容创作者，也就是那些所谓的「YouTube 明星」。

当 YouTube 的创作明星 Logan Paul（谷歌广告平台上的一位首选协作同伴）上传了一段本人在他杀者遗体旁边开玩笑的视频时，我们终究应该批判谁？

Paul 的确要管理本人的良知。但是关于这种行为的谴责必需要逾越团体层面，由于这些团体是被平台的奖励零碎所诱导，才去创作了这些「极大丰厚了谷歌内容」的视频的。

在 Paul 的例子中，不止有自动零碎对他发布的内容停止了审查，YouTube 任务人员手工审查并经过了他的视频。因而，即便 YouTube 宣称其内容会经过人工审查，这些审查人员似乎也没有足够的工夫和足够弱小的工具来支持他们做好这项任务。

思索到这项义务的难度，这也屡见不鲜。

谷歌表示，往年将会把执行评分审核和担任其它审查执行义务的人员添加至 10000 人。

但是，这个数字比起上传到 YouTube 上的视频数量来说，几乎是九牛一毛。（据 Statista 统计，2015 年 7 月，每分钟就会有 400 小时时长的视频被上传到 YouTube 上；如今这一数据随便到达了每分钟 600/700 小时。）

YouTube 这一收费上传内容平台的庞大规模，也使得它不能够「控制」本人的影响力。

当平台的宏大规模、普遍存在的记载机制和特性化精准定向技术同时赋予其影响和塑造整个社会的力气时，这个成绩就自然存在了。

YouTube 表示，其平台掩盖了超越 10 亿用户，占整个互联网用户的三分之一。

另外，谷歌对其算法停止的内容管理以及发生的社会影响持有的「不干预」态度，说得难听点儿，也是值得疑心的。

现实上，连 YouTube 本人的员工都以为其算法具有极端主义倾向。

同时，YouTube 还被指控「从基本上自动化了网络的极端化进程」，将观众推向越来越极端和仇恨的观念。点击一个民粹主义左翼评论家的视频，然后看几个算法引荐的相关视频，不久你就会被推向新纳粹仇恨组织。

公司宣称会修复这团体工智能极端主义的成绩？但是他们还是在发明更多的人工智能 …

呵，这就是人工智能支持的平台，看看它都做了什么，抓取并缩小假旧事，减速憎恶、鼓励社会走向病态。

而所谓的人工智能支持的评级零碎，它太笨了，基本做不到像人类那样判别语境并了解其中纤细的差异。（或许说，只要给了足够的工夫考虑，它们才干做到这一点。）

Zuckerberg 自己在一年前，也就是 Facebook 面临的危机规模开端变得阴暗的时分已经说过，「值得留意的是，人工智能首先需求对文本、照片和视频等停止了解，才干判别这些信息否含有憎恶言论、图片暴力或是色情内容。」以及「按照我们目前的研讨进度来看，我们希望能在 2017 年开端着手处置一些案例，但是关于其他案例，我们在很多年之内是能干为力的。」

当他说「很多年」，这位科技公司 CEO 的真正意思就是，「我们能够永远无法在工程上完成这一点。」

假如你参与过讨论内容审核这种十分难、十分社论化的成绩，你会晓得，相比之下，确定什么是恐惧主义几乎是小菜一碟。

别说了解挖苦性作品了——仅仅理解某内容终究是存在某种内在价值，还是一段仅仅是由算法剪辑而成的渣滓都非常困难。假话说，我基本不指望可以做到这一点的机器人呈现。

特别是在各个范畴的人们都还在呼吁科技公司展示更多的兽性的时分，我愈加不会报这种希望了。要晓得，如今科技公司还在试图强加给我们更多的人工智能呢。