微信大众号“AI 火线”，（ID：ai-front）

作者 TOM SIMONITE

译者 & 编辑 | Debra

Facebook 堕入安居乐业之中。假新闻、恐惧主义、操纵俄罗斯大选，也许之后就是受控制了。这家公司把求救之手转向 AI。而这个战略将要求 Facebook 打破计算上的几大应战。

在上个月的两次国会会议上，首席执行官马克扎克伯格在解释公司如何改善其平台监管时援用了 AI 一词超越 30 次。担任实行这些承诺的人——首席技术官 Mike Schroepfer 在 Facebook 年度开发者大会上的主题演讲和采访中也提到了这个主题。

Schroepfer 通知不计其数的开发者和记者，”人工智能是我们维持社区平安的最佳工具。“在听证会之后，批判人士责备扎克伯格把人工智能推出来误导人们，公司的成绩仅仅是技术成绩。Schroepfer 供认 Facebook 犯了错误。但他表示，关于月用户达 20 亿的 Facebook 而言，人工智能是处理这些成绩的独一办法。

即便公司可以担负得起雇仆人类反省每一篇文章，但这不是公司想要的处理方法。Schroepfer 说道：“假如我通知你，你一切的文章在发布之前都有人读过，也许你会改动要发布的内容。”

Facebook 曾经运用自动化技术来监控其平台，并获得了不错的效果。例如，自 2011 年以来，该公司曾经运用了一种名为 PhotoDNA 的工具，该工具最后本次涌现的 AI、区块链和物联网热潮不同于以往，将对产业、社会和生活产生真正堪称“颠覆性”的变革。IT 技术人员需要全方位地“换脑”：对原有的知识结构进行全面刷新，全面升级。由微软开发，用于检测儿童色情内容。Schroepfer 表示，该公司的算法在不时改善，足以标志出不想让其在平台上呈现的图像。

首先是暴露和色情图片，Schroepfer 将其描绘为“光谱更容易辨认的一局部”。接上去是描绘“血腥和图像暴力”的照片和视频，如 Isis 斩首视频，这些图像很难从像素级别与正常图像区分开来。我们如今对这些图像的处置效率更高，”Schroepfer 说道。

但困难依然存在。Schroepfer 表示，Facebook 近几个月来不断在投入资金处理选举信息真实性、虚伪广告和虚伪新闻等成绩。“公道地说，在过来的几个月里，我们曾经将公司的一切资源聚焦到了这些成绩上，”他说道。扎克伯格本周早些时分表示，他估计将花三年工夫树立更好的零碎来捕获不合理的内容。

此外，Facebook 的 AI 平安网方案还面临着机器阅读的成绩，而不是视觉。那些用来打击由于 2016 年俄罗斯大选被推下风头浪尖的假新闻、骚扰等成绩的软件需求理解人们在说什么。

虽然 Facebook 的网络搜索和自动翻译很成功，软件依然无法理解言语的纤细差异和语境。在周三的主题演讲中，Facebook 的机器学习和人工智能总监 Srinivas Narayanan 用“Look at that pig!（看那只猪！）”这个语句来解释这个应战的难度何在。这句话呈现在一只宠物猪的评论中能够会很受欢送，但在用来评论一张婚礼照片可就不好了。

Facebook 发布了一些读取算法的停顿。该公司周三表示，自去年年底一个可以发现人们损伤本人迹象的零碎部署以来，曾经有 1000 多人拨打了急救电话。言语算法协助 Facebook 在往年第一季度删除了近 200 万条与恐惧分子有关的内容。

Schroepfer 表示，Facebook 还经过训练软件生成虚伪数据来改善欺凌检测零碎。经过对立训练，凌辱性言语辨认和阻拦的效率越来越高。这使 Facebook 成为运用分解或伪造数据来训练机器学习零碎的众多公司之一。

Facebook 面临的另一个妨碍：其他言语。Facebook 的言语技术在英语中效果最好，这不只是由于 Facebook 是一家美国公司，还由于该技术通常运用从英特网占主导位置的互联网上获取的文本停止训练。Facebook 数据显示，该平台超越一半的用户不会说英语。“这是一个宏大的成绩，”Schroepfer 说道。

Facebook 在世界某些地域占主导位置，因而言语成为一个至关重要的成绩。Facebook 供认，缺乏缅语内容审核人员，是没有防止这场危机的缘由之一。

Facebook 正在开发一个名为 MUSE 的项目，无望以不同的言语开发同一种言语技术，而不需求少量新的训练数据。在这个办法施行之前，Facebook 经过手机新数据减速零碎的办法将 AI 零碎扩展到新的言语。

在某些状况或地点，数据传输很慢。暴显露一个成绩，即 Facebook 没有选择在一切中央树立相反的言语资源。执行官 Tessa Lyons-Laing 在周二举行的 Facebook 会议上宣布遏制虚伪音讯传达时说道，机器学习软件正在学习标志经过  等组织手动标志过的虚伪内容，但该技术只要在 Facebook 与外地的现实核对小组树立联络，并且曾经树立好数据搜集状况下才会起作用。

Schroepfer 表示，找到一种不用依托人力投入就能完成任务的办法是他推进人工智能的次要战略之一。周三，Facebook 的研讨人员展现移动互联网在带来全新社交体验的同时，也或多或少使人们产生了依赖。移动互联网使网络、智能终端、数字技术等新技术得到整合，建立了新的产业生态链，催生全新文化产业形态。了用数十亿个 Instagram 主题标签作为收费的数据源来停止图像辨认的办法，并发明了新纪录。Facebook 面临的很多最顺手的成绩，都无法将人为判别扫除在外。 Schroepfer 说道：“当决议事物好坏的时分，人工智能并不能替代人类。” “当人类做出决议后，人工智能是一个很好的执行规则的工具。”

原文链接：

https://www.wired.com/story/how-artificial-intelligence-canand-cantfix-facebook/