本文发布于机器之能（微信大众号：almosthuman2017），编译：高静宜、王宇欣，来源： Quarz，转载请联络 jqzn@jiqizhixin.com

2015 年，Google 宣布开源 TensorFlow，自此，人工智能在全世界范围内的开展基调开端发作变化。

用 Google  CEO 劈柴大人的话来说，这项举措的呈现相当于打造了一款如电能般影响深远的技术，它是开放的、收费的、任何人都可以上手运用的。

正因如此，人工智能的门槛大大降低，之前能够需求一个专业的博士才干完成的义务，如今一台笔记本电脑就可以完成，人们可以纵情地在人工智能的陆地里展开探究。

不过，这也意味着 TensorFlow 无可匹敌的才能有能够超出 Google 的掌控。

在 TensorFlow 开源后的两年多工夫里，学术界和硅谷是应用这个软件并发掘出其有限潜力的主力军。但是如今，事情起了变化。

导火索是 Reddit 上一个名为 deepfakes 的用户，他打造了一款人工智能软件，可以自动将任何脸部图像（简直）无缝地拼接到视频中去。

之后，剧情直转急下——一些人开端应用这款软件把著名女性或是 Facebook 上冤家的脸拼接到了色情片女主的身上。

在人工智能的这种用处被媒体报道之后，deepfakes 在 Reddit 上创立了子版块，目前该板块曾经聚集了超越 91000 名用户。

然后，Reddit 上又呈现了一个化名为 deepfakeapp 的用户，他开放了一个名为 FakeApp 的工具，允许任何人下载这款人工智能软件，并在硬件允许的状况下可以自行运用这款软件。

爱范儿此前详细报道过此事，不理解的读者可以经过 这里 回忆 TensorFlow 怎样就了自制 AI 色情短片的利器。

状况显然曾经有点不受控制了，终于逼得 Reddit 出面。

一切的工具以及不可描绘画面都没有了，哈哈哈，你看不到

近日，Reddit 宣布制止这种做法，并声称其曾经违背了网站的相关政策。

依据 FakeApp 给出的用户指南，这款软件树立在 TensorFlow 之上。

此前，Google 员工运用 TensorFlow 完成了很多创始性的任务，也曾训练算法生成许多全新的图像，只不过设置和主题略有不同。

从另一个角度看，deepfakes 也可以做出很多风趣的用法，例如把尼古拉斯·凯奇拼接到不同的电影中等等。可理想往往令人唏——订阅 Reddit 色情子版块的用户人数都到达 91000，这可不是个小数目。

不可否认的是，虽然 TensorFlow 的开源带来了很多积极的影响，比方潜在癌症检测算法，但是 FakeApp 这类开源的黑暗面也的却存在。

以 Google 为代表的科技巨头们似乎曾经保持了对这种威力宏大的技术才能的追索权和控制权。任何人都可以下载人工智能软件，再把它们用于本人创立的任何数据之上。

这意味着，从伪造政治演讲再到生成虚伪的色情作品都成为了能够。

一切这些产品的数字媒介都是一系列的 1 和 0，人工智能证明了它可以巧妙地陈列这些 1 和 0 生成之前从未有过的事物。

由于软件可以在本地计算机上运转，所以科技巨头们在软件分开本人效劳器之后不得不「放手」。

开源这件事，或许说是古代软件开发对待开源的方式决议了，科技巨头们可以在别人应用软件停止立功的时分置身事外，也就是不必担负任何责任。

这样看来，开源跟枪或是跟香烟没有两样，都是双刃剑。

目前看来，这一现状还无法改动。

软件收费关于这些公司来说是一笔不错的生意，缘由在于，开源允许更多人来开发人工智能。而每一个科技巨头都在尽能够地抢夺人工智能人才，越多人涌入这个范畴自然越好。

此外，人们运用代码展开新的工程也将会安慰新产品的降生，公司外的人可以找到并修复代码中的破绽，先生们还可以在本科和博士阶段基于这些软件停止学习，这些都相当于协助公司汲取经历，更好地停止理论落地。

「人们往往谈判到过来五年中机器学习范畴有严重打破，但是真正的打破其实并不在于算法。关于 70、80、90 年代来说，算法都是一样的，真正的打破在于开源。」

美国电报电话公司 AT&T 技术副总裁、前机器学习研讨员 Mazin Gilbert 说道，「开源所做的就是降低了人们进入这一范畴的门槛，让人工智能不再是 IBM、Google 和 Facebook 这些拥有雄厚实力的科技巨头们的专利。」

异样，开源软件也使人工智能开展中存在的品德成绩变得愈加复杂化。Google 如今提供的工具并不是创立 Skynet 或是其他超级智能的关键所在，但这些工具的确能形成实践的损伤。

Google 和微软这类提供开源人工智能框架的公司都不断表示，人工智能开展中遇到的伦理成绩不会形成实践损伤，他们的迷信家也都签署了保证书并且针对这一主题树立了研讨小组。

可是，公司却不会为下载收费软件的用户们提供任何指点或是受权。

TensorFlow 网站会显示如何让软件运转，但是不会有任何方式的声明指点用户如何在伦理层面上正确运用软件或是确保用户的数据集不会呈现偏向。

几个月前，微软人工智能副总裁 Harry Shum 在被问及，公司方案如何指点那些运用开源软件或是付费开发者工具的用户来创立契合伦理、无偏向的机器学习零碎时，他的答复是，目前尚不清楚。

「这真的是一件十分十分困难的事情，我不以为我们如今会有一个复杂的处理方案。我们逐步学到的一件事情就是，在设计机器学习算法时，就要试图找到算法的盲点。」Shum 说道。

Google 也没有对相似的成绩作出回应。

当然，取消人工智能的开源也不是一个理想的处理方案。由于这样的话，人们就很好看到这些科技巨头们是如何开发人工智能算法的。

把研讨构造放在 ArXiv 之类的网站上，在 Github 上分享原始代码意味着，记者、学者和伦理学家都能发现其中潜在的缺陷并停止相应问责。

可是假如不加以管控，不久的将来会有更多品种的虚伪视频呈现在 Facebook 和 Twitter 等主流平台，人为推进的政治宣传也会落地生根。

虽然这些都不在科技巨头的职权范围内，但是各大公司的人工智能研讨员也在寻觅潜在的处理方案。

不言而喻，在较短工夫内处理这个成绩并不理想。毕竟，软件都曾经被下载了。

鉴于中心技术的开发者仍将回绝对 deepfakes 这类软件作者所做的事情担任，所以这份自然重担就落在了分享视频和图像的平台肩上。

举个例子，动图托管平台 Gfycat 可以删除一切 deepfakes 托管在其网站上的动图，Reddit 也制止这类子版块。

PornHub 也在承受采访时表示，将会删除这类视频。他们以为，这类视频是在没有经过单方赞同的状况下私自运用了某人的肖像。

不过，deepfakes.club 这个网站却依然存在于主流社交媒体的权限之外。无论之后，deepfakes 软件将会走势如何，这都仅仅是一个开端。