雷锋网 AI 研习社按：PaddlePaddle 的前身是百度在 2013 年自主研发的深度学习平台，在百度外部曾经运用多年，支持百度外部各项业务。 2016 年 8 月底百度开源了 PaddlePaddle 之后，在短工夫内迅速成为全球开发热度（Github Pull Request 数量）增速最高的开源深度学习平台。PaddlePaddle 项目不只提供深度学习框架，还提供各种简化调试和支持大规模训练的附加技术。PaddlePaddleVisualDL 开发不到半年的工夫，在Github 上的“star”数就迫近了开发了两年多的 Google TensorBoard。
PaddlePaddle 的社区增速和其技术迭代速度密不可分。刚开源的时分，PaddlePaddle 的设计思绪和四年前开发的Caffe相似。在一年工夫里，延续推出了“v2”和“Fluid”两代新技术：其中 v2 像 MxNet 和Caffe2 一样参考 TensorFlow 添加了 operators 的概念；Fluid 相似 PyTorch，但是不依赖 Python 的控制流（if-else、for等），而是提供本人的解释器甚至编译器，所以不受限于 Python 的执行速度成绩。
在 2017 年 11 月的百度世界大会上，PaddlePaddle 发布了三项新功用：
-
PaddlePaddleFluid 提供初级言语中的 while 和 if 等控制流构造，提升运用者的开发效率，同时应用编译优化技术保证计算功能。
-
PaddlePaddleCloud 支持运用者在阅读器里开发 AI 使用，在云端调试运转，开发者不需求在团体电脑和机群之间切换，提升了任务效率。
-
PaddlePaddleEDL 是全球首个支持弹性作业调度的开源 AI 云处理方案，经过与 Kubernetes 协作完成弹性作业调度。
三大新功用的推出，进一步增强了 PaddlePaddle 的易用性，进步了效率，并降低了开发者的运用门槛。
陆奇曾表示，开源代码写得好，不只能处理大家的痛点，开源代码也会变得越来越强，开源代码的生命力必定会超越封锁体系的代码。PaddlePaddle 开源至今，还会为开发者提供哪些效劳？怎样在少量盛行开源框架的竞争之下锋芒毕露？如何成为陆奇口中所说的“越来越强”的开源平台？带着这些疑问，雷锋网 AI 研习社采访了百度 PaddlePaddle 的技术担任人王益，他将分享在开发 PaddlePaddle 进程中的经历点滴。
嘉宾简介：王益，在参加百度之前曾任硅谷 AI 创业公司 Scaled Inference 开创迷信家，linkedIn 初级主任数据迷信家，腾讯社交广告技术总监，Google研讨员。王益曾在清华大学和香港城市大学学习，并获得了清华大学机器学习和人工智能博士学位。此外，他还是 IEEE 的初级会员，著有《引荐零碎理论》一书。
以下是雷锋网 (大众号：雷锋网) AI 研习社对王益的采访内容：
PaddlePaddle 其实曾经有很多年的历史了，从 2013 年开展至今，PaddlePaddle 在设计的进程中经过了哪些严重变化？
王益：PaddlePaddle 的2013年版本是百度出色迷信家徐伟教师掌管设计和开发的，其设计思绪和同时代的 Caffe “心有灵犀”：表示一个模型的方式都是“一串 layers”。这个设计沿用了三年。2016年8月底，PaddlePaddle 开源之后，我们在徐教师指点下做了两代晋级：2017 年 4 月推出 PaddlePaddle v2，2017 年底推出PaddlePaddleFluid。
PaddlePaddle v2 的推出把 PaddlePaddle 的技术晋级到了 2015 年 Google 推出的TensorFlow 的程度 —— 把 layers “打碎”成更细粒度的 operators，同时支持更复杂的网络拓扑“图”而不只是“串”。
PaddlePaddle Fluid 的设计思绪和 PyTorch 以及 TensorFlowEager Execution 很像 —— 曾经不再有“模型”的概念，也就不在意“图”（graph ofoperators）或许“串”（sequence oflayers）了，而是只要“顺序”的概念。当然，从顺序是可以导出一个图的，这也是 从一个 PyTorch 顺序可以被导出成 onNX 文件格式的模型一样。
需求提示的是，PyTorch 和 EagerExecution 顺序中的控制流（比方 if-else, for）都是用的 Python，而 Python 执行速度慢且难以提速，这是一个瓶颈。Fluid 顺序也是一个 Python 顺序，但是执行这个顺序会先把本人输入成一个protobuf message，随后调用 Fluid 解释器（而不是 Python 解释器）来解释执行这个 protobufmessage，这样比 Python 解释器的执行速度更快，和 TensorFlow 执行图的速度一样。甚至更进一步，我们在开发编译执行的方式 —— 写一个 transpiler 把 protobuf message 表示的顺序翻译成 C++ 顺序，然后可以用 nvcc、icc、gcc 编译成二进制代码，直接运转在效劳器和手机上。从而彻底处理 PyTorch 和 Eager Execution 顺序的执行速度受限于 Python 的执行速度的成绩。
在知乎上，Caffe 的作者贾扬清称誉了百度的 PaddlePaddle，并说“全体的设计觉得和 Caffe 心有灵犀”。那么，您以为，跟 Caffe 以及 TensorFlow、PyTorch、MXNet 等抢手框架相比，PaddlePaddle 的优势在哪？
王益：知乎上贾扬清的称誉是在 PaddlePaddle 开源之初。如我上文所述，事先的 PaddlePaddle 和 Caffe 的确很像。明天在百度内外推进的都是 PaddlePaddl互联网电子商务和移动商务消费渠道的普及，使得支付市场将在不久的将来继续呈现更加美好的增长前景。eFluid 了，是一个比 PyTorch 和 Eager Execution 更保守的技术思绪。
陆奇曾表示，要将 PaddlePaddle 开展成具有中国特征，最合适中国国情的深度学习平台。请问“合适中国国情”的深度学习平台怎样了解？它和国外的深度学习平台有何区别？
王益：从我的了解来看，一方面是根底计算架构要顺应中国的现状；另一方面是计算技术上要世界抢先，能人所不能。这两方面都有很多可以做的任务，而且百度还是足以自信的。
虽然如今很多深度学习使用用一个几台机器的小集群就可以处理，但是 Web scaled 使用，比方广告和搜索引擎，或许新的使用，比方经过 Lidar、Radar、cameras 采集海量数据的无人车，都是需求大规模深度学习计算才能的。经过扩展 Kubernetes 这样的先进的集群管理零碎，PaddlePaddle EDL 比 Google KubeFlow 优势很分明 —— EDL 不只可以把 PaddlePaddle 顺序在 Kubernetes 上跑起来，而且可以弹性调度—— 不忙的时分一个训练作业多用一些资源，忙的时分少用一些，但是资源变化不会招致作业失败；而 KubeFlow 只是把 TensorFlow 顺序在 Kubernetes 上跑起来，不能完成弹性调度。另外，EDL 不只调度深度学习作业，也弹性调度其他作业，比方 Nginx、MySQL 等，从而极大地提升集群总体应用率—— 在国度深度学习重点实验室机群上实测效果高达 91%，远超普通的高功能计算集群的 30% 左右的应用率。这样的技术在私有云和公有云上的推行，很容易就能用 1/3 的机器做异样的任务，为一家单位一年节省的计算本钱可以高达百万、甚至数百万美元。
深度学习平台和编程言语一样，不是一个独立的顺序，而是一个社区 —— 训练要能在国际的云效劳上跑；要能部署到国际的企业的公有云上；国际的科技创新企业在制造定制化的减速芯片，PaddlePaddle 应该是衔接这些根底创新和使用的桥梁；要开放中文数据和中文模型—— 比方图像辨认的 label 是中文的；语音辨认和语音分解等使用也是和中文强相关的。
如今 Google 正减速 TensorFlow 在国际的推行（开设 TensorFlow 微信大众号、中文网站等），百度的 PaddlePaddle 会采用怎样的战略应对？
王益：在宣传和推行方面，PaddlePaddle 团队也在建立宣传渠道。欢送大家拜访我们的官方网站 paddlepaddle.org，也欢送大家订阅我们的微信大众号（微信号：PaddleOpenSource）。前一年里，PaddlePaddle 团队的人数也在迅速增长，虽然和 TensorFlow 团队的规模相比还是有一定的间隔，我们在 Github 上的 pull request 和 issues 数量增长和 TensorFlow 是同量级的，这面前是团队继续一年多努力任务的后果。
从 PaddlePaddle 的开展进程可看出，百度正努力降低 PaddlePaddle 的开发门槛，同时提升其开发效率，从而让开发者可以顺畅地运用 PaddlePaddle 开发产品。那么除了不时优化 PaddlePaddle 之外，百度还提供了哪些措施来获取更多的开发者运用 PaddlePaddle ？
王益：PaddlePaddle 有一个 Web-based IDE，可以让大家在阅读器里用 JupyterNotebook 编程，然后按一个键，就把顺序发送到云端（Kubernetes 集群上）运转，顺序运转时分的输入实时地显示在阅读器里。这样大家不需求在多个编程环境之间切换—— 在笔记本上开发，在 GPU server 上验证，在集群上跑实验，也就不需求维护多个环境里的各种软件（比方 Python）的版本和配置分歧。
PaddlePaddle 还提供一个训练进程可视化的工具 VisualDL：https://github.com/PaddlePaddle/VisualDL。 这个工具很方便，社区反映十分热烈。开端开发才不到半年，Github 上的“星”的数量（1071）就直追开发了两年多的 Google TensorBoard 了（1144）。
我们还在为 PaddlePaddle Fluid 开发一个相似 GDB 的调试器。希望往年夏天的时分可以面世，进一步方便大家调试深度学习顺序。
有开发者反应，和其他框架相比，PaddlePaddle 的文档材料较少，请问百度将来在 PaddlePaddle 社区运营以及开发文档材料的支持任务上会有哪些详细的措施？
王益：文档成绩的确存在。我们也不断在反思缘由和寻求解答。缘由有几个：
-
开源一年多以来，技术演进速度很快，文档没有跟上。
-
开源之前，作为公司外部项目，很多用户交流都发作在公司外部的通讯工具上，没有归档到文档里，很惋惜。
-
团队人力较少，顾不上文档的齐备。
-
中国工程师用英语写作文档的才能无限。
针对这几个成绩，最近几个月我们做了很多任务：
-
鉴于 Fluid 曾经是目前最新一代技术，2018 年我们会努力波动和完善它，并且不时补足文档。
-
绝大局部用户交流发作在 Github issue 里，这些讨论进程会被不时搜集起来，构成文档，或许协助我们把现有文档修正得更简约易懂。
-
百度在最近一年里为 PaddlePaddle 配置了更多的工程师，我们也在不时提升本人的文档才能。
-
API reference 类型的文档尽量经过工具自动从代码生成。
其他类型的文档，我们树立了审核机制造为组织开源奉献的根底。我们也为百度之外的文档和源码奉献者们预备了礼物：https://github.com/PaddlePaddle/Paddle/issues/6542。欢送大家参加到 PaddlePaddle 项目里来，一同把它做得更好。
您已经在 Google、腾讯、linkedIn 做过与散布式机器学习相关的任务，为什么最终会选择来百度指导开发 PaddlePaddle？
王益：一个次要的缘由是百度的 AI 规划是真的很开放，没有什么藏着掖着的。比方PaddlePaddle 100% 都在 Github 上地下，没有外部版本。从芯片、到手机、到各种AI 使用，中国在 AI 范畴每个层次上都有值得自豪的任务在做值得自豪的技术。假如有一个开放的软件平台把他们能连为一体，无疑是一件独具社会价值和面向久远将来的事儿。这是一个很有应战的时机。另一个次要缘由是百度的管理层都很支持 AI 开放这件事。陆奇、王海峰教师在技术效果宣传和公司间的战略协作方面，都是亲力亲为的，PaddlePaddle 的开源也失掉了吴恩达教师的支持。
依据目前的开展现状来看，您以为将来机器学习范畴的开展趋向是怎样的？您比拟看好哪些技术的使用潜力？
王益：机器学习有很多详细的任务方向，每一个都很有意思。我最近十年来都专注在大规模散布式计算——除了提升计算速度（开端运转到完毕之间的工夫），还要综合提升整个机群的应用率，以及降低每个作业提交之后到开端运转之前的这段等候工夫。这是我最感兴味的方向。它可以为公司节省计算本钱，保证研讨员们的任务效率，更是大规模互联网业务成功的基石。
如古人工智能大热，有很多顺序员以及研讨员有意转向人工智能的开发和研讨，关于这样的景象您是怎样看的？您能否提供一些建议给这些想转型人工智能的技术人员？
王益：计算机迷信有两种方式：一种是，人来学习和积聚知识，然后对给定成绩想出来一个解法，把解法描绘成顺序，然后计算机照着执行。很多顺序员学习算法和数据构造是为了掌握这种方式。另一种方式是，人想不出解法，所以写一个顺序，让顺序经过剖析数据，归结规则，再应用这些规则处理成绩。后一种是人工智能。为了写这团体工智能顺序，当然也得学好算法和数据构造；同时人工智能顺序区别于普通顺序的中央是需求顺序员有必要的数学根底。
我们以前做的统计学习要求的统计学和统计学习实际绝对比拟难学一些，深度学习根本只需求初等数学为根底，门槛一下子就降低了很多。这是一个大家学习掌握第二种方式的好时机。
不论初等数学还是概率统计，都是大一课程，不需求超凡的智慧，只是需求耐烦积聚知识体系之后，才干看到效果。我看到不少冤家们觉得难，其实不是这个学习的事儿难，而是要克制焦虑感，维持耐烦比拟难。假如大家由于焦急想要保持，请想想以下现实：
计算机迷信开展了半个多世纪，能用第一种方式完全处理的中心成绩，包括操作零碎、编程言语、Web server、GUI 零碎等，都处理的差不多了。而很多新的成绩，比方：假如展现这个广告，用户有多大的概率会点击；假如引荐这个衣服，用户有多大能够性会购置；假如引荐这个小视频，用户有多大能够会观看；这个照片看上去像是哪个知名景点等等，都需求用第二种方式的编程来处理，并且这些停顿曾经在最近二十年里支撑起 BAT 和 FLAG 这样的伟大的公司。
总结
2017 年夏天，北京工业大学的四位先生应用 PaddlePaddle 制造了一台智能桃子分拣机，从外形、大小、色泽等多维度对桃子自动分级，完成桃子的自动分拣。关于自家的 PaddlePaddle 平台，李彦宏表示：“经过了五六年的积聚，PaddlePaddle 实践上是百度深度学习算法的引擎，把源代码开收回来，让同窗们、让社会上一切的年老人都可以学习，在它的根底上改良，我置信他们会发扬出发明力，做到很多我们连想都没有想过的东西。”
总结起来，百度 PaddlePaddle 平台的运用本钱更低、愈加简约易用，从开放力度下去讲，PaddlePaddle 也是史无前例的，不只将高功能的散布式框架彻底开源出来，同时还开放了少量的模型，在技术、营销和客户资源方面为企业和团体开发者提供协助。不过，在竞争剧烈的机器学习平台范畴，PaddlePaddle 如何取得更多开发者的喜爱，如何拓展 PaddlePaddle 的技术生态，关于百度来讲还有很长的路要走。
。
