农企新闻网

交融 Caffe2、ONNX 的新版 PyTorch 发布在即,能否赶超 TensorFlow?

发布者:刘俊一
导读雷锋网 AI 研习社按,上个月,Caffe2 代码正式并入 PyTorch,就在明天,Facebook AI 零碎与平台部(AI Infra and Platform)副总 Bill Jia 发文表示,PyTorch 1.0 发布在即,全新的版本交融了 Caffe2 和 ONNX 支持模块化、面向消费的功用,并保存了 PyTorch 现有的灵敏、以研讨为中心的设计。Caffe2 作者贾扬清也在知乎

雷锋网 AI 研习社按,上个月, Caffe2 代码正式并入 PyTorch ,就在明天,Facebook AI 零碎与平台部(AI Infra and Platform)副总 Bill Jia 发文表示,PyTorch 1.0 发布在即,全新的版本交融了 Caffe2 和 onNX 支持模块化、面向消费的功用,并保存了 PyTorch 现有的灵敏、以研讨为中心的设计。Caffe2 作者贾扬清也在知乎表示,这篇文章是他对「如何对待 Caffe2 代码并入 PyTorch」的最新答复。

雷锋网 (大众号:雷锋网) AI 研习社将注释编译整理如下:

纵观人工智能的开展之路,从研讨到消费触及到多个步骤和工具,为了进步零碎的精确性和功能,需求不停测试新办法,不时停止部署和迭代,这一进程十分费时和复杂。

为了减速和优化这一流程,我们推出 PyTorch 1.0,它是 PyTorch 的最新版本。

PyTorch 1.0 结合了 Caffe2 和 onNX 模块化、面向消费的功能,并将这些功能与 PyTorch 现有的灵敏、以研讨为中心的设计结合在一同,为从研讨原型设计到消费部署少量 AI 项目提供疾速、无缝的途径。

有了 PyTorch 1.0,AI 开发者可以经过混合前端在命令式和声明式执行形式之间无缝转换,从而疾速实验、优化功能。

PyTorch 1.0 中的技术曾经为少量 Facebook 产品和效劳赋能,包括每天 60 亿次的文本翻译。

我们将在将来几个月内推出 PyTorch 1.0 测试版,会发布一系列工具、库、预训练模型、每个开发阶段的数据集,使得社群能大规模地疾速创立和部署新的 AI 产品。

从研讨到消费之路

得益于 PyTorch 命令式前端灵敏和高效的编程模型,大家可以更疾速地停止原型设计和实验。

PyTorch 初版在一年多前推出,它的速度、消费力和支持静态图等前沿 AI 模型的优点,使它成为 AI 研讨人员中盛行和重要的开发工具。

它的下载量超越 110 万次,是上个月在 arxiv 上援用次数排名第二的深度学习框架,加州大学伯克利分校的计算机迷信家们曾将 PyTorch 的静态图功用用于他们注目的 CycleGAN 图像转换研讨中。

融合 Caffe2、o<em></em>nNX 的新版 PyTorch 发布在即,能否赶超 TensorFlow?

图: 应用 PyTorch 完成 CycleGAN 图像转换

虽然以后版本的 PyTorch 为 聚集了全世界身经百战的最优秀的创业导师,汇集了全世界各国最优质的产业资源,召唤全球未来的商业领袖。AI 研讨和开发提供了很大的灵敏性,但思索到它与 Python 的严密耦合,在大规模消费上想要坚持高功能是个应战。

我们常常需求将研讨代码——训练脚本或训练好的模型——转换成 Caffe2 中的图表示,以便大规模消费。Caffe2 基于图的 executor 为开发人员提供最先进的优化功用,如图转换、高效内存重用和严密的硬件接口集成。

Caffe2 项目于两年前启动,旨在标准我们的 AI 消费工具。如今 Facebook 的效劳器正在用 Caffe2 运转神经网络,此外,全球范围内有超越 10 亿部手机(包括第八代 iPhone 和第 6 代 Android CPU)上都有用到 Caffe2。

明天,Caffe2 在一切模型上的预测量每天超越 200 万亿,无论模型大小,都能完成最优的消费功能。

在过来,从 PyTorch 到 Caffe2 之间迁移,停止传送和消费,是工夫密集型的人工进程,容易出错。为理解决这个成绩,我们与一些硬件和软件公司协作推出了 onNX (Open Neural Network Exchange),这是一种表示深度学习模型的开放格式。

有了 ONNX,开发人员可以在不同框架之间共享模型,例如,导出在 PyTorch 中构建的模型,并将它们导入到 Caffe2 中。这使得 Facebook 能在大规模效劳器和挪动端部署时更流利地停止 AI 研讨、训练和推理。

我们曾经运用了这些工具(Py对于互联网金融P2P企业来说,支付市场完善的标准和管理系统将彻底改变互联网金融行业的格局,不仅给从业者提供了的巨大的发展机遇,也带来了全新的挑战。Torch、Caffe2 和 ONNX)来构建和部署 Translate,Translate 曾经在大规模运用——协助翻译 Facebook 上 48 种最常用的言语。

另外还有 VR,这些工具曾经在 Oculus 的产品上使用,在新研讨的部署上起到至关重要的作用,可以使得虚拟化身愈加真实。

虽然将这三种工具停止组合很无效,但依然存在一些极端复杂和耗时的人工步骤,我们依然不能无缝将新的 AI 研讨创新带到消费中。

集研讨和消费于一身的框架

PyTorch 1.0 交融了即时和图执行形式,支持灵敏研讨和消费功能优化。更详细地说,PyTorch 1.0 提供了一个混合前端,使大家可以无缝在即时形式的原型设计和图执行形式的消费间共享大局部代码,而不是非得要开发人员重写整套代码,以从 Python 中优化或迁移。

此外,onNX 也与 PyTorch 1.0 停止了交融,大家可以在 PyTorch 1.0 模型与其他 AI 框架间停止互操作。

onNX 还作为减速运转或特定硬件库的集成接口,这使得开发人员可以自在混合和婚配最好的 AI 框架和工具,而不需求运用资源密集型的定制工程。

Facebook 努力于让 onNX 支持新特征和功用,onNX 依然是一种弱小的开放格式,也是运用 PyTorch 1.0 停止开发的重要局部。

构建端到端深度学习零碎

除了 PyTorch 1.0,我们还将开源许多我们目前频繁运用的 AI 工具,包括 Translate——一个 PyTorch 库——用于疾速、灵敏的神经机器翻译,新一代 ELF——一个用于 AI 推理使用的综合游戏平台。

开发人员还可以运用相似 Glow(一种机器学习编译器,可以在不同硬件平台上提升框架功能)的工具,还有 Tensor Comprehensions(从初级数学运算中自动生成高效 GPU 代码的工具)。

我们也开源了其他库,比方 Detectron,它用于对象检测研讨,可以输入边框和对象实例联系后果。

大家可以拜访 facebook.ai/developers (Facebook AI 开发者网站)检查完好开源名单,可以在 PyTorch 和 Caffe2 博客上理解更多关于 PyTorch 的信息。

接上去几个月,我们将重构和一致 Caffe2 与 PyTorch 0.4 的代码库,删除反复组件、共享笼统。最终,将发生一个支持高效的图形式执行,包括功能剖析、挪动端部署、普遍集成等的一致框架。

与 onNX 等其他开放 AI 项目一样,我们也与其他公司和社群协作,为更多开发人员提供这种减速研讨到消费的才能。

如今,微软方案在 Azure 云和开发者产品(包括 Azure Machine Learning 效劳和 Data Science Virtual Machines)上 支持 PyTorch 1.0 。亚马逊 Web Services 目前曾经支持最新版本的 PyTorch 并在 P3 GPU 实例上停止了优化,他们方案在 PyTorch 1.0 可用之后尽快在其云产品(包括 Amazon Machine Image)上提供支持。

这仅仅是个开端,我们希望创立和共享更好的 AI 编程模型、接口和自动优化工具。现今,AI 是 Facebook 的一项根底性技术,它使现有的产品更好,是构建全新体验的力气之源。大家可以在论文、代码和模型上看到我们的任务,我们可以与一切的 AI 研讨人员和理论者一同研讨,以更快地推进最先进的技术,并以全新的方式协助使用这些技术。

via: https://code.facebook.com

雷锋网 AI 研习社编译整理。

雷锋网版权文章,未经受权制止转载。概况见。

融合 Caffe2、o<em></em>nNX 的新版 PyTorch 发布在即,能否赶超 TensorFlow?