农企新闻网

深度学习的硬件之争关键年:NVIDIA, AMD, Intel鹿死谁手?

发布者:马悦林
导读大数据文摘作品编译:新知之路、党晓芊、吴双、Aileen随着英伟达Titan V的发布,我们迈入了深度学习硬件开展的动乱期。NVIDIA能否在2018年保住深度学习硬件首要供给商的位置还未可知,AMD和Intel Nervana都仍无机会。所以关于想买硬件的消费者,最精明的选择就是等上3至9个月,到这种不确定的形态过来之后再决议。深度学习芯片范畴的竞争从未中止过。NVIDIA决议在竞争初现端倪之前

大数据文摘作品

编译:新知之路、党晓芊、吴双、Aileen

随着英伟达Titan V的发布,我们迈入了深度学习硬件开展的动乱期。NVIDIA能否在2018年保住深度学习硬件首要供给商的位置还未可知,AMD和Intel Nervana都仍无机会。

所以关于想买硬件的消费者,最精明的选择就是等上3至9个月,到这种不确定的形态过来之后再决议。

深度学习 芯片范畴的竞争从未中止过。

NVIDIA决议在竞争初现端倪之前,先将本人的垄断位置变现。 经过这种方式,他们希望在将来1-2年内确保行业抢先,所以他们的Titan V的售价高达3000美元!

虽然Titan V的深度学习公用中心Tensor Core有着共同的功能,但性价比真实太糟,使其市场吸引力缺乏, 只是现阶段除此之外又没有别的选择,所以致少以后就有什么用什么吧。

AMD的硬件程度曾经赶超NVIDIA了,而且他们方案再开收回相婚配的深度学习软件。 假如这一步完成的话,其性价比会轻松逾越NVIDIA,并在此范畴成为新的标杆。而届时NVIDIA就会凭仗着雄厚的资金实力来拼市场,所以我们或许会在将来看到十分廉价的NVIDIA产品。留意这种状况是树立在AMD推出高质量软件的根底上——假如AMD跳票,则丧失了抢走桂冠的时机,而NVIDIA的产品将仍停留在低价位。

市场上还有另一位新晋竞争者:Intel Nervana的神经网络处置器(NNP)。 凭仗着几种投合CUDA开发者需求的共同功能,它表现得还比拟有竞争力。 NNP处置器可以处理优化深度学习的CUDA内核中绝大少数的成绩,这款芯片才真正称得上第一枚深度学习芯片。

深度学习的硬件之争关键年:NVIDIA, AMD, Intel鹿死谁手?

通常意义上,关于单一芯片之间的排名,我们会依照Nervana > AMD > NVIDIA的顺序来排,由于NVIDIA的芯片不得不在游戏、深度学习和高功能运算中维持均衡,AMD也需求同时思索游戏和深度学习,只要Nervana可以聚焦于深度学习,这是一个宏大的优势,使得他们的芯片较其他两家少了很多无用的构造设计。

但是,获胜者往往不是取决于地道的功能或许性价比,而是要综合思索性价比+周边生态+深度学习框架。

让我们来细心理解一下这三家公司产品的优劣,看看它们究竟处于什么地位。

Nervana的神经网络处置器(NNP)

深度学习的硬件之争关键年:NVIDIA, AMD, Intel鹿死谁手?

图:以后并没有专门为AI所设计的硬件产品,而Intel Nervana NNP帮我们摆脱了这种限制。

Nervana芯片的共同之处在于它为计算扩展出大空间的缓存(相似CUDA共享内存),相当于GPU的10倍,而单个计算单元的缓存是GPU的50倍。有了这种设计,其运算速度会提升至多一个量级,就可以在缓存内完成算法与模型计算并轻松地训练TB字节的数据(如一个带有200个单元的多层LSTM)。

得益于Flexpoint这个特殊的数据类型,Nervana的芯片可以在缓存/RAM内存储更多的数据并计算得更快。一切这些创新都意味着其比以后NVIDIA的GPU提速了10倍。这曾经取得了初创公司以及一些大公司的关注。 但是, 一切这些的前提是他们能克制次要的成绩:周边生态以及软件。

普通的用户和研讨人员简直完全依赖于芯片周边的生态零碎。假如没有了这些,我们将无法运用缓存内的算法以及好的软件框架,从而无法更好的应用芯片。

一切人都希望运用牢靠过硬的深度学习框架,而Nervana的深度学习框架Neon能否给力是值得疑心的。软件运用优先于硬件支持,假如Nervana仅仅出品良好的芯片而不在软件以及周边生态零碎上发力的话,他们将输掉这场竞争。

软件以及生态零碎与价钱严密相关。假如Nervana 家的NNP价钱定得太高,先生基本担负不起。虽然行业内的各种企业客户为硬件公司领取了绝大局部的支出,但仅凭产业化的使用是无法构建昌盛的生态环境的,先生群体才是促使硬件周边生态环境昌盛的次要驱动者。

只要当广阔先生们可以领取得起之后,才会有众多配套软件得以涌现。任何超越3000美金的产品想都不要想;超越2000美金而且对先生有额定折扣的产品还对付,没准会让人用用,一个2000美金的NNP还是会有一些承受度的;而假如产品低于1500美金,Nervana在2-3年内将会成为市场的主导者。

假如把价钱定在1000美金左右,那另两家竞争者将会十分苦楚,而配套的软件就会如雨后春笋,不再是个成绩。

假如NNP的价钱低于2500美金,我是一定会买的。它的功能比GPU好太多,我可以用它来做好多原来无法在NVIDIA产品上完成的事。但假如它超越了2500美元,这是我能接受的下限,我看还是把钱省上去吧,虽然好的硬件十分重要,但我还需求钱来干别的呢。

关于普通的消费者来说,价钱不是他们思索的独一要素,他们还会思索到产品的绝对应的周边生态。

假如Intel没有疾速的将尽能够多的资源投入到该产品的周边生态并打造一个牢靠的软件组成,那么NNP (The Neural Network Processor) 的开展就会停滞不前并且最终消亡。不幸的是,Intel 已经由于对周边生态的管理不善而犯过这样的错误。假如发作了,这将十分让人绝望,由于我真的很希望Nervana取得成功。

总体来说, 假如Nervana开发的NNP 可以把价钱控制在2000美金以下,并且在这个产品发布之后的短短几个月内疾速生成一个弱小的周边生态和软件开发环境,那么这款产品将会击败它的同类竞争者而胜出。假如NNP的价钱稍高同时周边生态略差,那它仍然还是个不错的产品,只是就性价比和方便水平来说,它不能完胜它的竞争者们。当它的价钱高于$4000美金或是不具有一个根本的产品周边生态的话,NNP甚至会完败。

关于高于$2000美金的NNP来说,假如希望它能关于普通先生有很好的新引力,那么该产品需求对先生有着相当水平的折扣才可以。

AMD:廉价又弱小,软件方面还需努力

AMD的显卡十分的棒。Vega Frontier Edition 系列分明的要优于NVIDIA的相应产品,经过一项相似于对Volta和Pascal所做的无偏向规范测试,在运用液态冷却的前提下,Vega Frontier 的功能要持平甚至优于Titan V。值得留意的是,Vega是基于传统的图形处置芯片架构,而Titan V是全新的。这样,在2018第三季度行将发布的新一代AMD架构,将会有愈加出彩的表现。

AMD希望仅仅经过把32-bit 浮点数运算的图形处置芯片换成16-bit,从而在深度学习硬件开发上获得成功。这是一个既复杂又无效的战略。这样设计的GPU,虽然关于高功能计算没有什么用途,但是关于游戏玩家以及深度学习社群来说,这样的改动会取得更波动的表现,同时由于16-bit浮点数运算显卡的运算十分直接,芯片的开发本钱也会相应降低。

当然,假如单纯依托功能目标来说,这样的改动不能够优于Nervana的NNP,但是就性价比来说,市场上一切的产品都无出其右。你可以仅仅破费$700美元就买到一款液态冷却的Vega Frontier 显卡,而它的功能比起$3000美金的Titan V仅仅差了一点而已。

但是最大的成绩是软件。 即便你拥有了这么弱小的AMD GPU,你却很难运用它-由于目前没有一款主流的软件框架可以很好支持AMD GPU。

AMD本身也处于这个开展过渡期,关于软件的开展过渡期。目前来看,他们计划保持OpenCL而转向HIP。但是他们如今官方仍然支持OpenCL这种办法。

假如他们想推进HIP而且在将来九个月内投放一些很好的深度学习软件于市场(不只仅是用来计算卷积和矩阵相乘的软件包而是一个完好的深度学习框架,比方说HIP可以支持PyTorch),那么,他们在2018第三季度行将发布的新一代GPU会取得宏大的潜力并且击败一切竞争者。

总体来说,假如AMD可以把它在软件方面一切顺手的成绩处置好, 那么毫无疑问它会成为深度学习硬件范畴的主导力气。

NVIDIA: 位置巩固的硬件界大佬

NVIDIA 的江湖大佬位置无须置疑。 他们拥有最棒的软件零碎,最好的工具,他们的硬件很棒并且产品具有一个庞大,健壮并且完好的生态圈。

NVIDIA 的次要成绩在于他们需求效劳于多种运用者:高功能计算需求者,深度学习从业者,还有游戏玩家。这关于他们的硬件是一个宏大的压力。设计这些客户定制的图形处置芯片是十分昂贵的, 因而NVIDIA的战略是设计一款多用处,合适一切框架的芯片, 这项义务简直很难完成。因而Titan V只是一个很中庸的产品。

随同竞争者的呈现,NVIDIA有两种选择。(1)不停的压低价钱,直到拖垮对手,或许是(2)开收回属于本人的专有深度学习图形处置芯片。NVIDIA拥有足够的资源去打价钱战,并且它也拥有足够数量的专家去执行第二套方案。但是,设计新型的芯片需求一定的工夫,NVIDIA有能够在此间得到王者的宝座。所以,我们很有能够看到它会同时执行两套方案:打价钱战拖垮推手,从而为本人设计出专属的深度学习芯片博得工夫。

总体来说,NVIDIA的王座遭到了一定的要挟,但是它有足够的经历和资源去击败呈现的竞争对手。我们很有能够在将来看到一个廉价的NVIDIA 显卡和专为深度学习打造的产品。不过假如NVIDIA 不去降价打价钱战的话,它是能够(暂时地)得到王者的位置的。

深度学习硬件的混战意味着目前不是一个投资该范畴的最好机遇,但是这也同时意味着更廉价的NVIDIA 卡,可用性更高的AMD卡,以及超快的Nervana卡会很快呈现。这是一个冲动人心的时代,我们消费者将会从这样的竞争当中取得宏大的利益。但是目前,我们必需耐烦等候。