您的位置:首页>>业界动态

2019深度学习框架排行榜(从TOP 10到TOP 3)

发布时间:2019-08-20 18:56:11  来源:互联网    背景:

  1.写在前面

  5G可以说是2019年上半年十分闪耀的那颗“星”了,美方还不惜代价地试图封锁中国的5G技术出海。5G之所以重要,是因为其将和AI技术,大数据技术一道颠覆我们现有的生活模式,让智能化成为现实。

  在智能化的世界,5G技术提供高速率(>1 Gbps),低延时(1ms)的基础网络服务,组建物联网(IoT,Internet of Things),大数据技术提供对万物互联产生的海量数据的整合能力,而AI技术则提供整个智能生态的计算与决策能力,深度学习技术是非常高效的实现方式,在过去10年,已被学术界和工业界反复证实,能够依靠各种模型算法达成比人类判断更精准,更快速的“灵丹妙药”。

101_190820122937_1_lit (1).png

  Figure 1 智能时代

  技术需要高效的实现模式来进行应用,深度学习框架就是那个实现“灵药“的“炼丹炉”,能够通过深度学习算法模块化的封装,快速搭建模型,输入数据,进行各种模型的训练,调优,测试和部署,为整个智能生态提供预测,决策等核心推断能力。

  2.深度学习框架排行榜

  得益于深度学习框架发展初期各家为更好的推动技术发展而造就的开源生态模式,如今,各式各样的框架百花齐放,百家争鸣,快速推动了深度技术在工业界的落地应用。当然,好“药”也得有好“炉”炼,下面我们就介绍下目前主流的深度学习框架的发展状况,各自的特点以及适合的场景等,找到合适的“炉“。

  从业界影响、资源投入、开发生态、文档体系、模型全面性、工业实践和开源热度(github)等七个方面评估各框架的发展状况,结果如下图(供参考)。

101_190820123007_1_lit.png

  Figure 2 十大深度学习框架发展程度(caffe,caffe2分开统计)

  再来看一下GitHub对应的一些数据情况,Pytorch,TensorFlow,PaddlePaddle过去两年保持了较快的发展速度,尤其Pytorch的星数有3倍增长,博得了众多人的眼球。而Caffe&Caffe2,Theano,CNTK等,虽然已经停止迭代,但在AI启航的时间点仍然有一定的增长。

101_190820123034_1_lit.png

  Figure 3 十大深度学习框架github概览(caffe,caffe2分开统计)

101_190820123056_1_lit.png

  Figure 4 十大深度学习框架增长率(caffe,caffe2分开统计)

  上图中,前三个(Pytorch,TensorFlow,PaddlePaddle)是个人认为目前发展快,并且比较完善的框架,末端的四个是已经官宣不再更新的,而其他的是发展到平稳期或资源有限的一些框架。

  3.十大深度学习框架详解

101_190820123128_1_lit.png

  Google的TensorFlow,可以说是当今十分流行的深度学习框架。Airbnb, DeepMind,Intel,Nvidia,Twitter以及许多其他著名公司都在使用它。

  Google自开源TensorFlow起,投入大量的人力,物力,财力逐步构建了一个AI生态,从基础研究、AI教育、再到应用实现,而这个生态的核心就是TensorFlow。如前所说,深度学习是AIoT时代的基石,毫无疑问,Google依然走在时代转折点的前列。

  TensorFlow提供全面的服务,无论是Python,C++,JAVA,Go,甚至是Javascript,Julia,C#,几乎所有开发者都可以从熟悉的语言入手开始深度学习的旅程。TensorFlow构建了活跃的社区,完善的文档体系,大大降低了我们的学习成本,不过社区和文档主要以英文为主,中文支持有待加强。另外,TensorFlow有很直观的计算图可视化呈现。模型能够快速的部署在各种硬件机器上,从高性能的计算机到移动设备,再到更小的更轻量的智能终端。

  TensorFlow的缺点已经被诟病多年,相比Pytorch,Caffe等框架,TensorFlow的计算速度可以说是“牛拉车“。而且通过它构建一个深度学习框架需要更复杂的代码,还要忍受重复的多次构建静态图。

  综合来说,对于英文阅读和英文交流毫无障碍的同学,TensorFlow依然是深度学习框架的优选方案,毕竟可以和人流畅交流是学习和工作的重点。

101_190820123217_1_lit.png

  Pytorch是基于用Lua编写的Torch库的Python实现的深度学习库,它由Facebook创建,目前被广泛应用于学术界和工业界,随着Caffe2项目并入Pytorch,也稳固了Pytorch紧追并迫近TensorFlow在深度学习应用框架领域的地位。

  Pytorch官网的标题语简明的描述了目前Pytorch的特点以及将要发力的方向。Pytorch在学术界优势很大,关于用到深度学习模型的文章,除了Google家的,其他大部分都是通过Pytorch进行实验的,究其原因一是Pytorch库足够简单,跟NumPy,SciPy等可以无缝连接,而且基于tensor的GPU加速非常给力,二是训练网络迭代的核心-梯度的计算,Autograd架构(借鉴于Chainer),在Pytorch,我们可以动态的设计网络,而无需笨拙的定义静态网络图,才能去进行计算,想要对网络有任务修改,都要从头开始构建静态图。基于简单,灵活的设计,Pytorch快速成为了学术界的主流深度学习框架。

  Pytorch的劣势在于模型部署,由于对其部署难度早有耳闻,我没尝试过部署Pytorch的模型,一般是在Pytorch快速的试验新的模型,确认好的效果再去找“现成的”的TensorFlow模型做简单的优化。

  不过现在,如果稍微深入的了解TensorFlow和Pytorch,就会发现他们越来越像,TF加入了动态图架构,Pytorch致力于其在工业界更加易用。打开各自的官网,你也会发现文档风格也越发的相似。

101_190820123244_1_lit.png

  PaddlePaddle是由百度自主开发的开源深度学习框架,近期发现有了中文名字,飞桨。官网截图也很有意思,很多小人在划桨。飞桨刚发布的时候,并不被看好,感觉更像是Google有,百度也要有的腔调,但是近来在做一个关于语义识别的项目,其他框架支持中文的模型实在是少的可怜,时间紧张也没有时间大规模训练,于是就来试试飞桨,其中基于BERT的ERNIE模型取得了较好的效果,部署也不折腾。个人认为可以将模型库中的经典模型套在自己的问题上,作为baseline模型快速试验,而后慢慢调优追求更好的效果。

  从模型库找到适合自己的模型,按照实践教程一步步进行就行了,过程还是比较简单的,遇到的问题在github的issues中都有找到,虽然不像TF那么活跃,但是支持也是很及时的。我是从官网找模型,发现官网又更新了,盗张图过来感受下支持的模型。

101_190820123311_1_lit.png

  Figure 5 PaddlePaddle模型库

  功能上,飞桨同时支持动态图和静态图,能方便的调试模型,方便的部署,非常适合业务应用的落地实现。飞桨也已经支持数百个节点的高效并行训练。可以说在过去2年的时间里,深度学习领域在大规模的落地应用,各家框架也都在快速的发展,但是百度的PaddlePaddle看来是这个阶段发展更快的框架,甚至是发展更快的AI开发生态。

  以上三个框架可以说是目前发展比较快的,并且在稳定更新,维护的。功能上来说,各框架已经“越长越像”了,三个框架还是会有各自的特点,如何选择还是要根据自己的目标来看。

  下面来简单介绍下其他的一些主要框架。

101_190820123350_1_lit.png
101_190820123408_1_lit.png
101_190820123426_1_lit.png

  4.如何选择?

  那么如何在众多的框架中选择呢,我的建议有3个框架:TensorFlow,Pytorch,飞桨。其他的不是投入资源有限,就是已经不再维护了。实际上,我们或多或少应该都了解下这3个框架,针对不同的目的可以快速选型。

  如果是刚刚接触深度学习,以学习为目的的,我建议从TensorFlow和飞桨开始,至少目前来看,Google和百度是倾全力打造这两个平台的,他们已经不只是一个深度学习框架了,更是一个AI开发的生态,从基础的视频课程,完善的文档体系到项目的开放落地提供的是统一的服务。多说一句,百度飞桨的基础文档相当详细,不只有代码实现,数据流过程的教程,同时也包含了详细的算法原理,这点对于还不是那么了解相应模型的同学来说是极大的方便。对于学有余力的同学,还是建议对这3个框架都了解下。

  如果是出于学术目的的,建议从Pytorch开始,毕竟学术研究要紧盯着前沿,看文章,复现文章中模型的效果,选大家都用的可以节省不必要的时间成本,把重点放在优化模型提升模型效果上。

  如果是想要开箱即用,想即刻将深度学习技术应用到自己的场景中尝试,我会建议选择飞桨,飞桨中有大量的实战案例,基本套到相应的场景就能迭代起来了。而且在NLP领域,需要对各种语言进行预处理,毫无疑问对中文支持更好的是飞桨,比如ERNIE,其挖掘海量的中文数据,对先验语义知识进行建模,增强了语义表达能力,可以作为NLP,NLU应用的基础服务不同的场景。

  随手贴几个招聘网站上的JD,也可以帮大家明确一下方向,供参考。

101_190820123453_1_lit.png
101_190820123512_1_lit.png
101_190820123527_1_lit.png

  5.未来

  我们处在更好的时代。

  感谢互联网文化,感谢开源文化,让技术可以以指数级的速度发展,我们更要感谢在时代转折点的那些引路人,没有Google,百度等企业不遗余力地尝试将新技术应用于各产业,就没有技术的飞速发展,就没有美好的生活模式的变迁。

  AI技术的平民化是智能时代发展的催化剂,我们应用深度学习技术,从原理到框架,再到应用平台化工具将其落地到所有的场景,这是未来的发展趋势。得益于5G技术的发展,相信在不久的将来,我们将实现万物互联。深度学习是AIoT时代的关键,各平台已有的实践落地项目给我们提供了产业落地的实现路径。可谓星星之火,已成燎原之势,另外,发展我国自己的AI开发生态也同样重要,考虑到近期的“华为事件”,有备无患。

  结尾想说,框架、平台都只是为我们提供了工具,明确我们的目标并找到合适的场景,推进应用在业务上的落地,实现商业价值才是核心竞争力。

特别提醒:本网内容转载自其他媒体,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。


返回网站首页 本文来源:互联网

本文评论
友情提示:评论功能暂时关闭,请扫描上方二维码进群交流!
人工智能媒体实验室成立 百度大脑提升传媒行业内容生产传播效率
9月19日,“深度融合再出发——人民日报智慧媒体研究院成立仪式”在京召开。会...
日期:09-19
杰和全新智慧广告牌方案助力恒大智慧社区建设
随着消费水平和居住环境的日益提升,智慧广告牌逐渐成为智慧社区项目建设中非常重要的一部分。近日...
日期:09-19
Great Wall长城亮相2019国家网络安全宣传周天津主会场
渤海之滨共襄网络安全盛会,海河之畔筑牢国家护城之河。9月16日至22日,由中央宣传部、中央网信办、教...
日期:09-19
华为计算战略全景:自研芯片,软件开源,掘金2万亿市场
9月19日下午消息,在今日的华为全联接大会期间,华为详细阐述了基于“鲲鹏+昇腾”双引擎...
日期:09-19
网易严选连续2年通过BRC全球食品技术标准认证
近日,网易旗下自营电商品牌网易严选宣布通过BRC A&B全球代理人和经纪人全球标准(BRC Global St...
日期:09-19
支付宝蚂蚁森林获联合国最高环保荣誉“地球卫士奖”,共种了1.22亿棵树
9月19日消息 根据联合国环境规划署的消息,支付宝开发的应用小程序蚂蚁森林赢得联合国最高环保荣誉...
日期:09-19
京东拼购App正式开业 更名为“京喜”
今天,京东拼购App正式开业,更名为“京喜”。京东拼购App于6月上线,京东宣布将其作为后...
日期:09-19
苹果通讯部门副总裁Steve Dowling将于10月底离职
9月19日讯,据新浪科技报道,苹果通讯部门副总裁史蒂夫-道林(Steve Dowling)将于10月底离开苹果公司...
日期:09-19
聚能湾区 赋能未来 2019中国(小谷围)人工智能创新创业大赛全面启动
2019年9月18日,由广州市番禺区人民政府主办,中国信息通信研究院、中国人工智能产业发展联盟、广州大...
日期:09-19
高通X50终端陆续推出 5G基带还要向中端产品下沉
从2019年6月开始,我国5G商用的大门正式开启,不少搭载高通X50 5G基带的手机已经上市销售。不过正如...
日期:09-19
抢滩科创板,资本涌入,激光显示为何成了新风口?
9月19日,首届全球激光显示技术和产业发展论坛在青岛举行。从2014年海信推出全球首台激光电视至今只...
日期:09-19
100家企业集结,激光显示企业已成命运共同体!
“整个激光电视上下游产业链上的企业,从一开始就不是简单的商务买卖关系和单纯的商业竞争关系...
日期:09-19
华为全面启航计算战略:“鲲鹏+昇腾”双引擎
【中国,上海,2019年9月19日】在HUAWEI CONNECT2019期间,华为基于“鲲鹏+昇腾”双引擎...
日期:09-19
周厚健:液晶和激光将在75吋开战
“75吋将是激光电视与液晶电视激烈竞争的主流尺寸。” 在9月19日青岛举行的首届全球激光...
日期:09-19
5年即成大气候!全球百家激光显示企业首次集结谋大事
5年即成大气候!全球百家激光显示企业首次集结谋大事
日期:09-19
苏宁零售云全国第4000店即将诞生,这背后代表了什么?
9月20日,位于广东省惠州市惠阳县淡水镇的零售云县镇店将正式开门营业,此次开业将标志着苏宁零售云...
日期:09-19
航班管家“空铁联运监控系统”亮相中国联通杭州东站5G体验厅
日前,由航班管家提供的“杭州市空铁联运可视化监控系统”,在中国联通杭州东站5G体验厅(...
日期:09-19
华为云邓涛:“新裂变”加速各行业各领域智能化升级
日前,以“+智能,华为云多元架构加速企业创新”为主题的华为云峰会在2019华为全联接大会...
日期:09-19
Facebook发布“2019中国出海50强新秀品牌”,小蚁科技荣耀登榜!
9月17日,Facebook海外营销高峰会2019在上海举办,Facebook携手国际知名咨询毕马威公司,重磅发布&l...
日期:09-19
华为发布鲲鹏主板 宣布技术开放
三言财经9月19日消息,据新浪科技报道,9月19日,华为智能计算业务部总裁马海旭在华为全联接大会上...
日期:09-19
  专栏介绍
王涵 的专栏
王涵发表的文章
积分:
自我介绍 :