信息无障碍通道
您的位置:首页>>业界动态

飞桨框架2.0业界首发“通用异构参数服务器” 实现降本35%

发布时间:2021-04-09 20:06  来源:互联网    背景: 无障碍阅读通道

  日前,美媒《华尔街日报》报道称:美国羡慕中国的基础设施,并希望加强基建以夯实美国经济增长。事实上,对“基础设施”的建设,除了短期内可拉动增长刺激就业外,更重要的意义是“有力地支持全领域共同繁荣”。我国的十四五规划中,“科技创新”成为焦点,加强科技的基础设施建设,从而更高效、高质量的实现全领域共同进步。中国科技新基建再次当先。

  宜早不宜迟的“科技新基建”

  人工智能是科技新基建的核心之一,而深度学习又是人工智能的先锋。自 2012 年深度学习取得突破性进展,众多深度学习框架应运而生,成为研究者和业界工作者的新宠。不管深度学习研发进行的多么火热,都要转化为生产力和商业价值,最终落地到产业中,而且宜早不宜迟。

  实践鉴差距。“做不做得出来”跟“用不用得起来”差的完全是“从0到1”的决定性距离。从早期的学术框架 Caffe、Theano,到如今有业界背景的大规模框架Pytorch,TensorFlow以及国内最早开源的飞桨PaddlePaddle来看, AI新基建绝非一朝一夕可成,需要长期持续的投入和产业实践打磨,方可有所沉淀。

  2016年,百度PaddlePaddle就打响了国产深度学习框架开源的第一枪,成为我国首个自主研发的产业级深度学习平台。2019 年 4 月,在 Wave Summit 深度学习开发者峰会上,PaddlePaddle发布中文名“飞桨”,开始强调自己更适合中国开发者,以及更加专注于深度学习模型的产业实践。2020年5月,飞桨作为百度大脑“AI大生产平台”的基础底座,构建“飞桨开源深度学习平台”和“飞桨企业版”,更精准地服务各类AI模型开发训练与部署。

  其中,飞桨开源深度学习平台已涵盖核心框架、基础模型库、端到端开发套件与工具组件,为产业、学术、科研创新提供基础底座。飞桨企业版包括零门槛AI开发平台EasyDL和全功能AI开发平台BML,满足企业快速智能化需求。飞桨全平台功能与开发流程成熟完善,完全站在使用者角度定义技术迭代。今年3月,飞桨核心框架已正式升级为2.0版本。飞桨生态凝聚了超过265 万开发者,服务 10万多家企业,创建超过 34 万个模型。

  权威数据调研机构IDC公布了2020年下半年深度学习框架平台市场份额报告, 数据显示,Google、百度、Facebook稳居前三,占据70%以上市场份额。其中,百度占比提升3.38%增速第一,综合市场份额位列第二。

  高性能+高效率=万物皆智能、一切可编程

  人类使用工具这事儿可以追溯到史前文明。工具的意义在于辅助劳动,省时省力,这也是飞桨作为工具存在的意义。能被广泛开发者用起来的工具也才是好工具。要知道,这个时代对于很多人来讲,抢时间就是抢市场、抢优势、抢夺竞争力。以飞桨最新发布的框架2.0正式版为例,更便利高效且通用的AI开发与训练部署,正方便着各个领域中的企业用AI技术建立自己的智能化领先优势。

  具体来看,首先此次升级后,飞桨框架2.0 可支持用户使用动态图完成深度学习相关领域全类别的模型算法开发,这标志着飞桨的动态图功能已经成熟完备。不仅方便开发者随时查看变量输入、输出的动态情况,更有助于调试程序便捷化,减少了凭手感与玄学的“盲调”。同时,飞桨框架 2.0 还做到了模型存储和加载的接口统一,保证“动转静”之后保存的模型文件能够被纯动态图加载和使用。就像静态图像与动态视频一样,可以一键“高画质”互相转换,实际上是方便了使用端的操作。此外,官方支持的动态图算法数量达到了270+,涵盖计算机视觉、自然语言处理、语音、推荐等多个领域,并且在动态图的训练效率和部署效率方面都有所提升。

  人工智能的价值,是通过软件编程实现虚拟化、灵活、多样和定制化功能,并最终向各个行业和人群提供专用的智能化、定制化服务。软件与硬件在深度融合时的核心就是API。AI时代里,API之上一切皆可编程,而API之下,则要求“如无必要不增实体”,所以API绝对是技术对外输出、以怎样的方式实现可用的关键点。飞桨框架2.0也对自身 API 体系进行了全新升级,包括体系化梳理和简洁化处理。简单来说,就是把AI技术对外的输出“路径”变得更加好用,更加兼容,方便技术的“一键输出”。

  在训练层面上,飞桨框架2.0在支持万亿规模稀疏参数基础上,也已实现支持千亿规模稠密参数模型训练。作为“从实践中来,到实践中去”的技术,AI的可用性与高效性,必然都是从实践中获得的。分布式训练源自于百度自身的场景需求,可谓是飞桨与生俱来的特性。此外,在飞桨框架2.0 版本中,还新增支持了混合并行模式,即数据并行、模型并行、流水线并行这三种并行模式可以相互组合使用,可更高效地将模型的各网络层甚至某一层的参数切分到多张 GPU 卡上进行训练,从而真正支持不同场景下的千亿规模稠密参数模型训练。

  “领先性”直接转化为“降本”

  飞桨框架2.0推出业内首个“通用异构参数服务器”技术,可使训练任务对硬件型号不敏感,即可以同时使用不同的硬件混合异构训练。通过异构参数服务器模式,用户可以在异构硬件集群中部署分布式训练任务,目的是对不同算力的芯片高效利用,获得更高吞吐,更低资源消耗的训练能力。异构参数服务器拥有非常高的性价比,如下图所示,仅用两个CPU机器加两个GPU机器就可以达到与4个GPU机器相仿的训练速度,而成本至少可以节约35%。

图片

  飞桨还着力建起业界最为完备的硬件合作生态。作为一块“智能革命”的砖,AI必须哪里有需要就往哪里搬。所以如何“搬过去”就很关键了。飞桨全面深度适配各种人工智能硬件,除了英特尔、英伟达、ARM等诸多芯片厂商,还有飞腾、海光、鲲鹏、龙芯、申威等 CPU,并结合麒麟、统信、普华操作系统,以及百度昆仑、海光 DCU、寒武纪、比特大陆、瑞芯微、高通、英伟达等 AI 芯片深度融合。此外,还和浪潮、中科曙光等服务器厂商合作形成软硬一体的全栈AI基础设施。当前飞桨已经适配和正在适配的芯片或 IP达到 29款。

  现如今,AI 的大规模落地已经步入快车道,深度学习技术不断发展,以飞桨为首的国产框架迎来时代机遇。2021 年,基于飞桨的企业级开发工具库数量越来越多,内容越来越丰富,加入飞桨生态社区的用户越来越多,它正在成为加速这个时代走向智能化的重要驱动力。可以说, 飞桨“技术赋能万物”的磅礴力量正在显现。

特别提醒:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。


返回网站首页 本文来源:互联网

亚马逊豪赌 Rivian 获得丰厚回报,将押注更多气候科技创新
11 月 14 日消息,据媒体报道,当电动汽车制造商 Rivian 本周成功上市后,亚马逊的豪赌获得了丰厚回报。事实上,这家科技巨头还押注了许多其他气候领域的科技创新,以帮助实现零碳目标。
日期:11-14
三星 DeX PC 桌面宣布明年 1 月起停止支持 Windows 7/macOS 系统
11 月 13 日消息,据 SAMMOBILE 报道,三星 DeX 桌面是该公司有史以来最好的生产力软件之一。当连接到更大的显示器(显示器或电视)时,它将你的智能手机或平板电脑软件转化为类似桌面的用户界面 UI。当你把它...
日期:11-13
台积电创始人张忠谋:芯片短缺原因之一是使用方低估需求
11 月 13 日消息,据《经济日报》报道,台积电创始人张忠谋今日在 APEC 经济会议上直言,芯片短缺的原因是使用半导体芯片的一方低估需求,而非制造方。他还表示,自由贸易、自由竞争的市场,是解决芯片短缺或...
日期:11-13
谷歌相机 8.4 版推出:界面微调,闪光灯闪烁倒计时
11 月 13 日消息,据外媒 9to5google 报道,11 月 11 日谷歌相机 Google Camera App 8.4 版本正式推出,为 Pixel 6/Pro 之外的手机带来新功能。
日期:11-13
10月iOS性能榜:124W跑分创新高
M1芯片版本的iPad Pro和A15芯片的iPhone 13系列发布之后,今年的iOS性能榜基本上就可以说已经是尘埃落定了,即使苹果带来了史上最强的M1 Pro和M1 Max,可那又怎么样呢?它又不可能下放到这两个产品线上,所以...
日期:11-13
OPPO 公开安全防护专利,可模拟危险对象的防护对象特征
11 月 13 日消息,昨日,OPPO 广东移动通信有限公司公开了“安全防护方法及装置、介质、电子设备及车辆”专利,公开号为 CN113642111A。
日期:11-13
卢伟冰公开提名天玑2000芯片:Redmi K50系列或配备、性能赶超骁龙898
经历过双11大战之后,各家手机厂商业都迅速回到了正轨,目前已知有多家厂商都已经开始准备新品发布会,推出各档位新手机了。
日期:11-13
小米公开商品购买意图确定专利,可精准定位潜在目标用户
11 月 13 日消息,昨日,北京小米松果电子有限公司、北京小米移动软件有限公司公开了“商品购买意图确定方法、装置、存储介质及电子设备”专利,公开号为 CN113643068A。
日期:11-13
苹果被曝秘密为少数高价值第三方应用购买谷歌搜索广告
11 月 13 日消息,据外媒报道,多家应用发行商爆料称,苹果正在秘密为少数第三方高价值应用购买谷歌搜索广告,借此引导用户浏览苹果应用商店列表而非开发商自己的网站。此举可能损害开发商利益,导致他们损失...
日期:11-13
SK 海力士获得 ISO 26262 汽车半导体芯片安全认证
11 月 12 日消息,根据外媒 techpowerup 报道,韩国企业 SK 海力士于 11 月 11 日获得了 ISO 26262: 2018 FSM 汽车半导体芯片安全认证。这一认证由全球汽车功能安全认证机构 TUV Nord 颁布,两家公司举办了证...
日期:11-12
OPPO Reno 7 通过工信部认证,有望在近期发布
11 月 12 日消息,OPPO Reno 7 以及 7 Pro 新机通过 3C 认证,型号为 PFDM00 和 PFJM10,采用 65W 快充。
日期:11-12
全球首款 4nm 手机芯片:联发科天玑 2000 平台 vivo 新机曝光,安兔兔跑分突破一百万
11 月 12 日消息,联发科方面近日开始预告,全新的旗舰芯片组天玑 2000 SoC 即将到来,基于 4nm 工艺,也是全球首款 4nm 的手机芯片,或成为台积电 4nm 首发新品。
日期:11-12
消息称联电计划 2022 年一季度将代工报价再度上调 10%
11 月 12 日消息,IC 设计业内消息人士称,联电计划从 2022 年第一季度起,将代工报价再度上调 10%,新报价将适用于其前三大客户的订单,过去的一年,上述客户由于提前锁定长单,而免于联电的多次涨价。
日期:11-12
Unity 与 LG U + 签署合作意向书,将打造办公区元宇宙
11 月 12 日消息,Unity 韩国近日宣布与 LG U+ 达成商业协议(MOU),就元宇宙技术展开合作。
日期:11-12
英特尔与中科院计算所宣布结成战略合作伙伴,共建中国首个 oneAPI 卓越中心
11 月 12 日消息,第三届中国超级算力大会(ChinaSC 2021)今日以“线上 + 线下”形式在京召开。会上,中国计算机学会高性能计算专业委员会(以下简称 CCF 高专委)还发布了 2021 中国高性能计算机性能...
日期:11-12
消息称三星电机将供货苹果 M1 芯片用 FC-BGA 封装基板
11 月 12 日消息,据 TheElec 报道,自去年以来,三星电机一直在向苹果公司提供倒装芯片球栅阵列(FC-BGA)封装,供其在 M1 芯片上使用。
日期:11-12
台积电加速全球扩张,可能将削弱其高毛利优势
全球最大的芯片制造商台积电正在加速全球扩张。
  11 月 11 日,索尼半导体解决方案和台积电联合宣布,台积电将在日本熊本县设立子公司日本先进半导体制造公司,将提供 22nm 和 28nm 工艺的初始技术。...
日期:11-12
不再谷歌 Pixel 系列独享,其它厂商手机有望用上 Android 12 动态颜色主题功能
11 月 12 日消息,XDA 论坛主编 Mishaal Rahman 今日在 Twitter 上发推称,Monet(原生 Android 12 里的壁纸主题系统)的源代码将会伴随新系统 Android 12L 一起发布,但基于 Material 组成库(Material Compone...
日期:11-12
支持 5G:华为 Mate X2 折叠屏旗舰手机开放购买
今年 2 月,华为正式发布了 Mate X2 全新折叠屏手机。搭载 8GB 内存,256GB 售价 17999 元,512GB 售价 18999 元。
日期:11-12
英特尔 12 代酷睿 65W 型号参数规格曝光:i9-12900 16 核 24 线程,最高 5.1GHz
11 月 12 日消息,英特尔现已推出了 12 代酷睿 125W K 系列可超频处理器,65W 的不可超频系列暂未发布。爆料者 Momomo_US 现在曝光了 12 代酷睿 65W 型号的参数规格,共六款。
日期:11-12
  专栏介绍
即时新闻 的专栏
即时新闻发表的文章