您的位置:首页>>业界动态

百度飞桨视觉能力再攀高峰,刷新斯坦福大学DAWNBench四大世界纪录

发布时间:2019-06-19 11:02:04  来源:互联网    背景:

  2019开年以来,百度大脑视觉技术团队在国际赛事上屡屡夺冠。继ICME人脸106关键点检测比赛夺冠、多目标追踪挑战MOT榜单第一等多项赛事传来喜报后,百度大脑视觉技术团队再露锋芒,飞桨视觉能力再攀高峰,一举刷新四项世界纪录。

  近日,百度大脑视觉技术团队联合百度智能云,在斯坦福大学举办的DAWNBench榜单中,刷新了四项世界纪录。四个项目分别是CIFAR10训练速度和成本以及CIFAR10推理速度和成本。其中CIFAR 训练速度45s、推理速度0.6830ms,均大幅度提高了原榜单的成绩(原训练及推理纪录为74s、0.828ms),而取得此效果对应百度智能云GPU服务器的成本仅为0.02美元及0.0000002078美元。

  DAWN 比赛由斯坦福大学携手Google,Intel,Facebook,Microsoft等世界知名公司联合举办,其宗旨在于推进AI的民主化进而使得AI以更便捷的方式赋能各个行业。所以其侧重点亦与计算机视觉领域的其它竞赛有所区别, DAWN竞赛关注在给定任务下 (例如 CIFAR10)算法达到特定准确性所需要的训练时间、推理时间及相应的成本。当今计算机视觉应用需要大量云端服务器资源,算法训练和推理时间越短,才能越具有实际应用的价值。因此,对背后的云服务能力是极大的考验。

  随着深度学习的发展,计算机视觉和自然语言处理等领域取得了诸多成就。但是,当任务不同、数据不同时,相应的模型设计也面临着很大的挑战。因此,百度大脑视觉技术团队本次将目标聚焦在CIFAR10 图像数据的分类任务上,期望通过设计出最小最快的CNN网络,从而帮助百度智能云的用户适用小型图像数据库的分类任务,这对实际生产应用领域,如某些医学图像识别、特定场景的工业质检等都具有帮助和启发意义。

  在推理项目中,百度大脑视觉技术团队从飞桨(PaddlePaddle)分类模型库起步,基于更少的模型层数, 更窄的模型宽度,和更少运算量的思想,得到简洁有效的深度学习神经网络BaiduNet8,实现了竞赛中推理速度最快的模型设计。

  在训练项目中,从飞桨(PaddlePaddle)自动模型搜索功能起步,设计了适于快速训练的网络结构BaiduNet9。针对单GPU卡场景,开发了混合精度策略,创新地提出并采用了自适应的类三角函数学习率函数,使得模型收敛速度能大大提高4倍左右。

cid:image017.png@01D5229E.57F440E0

图1

  针对多 GPU卡场景,结合百度智能云GPU服务器的优越性能,百度大脑视觉技术团队开发了适合分布式训练的多线程训练软件架构,优化了相应的新型学习率曲线(如图1所示)、权重衰减、动量、批处理参数,设计了cutout 和mix up 相结合的数据增强算法,最终得到改进型网络模型BaiduNet9P,真正有效利用多卡 GPU 环境。

cid:image018.png@01D5229E.57F440E0

图2

  在百度智能云8卡V100的GPU服务器上训练CIFAR10数据集,百度团队实现了仅用44.9秒便达到了94%的精度(训练过程如图2所示),远超目前第一名74秒的成绩。值得一提的是,目前榜单上使用8*V100 GPU配置的最好成绩是174秒。

  作为百度AI技术的集大成者,百度大脑不仅在视觉技术领域达到国际顶尖水平,在语音、自然语言处理、深度学习等AI核心技术领域也都始终保持着行业领先水准。百度大脑也正持续开放领先技术,为产业智能化赋能。

  开发者想要了解更多比赛详情,可以登录百度智能云网站:cloud.baidu.com ,使用GPU服务器和AI开发平台Infinite完整体验和验证本次项目。

特别提醒:本网内容转载自其他媒体,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。


返回网站首页 本文来源:互联网

本文评论
头号玩咖参展2019世界VR产业大会 国务院副总理刘鹤莅临指导
2019年10月19日-21日, 2019世界VR产业大会在江西南昌举行。在同期举办的2019 VR/AR产品和应用展览...
日期:10-19
世界VR产业大会开幕 玖的揽获「中国VR50强企业」「VR/AR年度创新奖」两大奖项
10月19日,以“VR让世界更精彩——VR+5G开启感知新时代”为主题的第二届世界VR...
日期:10-19
开发者服务起风了:2019极光开发者大会,聚焦开发价值!
2019年10月19日,“2019极光开发者大会”在深圳召开,数千位互联网公司技术领袖、合作伙...
日期:10-19
华为:希望把VR/AR打造成下个智能手机产业
10月19日消息,2019世界VR产业大会在江西省南昌市举行。华为轮值董事长郭平发表了《打造VR/AR信息高...
日期:10-19
华为云受邀参加2019IDC中国数字化转型年度盛典,“5G+云+AI”助力企业数字转型
2019年10月18日,由IDC中国主办的“2019 IDC数字化转型年度盛典暨第四届中国数字化转型领军用...
日期:10-19
语音识别大拿Daniel Povey正式加入小米,将组团队开发下一代Kaldi
10月19日消息 据小米集团副总裁、小米技术委员会主席@崔宝秋-小米 消息,语音识别大拿Daniel Povey...
日期:10-19
蚂蚁金服共享智能平台打破数据孤岛,荣获“2019CCF 科技进步优秀奖”
10月18日,在2019中国计算机大会上,“蚂蚁金服隐私保护共享智能平台”荣获“CCF科...
日期:10-19
我国研发5款自主产权3D显卡:支持国产处理器及操作系统
   继国产处理器获得突破之后,国产GPU/显卡也取得了重大进展。
日期:10-19
华为开发者大会2020将于明年2月11日在深圳召开
10月19日消息 今日上午,据华为中国官方消息,华为开发者大会2020将于2020年2月11日-12日在深圳召开...
日期:10-19
Digitimes:英特尔将在2020年中发布Xe独显,采用10nm工艺
10月19日消息 根据TPU的报道,接近Digitimes的消息人士透露,英特尔将很快推出其首个10纳米独立显卡...
日期:10-19
AMD有望在11月5日发布新款线程撕裂者和TRX40芯片组
10月19日消息 根据VideoCardz的独家爆料,AMD计划发布三款Threadripper 3000处理器,分别是 3960X,...
日期:10-19
英特尔将于月底推出新款超低压处理器:10nm工艺,3D封装
10月19日消息 根据Notebookcheck的报道,英特尔将于2019年10月23日和24日在加州圣克拉拉的凯悦酒店...
日期:10-19
政企智能转型升级正当时 华为云打造西安智慧产业新高地
10月17日,由华为公司主办的“西安·选择不凡 华为云城市峰会2019”在西安如期举行...
日期:10-19
华为云依托5G+云+AI技术 加速政企转型升级
10月17日,“西安·选择不凡 华为云城市峰会2019”如期在西安举行。西安市市长李明...
日期:10-19
西安航天基地华为云人工智能创新中心正式发布
10月17日,西安·选择不凡 华为云城市峰会2019在西安举行,针对Cloud 2.0时代下的政企上云需...
日期:10-19
人才培养正当时,华为云联合7大高校发布西北鲲鹏人才培养计划
  10月17日,西安·选择不凡 华为云城市峰会2019在西安拉开帷幕,着眼西北地区科技创新发展,华...
日期:10-19
爱奇艺创新CDN系统奇速播荣获中国计算机学会 “CCF科学技术奖科技进步杰出奖”
10月17日-19日,由中国计算机学会(CCF)创办的2019中国计算机大会在苏州举办,爱奇艺融合边缘云的新...
日期:10-19
世界互联网大会开幕,UCloud优刻得展示企业上云新科技
10月18日上午,第六届世界互联网大会“互联网之光”博览会在浙江乌镇拉开帷幕。国家互联...
日期:10-19
Breeno语音“万物互融”丰富覆盖渠道,为开发者提供更多品牌精准客群
10月15日「OnePlus 7T 系列新品发布会」在北京举办。此次发布会除了发布了硬件端旗舰级一加手机,也...
日期:10-18
哈弗H6斩获第76个月销冠,不断刷新SUV市场销量记录
进入2019年下半年后,中国汽车市场发生了微妙的变化,轿车相较2018年依旧呈现下跌态势,而SUV异军突起,...
日期:10-18
  专栏介绍
王涵 的专栏
王涵发表的文章
积分:
自我介绍 :