您的位置:首页>>业界动态

“把大象装进冰箱”,UCloud助力爱普新媒数据运算提升21倍

发布时间:2019-05-22 16:11:45  来源:互联网    背景:

  导语:当前,爱普新媒广告数据规模太过庞大、赛过大象,如何把这头大象“瘦身“装进“冰箱真正使用起来?UCloud数据湖分析方案帮助爱普新媒解决了眼下的难题。

  “平均业务数据需求完成周期提升21倍, 从43.2小时缩短到2小时。”

  “大数据工程师每月减少20个人日的⼯作量。”

  “大数据基础设施投入减少92.85%。”

  张先生是一位大数据负责人,供职于北京爱普新媒体公司。这是一家专业从事广告DSP(Demand-Side Platform,需求方平台)业务的公司,成立于2010年。随着DSP广告模式传入中国成为热潮,公司发展不错。

  但张先生很快发现,广告数据增长的速度远远超乎预期,公司内大数据工程师招聘目标才完成一半,但数据量一下冲到数百T。手下几个数据工程师不得不疲于奔命,帮助业务分析师运行SQL任务,排除故障,但仍然收效甚微。随着广告项目的增长,业务部门的数据分析师对大数据部门的抱怨也在不断积累。

  作为广告服务商,数据统计就是公司的命脉,如果因广告主自身数据管理而造成的广告投放数据统计不准,和第三方检测机构的数据对不上,后果不堪设想,广告主甚至会拒绝结款。

  正当张先生焦头烂额之际,UCloud向他推荐了数据湖分析方案。经过初步的试用和数据验证之后,张先生决定把一小部分业务放在数据湖分析方案上处理,这才有了本文开头的一幕。

  广告一半是科学,一半是艺术。这其中,以效果为主的DSP要看性价比和投资回报率,得算经济账,可以说是相当科学了。在张先生的心中就有这么一笔账:

  张先生的工作场景也是目前数量众多的中小企业在面对大数据时遇到的困难。中小企业数据形成规模后,由于收入尚未跟上,所以面对动辄每年数百万的大数据投入,往往只能望而却步。

  爱普新媒面临的数据挑战:

  业务分析师说:

  1. 数据规模太大, 自己不能独立完成分析

  2. 数据任务完成周期长

  3. 数据结果感觉不准, 但又不能查看原始明细数据

  数据部门说:

  1. 业务临时性数据需求多,占用部门有限的技术人力资源

  2. 数据需求经常需要返工

  3. 数据规模增长太快,数据仓库成本不断增长

  爱普新媒拥有“云魔方”互联网精准营销平台、“云速”企业移动信息服务平台和“云汇”互动广告平台,广告数据规模太过庞大、赛过大象,如何把这头大象“瘦身“装进“冰箱真正使用起来这是爱普新媒迫切需要解决的问题。

  Step1

  打开冰箱门(传输数据)

  Ukafka(Kafka消息队列)是一款专门用于处理流式数据的分布式消息产品。通过以创建集群的方式创建UKafka,能够快速实现Kafka以及所依赖的服务的部署,为用户提供快速部署、易于管理、弹性伸缩的流式数据处理系统,实现对大象的瘦身。

  Step2

  把大象装进冰箱(存储数据)

  对象存储(UFile)是为互联网应用提供非结构化文件云存储的服务,将瘦身后的大象(Ukafka)导入到对象存储(UFile)。相对于传统硬盘存储,UFile云存储具有存储无上限、支持高并发访问、成本更低等优势;解决业务架构的文件存储问题,有效降低海量文件的存储成本,支持热点数据的高并发访问,提升终端用户访问体验。

  Step3

  关上冰箱门(数据可视化)

  数据湖分析(USQL)是一种可扩展性强、成本低廉的无服务器SQL分析计算引擎,可轻松完成面向海量数据的数据建模工作,SQL即可完成数据查询和分析,极大降低使用大数据的门槛,且无需数据库管理员和运维人员,大幅度减少对大数据工程师的依赖。对大象溯本求源,让数据真正使用起来。

  完整的数据湖分析方案远不止能将大象装进冰箱,还能让大象跳起舞来。

特别提醒:本网内容转载自其他媒体,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。


返回网站首页 本文来源:互联网

本文评论
华为云“目录区块链”助力北京市精准防治疫情
在过去的一个月里,全国人民都在用自己的方式与“看不见”的病毒作战,随着返程复工大军的...
日期:02-25
联通阿里联合抗疫:暖心流量包、精灵智慧课
受到疫情影响,在线教育、在线健身/娱乐、在线办公等在线服务迎来爆发,这些原本不属于家庭场景的新...
日期:02-25
同济大学附属东方医院通过华为云WeLink连线武汉
位于东湖区宏图路8号的武汉客厅曾是武汉的文化地标建筑。从半个月前开始,这里成为了“方舱医...
日期:02-25
教学新方法get,天津大学通过华为云WeLink开启远程教学
2020年2月18日,由华为与天津大学智能与计算学部合作开设的《人工智能应用基础》校级选修课采用华为...
日期:02-25
合肥市产业项目“云签约”通过华为云WeLink圆满完成
随着全国各地复工复产的有序推进,社会整体经济也在全面恢复。2月25日,合肥市2020年重大产业项目集...
日期:02-25
vivo发布新海报:APEX 2020支持高倍率连续光学变焦技术
2月25日消息 今日午间vivo官方微博再度放出APEX 2020预告:全新APEX 2020将支持高倍率“连续光...
日期:02-25
英特尔发布全新第二代英特尔至强可扩展处理器
英特尔今天正式发布全新第二代英特尔至强可扩展处理器。全新第二代英特尔至强金牌处理器相比第一代...
日期:02-25
王自健回应“玄乎”手机没做成:投了钱但放弃了 怕给国产机丢人
2月25日下午消息,vivo旗下iQOO今日举行新品发布会,推出了5G手机iQOO 3。
日期:02-25
终于可以用游戏手柄弹出光盘了:微软正测试Xbox One新功能
微软Xbox One游戏主机终于可以通过按击游戏手柄上的按钮来弹出光盘了。根据部分参与Xbox Insider项...
日期:02-25
三星宣布全球首发量产16GB LPDDR5内存 将用于旗舰手机
2月25日消息 据三星官方透露,三星电子今天宣布已经开始大规模生产业内第一个16GB 的 LPDDR5移动 DR...
日期:02-25
科达智慧教室 | 清华、浙大、交大等双一流高校如何正确打开在线课堂?
宅家战疫情,停课不停学
  连日来,各大高校陆续线上开学
  而线上教学对师生双方都...
日期:02-25
华为快服务智慧平台,重构手机信息服务路径
时至移动互联时代,我们获取信息依然需要经过某些必要的路径。种类繁多的APP给我们提供了更加多元化...
日期:02-25
Intel眼中的“假7nm” 台积电:N7制程节点命名遵循惯例、确非物理尺度
基于三星5nm工艺的高通骁龙X60基带已发布,台积电下半年也将基于5nm(N5)为苹果代工A14、华为代工麒...
日期:02-25
擎朗智能响应一线需求 送餐机器人助阵武汉新华产业园方舱医院
继武汉体育馆方舱医院后,硚口区第二座方舱医院——新华产业园方舱医院即将建成,预计近...
日期:02-25
三星Galaxy Chromebook正式发布 售价999美元
今年1月初在拉斯维加斯举行的CES 2020展会上,英特尔曾表示与谷歌扩大合作,将Chromebook加入&ldquo...
日期:02-25
外媒:iPhone 12可能支持全新短距离WiFi标准 数据传输更快
2月25日消息,据国外媒体报道,消息人士透露,苹果的下一代智能手机预计将被命名为iPhone 12,iPhon...
日期:02-25
国美美店精选复工必备神器 助力无忧健康生活
随着疫情形势的逐渐好转,各行各业也逐渐开始进入复工状态。全新的生活即将开始,也更要保持自身及身...
日期:02-25
海尔、美的、格力、西门子等全面响应苏宁24期免息
2月24日晚8点,苏宁召开了一场特殊的线上发布会。苏宁易购侯恩龙戴着口罩,化身主播,宣布自27日起...
日期:02-25
复工防疫需求猛增,苏宁帮客上线企业消杀专项服务
近日,全国各地进入复工高峰期。苏宁帮客大数据显示,自消杀功能上线以来,北京、上海、南京、广州...
日期:02-25
  专栏介绍
徐彬 的专栏
徐彬发表的文章
积分:
自我介绍 :