【活动回顾】腾讯大数据 x StarRocks|构建新一代实时湖仓

2023-10-23 18:29:33 浏览数 (1)

2023 年 9 月 26 日,腾讯大数据团队与 StarRocks 社区携手举办了一场名为“构建新一代实时湖仓”的盛大活动。活动聚集了来自腾讯大数据、腾讯视频、腾讯游戏、同程旅行以及StarRocks 社区的技术专家,共同深入探讨了湖仓一体技术以及其应用实践等多个备受瞩目的话题,观看人数过万。

大数据未来发展趋势和方向是许多开发者都关心的议题。活动一开场,腾讯大数据产研负责人陈鹏以及镜舟科技CTO张友东以业界专家的视角进行了一场精彩的技术对谈。他们就当前大数据技术热点、湖仓技术发展以及未来湖仓一体技术的发展趋势表达了未来大数据将朝着“one data, all analytics”的方向发展。

腾讯作为国内领先的互联网企业,在湖仓一体方面有丰富的实践经验。通过尝试与摸索,腾讯大数据基于Starrocks拓展和升级湖仓一体化的架构,为业务提供高性能、一站式的解决方案。

在活动中,腾讯的大数据团队分享了在湖仓一体方面的先进经验,包括如何搭建湖仓融合架构,湖仓分析在腾讯视频业务场景中的应用以及腾讯游戏如何从 Lambda 架构逐步演进至湖仓一体架构的技术进程。其中存算分离和数据冷热分层方面的最佳实践也给其他开发带来了极具价值的借鉴意义。

与此同时,同程旅行的周涛老师应邀介绍了同程旅行是如何通过引入 StarRocks 成功解决用户画像中的问题,提升查询效率并高效实现复杂查询。

本文将汇总此次技术交流活动的重要内容和视频资料,同时由衷感谢社区中的每一位小伙伴对此次活动的支持和积极参与。未来,我们将持续与大家分享更多高质量的技术内容!

技术对谈:开源开放与下一代湖仓

陈鹏 腾讯大数据产研负责人/腾讯大数据技术委员会执行委员

张友东 镜舟科技 CTO/StarRocks 技术指导委员会成员

在本次分享中,两位专家深入探讨了当前大数据技术的焦点议题,湖仓技术的发展历程,以及 StarRocks 和腾讯在湖仓一体化方面的演进历程。他们还谈到了未来湖仓一体技术的趋势。

陈鹏认为大数据技术的发展应该是一个逐步精炼的过程,大数据体系需要变得更加精细化,以使业务应用变得更容易。这需要在数据链路和大数据架构的共同作用下实现,而不仅仅依赖一两个技术点。因此,腾讯大数据正在朝着一体化的方向发展,这一体系包括4个横向和3个纵向的维度。4个横向是指软硬一体、资源一体、存储缓存一体和计算一体,这有助于构建更简单和优雅的数据架构。3个纵向是指通过实时湖仓、虚拟引擎和智能平台来实现大数据的全面自适应和自动化。

张友东认为目前数据量经历了爆发式增长,而大数据体系主要解决的问题是如何从海量数据中挖掘有价值的信息。在这一背景下,StarRocks 在朝着湖仓一体化方向演进的过程中,实现了一份数据支持所有分析场景,从而极大简化了数据分析的流程。这也与腾讯大数据的演进路线相一致。

总的来说,未来湖仓的发展趋势将趋向于数据库化,简化流程,实现一体化,从而推动智能化应用的发展。

0 人点赞