随着技术的创新和应用场景的拓展,以云原生数据湖为代表的新一代数据技术架构既解决大数据“存”的问题,同时在“用”的维度上也产生了更大的价值。
在分布式计算框架中,shuffle的性能和稳定性一直是核心优化点。随着云原生、存算分离和在离线混部等新场景的出现,对于shuffle更是有了新的需求, 腾讯自主研发Firestorm,是国内第一个开源的RSS。支持存算分离,云原生部署,稳定提升计算效率,支持多计算引擎。
而大数据离线任务不仅数量庞大,还有复杂的依赖关系,大数据调度系统高效地将各类大数据任务链路匹配合适的计算存储资源,快速下发和执行,是不可或缺的核心组件。腾讯大数据统一调度平台US经过不断迭代优化,伴随海量业务的增长,同时具备性能和稳定性的优点,并且还保持了可扩展性。
5月24日19点,腾讯大数据星火计划技术沙龙第十三期准时开启线上直播。本次直播将由腾讯大数据资深技术专家、高级工程师深度解析腾讯公有云数据湖DLC、Firestorm、离线任务调度平台的核心架构设计和实践场景。届时,直播将会在腾讯大数据小鹅通平台、视频号、B站号同步开启。鹅厂定制礼物已经准备好,速来进群报名吧!