使用 TapData,化繁为简,摆脱手动搭建、维护数据管道的诸多烦扰,轻量代替 OGG、DSG 等同步工具,「CDC 流处理 数据集成」组合拳,加速仓内数据流转,帮助企业将真正具有业务价值的数据作用到实处,将“实时数仓”方法论落进现实。 TapData 持续迭代产品能力,优化用户体验的同时,也在不断探索各行各业数据需求的底层逻辑,力求为行业用户提供更加简洁、更具针对性的解题思路。本期内容便是我们在金融行业做出的实践以及展望。
在迈向全面数字化转型的过程中,我们深知高效的数据管理是实现这一目标的关键。随着客户规模不断扩张、业务模式日益多样,我们面临着海量数据资源的管理挑战。数据孤岛、缺乏统一的数据视图以及智能化管理手段的不足,严重制约了数据价值的发挥。
自引入 TapData 以来,我们成功构建了一套高效、智能的数据管理体系。TapData 强大的数据集成和实时处理能力,使我们能够打破数据孤岛,实现数据的互联互通和高效利用。通过 TapData,我们不仅实现了数据资源的全生命周期管理,还提升了管理决策的精准度和客户服务的质量。特别值得一提的是,TapData 在不断优化现有连接器的同时,还在持续开发并上线新的本地数据源连接器,并且尤其关注对国产信创数据库的链接支持。这部分投入帮助我们更加积极地响应国产化的号召,实现无缝、全面的数据整合和转换。TapData 的应用,不仅解决了我们在数字化转型过程中面临的关键问题,还为我们提供了强大的技术支持,是我们实现数字化战略目标的重要合作伙伴。——某国内知名商业银行
数字经济时代,围绕“数字中国”建设战略,强化数据能力、激发数据价值成为各行各业实现高质量发展的重要抓手和关键引擎。商业银行作为数据密集型企业,数据的爆发式增长为其带来了巨大的商业价值,为商业银行的业务数字化、智能化发展带来了新机遇。
但与此同时,客户规模的扩张和业务模式的发展也带来了海量的数据资源,作为全面数字化转型的基本生产资料,数据资源的建设和管理更是银行,尤其是商业银行所面临的首要任务。而缺少统一的数据视图、存在数据孤岛、数据管理缺少智能化手段等诸多问题,阻碍了数据的互联互通和高效利用,成为限制数据价值有效释放的瓶颈。
本文将以某国内知名商业银行的数字化创新实践为例,详解银行业如何进一步加强自身数据管理建设,催化数据价值。
一、客户背景:数据驱动的运营决策需求 vs. 多源数据实时融合与复用的挑战
随着金融科技的迅猛发展,该银行同样面临着客户服务、管理决策、运营流程、风险内控等全流程的数字化管理需求,这要求银行能够全面全面推进业务流程的数字化,利用数字化手段优化资源配置,强化成本管控,提升管理效率和服务质量;完善数据收集、处理和分析能力,建立一体化的数据管理平台,实现精准化、智能化的业务决策支持。
在这一背景下,该银行显示针对业务数据库种类多、数据量级大等挑战,基于开源的云原生的 Kafka 解决方案自主研发了实时数据同步系统,业务侧的实时数据应用均采用容器技术封装、运行,并自研了 Kafka 管控平台,对集群进行指标监控和运维。然而,随着业务需求的不断增长,原有系统在开发维护成本、实时数据查询效率及国产化支持方面暴露出一些新的问题:
- 实现实时数据集中缓存,支持实时运营分析场景:该银行实时运营监控、客户 360 视图等场景对实时数据查询需求增加,原系统在业务进行实时数据查询时以点到点的形式实现,数据链路需重复开发,数据资产难以复用。为提高数据利用效率,该银行希望实现实时数据集中缓存,为下游提供表查询服务。
- 开发维护成本高:由于云原生实时数据同步系统完全基于自主开发,所有实时数据同步链路的开发、维护、监控、运维都需要 IT 团队完成,随着下游业务侧实时数据应用数量的快速增长,开发运维的难度和成本均快速增长,且开发周期长难以满足业务需求,该银行需要寻求更高效、更易维护的解决方案进行替代。
- 需符合信创要求:信创背景下,银行业数据库国产化替换进度加快,已经进入核心业务数据库替换阶段。该银行在对传统和互联网核心业务数据库替换时,由于开源的实时数据同步方案对国产化数据库不支持,影响该银行核心系统国产化改造进程。
因此,该银行急需一种能够高效整合多源数据、降低开发运维成本并支持国产化要求的解决方案,以实现数据的高效利用和智能管理,探索新的数据管理路径。
二、解决方案:基于 TapData 搭建企业级银行实时数据融合平台
鉴于上述需求与挑战,充分考虑到对云原生架构的支持、对国产数据库的支持以及易用性等多方因素,该银行最终与 TapData 达成合作,采用本地部署 TapData Live Data Platform 方案对数据采集、消息同步到 Kafka 两部分架构进行替换,下游消费侧保持不动。替换后的实时数据同步系统具有以下特点:
- 实现实时数据中央化存储:TapData 提供流处理框架,对实时数据预计算后进行存储,形成统一的实时数据资产,以实时表的形式支持下游业务系统查询。大幅度减少了实时数据管道建设的数量。
- 简化数据开发与运维:TapData 提供零代码开发界面,开发人员可通过拖拉拽的方式快速构建实时链路,以及通过可视化运维界面,实时监控数据任务状态,以及进行实时数据同步验证。
- 深度集成:TapData 与银行系统深度集成,包括用户登录、运维监控、页面操作的接口对接等,无论是业务端用户还是开发运维人员均能在既有系统中通过调用 API 完成实时数据同步,无需改变操作逻辑和习惯。
- 信创支持:TapData 内置丰富的国产数据库连接器,满足银行核心系统的国产化替换需求。
- 可复用性:一套基础实时数据平台,支持多个实时数据业务模式,覆盖实时同步与复制、实时分析数仓、实时数据服务等多个场景。