加速数字化转型,信创自主可控:TapData 为银行业数据管理能力建设提供新思路

2024-07-12 17:19:04 浏览数 (2)

使用 TapData,化繁为简,摆脱手动搭建、维护数据管道的诸多烦扰,轻量代替 OGG、DSG 等同步工具,「CDC 流处理 数据集成」组合拳,加速仓内数据流转,帮助企业将真正具有业务价值的数据作用到实处,将“实时数仓”方法论落进现实。 TapData 持续迭代产品能力,优化用户体验的同时,也在不断探索各行各业数据需求的底层逻辑,力求为行业用户提供更加简洁、更具针对性的解题思路。本期内容便是我们在金融行业做出的实践以及展望。

在迈向全面数字化转型的过程中,我们深知高效的数据管理是实现这一目标的关键。随着客户规模不断扩张、业务模式日益多样,我们面临着海量数据资源的管理挑战。数据孤岛、缺乏统一的数据视图以及智能化管理手段的不足,严重制约了数据价值的发挥。

自引入 TapData 以来,我们成功构建了一套高效、智能的数据管理体系。TapData 强大的数据集成和实时处理能力,使我们能够打破数据孤岛,实现数据的互联互通和高效利用。通过 TapData,我们不仅实现了数据资源的全生命周期管理,还提升了管理决策的精准度和客户服务的质量。特别值得一提的是,TapData 在不断优化现有连接器的同时,还在持续开发并上线新的本地数据源连接器,并且尤其关注对国产信创数据库的链接支持。这部分投入帮助我们更加积极地响应国产化的号召,实现无缝、全面的数据整合和转换。TapData 的应用,不仅解决了我们在数字化转型过程中面临的关键问题,还为我们提供了强大的技术支持,是我们实现数字化战略目标的重要合作伙伴。——某国内知名商业银行

数字经济时代,围绕“数字中国”建设战略,强化数据能力、激发数据价值成为各行各业实现高质量发展的重要抓手和关键引擎。商业银行作为数据密集型企业,数据的爆发式增长为其带来了巨大的商业价值,为商业银行的业务数字化、智能化发展带来了新机遇。

但与此同时,客户规模的扩张和业务模式的发展也带来了海量的数据资源,作为全面数字化转型的基本生产资料,数据资源的建设和管理更是银行,尤其是商业银行所面临的首要任务。而缺少统一的数据视图、存在数据孤岛、数据管理缺少智能化手段等诸多问题,阻碍了数据的互联互通和高效利用,成为限制数据价值有效释放的瓶颈。

本文将以某国内知名商业银行的数字化创新实践为例,详解银行业如何进一步加强自身数据管理建设,催化数据价值。

一、客户背景:数据驱动的运营决策需求 vs. 多源数据实时融合与复用的挑战

随着金融科技的迅猛发展,该银行同样面临着客户服务、管理决策、运营流程、风险内控等全流程的数字化管理需求,这要求银行能够全面全面推进业务流程的数字化,利用数字化手段优化资源配置,强化成本管控,提升管理效率和服务质量;完善数据收集、处理和分析能力,建立一体化的数据管理平台,实现精准化、智能化的业务决策支持。

在这一背景下,该银行显示针对业务数据库种类多、数据量级大等挑战,基于开源的云原生的 Kafka 解决方案自主研发了实时数据同步系统,业务侧的实时数据应用均采用容器技术封装、运行,并自研了 Kafka 管控平台,对集群进行指标监控和运维。然而,随着业务需求的不断增长,原有系统在开发维护成本、实时数据查询效率及国产化支持方面暴露出一些新的问题:

  • 实现实时数据集中缓存,支持实时运营分析场景:该银行实时运营监控、客户 360 视图等场景对实时数据查询需求增加,原系统在业务进行实时数据查询时以点到点的形式实现,数据链路需重复开发,数据资产难以复用。为提高数据利用效率,该银行希望实现实时数据集中缓存,为下游提供表查询服务。
  • 开发维护成本高:由于云原生实时数据同步系统完全基于自主开发,所有实时数据同步链路的开发、维护、监控、运维都需要 IT 团队完成,随着下游业务侧实时数据应用数量的快速增长,开发运维的难度和成本均快速增长,且开发周期长难以满足业务需求,该银行需要寻求更高效、更易维护的解决方案进行替代。
  • 需符合信创要求:信创背景下,银行业数据库国产化替换进度加快,已经进入核心业务数据库替换阶段。该银行在对传统和互联网核心业务数据库替换时,由于开源的实时数据同步方案对国产化数据库不支持,影响该银行核心系统国产化改造进程。

因此,该银行急需一种能够高效整合多源数据、降低开发运维成本并支持国产化要求的解决方案,以实现数据的高效利用和智能管理,探索新的数据管理路径。

二、解决方案:基于 TapData 搭建企业级银行实时数据融合平台

鉴于上述需求与挑战,充分考虑到对云原生架构的支持、对国产数据库的支持以及易用性等多方因素,该银行最终与 TapData 达成合作,采用本地部署 TapData Live Data Platform 方案对数据采集、消息同步到 Kafka 两部分架构进行替换,下游消费侧保持不动。替换后的实时数据同步系统具有以下特点:

  • 实现实时数据中央化存储:TapData 提供流处理框架,对实时数据预计算后进行存储,形成统一的实时数据资产,以实时表的形式支持下游业务系统查询。大幅度减少了实时数据管道建设的数量。
  • 简化数据开发与运维:TapData 提供零代码开发界面,开发人员可通过拖拉拽的方式快速构建实时链路,以及通过可视化运维界面,实时监控数据任务状态,以及进行实时数据同步验证。
  • 深度集成:TapData 与银行系统深度集成,包括用户登录、运维监控、页面操作的接口对接等,无论是业务端用户还是开发运维人员均能在既有系统中通过调用 API 完成实时数据同步,无需改变操作逻辑和习惯。
  • 信创支持:TapData 内置丰富的国产数据库连接器,满足银行核心系统的国产化替换需求。
  • 可复用性:一套基础实时数据平台,支持多个实时数据业务模式,覆盖实时同步与复制、实时分析数仓、实时数据服务等多个场景。

成果收益

1. 简易的使用体验:
  • 降低技术门槛:更新后的系统使用体验简易,使得实时数据链路的开发和运维不再依赖专业开发人员。
  • 释放人力资源:减少了对专业技术人员的依赖,让他们能够专注于业务赋能和创新。

2. 提升开发效率:
  • 开发周期缩短:更新后的系统大幅提升了实时数据链路的开发效率,开发周期从原来的1-2周缩短至1-2天。
  • 敏捷响应需求:这种效率提升使得系统能够敏捷支持实时数据业务应用需求,满足快速变化的业务需求。

3. 支持国产化:
  • 推动国产替代:更新后的系统对国产数据库的支持,有助于该银行完成核心业务系统的国产替代。
  • 符合信创要求:增强了系统在信创背景下的适应性,助力银行在信息技术创新中的发展。

4. 业务赋能:
  • 专注业务创新:开发人员不再被繁琐的技术细节束缚,能够专注于业务创新和赋能,提升整体业务价值。
  • 提高数据利用率:系统的简易性和高效性使数据能够更快速、高效地被业务应用,提升了数据的利用率和价值。

5. 综合效益:
  • 提高运营效率:通过简化操作和提升效率,系统整体运营效率得到显著提升。
  • 降低成本:减少了开发和运维成本,使得资源配置更加合理,进一步提升了经济效益。

通过以上优势优势,该银行得以更好地实现其数字化转型目标,提升数据管理和应用能力,增强市场竞争力。

0 人点赞