GBASE南大通用支撑农信银资金清算数据平台异地双活项目

项目概况

农信银资金清算中心有限责任公司(以下简称农信银)为全国30家农村合作金融机构及其数万个网点提供汇兑、银行汇票、个人账户通存通兑等业务的资金清算。随着国家三农政策指引,不断促进农村经济快速发展,农信银的业务量和数据量高速增长。

数据平台在农信银的业务发展中越来越重要,数据安全需求和系统异地容灾需求日益突出,亟需建设数据平台的异地容灾系统,实现数据资产的全方位保护。

农信银规划在北京、长沙两个城市建设异地双活系统,满足下一阶段的业务发展与数据安全保护并重的发展要求。针对数据平台,需要实现多层级全方位的高可用和数据安全保障,具体包括:

  • 集群高可用,节点故障不影响业务运行;

  • 支持异地灾备,实现增量数据同步;

  • 支持异地双活,主备集群都可以对外提供数据库服务,并支持主备集群切换;

  • 异地双活数据同步时,支持数据同步的并发控制和同步中断,同时保持主集群持续服务能力。

解决方案

农信银数据平台的核心数据管理层采用GBase 8a MPP Cluster大规模分布式并行数据库集群系统构建,作为基础数据平台整合了多个核心业务系统的数据,包括支付清算系统、电子商业汇票平台、网上银行平台、网上支付跨行清算平台、自助金融服务平台、共享多介质金融服务平台等,实现报文级细粒度数据的管理,并针对上层应用进行数据整合和共性加工,形成全量数据的统一基础数据平台。农信银数据平台架构如下:

农信银数据平台架构图

在基础数据平台上构建固定报表平台和灵活报表平台,实现对各业务信息进行多维度分析,对历史交易数据进行逐条快速查询。

农信银数据平台基于GBase 8a MPP Cluster集群在北京、长沙建立主备双活集群,其中北京的8节点集群作为主集群。 

北京中心的主集群承担应用,对数据进行批量操作(包括数据加载和数据加工),在主集群加工完数据之后,每天特定时间点将数据增量同步到长沙中心的备集群当中。北京到长沙专线网络带宽为20M~30M,每日同步数据时间窗口中午12点到晚上24点。

GBase 8a MPP Cluster异地双活集群采用M-S架构同步,主集群数据可写,备份集群数据可查询;备集群可以分担主集群对外业务查询服务,降低主集群读写对系统资源的争抢压力。数据的同步过程基于自主研发的集群间同步工具实现,集群间同步工具提供了数据同步需要的最核心的功能点及异常处理,各功能点具有低耦合性,使应用程序能够灵活的调用接口,实现同城灾备或者异地灾备。

  • 集群间同步工具具备表级粒度增量数据同步能力,支持用户自定义同步任务,可定义优先级优先同步重要的表数据。

  • 集群间同步工具具备原子性的特性,即如果一个表在数据同步过程中出现故障,集群间同步工具能够自动回滚,从而保障主备集群的数据一致性。

  • 集群间同步工具具备增量数据捕获的特性,即自动识别变化数据并同步。

  • 集群间同步工具具备高效数据同步特性,仅同步主副本数据,从副本数据由备份集群内部同步实现;并且同步时直接使用压缩态的二进制文件方式,可有效提升同步效率。

  • 集群间同步工具具备数据校验特性,完成同步时执行数据checksum校验,保障了主备集群同步数据的正确性。

应用效果

农信银数据平台的建设,满足了农信银业务部门和成员机构对数据分析应用的多样化、时效性、复杂性的需求,实现了资金动态分析、风险管控、信用评级以及互联网金融等高层次应用。异地灾备系统已建成上线,每天需进行约200张表、超过100GB的压缩态数据文件的同步,实现了如下效果:

实现了全方位高可用:充分保障了农信银数据平台在遭遇灾难、机房瘫痪、网络或电力故障、服务器节点故障等紧急情况下,仍然具备可用能力。北京和长沙之间的GBase 8a异地双活集群,保障了集群级高可用;GBase 8a集群自身具备的节点级和进程级高可用机制,保障了集群持续提供服务的能力;

实现了高数据安全:数据异地容灾备份,数据安全性进一步提升;

实现了高效率同步:采用只同步关键数据表的主副本,点对点同步,增量数据同步,压缩态数据文件同步等方式,完成了在只有100M网络带宽场景下主备集群间数据同步任务。