重庆联通BSS详单历史库改造——列存高压缩支撑历史数据存储
项目背景
随着语音和流量业务量的增大,重庆联通以往的详单系统逐渐无法支撑不断增长的详单数据的存储压力。重庆联通原详单项目由Oracle 9i进行数据的存储和查询支持,由于数据量逐渐增大,目前的存储系统已经不能满足要求,从而寻求可以实现更大数据量存储的历史库解决方案。
需求分析
根据客户提出的具体需求,期望新建历史库系统能满足如下的要求:
存储一年的数据,并保证六个月的数据是可查询的;
查询3秒左右响应;
压缩比做到10倍以上;
需要在有限的预算条件下实现历史库系统建设。
解决方案
新建历史库系统能实现在Oracle系统中保持2个月的数据,GBase 8a MPP Cluster保存从当月以前的所有历史数据。每个月1次将从Oracle把最近1个月的数据通过GBase的数据分发服务器加载数据到GBase 8a MPP Cluster,并同时在Oracle上删除1个月前的数据。
上层应用根据检索期间控制访问至目标数据库,最近1个月的数据从Oracle上检索取得,最近1个月前的历史的数据从GBase 8a MPP Cluster上检索取得。
价值体现
存期延长一倍:利用GBase 8a MPP Cluster数据库优异的列式存储和压缩功能,新系统下可以承载的详单数据存储周期由原来的6个月增长至1年;
高性能低风险:通过与现有的Oracle数据库的集成和应用层根据期间的数据访问控制,满足了在数据存储周期增长的前提下详单查询性能不会下降的基本需求,并且降低了详单历史库迁移时的系统风险;
高可用低成本:通过安全组构成,设置1副本的数据冗余,保证历史库系统的高可用。由于系统基于戴尔的X86 PC Server的廉价服务器平台建设,在保证系统对海量数据支撑的同时,实现了使用廉价方式构建高可用的运营商核心数据平台的预期目标。