新疆移动云经分项目——低成本云化改造升级
项目背景
新疆移动经分系统逻辑上由获取层、数据层和应用层组成,其中数据层分为核心库、信息库和标签库。标签库系统是针对特定的营销分析而建立的一个数据集市应用,用以支撑业务人员进行客户分析、指标统计等,为营销管理提供基础数据。当前标签库由DB2承载,出现系统资源紧张,数据查询导出遇到性能瓶颈,急需改造升级。
需求分析
现有系统每天完成100~200次的数据查询导出操作,改造后系统查询导出性能要提升10倍以上,扩容能力强,支持对海量数据进行多维复杂分析,满足快速定位目标客户的需求,支撑未来5~10年的应用需求。
解决方案
本项目采用GBase 8a MPP Cluster数据仓库构建经分系统集群环境,部署14个集群节点,2台加载机,目前数据总量为10TB,每天增量为50-80GB。通过GBase 8a MPP Cluster先进的列存储、智能索引、高效压缩等技术,支撑4个月的日数据和13个月的月数据的存储和高效查询,大幅度提升了系统的查询导出性能。集群各节点间通过万兆以太网交换机互联,保障数据快速加载和节点间高效数据交换。集群利用SafeGroup高可用机制,保障集群环境稳定性。
价值体现
提速营销:自助查询缩短了需求流转周期,使一线业务员工能够定位新业务的目标客户,提高营销效率;
云化改造:去IOE,降低扩容成本,根据规模可以实现线性扩容;
性能提升:加载、查询性能提升10倍以上,满足客户边加载边查询的需求,提升业务响应速度。