注册
达梦新一代分布式集群,助力福建移动打造大数据分析系统
核心应用
福建移动具有领先的数据库应用场景和创新能力,达梦拥有强大的数据库研发实力。双方基于达梦全自研的分布式数据库集群 DMDPC,携手打造稳定、高效、安全的大数据分析系统。
“福建移动具有领先的数据库应用场景和创新能力,达梦拥有强大的数据库研发实力。双方基于达梦全自研的分布式数据库集群 DMDPC,携手打造稳定、高效、安全的大数据分析系统。”
中国移动通信集团福建有限公司(简称“福建移动”)隶属于中国移动通信集团公司,组建于 1999 年 7 月,1999 年 10 月在美国纽约和香港上市,为中国移动(香港)有限公司内地全资子公司之一。公司已建成覆盖范围广、业务品种多、通信质量高的综合通信网络,是经营移动通信业务、IP 电话及互联网服务的专业化移动通信运营公司。
业务赋能
大数据分析系统,是福建移动的核心应用系统,承载了家宽、互联网电视、WLAN、2G 语音、4/5G 业务、物联网等业务的端到端质量分析工作。 达梦新一代分布式集群 DMDPC,作为大数据系统的核心生产库,全面支撑上述业务的正常运转。自 2022 年 2 月上线,持续为 27 大类 210 个子应用提供高可靠、高安全、高性能的数据库服务。
产品特性
达梦数据库管理系统 (DM)
一套系统快速应对混合负载请求 单个数据库集群实例可同时为在线实时交易和分析业务提供服务;高频插入操作相比传统列式存储引擎性能提升 10~20 倍
提供一站式数据库服务 在数据库部署、迁移、监控、运维管理等环节,配套 DEM、DMFLDR 等成熟的高度自动化工具
达梦分布式数据库集群软件 (DMDPC)
支持 PB 级海量数据分析 可根据业务负载按需增减节点,对已有负载无影响,可扩展至 1024 节点
支持异地多活灾备 基于 Raft 协议实现多副本系统架构,任一数据副本发生故障,RPO=0,秒级故障容灾;支持三地五中心等多种部署模式
客户收益
项目实现核心业务系统的升级改造,助力福建移动斩获 2022 IDC 中国未来企业大奖——优秀奖,在优化客户体验、提升服务效率、防控代码安全风险等方面,具有重要作用:
1. 完善高效的应用迁移
  • 大数据系统从原数据库迁移至 DMDPC,除客户端命令调用外,其余代码基本无修改。
  • 基于 DMDPC 快速完成大数据系统全量业务的迁移,涉及 27 大类 210 个子应用模块,10000+ 张业务表和临时表。
2. 降本增效
  • 大数据系统原采用 Teradata Aster 系统,现已迁移到 DMDPC。硬件环境从 Aster 专用服务器转移到普通 PC 服务器,投入成本显著下降。
  • 经现网运行验证,95% 以上的应用场景运行效率高于原有数据库,具备稳定、高效、安全的运营保障能力。部分场景性能提升显著,响应速度较原来提升 30% 以上。
3. 高可用&高安全
  • 大数据系统基于 DMDPC 多数据副本分布式架构搭建,RPO=0,具备秒级故障容灾能力。
  • 从国外产品迁移到了 100% 自主研发的 DMDPC,自主安全性得到大幅提升。
4. 为运营商行业验证大数据分析系统的自主分布式数据库改造路线
在福建移动和达梦数据的紧密合作下,DMDPC 完成功能优化和系统优化 61 项,在性能、稳定性、可维护性和安全等方面的测试指标均达到预期要求。完全替代原数据库系统后,各项运行指标平稳,验证了基于 DMDPC 的大数据分析解决方案可行性,为后续其他省份推广积累经验。
解决方案
1. 技术解决方案
为应对复杂多样的大数据分析需求,项目采用 49 节点集群 DMDPC,包含 6 个 SP 计算节点,40 个 BP 存储节点和 3 个 MP 元数据节点。数据采用 3 副本,多副本数据基于 Raft 一致性协议实现数据强一致和系统可用性,任一数据副本发生故障,用户数据无损。
2. 方案实现效果
目前系统已正式切换为达梦数据库,项目投产以来,系统整体运行顺利,可平滑完成每日新增数据的入库及实时处理与分析任务。DMDPC 日均处理原始数据量约 330TB,输入数据 870 亿条,输出分析结果数据 24 亿条,其中部分核心业务表的单表数据记录数超过 200 亿。
目录目录
微信扫码
分享案例
扫一扫
联系客服