企业云计算平台项目技术方案_第1页
企业云计算平台项目技术方案_第2页
企业云计算平台项目技术方案_第3页
企业云计算平台项目技术方案_第4页
企业云计算平台项目技术方案_第5页
已阅读5页,还剩160页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、企业云计算平台项目技术方案目 录 TOC o 1-3 h z u HYPERLINK l _Toc502149614 1系统总体设计 PAGEREF _Toc502149614 h 1 HYPERLINK l _Toc502149615 1.1云计算系统设计方案概述 PAGEREF _Toc502149615 h 1 HYPERLINK l _Toc502149616 1.1.1系统基本功能 PAGEREF _Toc502149616 h 1 HYPERLINK l _Toc502149617 1.1.2主要设计思想和设计目标、设计原则 PAGEREF _Toc502149617 h 1 HY

2、PERLINK l _Toc502149618 1.1.3信令共享平台的云计算解决方案 PAGEREF _Toc502149618 h 2 HYPERLINK l _Toc502149619 1.1.4系统的主要技术特点 PAGEREF _Toc502149619 h 3 HYPERLINK l _Toc502149620 1.2系统总体构架 PAGEREF _Toc502149620 h 4 HYPERLINK l _Toc502149621 1.2.1系统基本组成与构架 PAGEREF _Toc502149621 h 4 HYPERLINK l _Toc502149622 1.2.2系统功

3、能构架 PAGEREF _Toc502149622 h 5 HYPERLINK l _Toc502149623 1.2.3系统总体构架与功能模块 PAGEREF _Toc502149623 h 10 HYPERLINK l _Toc502149624 1.3系统基本功能与处理方案 PAGEREF _Toc502149624 h 13 HYPERLINK l _Toc502149625 1.3.1信令CDR合成功能与处理方案 PAGEREF _Toc502149625 h 13 HYPERLINK l _Toc502149626 1.3.2数据存储功能与处理方案 PAGEREF _Toc5021

4、49626 h 15 HYPERLINK l _Toc502149627 1.3.3查询分析功能与处理方案 PAGEREF _Toc502149627 h 18 HYPERLINK l _Toc502149628 1.3.4CDR订阅管理功能与处理方案 PAGEREF _Toc502149628 h 19 HYPERLINK l _Toc502149629 1.3.5系统处理流程 PAGEREF _Toc502149629 h 20 HYPERLINK l _Toc502149630 1.4系统互联与管理 PAGEREF _Toc502149630 h 21 HYPERLINK l _Toc5

5、02149631 1.4.1组网方案 PAGEREF _Toc502149631 h 21 HYPERLINK l _Toc502149632 1.4.2系统接口 PAGEREF _Toc502149632 h 23 HYPERLINK l _Toc502149633 1.4.3网络管理 PAGEREF _Toc502149633 h 24 HYPERLINK l _Toc502149634 1.4.4系统安全 PAGEREF _Toc502149634 h 26 HYPERLINK l _Toc502149635 1.5系统可靠性与扩展性 PAGEREF _Toc502149635 h 27

6、 HYPERLINK l _Toc502149636 1.5.1系统可靠性 PAGEREF _Toc502149636 h 27 HYPERLINK l _Toc502149637 1.5.2系统扩展性 PAGEREF _Toc502149637 h 28 HYPERLINK l _Toc502149638 1.6系统设计性能 PAGEREF _Toc502149638 h 29 HYPERLINK l _Toc502149639 1.6.1信令流量处理能力 PAGEREF _Toc502149639 h 29 HYPERLINK l _Toc502149640 1.6.2数据存储能力 PAG

7、EREF _Toc502149640 h 30 HYPERLINK l _Toc502149641 1.6.3查询分析计算性能 PAGEREF _Toc502149641 h 31 HYPERLINK l _Toc502149642 1.7项目实施计划 PAGEREF _Toc502149642 h 32 HYPERLINK l _Toc502149643 1.7.1项目内容 PAGEREF _Toc502149643 h 32 HYPERLINK l _Toc502149644 1.7.2成员分工及职能 PAGEREF _Toc502149644 h 35 HYPERLINK l _Toc5

8、02149645 1.7.3项目管理制度 PAGEREF _Toc502149645 h 38 HYPERLINK l _Toc502149646 1.7.4工作流程 PAGEREF _Toc502149646 h 39 HYPERLINK l _Toc502149647 1.7.5工程进度计划 PAGEREF _Toc502149647 h 42 HYPERLINK l _Toc502149648 1.8定制开发方案 PAGEREF _Toc502149648 h 45 HYPERLINK l _Toc502149649 2系统设计实施与关键技术方法 PAGEREF _Toc50214964

9、9 h 50 HYPERLINK l _Toc502149650 2.1系统软硬件平台 PAGEREF _Toc502149650 h 50 HYPERLINK l _Toc502149651 2.2数据处理流程 PAGEREF _Toc502149651 h 50 HYPERLINK l _Toc502149652 2.3信令合成处理子系统 PAGEREF _Toc502149652 h 52 HYPERLINK l _Toc502149653 2.3.1信令处理集群系统框架与功能结构 PAGEREF _Toc502149653 h 52 HYPERLINK l _Toc502149654

10、2.3.2信令处理集群负载均衡 PAGEREF _Toc502149654 h 54 HYPERLINK l _Toc502149655 2.3.3CDR合成处理 PAGEREF _Toc502149655 h 54 HYPERLINK l _Toc502149656 2.3.4原始信令、CDR数据的存储管理 PAGEREF _Toc502149656 h 55 HYPERLINK l _Toc502149657 2.4数据存储子系统 PAGEREF _Toc502149657 h 57 HYPERLINK l _Toc502149658 2.4.1海量数据分布式数据存储构架 PAGEREF

11、_Toc502149658 h 57 HYPERLINK l _Toc502149659 2.4.2适应应用需求的混合存储策略 PAGEREF _Toc502149659 h 60 HYPERLINK l _Toc502149660 2.4.3HDFS数据存储 PAGEREF _Toc502149660 h 60 HYPERLINK l _Toc502149661 2.4.4Database数据存储 PAGEREF _Toc502149661 h 64 HYPERLINK l _Toc502149662 2.4.5数据存储的可靠性 PAGEREF _Toc502149662 h 66 HYPE

12、RLINK l _Toc502149663 2.4.6数据压缩 PAGEREF _Toc502149663 h 68 HYPERLINK l _Toc502149664 2.5数据查询与统计分析子系统 PAGEREF _Toc502149664 h 70 HYPERLINK l _Toc502149665 2.5.1数据查询与统计分析系统基本构架 PAGEREF _Toc502149665 h 70 HYPERLINK l _Toc502149666 2.5.2CDR查询功能与用户界面 PAGEREF _Toc502149666 h 71 HYPERLINK l _Toc502149667 2

13、.5.3KPI数据统计分析功能与用户界面 PAGEREF _Toc502149667 h 72 HYPERLINK l _Toc502149668 2.5.4CDR专题分析与查询功能与用户界面 PAGEREF _Toc502149668 h 76 HYPERLINK l _Toc502149669 2.6基于云方案的CDR数据查询索引与查询优化技术 PAGEREF _Toc502149669 h 77 HYPERLINK l _Toc502149670 2.6.1基于分布式数据库的CDR查询索引处理方案 PAGEREF _Toc502149670 h 77 HYPERLINK l _Toc50

14、2149671 2.6.2基于HDFS的CDR查询索引与查询优化技术 PAGEREF _Toc502149671 h 78 HYPERLINK l _Toc502149672 2.7信令处理集群的可靠性与负载均衡设计 PAGEREF _Toc502149672 h 80 HYPERLINK l _Toc502149673 2.7.1负载均衡处理机的单点失效容错处理 PAGEREF _Toc502149673 h 80 HYPERLINK l _Toc502149674 2.7.2CDR合成处理机的单点失效容错处理 PAGEREF _Toc502149674 h 84 HYPERLINK l _

15、Toc502149675 2.8计算与存储集群的可靠性与负载均衡设计 PAGEREF _Toc502149675 h 85 HYPERLINK l _Toc502149676 2.8.1计算与存储集群Master单点失效容错处理 PAGEREF _Toc502149676 h 85 HYPERLINK l _Toc502149677 2.8.2计算与存储集群的负载均衡处理 PAGEREF _Toc502149677 h 91 HYPERLINK l _Toc502149678 2.8.3HDFS的可靠性设计 PAGEREF _Toc502149678 h 95 HYPERLINK l _Toc

16、502149679 2.8.4MapReduce计算可靠性设计 PAGEREF _Toc502149679 h 96 HYPERLINK l _Toc502149680 2.9查询统计计算可靠性与负载均衡设计 PAGEREF _Toc502149680 h 99 HYPERLINK l _Toc502149681 2.9.1基于Zookeeper的单点失效和负载均衡设计 PAGEREF _Toc502149681 h 99 HYPERLINK l _Toc502149682 2.9.2索引创建、查询分析并行计算任务的分发和调度 PAGEREF _Toc502149682 h 101 HYPER

17、LINK l _Toc502149683 2.10系统安全性设计 PAGEREF _Toc502149683 h 105 HYPERLINK l _Toc502149684 2.10.1安全保障体系框架 PAGEREF _Toc502149684 h 105 HYPERLINK l _Toc502149685 2.10.2云计算平台的多级信任保护 PAGEREF _Toc502149685 h 107 HYPERLINK l _Toc502149686 2.10.3基于多级信任保护的访问控制 PAGEREF _Toc502149686 h 112 HYPERLINK l _Toc5021496

18、87 2.10.4云平台安全审计 PAGEREF _Toc502149687 h 114 HYPERLINK l _Toc502149688 2.10.5云计算综合安全网关 PAGEREF _Toc502149688 h 118 HYPERLINK l _Toc502149689 3综合业务应用功能 PAGEREF _Toc502149689 h 123 HYPERLINK l _Toc502149690 3.1拓扑管理 PAGEREF _Toc502149690 h 123 HYPERLINK l _Toc502149691 3.2记录查询 PAGEREF _Toc502149691 h 1

19、23 HYPERLINK l _Toc502149692 3.3信令承载分析 PAGEREF _Toc502149692 h 124 HYPERLINK l _Toc502149693 3.4核心网分析 PAGEREF _Toc502149693 h 124 HYPERLINK l _Toc502149694 3.5网络优化分析 PAGEREF _Toc502149694 h 124 HYPERLINK l _Toc502149695 3.6终端专题部分 PAGEREF _Toc502149695 h 125 HYPERLINK l _Toc502149696 3.7专题分析 PAGEREF

20、_Toc502149696 h 125 HYPERLINK l _Toc502149697 3.8客户感知专题分析 PAGEREF _Toc502149697 h 126 HYPERLINK l _Toc502149698 3.9系统自管理功能 PAGEREF _Toc502149698 h 127 HYPERLINK l _Toc502149699 3.10信令数据处理功能 PAGEREF _Toc502149699 h 127 HYPERLINK l _Toc502149700 3.10.1数据处理模块基本功能 PAGEREF _Toc502149700 h 127 HYPERLINK l

21、 _Toc502149701 3.10.2多接口多协议关联分析 PAGEREF _Toc502149701 h 128 HYPERLINK l _Toc502149702 3.10.3数据共享功能 PAGEREF _Toc502149702 h 128 HYPERLINK l _Toc502149703 3.10.4信令数据订阅管理功能 PAGEREF _Toc502149703 h 129 HYPERLINK l _Toc502149704 3.10.5基于CDR/TDR信令数据的订阅 PAGEREF _Toc502149704 h 130 HYPERLINK l _Toc502149705

22、 3.10.6基于业务信令数据的订阅 PAGEREF _Toc502149705 h 131 HYPERLINK l _Toc502149706 3.10.7基于指标数据的订阅 PAGEREF _Toc502149706 h 132 HYPERLINK l _Toc502149707 3.10.8信令采集网关接入管理功能 PAGEREF _Toc502149707 h 133 HYPERLINK l _Toc502149708 3.10.9数据存储功能 PAGEREF _Toc502149708 h 133 HYPERLINK l _Toc502149709 3.11配置数据管理 PAGERE

23、F _Toc502149709 h 133 HYPERLINK l _Toc502149710 3.11.1基本功能要求 PAGEREF _Toc502149710 h 133 HYPERLINK l _Toc502149711 3.11.2链路数据信息管理功能要求 PAGEREF _Toc502149711 h 134 HYPERLINK l _Toc502149712 3.11.3接口质量监测功能 PAGEREF _Toc502149712 h 135 HYPERLINK l _Toc502149713 4详细设备配置清单 PAGEREF _Toc502149713 h 136 HYPER

24、LINK l _Toc502149714 4.1全网汇总设备清单 PAGEREF _Toc502149714 h 136 HYPERLINK l _Toc502149715 4.2共享层设备配置原则 PAGEREF _Toc502149715 h 137 HYPERLINK l _Toc502149716 4.3存储设备配置说明 PAGEREF _Toc502149716 h 142 HYPERLINK l _Toc502149717 4.4服务器配置说明 PAGEREF _Toc502149717 h 147 HYPERLINK l _Toc502149718 4.5网络带宽需求计算 PAG

25、EREF _Toc502149718 h 149 HYPERLINK l _Toc502149719 5技术发展路标、产品规划及近期开发计划 PAGEREF _Toc502149719 h 151 HYPERLINK l _Toc502149720 6云方案实施难度分析 PAGEREF _Toc502149720 h 153 TOC h z c 图表 HYPERLINK l _Toc299799685 图表 1 信令共享平台云计算解决方案 PAGEREF _Toc299799685 h 3 HYPERLINK l _Toc299799686 图表 2 信令共享平台的基本组成与构架 PAGERE

26、F _Toc299799686 h 5 HYPERLINK l _Toc299799687 图表 3 信令共享平台总体构架与功能模块图 PAGEREF _Toc299799687 h 11 HYPERLINK l _Toc299799688 图表 4 信令合成处理系统架构 PAGEREF _Toc299799688 h 13 HYPERLINK l _Toc299799689 图表 5 数据存储处理架构 PAGEREF _Toc299799689 h 16 HYPERLINK l _Toc299799690 图表 6 CDR数据接入 PAGEREF _Toc299799690 h 18 HYP

27、ERLINK l _Toc299799691 图表 7 CDR订阅系统架构 PAGEREF _Toc299799691 h 19 HYPERLINK l _Toc299799692 图表 8 业务信令事件、指标、KPI PAGEREF _Toc299799692 h 20 HYPERLINK l _Toc299799693 图表 9 组网方案 PAGEREF _Toc299799693 h 22 HYPERLINK l _Toc299799694 图表 10 系统间接口 PAGEREF _Toc299799694 h 23 HYPERLINK l _Toc299799695 图表 11 分布式

28、文件存储系统吞吐量指标 PAGEREF _Toc299799695 h 31 HYPERLINK l _Toc299799696 图表 12 项目管理流程 PAGEREF _Toc299799696 h 33 HYPERLINK l _Toc299799697 图表 13 施工组织结构 PAGEREF _Toc299799697 h 35 HYPERLINK l _Toc299799698 图表 14 项目实施计划及人员安排 PAGEREF _Toc299799698 h 43 HYPERLINK l _Toc299799699 图表 15 工程进度安排 PAGEREF _Toc2997996

29、99 h 44 HYPERLINK l _Toc299799700 图表 16 工程进度安排图 PAGEREF _Toc299799700 h 45 HYPERLINK l _Toc299799701 图表 17 系统软硬件结构 PAGEREF _Toc299799701 h 50 HYPERLINK l _Toc299799702 图表 18 订阅CDR KPI业务信令事件处理流程 PAGEREF _Toc299799702 h 50 HYPERLINK l _Toc299799703 图表 19 存储CDR、KPI、网络指标数据处理流程 PAGEREF _Toc299799703 h 51

30、 HYPERLINK l _Toc299799704 图表 20 综合业务分析数据处理流程 PAGEREF _Toc299799704 h 51 HYPERLINK l _Toc299799705 图表 21 信令集群物理分布 PAGEREF _Toc299799705 h 52 HYPERLINK l _Toc299799706 图表 22 信令合成软件架构 PAGEREF _Toc299799706 h 53 HYPERLINK l _Toc299799707 图表 23 信令处理集群负载均衡 PAGEREF _Toc299799707 h 54 HYPERLINK l _Toc29979

31、9708 图表 24 CDR合成处理 PAGEREF _Toc299799708 h 55 HYPERLINK l _Toc299799709 图表 25 原始信令存储数据流程 PAGEREF _Toc299799709 h 56 HYPERLINK l _Toc299799710 图表 26 CDR存储流程 PAGEREF _Toc299799710 h 57 HYPERLINK l _Toc299799711 图表 27 分布式计算流程 PAGEREF _Toc299799711 h 58 HYPERLINK l _Toc299799712 图表 28 Hadoop结构 PAGEREF _

32、Toc299799712 h 59 HYPERLINK l _Toc299799713 图表 29 Hdfs结构 PAGEREF _Toc299799713 h 62 HYPERLINK l _Toc299799714 图表 30 HDFS Namenode、DataNode和客户端们之间的交互 PAGEREF _Toc299799714 h 64 HYPERLINK l _Toc299799715 图表 31 HDFS数据压缩与组织 PAGEREF _Toc299799715 h 69 HYPERLINK l _Toc299799716 图表 32 数据查询子系统构架 PAGEREF _To

33、c299799716 h 70 HYPERLINK l _Toc299799717 图表 33 统计分析子系统 PAGEREF _Toc299799717 h 70 HYPERLINK l _Toc299799718 图表 34 用户界面图 PAGEREF _Toc299799718 h 71 HYPERLINK l _Toc299799719 图表 35 CDR查询-详细解码 PAGEREF _Toc299799719 h 72 HYPERLINK l _Toc299799720 图表 36 TD网优分析-短信分析 PAGEREF _Toc299799720 h 72 HYPERLINK l

34、 _Toc299799721 图表 37 CDR数据(MO短信业务总次数) PAGEREF _Toc299799721 h 73 HYPERLINK l _Toc299799722 图表 38 详细解码 PAGEREF _Toc299799722 h 73 HYPERLINK l _Toc299799723 图表 39 TD网优分析-切换分析 PAGEREF _Toc299799723 h 74 HYPERLINK l _Toc299799724 图表 40 TD网优分析-切换分析 PAGEREF _Toc299799724 h 74 HYPERLINK l _Toc299799725 图表

35、41 TD网优分析-寻呼分析 PAGEREF _Toc299799725 h 75 HYPERLINK l _Toc299799726 图表 42 TD网优分析-主叫试呼次数CDR下钻 PAGEREF _Toc299799726 h 76 HYPERLINK l _Toc299799727 图表 43 VIP分析 PAGEREF _Toc299799727 h 76 HYPERLINK l _Toc299799728 图表 44 CDR查询索引方案 PAGEREF _Toc299799728 h 79 HYPERLINK l _Toc299799729 图表 45 查询次数趋势图 PAGERE

36、F _Toc299799729 h 80 HYPERLINK l _Toc299799730 图表 46 负载均衡机分布如图 PAGEREF _Toc299799730 h 81 HYPERLINK l _Toc299799731 图表 47 负载均衡机宕机预案 PAGEREF _Toc299799731 h 82 HYPERLINK l _Toc299799732 图表 48 Master节点宕机预案 PAGEREF _Toc299799732 h 83 HYPERLINK l _Toc299799733 图表 49 CDR合成处理单点失效容错处理 PAGEREF _Toc299799733

37、 h 84 HYPERLINK l _Toc299799734 图表 50 Master单点失效容错处理 PAGEREF _Toc299799734 h 85 HYPERLINK l _Toc299799735 图表 51 AvatarNode0以Pimary启动过程 PAGEREF _Toc299799735 h 87 HYPERLINK l _Toc299799736 图表 52 AvatarNode1以Standby启动过程 PAGEREF _Toc299799736 h 88 HYPERLINK l _Toc299799737 图表 53 DataNode启动过程 PAGEREF _T

38、oc299799737 h 89 HYPERLINK l _Toc299799738 图表 54 AvatarNode0宕机后的状态 PAGEREF _Toc299799738 h 89 HYPERLINK l _Toc299799739 图表 55 AvatarNode1切换为Primary过程 PAGEREF _Toc299799739 h 90 HYPERLINK l _Toc299799740 图表 56 AvatarNode0重启过程 PAGEREF _Toc299799740 h 90 HYPERLINK l _Toc299799741 图表 57 AvatarNode启动切换流程

39、图 PAGEREF _Toc299799741 h 91 HYPERLINK l _Toc299799742 图表 58 Avatar体系架构图 PAGEREF _Toc299799742 h 95 HYPERLINK l _Toc299799744 图表 60 作业提交 PAGEREF _Toc299799744 h 98 HYPERLINK l _Toc299799745 图表 61 JobTracker0宕机 PAGEREF _Toc299799745 h 98 HYPERLINK l _Toc299799746 图表 62 作业注销 PAGEREF _Toc299799746 h 99

40、 HYPERLINK l _Toc299799747 图表 63 Zookeeper基本工作结构图 PAGEREF _Toc299799747 h 100 HYPERLINK l _Toc299799748 图表 64 基于Zookeeper的查询分析计算单点失效和 PAGEREF _Toc299799748 h 101 HYPERLINK l _Toc299799749 图表 65 CDR索引创建和合并并行任务调度处理框 PAGEREF _Toc299799749 h 102 HYPERLINK l _Toc299799750 图表 66 KPI汇总统计计算并行任务调度处理框架 PAGERE

41、F _Toc299799750 h 103 HYPERLINK l _Toc299799751 图表 67 CDR专题数据计算并行任务调度处理框架 PAGEREF _Toc299799751 h 104 HYPERLINK l _Toc299799752 图表 68 并发数据查询计算任务调度处理框架 PAGEREF _Toc299799752 h 105 HYPERLINK l _Toc299799753 图表 69 基于深度防护战略的IATF模型 PAGEREF _Toc299799753 h 105 HYPERLINK l _Toc299799754 图表 70 云部署模型的实现 PAGE

42、REF _Toc299799754 h 107 HYPERLINK l _Toc299799755 图表 71 多级信任保护 PAGEREF _Toc299799755 h 107 HYPERLINK l _Toc299799756 图表 72 基于可信第三方的平台认证 PAGEREF _Toc299799756 h 108 HYPERLINK l _Toc299799757 图表 73 主要因素平台证书 PAGEREF _Toc299799757 h 109 HYPERLINK l _Toc299799758 图表 74 云存储安全子系统接口关系图 PAGEREF _Toc299799758

43、 h 112 HYPERLINK l _Toc299799759 图表 75 基于多级信任保护的多级访问控制流程 PAGEREF _Toc299799759 h 113 HYPERLINK l _Toc299799760 图表 76 数据安全交换平台 PAGEREF _Toc299799760 h 113 HYPERLINK l _Toc299799761 图表 77 云存储安全审计体系结构 PAGEREF _Toc299799761 h 115 HYPERLINK l _Toc299799762 图表 78 安全日志审计系统结构图 PAGEREF _Toc299799762 h 117 HY

44、PERLINK l _Toc299799763 图表 79 Cloud-USG三种部署模式 PAGEREF _Toc299799763 h 120 HYPERLINK l _Toc299799764 图表 80 全网设备汇总表 PAGEREF _Toc299799764 h 137 HYPERLINK l _Toc299799765 图表 81 云方案设备表 PAGEREF _Toc299799765 h 141 HYPERLINK l _Toc299799766 图表 82 1000Mbps流量下的CDR话务计算模型 PAGEREF _Toc299799766 h 143 HYPERLINK

45、 l _Toc299799767 图表 83 1000Mbps流量下的存储需求模型 PAGEREF _Toc299799767 h 146 HYPERLINK l _Toc299799768 图表 84 流量模型下的存储需求 PAGEREF _Toc299799768 h 146 HYPERLINK l _Toc299799769 图表 85 服务器实验室测试性能 PAGEREF _Toc299799769 h 147 HYPERLINK l _Toc299799770 图表 86 流量模型下的服务器配置 PAGEREF _Toc299799770 h 149 HYPERLINK l _Toc

46、299799771 图表 87 应用层发展 PAGEREF _Toc299799771 h 152 系统总体设计云计算系统设计方案概述系统基本功能本期工程的建设思路是,既满足公司总部规范,又要紧密结合实际网络情况,提供一套适合移动集团当前管理模式,又能适应今后发展的信令数据共享平台。系统的基本功能和性能如下:海量原始信令实时解析、合成CDR能够对流量超过48Gbps的全量原始信令流进行实时处理。海量CDR存储、计算能够存储PB级别的CDR数据, 并完成各种复杂业务应用计算。PB级数据秒级查询能力:高效索引算法,智能化调度任务系统,满足秒级查询速度。秒级实时业务响应高效实时数据通道,对于像实时跟

47、踪、告警等实时业务,提供秒级响应时间。主要设计思想和设计目标、设计原则设计思想:将海量数据分解到由大量X86架构计算机构成的低成本计算平台上进行实时处理,依靠分布式云计算软件进行容错,从而提升移动网络海量信令数据分析的实时性和性价比。设计目标:利用公司计算资源池中的X86架构计算机,建立云计算平台,能够对流量超过48Gbps的信令监测流进行实时处理,提供CDR实时查询、专题分析和KPI分析等多种业务支持。系统具有可动态可伸缩性、高度容错性和响应实时性,达到较之传统方案有一个数据量级的性能价格比提升。设计原则:(1)前瞻性技术与实际应用环境相结合本项目是既是先进技术应用示范项目,又是工程实施型项

48、目。把握技术正确性和先进性是前提,但是前瞻性技术实施必须在资源池的实际应用环境和实际监测流量的基础上进行,必须结合资源池平台的实际情况进行研究和开发,只有与实际应用环境相结合才有实际应用价值。(2)学习借鉴国外先进技术与自主创新相结合在基于资源池的云计算平台用于超大规模数据处理方面,国内外几乎是在一个起跑线上;但在关键技术研究及既往的技术积累方面,国外一些大公司有着明显的优势。同时,公司信令处理云计算平台所将要面对的信令流高达48Gbps,是一个世界级的云计算应用。我们将积极学习借鉴国外先进的云计算技术,同时与自主创新相结合,形成功能强大、性能卓越的能够满足实际应用环境需求的云计算信令处理和分

49、析平台。(3)遵循国家和中移动相关标准规范本项目的设计将严格遵循国家和中移动企业规范,包括:公司信令监测系统总体技术要求、信令监测系统设备规范信令共享平台分册、信令监测系统接口规范信令共享平台分册、私有云资源池部署应用系统的总体技术要求等最新版本。信令共享平台的云计算解决方案在公司提供的计算资源池上,申请若干X86架构计算/存储节点,虚拟出海量存储空间、处理能力和数据管理能力。同时研制面向应用的分布式数据处理软件,满足CDR合成、索引、查询、KPI分析、专题分析、深度数据挖掘等应用需求。图表 SEQ 图表 * ARABIC 1 信令共享平台云计算解决方案系统的主要技术特点实时性:平台在高效率并

50、行分布式软件的支撑下,可以实时完成信令合成和分析工作,如CDR合成、CDR查询、KPI查询和专题分析等。CDR合成不会出现数据堆积现象,各类分析和查询工作基本都在秒级完成,具有前所未有的高效性。高可靠性:基于对云计算可靠性深厚的研究积累,彻底解决了当前分布式计算平台易出现的单点故障问题。任何一个节点出现故障,系统将自动屏蔽,而且不会出现丢失数据的现象。包括CDR任务分配节点、CDR合成节点、HDFS元数据节点、HDFS数据存储节点、MapReduceJob Tracker节点、MapReduce Worker节点、DataCube节点等。可伸缩性:在不停机的情况下,增加节点,平台的处理能力自动

51、增加;减少节点,平台的处理能力自动缩减。这样,可以做到与资源池的无缝对接,根据计算和存储任务动态地申请或释放资源,最大限度地提高资源利用率。高性价比:采用X86架构廉价计算机构建云计算平台,用软件容错替代硬件容错,大大节省成本。在目标性能和可靠性条件下,可比传统的小型机加商用数据库方案节省10倍左右的成本。全业务支持:采用NoSQL关系数据库混合模式,绝大部分海量数据存放于分布式平台并进行分布式处理,少量实时性要求很高的数据存放于关系数据库,可支撑各种类型的业务。不仅支撑查询、统计、分析业务,还可支撑深度数据挖掘和商业智能分析业务。系统总体构架系统基本组成与构架信令共享平台是一个处于信令采集与

52、信令监测应用之间的系统。从系统基本组成与构架上来看,该共享平台由7个主要部分组成:信令数据合成处理系统,信令数据订阅系统,实时跟踪系统,信令数据存储系统,信令数据查询分析应用系统,网络管理系统以及系统管理。在基础设施构架上,该共享平台将架构将构建在公司私有云资源池平台之上,利用资源池所提供的计算资源、存储资源和网络资源,作为信令共享平台的基础设施和支撑平台。图表 SEQ 图表 * ARABIC 2 信令共享平台的基本组成与构架系统功能构架信令共享平台需要提供的7大主要功能描述如下。(1)信令数据合成处理信令数据合成处理主要负责从信令采集系统接收全量原始信令数据,进行信令解析处理,并将原始信令数

53、据按照一定的时间粒度(如每分钟)合成转换为CDR数据,并进一步从CDR数据汇总计算出KPI数据。计算出的CDR和KPI数据将根据用户的信令数据订阅要求,经过滤处理后发送给订阅用户。同时,合成后的CDR数据和KPI统计数据将转发给实时跟踪和监控系统,进行实时跟踪处理并发送到用户端。为了能进行信令数据的查询分析,计算出的CDR和KPI数据将传送并保存到信令数据存储系统。在内部处理模块上,信令数据合成系统主要包括两个模块:接入模块和合成处理模块。接入模块主要负责处理协议转换和数据分发,而合成处理模块主要负责信令数据的解析和合成处理、以及KPI数据汇总计算。在系统构架上,为了满足不同流量的信令数据处理

54、需要,需要构建一个专用的信令数据合成处理集群。(2)信令数据订阅系统合成的CDR数据、信令指标数据、业务信令数据将转发给信令数据订阅系统。信令监测系统根据应用系统的数据订阅策略,对应用系统需要的信令数据进行处理和过滤后,将信令数据通过接入模块发送给用户应用系统。信令订阅系统支持实时/准实时订阅/通知方式的数据共享,可实现CDR数据、信令指标数据、业务信令数据的订阅,可为应用系统进行网络管理、业务管理、用户管理以及网络优化、网络规划、网络设计提供基础的原始数据。信令订阅系统可支持灵活的过滤策略,使用从订阅请求所生成的过滤策略对输出信令数据进行过滤,可支持信令事件过滤、事件中具体字段的过滤以及字段

55、取值的过滤。为了支持信令订阅处理,需要设计信令数据订阅管理系统,通过该管理系统事先接收用户发来的具体的信令数据订阅请求,这些请求经过审批处理后将存储在管理系统中。当信令数据合成后,系统将从信令订阅管理系统中取出用户的订阅请求,以此为依据对信令数据进行过滤处理。(3)实时跟踪系统合成的CDR数据、信令指标数据、业务信令数据同时也将转发给实时跟踪系统,以完成协议分析、实时业务跟踪、多接口多协议关联分析等实时追踪功能。监测系统可对监测范围内协议消息原始数据进行捕获并传送至维护终端显示;实时业务跟踪提供对某一业务完整信令过程的跟踪,以协助用户实时分析网络实体之间信令配合问题或网络异常。能对一次呼叫中的

56、所有相关信令流程进行实时关联分析,包括多接口(无线接入网、核心网)、多协议(BSSAP/RANAP、ISUP、BICC、MAP、CAP、H.248等)关联。(4)信令数据存储系统原始信令数据、CDR数据、KPI指标数据、业务信令数据、以及计算生成的专题数据,依照招标技术规范要求,将全部存储在公司私有云资源池的云存储资源中。资源池提供两种存储资源:一种是结构化数据存储资源,用于存储少量的接口花数据;另一种是分布式文件系统,用于存储海量的非结构化数据。为了满足和适应数据量、数据特征和查询处理的不同需求,将采用一种混搭式的数据存储方案。对容量巨大、常规数据库难以处理的数据,如原始信令数据、CDR数据

57、、业务信令数据等,将主要存储在基于HDFS的DataCube分布式云处理系统中;这些数据将通过DataCube接口进行访问和计算处理。而对于部分数据量不大、且查询响应性能要求很高的数据,如KPI数据,计算生成的专题数据,系统配置和管理数据等,将被存放在关系数据库中。关系数据库将采用Sybase ASE版本。这些数据将通过结构化数据存储访问接口(如JDBC)进行访问。在存储构架上,若以存储7天的原始信令数据和60天的CDR数据的存储量为依据,加上KPI、专题等其它需要保存更长时间的历史数据,在1000M、2000M、3000M、7000Mbps的不同信令数据流量下,将大约分别需要200TB、40

58、0TB、600TB、1400TB的存储容量,按照每个存储节点10TB的存储容量,加上少量的冗余节点,将分别需要21、42、64、144个存储节点。若实现全国集中式的信令数据存储,按照全国48Gbps的总流量,则需要能提供8PB存储容量的分布式云存储系统,若以每个服务器节点配置10TB的硬盘估算,则形成这样一个全国集中式的分布式云存储系统将需要大约800个服务器节点。(5)信令数据查询分析应用系统信令数据查询分析应用主要提供包括CDR数据查询、KPI业务数据查询、核心网分析、网络优化分析、终端专题分析查询、CDR专题分析查询、用户专题分析查询等功能,以及相关的报表处理等功能。CDR查询处理时,由

59、于CDR数据量巨大,难以存储在常规的关系数据库中,而如果直接存储在HDFS中又难以保证查询效率。为此,需要对CDR数据进行索引处理,并将索引数据存储在HDFS中,考虑使用DataCube系统。为了建立CDR索引,需要在CDR数据传送到云存储系统中时,进行实时的索引处理。但由于信令数据流量巨大,需要调度使用多台服务器节点进行并行处理。同样,5分钟以上时间粒度的KPI统计数据计算、以及各种专题数据的计算也需要进行并行处理。此外,用户从客户端发起以上各种数据查询分析任务时,也会产生大量并发的查询任务。以上各种查询分析计算任务的处理将需要考虑在计算集群上进行并行化任务调度和负载均衡处理。这些并行计算任

60、务及负载均衡处理将使用Zookeeper基于计算集群完成统一的控制和实现。在系统构架上,以上查询分析计算任务将需要使用一个大规模数据并行计算集群。在编程实现上,存储在数据库中的数据将使用常规的数据库查询语言实现;对存储在分布式文件系统中的信令数据,针对不同的处理要求,在数据量极大而处理实时性要求不是特别高的情况下,为了方便对海量数据的并行处理,将采用MapReduce编程方式实现;而对于那些实时性要求很高的查询分析计算,由于MapReduce启动作业需要较长的时间开销,将不适合采用MapReduce编程实现,而需要用DataCube。(6)网络管理系统包括核心网络管理和自系统网络管理两大部分。

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论