银行业对象存储平台设计

./银行业对象存储平台设计企业级对象存储助力银行企业精简存储架构、提升非结构化数据存储效率目录一、企业非结构化数据存储的现状及痛点3〔1现状3〔2痛点3二、企业非结构化数据存储优化思路3〔1采用对象存储方案思路4〔2对象存储方案与传统分布式NAS方案的对比及总结5三、平台测试与体验6〔1测试内容6〔3测试过程及结果61、功能性测试62、部署灵活性测试133、接口可用性测试144、系统可靠性测试175、系统管理性测试306、系统可维护性测试327、系统安全性测试36一、企业非结构化数据存储的现状及痛点〔1现状1111SANSAN50TB〔FS9007IBMECMECM30TSM730ECMECM30TSMECM〔2痛点IO3、4ECMECMECM5TB,7ECMECMECM二、企业非结构化数据存储优化思路SAN.海量数据进行整合、精简存储架构,目前非结构化海量数据存储较好的方案主NASNASSAN存储方案类似,都是基于文件系统的方案,均为树形目录组织结构,随着数据SAN,IOPSIODS8870,5300V3,NASNASNAS〔1采用对象存储方案思路SANIT1、精简非结构化数据存储架构。对总行而言,之前我行的存储架构为闪存-DS8870-华为5300V3,三层存储架构,且存储和现有生产交易类存储闪存和DS8870IOIO7DS8870,30DS88705300V3,ECMTSM个地市分别部署了一套华为ECM2、提升非结构化数据的副本数和冗余度。相较于现有存储架构中的单副本3、提升非结构化数据的存取性能。虽然目前的方案中闪存的引入,对于7ECMECMECMECM天历史影像数据的调阅也就越来越慢,无法满足.30ECMTSMTSMECMSAN1API2DS88705300V3〔2对象存储方案与传统分布式NAS方案的对比及总结NASNASNAS方案的对比：SANNAS.对象存储可以使用低廉的X86服务器+对象存储软件实现,存储成本比较低。2、数据可用性RAIDRAID3、大容量和高扩展性4、容灾备份优势5、性能优势I/ONASI/O自动选择合理的节点,保证系统性能最大化。SANNASSAN三、平台测试与体验IBMCleversafe〔1测试内容通过对如下内容的测试来验证IBMCleversafe产品是否满足业务需求：1、 产品基本功能,如对非结构化数据的上传、修改、删除2、 产品的部署可行性和灵活性。包括部署的复杂度,模拟跨站点等场景3、 产品的接口可用性性和应用系统的对接开发可行性对应用系统的改造可行性。4、 产品的可靠性。是否有完善的性能保障方案,保障系统稳定可靠运行。5、 产品的易用性。包括图形化的前端界面,方便日常的维护操作管理。6、 产品的可维护性。包括硬件更换,系统升级,监控管理和日志管理。〔3测试过程及结果1、功能性测试[产品功能展现]A、案例编号：001B、案例名称：产品功能的基本展现.C〔storagepool、访问池〔access、库〔vault。Dslicestor,CloudStorageS3,IDA4/5/6Vault,4,5,6。意64成读操作,当成功写入5片时即完成写操作。manager,accesser,slicestor创建storagepool：创建accesspool：.accesspoolAPIIDAS3header[对象读写删操作]A、案例编号：002B、案例名称：存储系统的上传,下载,删除C、案例场景描述：通过S3Browser工具,完成文件的上传、下载及删除DS3BrowserVault,上传一个实.vaultvaultaccesspool,以及用户权Vaulttemplate。S3BrowserS3生keyID.security〔此账户可能对应的是某应用或某管理员.第二步：进入特定某用户,如果已经生成密钥,即可直接拷贝,如果没有生成过密钥,则点击右边GenerateKey第三步,将此key拷贝配置到S3Browser中.S3Browser可以查看到对应的vault和执行的上传下载操作。在S3Browser上完成删除操作.2、部署灵活性测试[多站点部署]A、案例编号：003BC、案例场景描述：在管理界面展现各站点机器的部署情况D、案例实现描述：模拟六台slicestor分布在不同的三个城市的机房,其中accesser、manager在分散在这三个机房中。.3、接口可用性测试[接口对接]A、案例编号：004BC、案例场景描述：展现具体的S3API的调用方式DS3BrowserCloudBerryExplore用S3API的调用方式配置对象存储,以及对应JAVA语言,采用AWSSDK及Curl的方式S3APIaccesskeysecretkey2S3Browser的配置界面：.CloudBerryExplore：.JAVAS3SDKAPI调用方式,完成对象PUT及GET的操作.4、系统可靠性测试[Manager节点失效]A、案例编号：005B、案例名称：系统可靠性-manager失效C、案例场景描述：当manager失效时,系统能够正常运作DmanagerS3Browser所有正常运作的虚机节点.将managershutdown.S3Browser中的log显示,读写操作均正常.[Accesser节点失效]A、案例编号：006B、案例名称：系统可靠性-accesser失效Caccesseraccesser,系统就能够正常运作DaccesserCloudBerryendpointendpointendpoint关闭accesser1.CloudBerryaccesservaultaccesser失效前：失效后：[Slicestor节点失效,不同IDA配置]A、案例编号：007B-slicestorIDACslicestorIDAD、案例实现描述：在IDA为4/5/6的情况下,失效一台可以正常读写,失效.IDA3/4/6配置两种不同的IDA从而观察当slicestor一台台失效时,系统的行为。当一台slicestor失效时：.vaultslicestor.IDA456internalerror,读正常,可以展示之前所有的IDA346.当三个节点失效时：IDA456无法进行读写,IDA346依然可读,但是不可执行写操作。.当四个节点失效时,IDA456和IDA346的vault都无法正常读写。[扫描和重构]A、案例编号：008B、案例名称：系统后台扫描及重构的验证CslicestorRebuildDIDA4/5/6slicestorRebuildRebuildRebuild。rootslicestor6,查到到最底层,CloudBerry.当写入一个9.1MB的文件时,我们可以发现有三个切片文件出现,按照每4MBslicestor3在第三块磁盘中找到切片数据将其中第一个切片数据进行DD篡改,只修改其中的一个字节,count=1,15:43启动篡改。此时关闭另外两台没有更改过切片数据的slicestor4&5,发现下载对象。.slicestor6Rebuild〔.大约在3分钟后开始扫描程序。.暂停slicestor4&5后,可以直接读取同时,在log中,也能够获取对应重构的信息,时间戳也能匹配。5、系统管理性测试[系统监控、报警、报告]A、案例编号：009B、案例名称：系统监控、报警及报告配置.C、案例场景描述：观测之前系统测试中,所出现的异常D性能数据、告警提示配置、日志配置界面、报表配置界面等告警总控台：性能数据监控：告警配置：收集日志配置：.报表配置：6、系统可维护性测试[网页troubleshooting].A、案例编号：010B、案例名称：网页版的troubleshooting中控台C、案例场景描述：在管理界面中实现terminal界面的debug指令D、案例实现描述：实现一键点击troubleshooting指令webUIdebug,发送一些常用指令,检测其结果。[在线系统升级]A、案例编号：011B、案例名称：简易在线升级C、案例场景描述：在管理界面中上传升级包,实现全自动化系统升级D、案例实现描述：实现一键点击,系统各部件完成自动升级的过程manager升级其他部件,系统会自己控制每次升级的台数,从而保证系统始终可用。[在线硬件更换]A、案例编号：012B、案例名称：在线硬件更换C、案例场景描述：在管理界面中简单步骤实现一台机器的替换Dslicestor7slicestor.slicestor7approved第二步,确认源机器和目的机器.当数据迁移完成后,会显示对应状态注意：替换下来的机器需要重新安装后才可以继续使用。[在线容量扩容]A、案例编号：013B、案例名称：存储池扩容C、案例场景描述：在管理界面中简单步骤实现存储池的扩容D、案例实现描述：展示存储池扩容界面3storagepool,在此仅作功能演示,不作为以后配置参考。点击右上角"ExpandStoragePool"扩容存储总体容量增加,从而获得两倍的容量.7、系统安全性测试[系统安全测试]A、案例编号：014B、案例名称：系统安全性测试C、案例场景描述：系统各个环节保障存储数据安全性D、案例实现描述：加密一共分为两个层面,一块是网络层,包括网络传输〔TLS/SSL/SNMPv3withAESCACodingSecureSlicevaultaccesspoolAPIH