分布式存储在网盘和在线备份的应用

1、分布式存储在网盘和在线备份的应用技术创新，变革未来提纲互联网存储应用的特点网盘与在线备份的特点云存储平台简介总体实现方案分布式数据库架构分布式数据库特点分布式文件系统架构互联网存储应用的特点3高可靠：数据多份存储高可用：7X24小时高扩展：随时扩容高性能：高并发，低延迟高安全：分布式密钥和严格IDC管理制度高性价比：价格成本可控制易监控和维护：响应及时网盘和在线备份的特点4网盘与在线备份有很多相同点后台架构类似访问方式相似（上传及下载）都是云存储服务目标都是解决数据存储问题等在线备份相对网盘（同步盘）的特殊性是否保持用户的原始路径是否有设备的区分是否可以备份企业级数据库是否密钥用户可以自己保存

2、云存储平台简介PC客户端手机客户端WEB数据应用层HBase小数据存储层MongoDBMySQLHadoop/Carbonite业务处理层文件流信息HDFSCFS大数据存储层5云存储平台简介(二)6总共有1000亿个文件每天增加近1个亿新文件总共服务器台数约有1万台总存储量约为200P总体实现方案7分布式数据库：关系数据库与非关系型数据库(NoSql)集群 解决结构化数据的海量存储和高效访问MySQLHBase分布式文件系统：以文件为存储单位的非结构化数据存储HDFSMongoDB前端应用负载均衡LVSNgnix分布式数据库架构8分布式数据库架构(二)HBaseMySQL离散数据信息Maste

3、r1,2Slave1,2Master1,2,3Slave1,2,3,4,5同步服务交易数据等文件属性等9分布式数据库特点-HBase10成熟度比较高，目前已有多个著名公司在使用TaobaoFacebookAdobeTwitterYahoo!Trend Micro广告分析公司分布式数据库特点-HBase(二)11行强一致性同一行数据的读写只在同一台RS（RegionServer）机器上进行同一行的列的写入是原子操作水平自动伸缩Region的自动分裂(生产系统需要看具体情况)Master的自动均衡增加RegionServer机器即增加读写吞吐量及处理能力增加DataNode机器可增加容量分布式数据

4、库特点-HBase(三)12任意增加列高性能随机写支持Thrift框架Hbase经验分享13合理设计rowKey和Pre-Sharding尽量避免只操作少数几台机器；根据数据量、RegionServer个数合理Pre-Sharding。充分利用Filter功能SingleColumnValueFilterSubstringComparatorBinaryPrefixComparatorFamilyFilterQualifierFilterColumnPrefixFilterColumnPaginationFilterHbase经验分享(二)14可根据应用需求重写某些方法SubstringCom

5、paratorOverridepublic int compareTo(byte value) String laststr = Bytes.toString(value).toLowerCase();return laststr.contains(substr) ? 0 : 1;HBase经验分享（三）15充分FilterList的addFilterBinaryPrefixComparatorQualifierFilterColumnPrefixFilterPageFilterHBase经验分享（四）16考虑容量开启压缩目前主要是lzo方式提高随机读性能前端增加一个分布式缓存Radis系统系

6、统参数优化GC策略：-XX:+UseConcMarkSweepGC -XX:+UseParNewGC - XX:CMSInitiatingOccupancyFraction=70读写策略优化HBase经验分享（五）17系统参数优化读优化：hbase.regionserver.handler.counthbase.regionserver.global.memstore.upperLimit/lowerLimithbase.hregion.memstore.block.multiplierhbase.hstore.blockingStoreFileshbase.hregion.max.files

7、ize写优化：Bloomfilterin-memoryBlockcachehfile.block.cache.size分布式文件系统架构18大文件数据HDFS小文件数据及分块数据MongoDB文件“垃圾”数据回收分布式文件系统架构-HDFS(二)NFS Server/ BackupNode19分布式文件系统架构(三)文件流数据Shard1ShardNReplica setMaster1,2Slave1,2,NMongoDBHDFS校验服务小文件/分块数据大文件20MongoDB经验分享21尽量创建索引限定返回结果条数Filter只返回需要的数据优化主键，尽量自己控制主健IDUUID主键使用BinaryData数据类型存储HDFS经验分享22系统参数优化GC策略带宽策略优化带内与带外心跳的区分NameNode的备份至NFS时尽量不影响正常带宽使用同步锁机制尽量少用所有文件IO操作的地方尽可能不要加同步锁文件复本数设置尽量根据应用的访问频率设置不同份数HDFS经验分享(二)23NameNode数据损坏原因分析及修复查看日志，确定大概问题位置备份fs