云存储架构的发展_第1页
云存储架构的发展_第2页
云存储架构的发展_第3页
云存储架构的发展_第4页
云存储架构的发展_第5页
已阅读5页,还剩28页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、云存储架构的发展内容体验 存储技术发展简史 金山云存储的技术路线 简单的存储系统架构讨论 主要开源方案简介 部分新技术点的简介存储技术发展简史主要阶段 存储设备 DAS / SAN / NAS 控制器架构 存储集群控制器架构的基本原理 硬盘级别数据冗余 RAID 5/6 和 LUN RS 码 纠错 热备盘 条带化 RAID RAID 6 N+2 容错 控制器实现复杂,效率降低,较少使用 云存储集群的基本原理 多台服务器集群 物理设备级别冗余 内网修复金山云存储技术路线需求 按部署模型区分 公有云存储 私有云存储 混合云存储 按使用场景区分 高性能计算 虚拟机平台(云主机 / VDI / etc

2、) Key-Value 对象存储(网盘 / Hadoop / etc) 冷数据(备份 / 视频监控 / etc) 其他需求 按分布模型分 集中式 异地容灾式 有主控分布式 对等分布式需求维度 功能 性能 可靠性 价格发展历程 2008年 存储实验室 2009年 WPS在线办公空间 2010年 金山快盘 2011年 小米Cloud 2012年 金山云技术路线规划 开源软件 部分定制 完全自主开发简单存储架构讨论存储集群的基础架构 API Scheduler / 调度器 Name node / 元数据节点 Data node / 存储节点存储集群的基础架构调度与元数据 静态Hash 一致性Hash

3、 弹性Hash 一致性Hash 错误检测和修复 R + W N Logging Fix on reading数据块组织 大文件 条带化 小文件 块组织快速元数据管理快速元数据管理多机房 主控式 对等式异步备份 独立设备 / 物理位置独立 兼顾写入效率和带宽现状 具有较好的独立容错性 原子版本功能 适合对数据保全要求高的领域开源方案简介较多使用的开源方案HDFS数据分析场景:Hadoop MapReduce / HIVE适用于大文件流式追加和读取非通用接口LustreGlusterFS使用 NFS/CIFS代理提供通用服务使用 Hash 而不是元数据服务效率问题,大规模应用案例缺失CephFUSEZFS各存储方案基本原理 HDFS各存储方案基本原理 GlusterFS各存储方案基本原理 Ceph部分新技术点简介镜像模式 VS Erasure Code 镜像模式优势 速度快,不论写入和恢复 结构简单,易实现和维护 EC 较少冗余Erasure code Vandermonde-RS and Cauchy-RS 常用开源库

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论