云存储架构的发展.ppt_第1页
云存储架构的发展.ppt_第2页
云存储架构的发展.ppt_第3页
云存储架构的发展.ppt_第4页
云存储架构的发展.ppt_第5页
已阅读5页,还剩28页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

云存储架构的发展,杨钢 2013/11/25,内容体验,存储技术发展简史 金山云存储的技术路线 简单的存储系统架构讨论 主要开源方案简介 部分新技术点的简介,存储技术发展简史,主要阶段,存储设备 das / san / nas 控制器架构 存储集群,控制器架构的基本原理,硬盘级别数据冗余 raid 5/6 和 lun rs 码 纠错 热备盘 条带化 raid raid 6 n+2 容错 控制器实现复杂,效率降低,较少使用,云存储集群的基本原理,多台服务器集群 物理设备级别冗余 内网修复,金山云存储技术路线,需求,按部署模型区分 公有云存储 私有云存储 混合云存储 按使用场景区分 高性能计算 虚拟机平台(云主机 / vdi / etc) key-value 对象存储(网盘 / hadoop / etc) 冷数据(备份 / 视频监控 / etc) 其他,需求,按分布模型分 集中式 异地容灾式 有主控分布式 对等分布式,需求维度,功能 性能 可靠性 价格,发展历程,2008年 存储实验室 2009年 wps在线办公空间 2010年 金山快盘 2011年 小米cloud 2012年 金山云,技术路线规划,开源软件 部分定制 完全自主开发,简单存储架构讨论,存储集群的基础架构,api scheduler / 调度器 name node / 元数据节点 data node / 存储节点,存储集群的基础架构,调度与元数据,静态hash 一致性hash 弹性hash, 一致性hash ,错误检测和修复,r + w n logging fix on reading,数据块组织,大文件 条带化 小文件 块组织,快速元数据管理,快速元数据管理,多机房,主控式 对等式,异步备份,独立设备 / 物理位置独立 兼顾写入效率和带宽现状 具有较好的独立容错性 原子版本功能 适合对数据保全要求高的领域,开源方案简介,较多使用的开源方案,hdfs 数据分析场景:hadoop mapreduce / hive 适用于大文件流式追加和读取 非通用接口 lustre glusterfs 使用 nfs/cifs代理提供通用服务 使用 hash 而不是元数据服务 效率问题,大规模应用案例缺失 ceph fuse zfs,各存储方案基本原理 hdfs,各存储方案基本原理 glusterfs,各存储方案基本原理 ceph,部分新技术点简介,镜像模式 vs erasure code,镜像模式优势 速度快,不论写入和恢复 结构简单,易实现和维护 ec 较少冗余,erasure code,vandermonde-rs and cauchy-rs 常用开源库

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论