存储基础知识培训

存储基础知识学习201存储基础概念知识02存储的组成与应用03

RAID技术04数据保护301存储基础概念知识什么是存储41、存储是信息储存的载体，是围绕“信息、数据”而展开的，提供信息保存、信息备份、信息安全、以及信息生命周期管理的设备。2、存储是根据不同业务、采用合适、安全、有效的技术方案将信息存储在具有冗余、保护、迁移等功能的物理媒介。3、存储是实现核心业务数据存储、关键数据保护、高效率的备份恢复和归档，以及搭建容灾系统提供业务连续性的一个完整的系统常见存储介质5光盘硬盘U盘移动硬盘磁盘阵列NAS磁带库软盘存储在数据中心的位置6软件平台运营管理网络服务器存储信息保护与安全数据中心基础设施应用系统网络服务器存储存储、服务器、网络是IT系统三大基石我们看到的数据存储过程7文件服务器离线存储数据产生数据处理数据管理数据库服务器邮箱服务器应用服务器用户员工在线存储近线存储依据数据的访问频率计算机内部存储过程8计算机的三大组件：CPU、内存和IOI/O：IN和OUT的简称。CPU需要从内存中提取数据来运算，运算完毕后再放回内存，或者直接外部设备。对CPU来说，从内存提取数据，就叫做IN。运算完后将数据直接发送到其它外设或者放回内存，这个过程就是OUT。对于磁盘来说，IN是指数据写入磁盘的过程，OUT则是指数据从磁盘读出来的过程。I/O之间要通信就是依靠各种总线。PCI总线：是目前PC和服务器普遍使用的一种南桥与外设连接的总线技术标准。SCSI（小型计算机接口）总线：一种连接主机和外围接口，支持包括磁盘、磁带机、打印机、光驱、扫描仪等，由SCSI控制器进行数据操作，有自己的指令集。数据存储介质选择9速度，价格在线数据近线数据离线数据CPU内存Flash/SSD/SAS硬盘SATA硬盘/光盘/U盘/软盘/……磁带，光盘主流硬盘种类10机械硬盘固态硬盘组成：磁性碟片，磁头，转轴，控制电机，磁头控制器，数据转换器，接口和缓存等几个部分组成。工作方式：磁头悬浮在高速旋转的碟片上进行读写数据。转速：有7200转、10000转和15000转三种转速，主流是2.5、3.5英寸组成：固态电子存储芯片阵列而制成的硬盘，由控制单元和存储单元（FLASH芯片、DRAM芯片）组成工作方式：在控制单元的指令下，通过电学信号的传输完成对闪存芯片(如下图是NAND闪存的基本单元)的读写操作。衡量硬盘性能的关键指标11主轴转速15Krpm10Krpm7.2Krpm吞吐带宽ThroughputXXXMB/sIOPS每秒钟的读写次数延时SAS存储衡量值20msSSD在1ms以内PS：1、IOPS:以每秒处理的I/O请求数量为单位，I/O请求通常为读或写数据操作请求；2、大文件持续传输型的应用需要的是充分的带宽性能，而小文件随机读写的应用则要求足够的I/O能力；硬盘接口类型12SATASASSSD主流转速（RPM）7,20015,000/10,000NA串行/并行串行串行串行主流容量（TB）1T/2T/3T0.3T/0.6T0.1T/0.2T/0.4TMTBF(h）1,200,0001,600,0002,000,000备注由ATA硬盘发展而来，采用串行方式传输，SATA2.0支持300MB/s,SATA3.0实现600MB/s最高数据传输率.SAS专为满足高性能企业需求而设计，并且兼容SATA硬盘。能够提供3.0Gbit/s的传输率，规划到12.0Gbit/s固态硬盘（SolidStateDisk）用固态电子存储芯片阵列而制成的硬盘，由控制单元和存储单元（FLASH芯片、DRAM芯片）组成。固态硬盘的接口规范和定义、功能及使用方法上与普通硬盘的完全相同，在产品外形和尺寸上也完全与普通硬盘一致。硬盘接口是硬盘与主机系统间的连接部件，作用是在硬盘缓存和主机内存之间传输数据。不同的硬盘接口决定着硬盘与计算机之间的连接速度，接影响着程序运行快慢和系统性能好坏。硬盘提供的物理接口包括如下几种：■用于ATA指令系统的IDE接口。■用于ATA指令系统的SATA接口。■用于SCSI指令系统的并行SCSI接口。■用于SCSI指令系统的串行SCSI（SAS）接口。■用于SCSI指令系统的并且承载于FabreChannel协议的串行FC接口（FCP）。硬盘性能参考值13类型IOPSMB/S硬盘延时性能排名成本适合应用场景SSD8000-20000400低于1ms第1最高数据库15Krpm2201004ms第2第2数据库10Krpm1801004ms第3第3数据库和虚机7.2Krpm1001008ms第4第4文件和备份存储阵列系统组成14存储阵列是把多个硬盘组成一个阵列，当作单一硬盘使用，它将数据以分段（striping）的方式储存在不同硬盘中，存取数据时，阵列中的相关磁盘一起工作，大幅减低数据存取时间，同时有更佳的空间利用率。可以理解为存储阵列系统由存储硬件、存储软件和解决方案三部分来组成。存储阵列硬件控制框硬盘框存储阵列软件存储管理软件快照、镜像软件备份软件多路径软件解决方案备份方案容灾方案存储阵列系统组成之硬件15控制框硬盘扩展框=+控制框和硬盘框分离存储阵列系统控制器和硬盘框一体硬盘框控制器模块=+存储阵列系统控制框用于处理各种存储业务，并管理级联在控制框下面的硬盘框。硬盘框主要用于容纳各种硬盘，为应用服务器提供充足的存储空间。硬盘框组成部件：系统插框、电源模块、风扇模块、级联模块、硬盘模块。存储阵列系统组成之软件16管理类数据保护类可靠性提升类效率提升类IT基础设施管理

，磁盘管理快照，LUN拷贝，分裂镜像，远程复制，自动精简配置，自动数据分级重复数据删除，服务质量控制缓存预取、分区，智能数据迅移多路径软件…存储软件，从底层的驱动、设备管理到上层的系统管理、增值软件等，种类繁多，根据功能可大致分为以下几类：业界存储厂商总体情况17国外品牌国产品牌北京忆恒创源1802

存储的组成与应用存储阵列分类19JBOD（硬盘笼）单控制器双控制器多控制器双控制器：物理完全冗余20没有单点故障！影响控制器硬件性能的因素21控制/数据读/写缓存02通用CPUASIC芯片CPU01PCIe总线镜像通道03SAS3.0NVME/PCIe磁盘通道05FC/iSCSIIB/FCoE/SAS前端接口04CPU缓存CPU缓存030102058KB04存储访问的三种方式22DAS直连内置存储SAN网络NAS存储基于块Block基于文件FileSCSI/SAS/SATANFS、CIFS(SMB)通过IP地址访问对象存储基于对象objectRESTfulAPI访问方式FC、FCoE、FCIPiSCSI、Infiniband块存储：可以理解为将裸磁盘空间整个映射挂载给主机使用的方式，主操作系统还需要对挂载的裸硬盘进行分区、格式化后，才能使用，与平常主机内置硬盘的方式完全无异。文件存储：主机不需要再对文件存储进行格式化的，文件管理功能已经由文件存储自己搞定。对象存储：将多台服务器内置大容量硬盘，再装上对象（虚拟化）存储软件，然后有单独几台服务作为管理节点，安装上（虚拟化）对象存储管理软件。管理节点可以管理其他服务器对外提供读写访问功能。存储访问的三种方式23DAS-直连存储24磁盘阵列服务器SASFCSCSIDAS（DirectAttachedStorage）时间：70年代背景：用户最早因为数据量的增多而产生存储的需求，从而产生最早最简单的存储架构直连附加存储DAS连接方式：FC,SCSI,SAS访问方式：直连式存储与服务器主机之间的连接通道通常采用SCSI连接链路速率：20MB/s、40MB/s、80MB/s优势：架构成本低、简单易用劣势：扩展性差、不易管理、单点故障硬件组成服务器SCSI卡SCSI线存储NAS-网络附属存储25NAS应用系统架构NFS,CIFSIP网络RAID文件系统NAS存储设备NFSNFSCIFSNAS(NetworkAttachedStorage)时间：90年代初背景：网络飞速发展，大量数据需要共享和交换，出现专用的NAS存储设备，成为数据共享与交换的核心一种特殊的专用数据存储服务器，包括存储器件（例如磁盘阵列、CD/DVD驱动器、磁带驱动器或可移动的存储介质）和内嵌系统软件，可提供跨平台文件共享功能。NAS本身能够支持多种协议（如NFS、CIFS、FTP、HTTP等），而且能够支持各种操作系统。用户通过TCP/IP协议访问数据，采用业界标准的文件共享协议如NFS、CIFS来实现基于文件级的数据共享。文件系统位于后端存储设备链路速率：1Gbps、10Gbps优势：灵活、可共享、易安装劣势：性能瓶颈，不适用数据库环境使用硬件组成服务器网卡网线存储FC-SAN26FC链路磁盘阵列FCSAN控制器FC交换机服务器FCSAN（FiberChannelStorageAreaNetwork）时间：90年代中后期背景：为解决DAS扩展性差的问题，将存储设备网络化，可以同时连接上百台服务器连接方式：FC光纤，使用专用的FC交换机，采用FibreChannel协议访问方式：后端一台存储设备的存储空间可以划分为多个LUN，每一个LUN只能属于一台前端服务器链路速率：2Gbps、4Gbps、8Gbps、16Gbps提供快照、容灾等高级数据保护功能优势：服务器、存储可独立扩展、高读写性能劣势：空间独占式，无法共享、管理和采购成本高硬件组成服务器FC卡FC线存储FC交换机IP-SAN27IP链路磁盘阵列iSCSI存储控制器以太网交换机服务器IPSAN（IPStorageAreaNetwork）时间：2001年背景：为解决FC-SAN在价格及管理上的诸多门坎而产生连接方式：采用以太网作为连接链路，以太网交换机访问方式：后端一台存储设备的存储空间可以划分为多个LUN，每一个LUN只能属于一台前端服务器链路速率：1Gbps、10Gbps提供快照、容灾等高级数据保护功能iSCSI被看好的原因可以采用非常成熟的IP网络管理工具和基础建设IP网络使用普遍，可为企业节省大笔建设、管理及人事成本存储网络的三种形态比较28SAN与NAS并不是两种互相竞争的技术，二者通常相互补充以提供对不同类型数据的访问。SAN针对海量的面向数据块的数据传输，而NAS则提供文件级的数据访问和共享服务。越来越多的数据中心采用SAN+NAS的方式实现数据整合、高性能访问以及文件共享服务。DASNASFC-SANIP-SAN传输类型SCSI、FC、SASIPFCIP数据类型块级文件级块级块级典型应用任何文件服务器数据库应用视频监控优点易于理解兼容性好易于安装成本低高扩展性、高性能高可用性高扩展性成本低缺点难管理，扩展性有限存储空间利用率不高性能较低对某些应用不适合较昂贵，配置复杂互操作性问题性能较低存储传输通道29存储传输的硬件通道有三种：通过以太网线连接通过SCSI线缆连接通过光纤线缆连接iSCSIHBACardiSCSI磁盘阵列SCSIHBACardSCSI磁盘阵列FCHBACardFC磁盘阵列以太网线SCSI线缆光纤线缆主机GECard存储主要访问协议30比较项FC协议iSCSI协议FCoE协议InfiniBand协议交换机FC交换机以太网交换机FCOE交换机InfiniBand交换机最大速率16Gb/s40Gb/s10Gb/s56Gb/s特点效率高延迟低成本高维护复杂效率低延迟高成本低维护简单效率一般兼容性好采购成本高高带宽低延迟兼容性差成本高维护复杂数据中心的主流访问协议是FC和iSCSIFC协议常用带宽是8Gb和16Gb，需要服务器配置FCHBA卡，通过光纤交换机来组网，特点是效率高、延迟低iSCSI协议常用带宽是1Gb和10Gb，最高可以达到40Gb，需要服务器配置网卡，通过网络交换机来组网，特点是成本低、管理简单其他诸如FCoE和IB协议，由于成本、兼容性和管理难度的问题，在数据中心使用的非常少FC协议31FC是（FiberChannel）的简称，用于服务器共享存储设备的连接，存储控制器和驱动器之间的内部连接。主要用于FC-SAN组网。FC-0(物理层):FC-0层定义了连接的物理端口特性，定义了不同介质、传输距离、信号机制，也定义了光纤和铜线接口以及电缆指标。FC-1(传输协议)：规定了8B／10B编码方式和传输协议．包括串行编码、解码规则、特殊字符和错误控制。FC-2（帧协议）：规定了具体的传输机制，包括帧格式，节点间的信息交换、服务质量等。FC-3（公共服务）：提供高级特性的公共服务，数据的加密和压缩，

FC-4(映射层)：定义了光纤通道和上层应用之间的接口，比如串行的SCSI协议、HBA驱动等等FC-0物理层FC-1链路层FC-2帧协议/流控制FC-3公共服务FC-4映射层FC协议的分层结构iSCSI协议32iSCSI（互联网小型计算机系统接口）是一种在TCP/IP上进行数据块传输的标准。iSCSI可以实现在IP网络上运行SCSI协议，使其能够在诸如高速千兆以太网上进行快速的数据存取备份操作。LinkIPTCPiSCSISCSIInitiator发送端LinkIPTCPiSCSISCSITarget目标器IP

NetworkSCSI层：根据应用发出的请求建立SCSICDB(命令描述块)，并传给iSCSI层；同时接受来自iSCSI层的CDB，并向应用返回数据。iSCSI层：对SCSICDB进行封装，以便能够在基于TCP／IP协议的网络上进行传输，完成SCSI到TCP／IP的协议映射。这一层是iSCSI协议的核心层。

TCP层：提供端到端的透明可靠传输。IP层：对IP报文进行路由和转发。

Link层：提供点到点的无差错传输3303

RAID技术RAID诞生因素34容量性能可靠性RAID计算机发展初期，大容量硬盘价格非常高，而需要存储的数据量越来越大CPU运算速度飞速提高，数据读写速度不应该成为计算机系统处理的瓶颈信息时代，数据对企业和个人的重要性越来越大，数据存储安全更需要保障RAID的关键目标35镜像、冗余校验、数据重构数据分散保存提高数据并发读写几率更高的I/O聚合带宽RAID的目标提高数据可靠性提高I/O性能RAID基本概念36RAID0数据条带化，无校验RAID1数据镜像，无校验RAID3数据条带化读写，校验信息存放于专用硬盘RAID5数据条带化，校验信息分布式存放RAID6数据条带化，分布式校验并提供两级冗余RAID0+1先做RAID0，后做RAID1，同时提供数据条带化和镜像RAID10类似于RAID0+1，区别在于先做RAID1，后做RAID0RAID50先做RAID5，后做RAID0，能有效提高RAID5的性能同时采用两种不同的RAID方式还能组合成新的RAID级别:根据不同的组合方式可以分为不同的RAID级别:RAID（RedundantArrayofIndependentDisks）即独立磁盘冗余阵列，即由独立磁盘组成的具有冗余特性的阵列。RAID技术将多个单独的物理硬盘以不同的方式组合成一个逻辑硬盘，从而提高了硬盘的读写性能和数据安全性。RAID数据存取方式37数据组织形式分块：将一个分区分成多个大小相等的、地址相邻的块，这些块称为分块。它是组成条带的元素。条带：同一磁盘阵列中的多个磁盘驱动器上的相同“位置”（或者说是相同编号）的分块。分块条带硬盘0硬盘2硬盘1硬盘3分条RAID校验38奇偶校验（XOR）算法A0值A1值P值000011101110数据A0和A1通过异或运算（相同为0，相异为1）得到校验位PA0A1XORP0RAID基本概念-逻辑卷39RAID由几个硬盘组成，从整体上看相当于一个物理卷，在物理卷的基础上可以按照指定容量创建一个或多个逻辑卷，通过LUN（LogicUnitNumber）来标识物理磁盘逻辑卷LUN1LUN2LUN3物理卷（RAID组）BDFHACEGRAID040ABCDEFGH优点缺点可多I/O操作并行处理，极高的读写效率速度快，由于不存在校验，所以不占用cpu资源设计，使用与配置简单无冗余，一个RAID0的磁盘失败，那么数据将彻底丢失不能用于关键数据环境适用领域：视频生成和编辑、图像编辑较为“拥挤”的操作其他需要大的传输带宽的操作至少需要磁盘数：2个；无容错能力RAID0：StripedDiskArraywithoutFaultTolerance(没有容错设计的条带磁盘阵列，以条带形式将RAID阵列的数据均匀分布在各个阵列中。总容量=(磁盘数量)*(磁盘容量)BDFHACEGRAID141ABCDRAID1通过磁盘数据镜像实现数据冗余，在成对的独立磁盘上产生互为备份的数据。总容量=(磁盘数量/2)*(磁盘容量)ABCD优点缺点理论上读效率是单个磁盘的两倍；100％的数据冗余；设计、使用简单两块磁盘都要写入，虽然是并行写入，但因为要比对，故性能单块磁盘慢成本高；空间利用率只有1/2适用领域：财务统计与数据库金融系统、证券其他需要高可用的数据存储环境至少需要磁盘数：2个；有容错能力RAID542异或运算A0B0C0D0A1B1C1D1A2B2C2A0A1A2A3B0B1B2P3C0C1P2B3D0P1C2C3P0D1D2D3P4A4B4C4D4D2RAID5是RAID0和RAID1的折中方案。RAID5具有和RAID0相近似的数据读取速度，只是多了一个奇偶校验信息，写入数据的速度比对单个磁盘进行写入操作稍慢。同时由于多个数据对应一个奇偶校验信息，RAID5的磁盘空间利用率要比RAID1高，存储成本相对较低，是目前运用较多的一种解决方案。总容量=(磁盘数-1)*(磁盘容量)优点缺点高读取速率中等写速率异或校验影响存储性能磁盘损坏后，重建很复杂适用领域：文件服务器和应用服务器OLTP环境的数据库WEB，E－MAIL服务器至少需要磁盘数：3个；最多允许坏1块磁盘RAID643RAID6全称为IndependentDataDiskswithtwoIndependentDistributedDaritySchemes（带有两个独立分布式校验方案的独立数据磁盘异或运算A0B0C0D0A1B1C1D1A2B2C2D2A0A1A2A3B0B1B2P3C0C1P2Q3D0P1Q2B3P4Q4A4B4P0Q1C2C3Q0D1D2D3C4D4总容量=(磁盘数-2)*(磁盘容量)优点缺点快速的读取性能更高的容错能力很慢的写入速度成本更高适用领域：高可靠性环境至少需要磁盘数：4个；最多允许坏2块磁盘RAID10被称为镜象阵列条带，可实现象RAID0一样，数据跨磁盘抽取；象RAID1一样，每个磁盘都有一个镜象磁盘,

RAID10提供100%的数据冗余，支持更大的卷尺寸，但价格也相对较高。RAID1044ABCDEFGHACEGACEGBDFHBDFH优点缺点高读取速率高写速率，较校验RAID而言，写开销最小至多可以容许N个磁盘同时损坏（2N个磁盘组成的RAID10阵列）贵只有1/2的磁盘利用率适用领域：要求高可靠性和高性能的数据库服务器至少需要磁盘数：4个总容量=(磁盘数

/2)*(磁盘容量)常见RAID比较45RAID级别RAID0RAID1RAID5RAID6RAID10可靠性最低高较高最高高冗余类型无镜像冗余校验冗余校验冗余镜像冗余可用空间100%50%（N-1)/N（N-2)/N50%性能最高最低较高较高高RAID-热备、重构46