6月21日网络存储基础知识

1、浙江宇视科技有限公司网络存储 日期：2012年7月10日密级：内部公开基础知识 提纲网络存储概述存储体系架构RAID技术传输协议宇视存储产品介绍引言信息系统中的数据是人类“最为重要的财富 ”“以计算为中心”向“以数据为中心”发生转变数据存储、管理方式从以服务器为中心向以网络为中心发生转变积累的数据越来越多，呈现“爆炸性的增长 ”孤立、分散、难以管理的海量数据是“巨大灾难”关键业务的数据丢失对企业带来“毁灭性打击”业务连续性、数据共享、数据备份恢复、信息生命周期管理等需求推动存储技术巨大发展l 对数据安全性安全性要求很高的企业 典型行业: 电信、金融和证券 典型业务: 计费l 对数据存储性能存储

2、性能要求高的企业 典型行业: 电视台、交通部门和测绘部门 典型业务: 音频/视频、石油测绘和地理信息系统等 l 在系统级方面具有很强的容量容量(动态动态)可扩展性和灵活性可扩展性和灵活性的企业 典型行业: 各中大型企业 典型业务: ERP系统、CRM系统和决策支持系统l 具有超大型海量存储海量存储特性的企业 典型行业: 图书馆、博物馆、税务和石油 典型业务: 资料中心和历史资料库 网络存储行业应用网络存储行业应用l 具有本质上物理集中、逻辑上又彼此独立的数据管理数据管理特点的企业 典型行业: 银行、证券和电信 典型业务: 银行的业务集中和电信的运营支撑系统(BOSS)集中l 实现对分散数据高速

3、集中备份分散数据高速集中备份的企业 典型行业: 各行各业 典型业务: 企业各分支机构数据的集中处理l 数据在线性要求在线性要求高的企业 典型行业: 商业网站和金融 典型业务: 电子商务l 实现与主机无关的容灾容灾的企业 典型行业: 大型企业 典型业务: 数据中心网络存储行业应用网络存储行业应用提纲网络存储概述存储体系架构RAID技术传输协议宇视存储产品介绍7磁盘硬件结构主轴马达主轴马达(Spindle Motor)音圈马达音圈马达(Voice Coil Motor)磁头磁头基座基座(Base Plate)磁头停放区磁头停放区(Parking Zone)盘片盘片(Media)传动部件传动部件接口

4、接口8硬盘磁头技术 磁头(Head)磁道(Track)柱面(Cylinder)扇区(Sector)扇区1磁道n磁道0磁道格式化容量 =柱面数 X 每磁道扇区数 X 磁头数 X 扇区字节数 9磁头与柱面10S.M.A.R.T.技术Self-Monitoring, Analysis and Reporting Technology最早由Compaq 和 IBM推动, 目的是尽可能预测硬盘的可靠性，在硬盘损坏之前给用户警告很多由硬盘部件功能性衰减的问题是可以预测的磁头飞行高度 信息输出效率 旋转启动时间 寻道失败率 寻道时间的效率 硬盘接口及发展硬盘接口及发展ATA接口SATA接口 SCSI接口 S

5、AS接口FC接口 12What are ATA？ATA：Advanced Technology Attachment 高级技术附加装置7个版本： ATA-1-ATA-7（ATA 133）速率基本上走到了极限 13What are SATA？SATA： Serial Advanced Technology Attachment 串行ATA这是一种完全不同于并行ATA的新型硬盘接口类型，由于采用串行方式传输数据而得名。具有结构简单、支持热插拔、传输速率快的优点2000年Intel联合IBM、Maxtor、Seagate等厂商合作开发SATA I (版本 1.x) 接口， 正式名称为SATA 1.5

6、Gb/s, 是第一代SATA接口，运行速度为1.5Gb/s。这个接口支持高达150MB/s带宽吞吐量。SATA II (版本2.x) 接口， 正式名称为SATA 3Gb/s，是第二代SATA接口，运行速度为3.0 Gb/s。这个接口支持高达300MB/s带宽吞吐量。SATA III (版本3.x) 接口，正式名称为SATA 6Gb/s， 是第三代SATA接口，运行速度为6.0Gb/s。这个接口支持高达600MB/s带宽吞吐量14What are SCSI？SCSI:Small Computer System Interface 小型计算机系统接口 特点：应用范围广、多任务、带宽大、CPU占用率

7、低，以及热插拔SCSI必须要有专门的SCSI控制器，也就是一块SCSI控制卡，才能支持SCSI设备 15What are SAS？SAS接口是SCSI的升级，为串行传输模式。SAS是一种点对点、全双工、双端口的接口，支持在SATA兼容的电缆和连接器上传输SCSI协议 性能：能够提供3.0Gbit/s的传输率，规划到12.0Gbit/sWhat is SAS? 串联 SCSI (SAS) 是并口SCSI的终结者 新的工业标准 提供了非凡的性能提升 3-Gbps SAS x4 “宽” 端口提供累计高达12-Gbps的带宽 主机连接以及扩展理解SAS “宽” 端口44123132 每SAS 线缆是3

8、-Gbps 到驱动器是独立线缆 “x4 宽” 在一个接口中包括4根线缆 2, 3 ,4 线缆仅在当前 I/Os 超出1号线缆通道性能情况下使用Logical Unit Number 逻辑单元号(LUN) LUN是一种被SAS和SCSI支持的子地址编码 LUNs 是通过编码确认信息来选择Host AdapterID 7ControllerID 1Disk DriveLUN 0Disk DriveLUN 1ControllerID 2Disk DriveLUN 0Disk DriveLUN 119What are FC？FC-AL(光纤通道仲裁环Fibre Channel Arbitrated L

9、oop)，是一种双端口的串行存储接口，支持全双工工作方式。利用类似于SATA/SAS所用的4芯连接，提供一种单环拓扑结构，一个控制器能访问126个硬盘40-pin Male FC-SCA II Connector20各种类型应用 接口应用说明FC适用于在线、高可用性、随机读适用于大型企业的关键数据，价格昂贵SAS适用于在线、高可用性、随机读适用于中型企业的关键数据，高性能，高可扩展性，比FC价格低，并可兼容SATASATA适用于近线、一般可用性，连续读低价格、高容量磁带适用于离线高容量，可离线保存21数据与磁盘数据与磁盘数据可以从磁盘写入或则读取 典型地通过一个本地应用或是服务器应用应用/ 文

10、件系统采用数据块级别的 I/O 数据的收发是通过I/O 块用户采用的是文件级别的I/O 收发的是数据文件0 1 1 0 1 0 0 1 0 1 0 1 1 1 0 1 0 1 0 0 0 1 lDAS ： Direct Attached Storage，直接连接存储lNAS ： Network Attached Storage，网络附加存储lSAN ： Storage Area Network，存储区域网络存储体系架构未使用的存储容量可以简单地分配给那些需要的服务器.集中的信息 = 价值分布式存储分布式存储集中存储集中存储文档和块数据 用户在文档上工作 (如. Word 文件, excel图表

11、.等等) 而我们所使用的应用需要转换成块级别的数据 直接通过读写存储空间中的一个或者一段地址来存取数据通过IDE、SCSI以及光纤（FC）接口与服务器直接相连，以服务器为中心每个服务器都需要独立的存储设备（磁盘），且连接距离短，连接数量有限数据分散，共享、管理困难单位成本高存储空间浪费存储体系架构-DASDirect Attached Storage（DAS）我们需要网络连接模式以提高存储系统利用率DAS缺点每台服务器都有其自己的存储部件 ($)管理困难 降低了生产效率备份很昂贵浪费的存储空间难于共享数据什么是 NAS? 网络附加存储 一个专用于网络文件共享的设备. NAS 不是一个网络! N

12、AS 使用LAN 或WAN 协议 如. TCP/IP 一个NAS设备可以在 一个LAN 或WAN任一点存在. 支持的协议包括 CIFS, NFS 和 HTTP NAS 并不提供任何由服务器系统的服务器所提供的活动, 如. e-mail.Quick Reference Local Area Network (LAN) Wide Area Network (WAN) Common Internet File System (CIFS) Network File System (NFS) Hyper Text Transfer Protocol (HTTP)文件级别的访问 NAS 当在网络上的一个应

13、用请求信息时,NAS设备提供文件级别的访问或索引到块层存储体系架构-NASNetwork Attached Storage（NAS）基于NFS、CIFS文件级共享存取，支持HTTP存储设备功能上独立于网络中的主服务器，不占用服务器资源扩展较容易，广泛支持操作系统及应用，安装简单方便数据备份及恢复占用网络带宽NAS的优点 提升目前的网络基础架构 适用异构的数据共享环境 安装与维护相对比较简单 本身 OS 许可和文件锁维护 良好的性能NAS的缺点 一个单独的NAS服务器会导致I/O瓶颈 文件级访问局限什么是存储区域网络 (SAN)?块级别访问 SAN 和DAS 当网络上的一个应用请求信息时,请求将

14、会被服务器进行处理而正确的数据块将会被返回给客户. 数据库可能是目前数据中心块数据访问最多的例子SAN的存储方式 External storage system connected to SAN Controller-based RAIDControllersBlock-level accessApplication ServerApplication ServerApplication ServerSwitchSAN的优点 高带宽适应快速的增长 传输非常大的数据块 在无需对局域网性能造成影响即可提供存储的应用例如备份和远程镜像 非常优秀的性能, 可靠性和灵活的连接方式存储体系架构SAN存储体

15、系架构-SANFC SAN：采用Fibre Channel等存储专用协议，通过光纤通道交换机等连接设备，使网络服务器与多种存储设备连接在一个高速专用独立于以太网的网络中，数据采用FCP协议以块方式存取，不占用服务器运算处理的网络带宽。IP SAN：使用以太网代替光纤通道（Fibre Channel）网和使用iSCSI协议代替FCP协议，进行块状数据存储访问的SAN。 FC SAN、IP SAN都要有存储管理软件（如卷管理、数据的快照、镜像、备份、恢复、归档等等）。存储网络的体系结构存储网关设备需要支持物理层是光纤通道物理接口及以太网的技术体系。提纲网络存储概述存储体系架构RAID技术传输协议宇

16、视存储产品介绍RAID 条带化是RAID中的一个基本概念 是一种将多个驱动器划归到一个逻辑存储单元的组合方式 多种级别 每种级别都具备不同的成本/性能/容错优势 可以通过硬件或软件进行实施 硬件对于整个系统的性能是最佳的方案RAID Level 0 条带化优点优点高数据传输速率高数据传输速率低成本低成本缺点缺点当磁盘失效时无冗余当磁盘失效时无冗余数据会丢失数据会丢失RAID Level 1 镜像优点优点 可靠性可靠性 可用性可用性 当出现错误时无需数据重建当出现错误时无需数据重建缺点缺点额外磁盘所带来的高成本额外磁盘所带来的高成本RAID技术XOR校验运算l 特性1：相同为0，相异为1 A(1

17、) B(0)= P(1)A(0) B(0)=P(0)A(1) B(1)=P(0) A(1) P(0)=B(1)，B(1) P(0)=A(1) l 特性2：等效性，下面5个等式是等价的(A B) C=P (A B) C C=P CA B 0=P CA B=P C (A B) P=C RAID Level 3 校验盘优点优点高数据传输速率高数据传输速率 适用长的顺序数据适用长的顺序数据 可靠性可靠性 可用性可用性缺点缺点对短数据不适合对短数据不适合对随机对随机I/O不适合不适合RAID Level 5 分布校验盘优点优点短数据记录或随机短数据记录或随机I/O众多并发众多并发I/O可靠性可靠性可用性

18、可用性缺点缺点 不适用于大记录不适用于大记录D1D2D4D4D2D7D8D8D10D11D11D1D1D2D3D4D5D6D7D8D9D10D11D12D13D14D15逻辑磁盘物理磁盘0 物理磁盘1物理磁盘2 物理磁盘3stripe0stripe1stripe2stripe3D13D14D13stripe4D5D7D10D5D14D3D3D9D9D12D12D15D6D6D15物理磁盘4 物理磁盘5RAID级别RAID10l 定义：将镜像和条带组合起来的组合RAID级别，最低一级是RAID1镜像对，第二级为RAID0。冗余阵列的运行状态l Normal：正常冗余阵列中所有磁盘都处于正常运行状

19、态，此时可允许一个或多个磁盘失效。l Degrade/Critical：降级冗余阵列中有一个（比如RAID5阵列）或多个（比如RAID6阵列）磁盘失效后的状态，但仍然可以向外界提供正常的读写服务，此时如果再有一个磁盘失效，则整个阵列处于不可用的状态。l Recover/Rebuild：重建从降级到正常之间的过渡状态，此时有一个正常的磁盘顶替了失效磁盘，冗余数据正在重建。l Failed：失效此时失效磁盘数量已经超过阵列所允许冗余的数量，整个阵列处于不可用状态。其他 RAID级别RAID 1+0: implemented as striped subsystem whose segments a

20、re RAID 1 subsystemsRAID 总结 RAID 0: 最快和最有效的级别但不提供容错 RAID 1: 性能至上, 容错的环境下, 但需要2倍存储空间 RAID 3: Data intensive environments which access long sequential records, does not allow multiple I/O operations to be overlapped RAID 5: 对于多用户大量读取少量写入环境下的最佳选择. RAID 1+0: 高性能但需要2倍的磁盘以用于数据镜象提纲网络存储概述存储体系架构RAID技术传输协议宇视存

21、储产品介绍IP SAN标准、技术的支持IP存储技术包含：iSCSI、FCIP、iFCP等，光纤通道技术包含FC-PH、FCP、FC-SW、FC-FS、FC-FG等。FCIP（ Fibre Channel over IP）是IETF与ANSI共同提出的基于IP的光纤通道方案，采用这种模式，光数据帧被压缩为IP帧传输,在两个SAN之间通过IP网络建立点到点的隧道，构成一个统一的SAN环境。 iFCP在FC与IP之间建立网关到网关的连接，使FC帧可以路由到正确的目的地址。它可以允许每一个互联的SAN都拥有自己独立的命名空间。实现起来也比FCIP复杂。 iSCSI概述由IBM，CISIO，HP发起；2

22、000-2为IETF草案，2004-4作为正式的IETF标准现在的iSCSI协议对应SAM2，而最新的SAM是SAM4，SAM5主要由RFC3720描述涉及的RFC还有：3721（iSNS），3722（命令规范），3723（安全），3347（设计），3783（IP上的有序命令传送），3385（错误估计）用TCP/IP作为SAN的基础设施iSCSI构建在TCP之上，不是IP；是面向连接的，不是无连接的。（一个iSCSI命令可能分在几个IP报文中）iSCSI的主要功能是在TCP/IP上封装，并可靠的传输SCSI命令及数据涉及到的SCSI的概念1 启动设备和目标设备 启动设备(initiator)：

23、发起I/O请求的设备 目标设备(target):响应请求执行实际I/O操作的设备 在启动设备和目标设备建立连接后，目标设备在操作中作为主设备控制整个工作过程典型的SCSI系统涉及到的SCSI的概念2 CDB：命令描述块。SCSI的命令及参数是填充在一定长度的数据块内传输的SCSI技术简介常见SCSI Opcode表Opcode含义含义0 x00TEST UNIT READY 查询设备是否已经准备好进行传输0 x1aMODE SENSE(6) 请求模式页面（设备参数）0 x12INQUIRY 请求设备基本信息0 x25READ CAPACITY 请求存储容量信息0 xa0REPORT LUNS

24、报告逻辑单元数量0 x28READ(10) 读0 x2aWRITE(10) 写Read Capacity(10)的SCSI Opcode为0 x25SCSI的缺点 SCSI是点对点的、直接相连的计算机到存储器的设备接口，不适用于主机到存储器的存储网络通讯 SCSI总线的长度被限制在25米以内，对于Ultra SCSI长度限制为12米，不适于构造各种网络拓扑结构 SCSI总线上设备数限制为15，不适用于多服务器对多存储设备的网络结构 iSCSI协议概述iSCSI协议栈应用层SCSI层iSCSI层传输层网络层链路层EthernetIPTCPiSCSISCSIApplicationInitiator

25、Logical UnitSCSIiSCSITCPIPEthernetTarget连接random port3260RJ45RJ45会话I/O请求SCSI接口传输层接口应用层SCSI层iSCSI层传输层网络层链路层The well-known user TCP port number for iSCSI connections assigned by IANA is 3260and this is the default iSCSI port.iSCSI协议概述iSCSI报文封装如上图所示：iSCSI节点间交互报文均是以iSCSI PDU的形式封装在TCP/IP/Ethernet内以太网帧以太网

26、帧头14BytesIP数据报IP头部20BytesiSCSI头部BHS 48BytesTCP头部20 BytesTCP段以太网尾部4BytesiSCSI协议概述iSCSI PDU定义lPDU（Protocol Data Unit，协议数据单元）包括u基本头（Basic Header Segment，BHS，48字节）u多个附加头（Additional Header Segments，AHSs）可选u头部校验位（BHS的循环冗余校验值，CRC） 可选u数据段 可选u数据段校验位（数据段的循环冗余校验值，CRC） 可选必选4. iSCSI协议概述iSCSI PDU格式Basic Header Se

27、gment (BHS) Additional Header Segment 1 (AHS) (optional) Additional Header Segment 2 (AHS) (optional) Additional Header Segment n (AHS) (optional) Header-Digest (optional)Data Segment(optional) Data-Digest (optional)iSCSI响应报文不能带AHSBHS必须包含在PDU中基本头00 1 2 3 4 5 6 7 0 1 2 3 4 5 6 7 0 1 2 3 4 5 6 7 0 1 2

28、 3 4 5 6 70123ByteBitByte04. iSCSI协议概述iSCSI PDU的基本头. | I | Opcode4F| Opcode Specific FieldsTotalAHSLength 8DataSegmentLengthLUN or Opcode-specific fields 16Initiator Task Tag 20Opcode-specific fields 4800 1 2 3 4 5 6 7 0 1 2 3 4 5 6 7 0 1 2 3 4 5 6 7 0 1 2 3 4 5 6 70123ByteBitByte0BHS（Basic Header U

29、nit），是每个iSCSI PDU必须包含的内容，它的长度也是固定的，永远是48个字节iSCSI协议概述iSCSI Opcode表Initiator Opcode0 x00 NOP In0 x01 SCSI Command 0 x02 SCSI Task Management Request0 x03 Login Request0 x04 Text Request0 x05 SCSI Data Out）（for write） 0 x06 Logout Request0 x10 SNACK Request0 x1c-0 x1e Vendor specific codesInitiatorTarg

30、etTarget Opcode0 x20 NOP Out0 x21 SCSI Response0 x22 SCSI Task Management Response0 x23 Login Response0 x24 Text Response0 x25 SCSI Data In (for read)0 x26 Logout Response0 x31 Ready To Transfer (R2T) 0 x32 Asynchronous Message 0 x3c-0 x3e Vendor specific codes0 x3f RejectRequestResponse提纲网络存储概述存储体系

31、架构RAID技术传输协议宇视存储产品介绍64注：说有产品标注的视频接入路数均为D1格式码流处理路数；管理平台&业务软件网络设备编码器解码器枪机/一体机球机VX150016盘位/256路扩展至80盘位VX1600VX5008盘位/64路VM5500视频管理服务器1000路HIC54211080P/CMOSEPONHIC5401720P/CMOSEPONSIC235-IR1540线/CCD10-20米红外SIC235-IR3540线/CCD30-40米红外SIC335E-VIR540线/CCD防暴/红外HIC3401-V720P/CMOS防暴/SIC635540线/CCD18X/26XHI

32、C6621-6C/6L1080P/CMOS20X/可选光纤EC1101-HF单路D1编码器EPONEC1501-HF单路D1编码器EPON/智能EC1801-HH单路1080P编码器HD-SDI/EPONEC1102-HF2路D1编码器EPON/光环网EC1504-HF4路D1编码器EPON/光环网/智能EC2004-HF4路D1编码器机架式EC2508-HF8路D1编码器智能/机架式EC2016-HC16路CIF编码器机架式EC2516-HF16路D1编码器智能/机架式DC1001-FF单路D1解码器DC1801-FH单路1080P解码器DC2004-FF4路D1解码器支持16路CIF解码N

33、EWS3100POE接入交换机S3600EPON OLT接入交换机S5800RRPP 光环网接入交换机S7500EEPON OLT汇聚交换机S10000数据中心级汇聚交换机S12500数据中心级核心交换机HIC6501-7C720P/CCD18XHIC3401-VIR720P/CMOS防暴/红外半球NEWECR3308HF8盘位/混合式8路D1模拟+24路数字ECR3316HF8盘位/混合式16路D1模拟+16路数字ISC3000-S8盘位/全数字32路输入/无人机ISC3500-S8盘位/全数字24路输入/8路解码ISC3500-E8盘位/全数字32路输入/16路解码ISC600016盘位/

34、128路扩展至64盘位IP摄像机网络存储设备NVRISC650024盘位/128路高清扩展至96盘位混合式DVR管理平台Video Manager 3.0视频管理服务软件单域5000路/多域10万路Data Manager3.0数据管理服务软件管理128台盘阵Media Switch 3.0媒体交换服务软件1024路转发Device Agent 3.0设备代理服务软件64台设备接入SDC3.0万能解码服务软件128路解码Traffic Media Switch 3.0交通媒体转发软件100个车道转发业务软件VM8500视频管理服务器5000路DM8500数据管理服务器管理128台盘阵MS8500媒体交换服务器1024路转发ISC3000-E8盘位/全数字主机256路管理/外接存储S3600全光口接入交换机卡口摄像机HC121-E单车道摄像机1616*1232内嵌智能/35mmHC321-E 出入口摄像机1616*1232内嵌智能/16mmHC122-E双车道摄像机1920*1088内嵌智能/35mmNEWNEWNEWVX30006532路高清存储128 路高清存储256 路高清双控存储64 路高清存储25