（计算机应用技术专业论文）基于ssd的虚拟硬盘的研究设计与应用.pdf

繁譬曼t ；王 _ - 独创性声明 肿i ii l ll lll lll ll li i i ill 18 0 2 5 13 本人声明所呈交的学位论文是本人在导师指导下进行的研究工 作及取得的研究成果。据我所知，除了文中特别加以标注和致谢的地 方外，论文中不包含其他人已经发表或撰写过的研究成果，也不包含 为获得电子科技大学或其它教育机构的学位或证书而使用过的材料。 与我一同工作的同志对本研究所做的任何贡献均已在论文中作了明 确的说明并表示谢意。 签名：f 堡鱼亟幺 日期：仉l 。年岁月必日 论文使用授权 本学位论文作者完全了解电子科技大学有关保留、使用学位论文 的规定，有权保留并向国家有关部门或机构送交论文的复印件和磁 盘，允许论文被查阅和借阅。本人授权电子科技大学可以将学位论文 的全部或部分内容编入有关数据库进行检索，可以采用影印、缩印或 扫描等复制手段保存、汇编学位论文。 ( 保密的学位论文在解密后应遵守此规定) 签名：噬导师签名： 日期：。 p v 摘要 摘要 存储部件是计算机系统的重要组成部分之一，随着计算机技术的发展以及人 们对数据存储量的需求不断增大，大容量存储系统已经出现在了各大企事业单位 的机房当中，因此作为专门的存储系统来说，如何提高它的安全可靠性是人们一 直致力于研究和发展的方向。 当今存储业界，对各式各样的功能各异的存储系统进行功能性、完整性、可 靠性以及兼容性测试是存储系统测试部门的主要任务。但在现有条件下，却很难 去快速、有效地完成。究其原因，不难发现大部分类型的硬盘对于存储控制器厂 商来说是一个黑盒子，即硬盘故障的来源、起因很难获悉，所以对硬盘本身故障 的控制就很难把握，因此也就无从谈起把硬盘接入存储机框对存储系统进行有效 的测试了。 另外，就存储系统本身而言，硬盘是作为外购件的形态存在的，因为硬盘本 身易坏且较昂贵，所以一直是存储系统可靠性与成本的短木板。因此研发测试、 生产装备拷机大量硬盘的使用与硬盘故障的不断出现，使得研发、生产流程一方 面成本居高不下，另一方面测试要求也很难达标。 在当前闪存容量不断升级、价格不断下调的情况下，闪存的可靠性也在不断 地增强，因此很多存储厂商的产品已慢慢的涉及到了固态硬盘s s d ( s o l i ds t a t e d i s k ) 领域。据了解，像e m c ，i n t e l 、日立等传统的存储厂商都已经有了固态硬 盘的现货供应。 就本人曾实习的企业也有了固态硬盘s s d ( s o l i ds t a t ed i s k ) 的研发生产部 门，它的s s d 产品也已经开始在市场上销售了。结合现状，我们提出这样的方案， 能否利用自身在掌握固态硬盘技术上的优势，研制出故障可控且成本较低的可重 复使用的虚拟硬盘。经过一系列对当前存储测试模式，测试方法的研究和评估， 以及项目立项的可行性认证，最终确定了研发设计这款基于s s d 的虚拟硬盘 r a m _ d i s k ，以此来解决存储测试中的测试盲区。 关键词：存储系统虚拟内存盘固态硬盘( s s d ) a b s t r a ( 了r a b s t r a c t ( h d d ) h a r dd r i v e rd i s ki so n eo ft h em o s ti m p o r t a n tc o m p o n e n to fac o m p u t e r s y s t e m w i t ht h ed e v e l o p m e n to fc o m p u t e rt e c h n o l o g ya sw e l la st h eg r o w i n gd e m a n d f o rd a t as t o r a g e ，h i g h c a p a c i t ys t o r a g es y s t e m sh a v eb e e nu s e d ，a sa m a i n s t r e m ，i nm a n y e n t e r p r i s e s a sas p e c i a l i z e ds t o r a g es y s t e m s ，h o wt oi m p r o v ei t ss e c u r i t ya n dr e l i a b i l i t y h a v eb e e nt h ef o c u so ft h er e s e a r c hi nt h ef i e l do fs t o r a g e n o w a d a y s ，t h et e s t i n gf o rf u n c t i o n a l i t y , i n t e g r i t y , r e l i a b i l i t y , a n dc o m p a t i b i l i t yo f s t o r a g es y s t e m sw i t hv a r i o u sf u n c t i o n sh a sb e e nt h em a i np a r to fs t o r a g et e s t i n g d e p a r t m e n t b u t ，b e l o wt h em o s tc u r r e n tc i r c u m s t a n c e ，i ti sd i f f i c u l tt oq u i c k l ya n d e f f e c t i v e l yr e a c hf o r o b v i o u s l yi ti sb e c a u s et h eh d di sa b l a c kb o x f o rs t o r a g e v e n d o r s ，t h a ti st os a y , t h es o u r c eo fh d d sf a i l u r ei sd i 衔c u l tt ol e a r na n di ti sh a r dt o c o n t r o lt h eh d d sf a i l u r e ，n o tm e t i o nt h ee f f e c t i v et e s t i n gf o rs t o r a g es y s t e mo nt h e c o n d i t i o nm a k i n gh d d c o n v e yt ot h es t o r a g es h e l f o nt h eo t h e rh a n d ，a sf a ra st h es t o r a g es y s t e mi sc o n c e r n e d ，t h eh d d e x i s ta sa o u t s i d ep a r tb e c a u s et h eh d di t s e l fi sp e r i s h a b l ea n de x p e n s i v e ，w h i c hm a k e si tb et h e s h o r tp l a n kf o r s t o r a g es y s t e m sr e l i a b i l i t ya n dc o s t t h e r e f o r e ，t h er e s e a r c ha n d d e v e l o p m e n tt e s t i n g ，t h et r e m e n d o u su s i n go fh d di np r o d u c i n gs t o r a g ea n dt h e h d d sf a i l u r eh a v em a d et h eh i g hc o s to fp r o d u c t i o na n dr & da n dm a k ei ti m p o s s i b l e t om e e tt h er e q u i r e m e n to f t e s t i n g b e c a u s et h ef l a s hm e m o r y sr e l i a b i l i t yh a sa l s ob e e ne n h a n c i n gw i t ht h eu p g r a d eo f i t sc a p a c i t ya n dt h ed r o po fi t sp r i c c s ，al o to f s t o r a g ev e n d o r sg r a d u a l l yf o c u so nt h e s s d ( s o l i ds t a t ed i s k ) a r e a i ti ss a i dt h a tm a n ys t o r a g ev e n d o r sl i k ee m c ，i n t e l ， h i t a c h ih a v eh a dt h e i rs s do nt h es h e l f t h ee n t e r p r i s ei nw h i c hiu s e dt ob eai n t e r na l s oh a sh a dss dr & d d e p a r t m e n ta n d i t ss s d sa r ea l r e a d ys e r v i c e do nt h em a r k e t w ep r o p o s es u c hap r o g r a mo nt h es t a t u s q u o t e t h a tw h e t h e rw ec a nm a k ear e u s a b l ev i r t u a lh d dw i t hl o w c o s t a n d e a s y - c o n t r o l l e df a i l u r eb yt a k i n gt h ea d v a n t a g eo fs s dt e c h n o l o g y a f t e ras e r i e so f t e s t so nt h ec u r r e n ts t o r a g em o d e ，t h er e s e a r c hf o rt h et e s tm e t h o da n de v a l u a t i o na sw e l l a st h e f e a s i b i l i t yo ft h ep r o j e c t ，w ef i n a l i z e dt or e s e a r c ha n dd e s i g nr a md i s k ( t h e i i a b s t r a c t s s d - b a s e dv i r t u a lh d d ) i no r d e rt os o l v et h eb l i n ds i d ei nt h es t o r a g et e s t i n g k e y w o r d s ：s t o r a g es y s t e m ，v i r t u a lm e m o r yd i s k ，s o l i ds t a t ed i s k i i i 目录 目录 第一章绪论1 1 1 课题研究背景1 1 2 课题的研究意义4 1 3 本文的组织结构5 第二章存储系统6 2 1 存储系统的发展及分类6 2 1 1 存储系统的概念一6 2 1 2 存储系统的分类一9 2 1 3 磁盘阵列13 2 2 虚拟硬盘支持的存储测试领域1 9 第三章存储介质硬盘2 1 3 1硬盘的发展及结构2 1 3 1 1 硬盘的发展2 l 3 1 2 硬盘存储盘片的结构2 2 3 1 3 测试相关的硬盘技术参数2 3 3 2 硬盘的分类2 4 3 2 1 传统硬盘2 4 3 2 2 固态硬盘s s d 2 4 第四章虚拟硬盘的相关技术研究2 4 4 1a t a 切议2 5 4 1 1 什么是鼬r a 协议2 5 4 1 2 鼬r a 体系结构模型2 5 4 1 3 协议基础2 8 4 2s m a r t 信息3 5 4 3i d e n t i f y 信息3 7 第五章基于s s d 硬盘的虚拟硬盘的设计及实现3 8 5 1 虚拟硬盘的结构设计3 8 5 1 1 固态硬盘的架构及工作流程3 8 i v 目录 5 1 2 虚拟硬盘的架构及工作流程3 9 5 1 3 虚拟硬盘的软件模块划分4 0 5 2 虚拟硬盘的上电初始化关键技术一4 1 5 2 1s m a r t 信息的构造4 1 5 2 2i d e n t i f y 信息的构造4 4 5 2 3 上电初始化4 6 5 3 测试业务模块的实现4 8 5 3 1 业务的分类4 8 5 3 2 部分测试业务模块的实现原理4 8 5 4 认证模块的实现一5 2 5 4 1 自有存储系统的认证5 3 5 4 2 其他存储系统的认证5 4 5 5 虚拟大容量存储的实现5 5 5 6 数据一致性测试的实现5 6 第六章虚拟硬盘的工作原理及测试应用场景6 0 6 1 虚拟硬盘的工作原理一6 0 6 2 利用虚拟硬盘进行测试6 0 第七章总结与展望6 3 7 1 全文总结一6 3 7 2 本文的创新点一6 3 7 3 未来展望6 4 致谢6 5 参考文献6 6 v 第一章绪论 1 1 课题研究背景 第一章绪论弟一早珀了匕 本论文来源于作者实习期间参与的一个科研项目，项目立项的目的是为了尽 最大可能的去覆盖存储系统【1 】【2 】【3 】测试中的测试盲区，进而提高存储系统在网的兼 容性和安全可靠性。 当前存储系统测试的方法是直接把大量的硬盘直接接入到存储系统机框中去 运行，然后观测存储系统对运行中出现的故障硬盘的处理方式是否符合要求。采 用这种方式的缺点是需要大量的硬盘，其中包括好的硬盘和有各种故障的硬盘。 但当前多数类型的硬盘价格较高，使得测试环境的物料成本居高不下，另外，具 有各种类型的故障的硬盘很难去收集齐并进行很好的分类。基于这些原因，存储 系统就无法进行全面的测试，这就是所谓的测试盲区。 据研究，在存储系统测试中，可以利用仿真卡( r a m _ d i s k ) 来代替传统硬盘 接入到存储系统中去运行。想要覆盖存储系统测试的所有盲区就得要求硬盘的故 障是可控的，但传统硬盘是无法注入各种故障的。当前一个单端口商用的故障模 拟仪器价格在十万元人民币以上，而使用故障可控的仿真卡后，不光可以方便的 通过模拟硬盘失效、硬盘坏道、硬盘告警，修改s m a r t 信息等方式来提高容错测 试的覆盖度，增强系统的可靠性，还可利用其可重复利用的特点在一定程度上降 低物料的成本。 再者，硬件系统的测试难度和成本较大，而仿真卡的误码监控、链路测试等 手段丰富了硬件的测试手段，并且它可在高低温环境下进行测试，提高测试的效 率和覆盖度，进而提高产品可靠性。 基于以上的分析，不难发现以硬盘形态出现的虚拟硬盘h 儿5 3 ( r a m _ d i s k ) 正是 一款成本低、可靠性高、故障可控的存储测试仿真卡，它可以大批量替代研发测 试、生产装备拷机中的传统硬盘。 图卜1 即是当前存储系统运行的场景 电子科技大学硕士学位论文 硬盘1 l 硬盘2存 a 纤或趴 机硬盘3 储 硬盘4系 婿线相连 系 硬盘5统 统 硬盘6 图卜l 存储系统作为主机的后备存储应用图 存储系统作为主机的主要存储或者后备存储使用，在运行过程中，会出现各 种各样的硬盘坏道，诸如硬盘不能读写且不可修复的i d n f 坏道、可修复的只可写 不能读的u n e 坏道，存储机框上这类硬盘故障的出现对于存储系统来说是很难及 时准确响应的，尤其是存储新产品，有时候甚至会出现遇到故障马上d o w n 机的状 况，这种故障对于数据安全性要求较高、且要求是7 - a - 2 4 小时运行的系统来说是 致命的。所以这就要求在存储产品研发及出生产线之前要通过精密的毫无遗漏的 测试，以此尽可能地消除对数据安全性及存储系统可靠性造成威胁的因素。但目 前硬盘对于存储控制器厂商来说是一个黑盒子，例如硬盘坏道的位置，故障的类 型都是无从知晓的。对存储系统进行测试，存储厂商通常的做法是在存储机框上 接入事先收集的故障硬盘，然后正常的使用存储系统，直到存储系统因为读写到 故障硬盘的故障处而d o w n 机或运行不正常为止，然后测试人员和研发人员一道通 过分析系统运行的日志，以此来了解存储系统对故障的响应机制并开展针对性的 故障修复。 图卜2 存储系统常规测试连接图 2 第一章绪论 图1 - 2 为存储系统常规测试示意图，在实际应用场景中，这种通过接入故障 盘来验证存储系统的可靠性、安全性、兼容性的测试方式并不能对存储起到全面 测试的作用，终其原因可以归结为以下的一些原因： 一现存的测试用的故障硬盘虽然不少，但却不能覆盖所有的硬盘故障 二现存的故障硬盘即使能够覆盖所有的硬盘故障，但这些故障在测试过程中并 不是可控，即这些故障不能在测试需要的时候就有，而不需要的时候就消失， 这给测试工作带来很大的不便 三现存的故障比如硬盘的坏道，它在硬盘当中出现的l b a 地址不可控，测试人 员就无法发测试存储系统对某个硬盘中的某个位置的故障，这样会留下很多 的测试盲区。 基于这些现存的原因，工程测试人员提出了开发一款可控的且是可重复使用 的硬盘，这样以上存在的测试问题就迎刃而解了，经过我们的需求分析和缜密考 虑，拟出了一个基于s s d 6 】的故障可控的虚拟内存盘r a md i s k 的测试方案，如图 卜3 所示： 图卜3 基于r a m _ d i s k 的测试连接图 正如图1 - 3 所展示的r a md i s k 应用场景一样，利用r a md i s k 对存储系统进 行测试，几乎所有的测试实例都能通过类似的测试方式来实现，唯一例外的是生 产线上的硬盘拷机功能只需要把r a md i s k 当作普通的可重复使用且可靠性很高 的硬盘使用即可。 3 电子科技大学硕士学位论文 1 2 课题的研究意义 虚拟硬盘的概念很早就出现了，在很多场合比如无盘工作站等系统中已经得 到了广泛的使用，但把虚拟硬盘引入到存储测试领域来却是鲜有的做法。 基于s s d 的虚拟硬盘，从概念上不难理解，首先它可以被认为是s s d 硬盘 f s o l i ds t a t ed i s k ) ，其次它也是块虚拟盘，如何来理解这个概念，可以这么描述， 基于s s d 盘的虚拟硬盘和s s d 硬盘非常类似，只不过在其上边做了些改造。 s s d 硬盘可以大致分成两部分一控制前端和数据存放后端。而基于s s d 盘的 虚拟硬盘的前端和s s d 的前端是非常类似的，只不过它比单纯的s s d 硬盘多了一 个硬盘故障模拟控制模块，这样就使得这个盘是一个可控制的硬盘；至于它的后 端和s s d 硬盘也很相似，它们后端的差别就在于s s d 原本用来存放普通数据的 f l a s h 芯片阵列只留下来一片f l a s h 芯片用来存放盘的固件和硬盘的基本身份 信息，而其他的数据存放位置则位于s s d 硬盘的原c a c h e _ 一s d r a m 处。 这样的两个变化就完全让s s d 盘变成一个读写速度非常快，且安全可靠、能 完全满足测试需求的虚拟硬盘。 看似由s s d 盘到虚拟硬盘的变化改动不大，前端增加故障控制模拟模块，后 端转移普通数据存放位置，但实际操作起来会遇到如下的一些问题： 1 在硬盘前端控制器模块处增加硬盘故障模拟控制模块，是一个棘手的问题， 因为这需要对硬盘的工作原理及结构有深入的了解； 2 对于硬盘的故障类型，很多硬盘厂商因为技术机密的问题，均未完全公开 硬盘故障类型及硬盘自我检测的信息说明，所以想要去收集硬盘故障的类 型种类及如何控制也是件不易的事情； 3 去掉s s d 硬盘的其他f l a s h 芯片，只留下存放固件和硬盘固有身份信息 的第一通道的一片f l a s h 芯片，原本通过多通道存放在不同f l a s h 芯片 上的硬盘固有身份及状态数据信息对于内存盘来说如何处理及构造； 4 对硬盘本身的数据信息的分析及测试，具体哪些信息是一个硬盘被接入存 储系统或p c 机能够正常工作的前提； 5 想要去修改硬盘的固件，改变它的工作模式，由原本读取f l a s h 的数据转 到只读写s d r a m 数据，必须对硬盘的工作模式非常了解，自然而然，a t a 协议是必不可少的，必须要深入的学习和研究。 从以上五个问题来看，可想而知，对由s s d 硬盘改造成的虚拟硬盘的研究需 要对硬盘本身的工作原理、硬盘常见的故障类型、硬盘的故障的处理方式等做详 4 第一章绪论 细深入的学习和研究，这是本课题的价值所在，也是我们学习存储技术的起点， 它可为今后深入的学习系列存储知识打下坚实的基础。 1 3 本文的组织结构 本文主要是实现基于s s d 硬盘的虚拟硬盘，中间涉及到很多的技术知识环节， 所以准备作如下的组织行文。 第一章、介绍当前存储业界的情况和课题的来源背景及研究意义 第二章、介绍存储系统工作的原理和存储系统的功能，并对存储测试领域所 涉及的知识作简单的介绍( 拷机、硬盘坏道、预测机制一s m a r t 信 息等) ； 第三章、介绍基本的存储介质硬盘的结构和工作原理( s s d 和传统硬盘) ； 第四章、介绍和虚拟硬盘相关的技术知识，如a t a 协议、s m a r t 信息、 i d e n t i f y 信息以及主机和硬盘的交互过程等； 第五章、基于s s d 硬盘的虚拟硬盘的架构及实现； 第六章、虚拟硬盘的应用； 第七章，总结与展望。 结合上述的行文组织及项目实施，我做的主要工作就是实现硬盘的被识别( 构 造硬盘身份信息) ，实现硬盘在存储上的认证，以及测试业务和虚拟盘网络配置的 实现。 在此过程中，我学习了大量的筒队协议命令和存储系统的工作原理，研究了 存储系统对硬盘的处理机制，为今后学习相关领域的知识做了铺垫。 电子科技大学硕士学位论文 第二章存储系统 2 1 存储系统的发展及分类 2 1 1 存储系统的概念 存储系统是计算机系统的重要组成部分，离开存储，人们对计算机的一切操 作都失去了意义，所以从计算机开始出现的那一刻起，存储就一直伴随着计算机 的发展和变化，存储介质从早期的纸带方式到磁带方式，再到后来的软盘、光盘、 硬盘存储介质，一直到今天的大规模网络存储系统n3 ，存储在生活的各个方面一直 扮演着无可替代的角色。 随着时间的演变，存储越来越被人们所关注，主要原因可以归结为存储发展 背后的推动力一存储使用的相对时间的局限性。 众所周知，在计算机系统中存储层次可分为高速缓冲存储器、主存储器、辅 助存储器三级。高速缓冲存储器h 1 用来改善主存储器与中央处理器的速度匹配问 题，而辅助存储器用于扩大存储空间。 纵观存储系统的发展历程，如下： 一传统计算机存储系统： 图2 - i 传统存储系统 传统的存储系统严格意义上来说并不成系统，它仅仅是一个简单的存储介质， 而作为一个简单的存储介质来说，它随着人们对数据存储量需求的不断变化越发 的凸现出它的局限性。 6 第二章存储系统 局限性主要表现在： 硬盘成为整个系统的性能瓶颈早期的传统硬盘读写速度难以 付大量的数据的读写 有限的硬盘槽位，难满足大容量需求 单个硬盘存放数据，数据可靠性难以保证 存储空间利用率低没有一个合理的数据管理 本地存储，数据分散计算机系统自成系统导致了数据本地存 的分散 二早期的外部存储系统： 鉴于传统存储系统的局限性，早期的人们就想把存储单独脱离计算机内部自 成体系，所以这个时期由多个外部硬盘构成的磁盘阵列【8 1 出现了，因为它仅仅是简 单的磁盘阵列，以j b o d ( j u s tb u n d l eo fd i s k s _ t l 简单磁盘捆绑”或者“磁盘簇”，又 称为s p a n ) 来组织硬盘的，而j b o d 不是标准的r a i d 级别，能够对硬盘数据提 供很好管理的存储控制器【9 】【l l 】【1 2 】【1 3 1 在当时还未出现，所以它只可被认为是早期的 磁盘阵列。 结构如下： 也到 l 螂i 卡 鼢 件h d f 图2 - 2 早期外部存储系统 综合分析早期的外部存储比起传统计算机系统来，局限性有所放宽，表现在 两方面： 第一：槽位有限问题已经解决 第二：单硬盘存放数据，难保可靠性的问题也解决了 7 电子科技大学硕士学位论文 余下的不足问题仍然为： 硬盘成为整个系统的性能瓶颈早期的传统硬盘读写速度难以 应付大量的数据的读写 存储空间利用率低没有一个合理的数据管理 本地存储，数据分散一计算机系统自成系统导致了数据本地存 储的分散 三智能磁盘阵列系统 可以这么说，没有控制器的存储系统实际上还是不成系统的，因为它不能对 磁盘阵列提供一个科学的管理和分配，所以存储系统一旦有了磁盘控制器，那就 应该被认为是智能化的存储系统或叫智能磁盘阵列【1 0 1 。 智能磁盘阵列结构如图2 3 所示： 图2 3 智能磁盘阵列系统 从图2 3 中，可以明显的看出来，此时的阵列已经有了控制器的参与，而控制 器里边就包含有r a i d 功能、大容量c a c h e 1 4 】，同时使得磁盘阵列具有多种实用的 功能，它还配置了专用的管理软件进行配置管理。较简单的阵列系统来看智能化 程度更高了。 随着需求的不断增加和要求的不断提高，磁盘智能化程度越来越高了，上图 所示的智能化磁盘阵列还有诸如数据处理分散、存储利用率低、难以管理等问题 的存在，这些问题将会随着网络和通信技术的发展而慢慢的消逝，后边章节将会 主要介绍网络存储系统【j 】。 那么到底什么是存储系统，在现在看来存储系统的概念较恰当的可以认为 第二章存储系统 是它“必须是具备了智能控制器的磁盘阵列，且支持网络的访问”。 2 1 2 存储系统的分类 因为本课题研究对象所针对的主要是智能化存储系统，而智能化存储系统在 当前一般指的是能够支持网络的智能化磁盘阵列系统，所以本节将主要介绍下当 前的支持网络的存储系统。 对智能化支持网络的存储系统做这么一个划分，分为d a s 、n a s 、s a n 三种。 1 d a s 一直接连接存储( d i r e c ta t t a c h e ds t o r a g e ) a p p lic a t10 ns er ve r fil e s y s te m 8 f c 、s c s i 2b 0 d 图2 4 典型的d a s 架构 特性如图2 - 4 所示： 直接将外置存储设备通过光纤或电缆连接到一台服务器上，存储设备采 用的是f c 或s c s i 技术 总的来看，存储设备是整个服务器的一部分，数据存储和操作系统并未 分离 d a s 的这种直连方式，能够很好的解决单台服务器的存储空间扩展，高 性能传输等要求 缺点是： 当数据量达到几百g 或t 级以上时，备份、恢复、扩展、灾备都有严 重的缺陷 数据的i o 读写性能和存储维护管理，紧紧依赖于服务器的操作系统和 服务器性能 数据备份、数据恢复都要占用服务器的资源( c p u ，系统1 0 ) 无法共享其它d a s 服务器的资源 图2 - 5 即为d a s 存储系统 9 电子科技大学硕士学位论文 它的主要逻辑结构为： 图2 - 5 典型的d a s 系统 v f s f s 块设备 ra i d 块设备 s d s c s 疆 f c 硬矗 图2 - 6d a s 的典型的逻辑结构 各层的主要功能为： 块设备主要是实现通过传输固定大小的随机数据来访问设备、1 0 调 度；在f s 和r a i d 之间有一层是块设备，主要原因是f s 只能看见r a i d 组的l u n ，所以在f s 和r a i d 之间加了一层块设备 r a i d 层的主要功能是实现r a i d i o 、r a i d 5 s d 层主要功能是把块设备下发的命令封装成c d b ，c d b 的一些重要单 元：操作码、逻辑单元号、逻辑区地址、传递数据长度、控制字节； c d b 有定长和不定长二种格式，而定长c d b 又有不同的规定长度，如： 6 、1 0 、1 2 、1 6 字节 s c s i 层主要功能是实现s c s i 协议、流控、错误处理，转发c d b 等； 对于s d 、s c s i 、f c 三层可以简单的看成是i p o 形式 f c 层主要实现f c 协议，下发命令给硬盘 2 n a s 一网络附加存储( n e t w o r ka t t a c h e ds t o r a g e ) 1 0 第二章存储系统 特点： n a s 是文件服务器发展的产物，它相当于一台专用的文件服务器。它基 于高速l a n 的组网和i p 协议的数据传输方式，提供基于n f s s m b 协议的 文件共享形式； n a s 适用于那些需要通过网络将文件数据传送到多台客户机上的用户。 n a s 设备在数据必须长距离传送的环境中可以很好地发挥作用； 易于部署和扩展，在网络可靠的情况下，几乎是即插即用；适用于部门 级的低成本的文件服务器；支持多种文件协议，数据共享性好。 图2 - 7 典型的n a s 架构 n a s 的缺点： n a s 设备与客户机之间主要是进行数据传输，由于与应用使用同一网 络，n a s 会增加网络拥塞，反过来，n a s 性能也严重受制于网络传输数 据能力 由于是文件级共享，不提供裸设备存储，因此不适于关系数据库( 其 高级特性如并行查询、全表锁定等将不能使用) 和o l t p 事务 3 s a n 一存储区域网络( s t o r a g ea r e an e t w o r k ) 特点： s a n 基于光纤通道( f i b r ec h a n n e l ) 或i s c s i 的电缆、交换机和集线 电子科技大学硕士学位论文 器；将很多存储设备连接在一起，再以很多服务器相连组成网络，实现 多点对多点的管理； s a n 的核心设备是磁盘阵列和磁带库，s a n 网络使用了光纤通道和交换 机技术，即使在s a n 中出现单点失败，也不会影响整个网络的运行； 由于使用了光纤通道，数据的传输速度有了很大的提高：备份恢复， 文件迁移等都不必通过局域网传输数据，这样数据传输和应用的性能都 有的很大的提高。系统的有很高的可靠性和性能。而且，在s a n 中，维 护或者更换设备以及对它进行配置，都不会影响整个网络 图2 - 8 所示为s a n 的典型架构 图2 - 8 典型的s a n 架构 s a n 的存储是可以以逻辑l u n 的方式提供给主机使用的，各个l u n 在逻辑上是 彼此独立的，也就是说彼此的好坏不会相互影响，所以这样同一个r a i d 下的不同 l u n 可以提供给不同的主机使用，图2 - 9 就是它的应用示意图。 1 2 第二章存储系统 图2 - 9 逻辑l u n 的应用场景 以上三种类型的智能存储系统就是我们所接触到最多的，通常它也是现在广 泛使用的存储系统，本课题所研究的对象对于这三种存储系统中的任意一种都会 有所辐射，所以在此做个简单的介绍，利于读者对后边章节的理解。 2 1 3 磁盘阵列 磁盘阵列简称r a i d ”】【1 6 】( r e d u n d a n t a r r a y so f i n e x p e n s i v ed i s k s ，r a i d ) ，有 “价格便宜且多余的磁盘阵列”之意。其原理是利用数组方式来作磁盘组，配合 数据分散排列的设计，以此来提升数据的安全性。磁盘阵列主要解决的是在硬盘 的容量及运行速度上，无法跟上c p u 及内存的发展步伐所提出的改善方法。磁盘 阵列是由很多价格便宜、容量较小、稳定性相对较高、速度较慢的磁盘组合成一 个大型的磁盘组，它利用个别磁盘提供数据所产生的加成效果来提升整个磁盘系 统的效能。同时，在储存数据时，利用分条技术，可将数据分条存放在各个硬盘 上。 磁盘阵列还能利用同位检查( p a r i t yc h e c k ) 的观念，在数组中任一颗硬盘故 障时，仍可读出数据，在数据重构时，将故障硬盘内的数据，通过其他盘上的分 条数据，经计算后重新置入新硬盘中。 简单的说，r a i d 是一种把多块独立的硬盘( 物理硬盘) 按不同的方式组合起 来形成一个硬盘组( 逻辑硬盘) ，从而提供比单个硬盘更高的存储性能和提供数据 电子科技大学硕士学位论文 的备份技术。 从以上概念来看，可以这么说没有r a i d 功能，一个存储系统就不称其为存 储系统，更不能把它和智能化挂上勾。 那么r a i d 到底有什么样的特性，我们从技术及r a i d 级别角度去分析 1 r a i d 技术的两大特点： 一提高数据存储速度 二保证安全 2 r a i d 的级别 概念：组成磁盘阵列的不同方式成为r a i d 级别( r a 工dl e v e l s ) 随着存储技术的不断发展，磁盘阵列技术也历经了飞速的发展，r a i d 现在已 拥有了七种基本的r a i d 级别，即为r a i d0 到6 。另外，还有一些基本r a i d 级 别的组合形式，如r a i d1 0 ( r a i d0 和r a i d1 的组合) ，r a i d5 0 ( r a i d0 和r a i d 5 的组合) 等。不同r a i d 级别代表着不同的存储性能、数据安全性。但我们最为 常用的是下面的几种r a i d 形式：r a i d0 、r a i d l 、r a i d0 + i 、r a i d3 、r a i d5 。 r a i do r a i d0 又称为s t r i p e ( 条带化) ，在所有基本的r a i d 级别中它的存储性能是 最高的。原因在于他没有数据冗余的情况，之所以它是所有r a i d 级别中性能最高 的，是因为它的存储原理足采用分条技术把连续的数据分散到多个磁盘上存取， 这样，系统存取数据的请求就可以被多个磁盘并行的执行，每个磁盘执行属于它 自己的那部分数据存取请求。而这种数据上的并行操作可以充分利用总线的带宽， 从而显著提高磁盘阵列整体存取性能。 图2 - 1 0r a i d o 磁盘阵列组上数据存放图 1 4 第二章存储系统 如图2 - 1 0 所示：系统向由三个磁盘组成的逻辑硬盘( r a i d o 磁盘组) 发出的 i o 数据请求被转化为3 项操作，其中的每一项操作都对应于一块物理硬盘。从图 中可以清楚的看到通过建立r a i d0 ，原先顺序的数据请求被分散到所有的三块硬 盘中同时执行( 条带方式存放) 。从理论上讲，三块硬盘的并行操作使同一时间内 磁盘读写速度提升了3 倍。但由于总线带宽等多种因素的影响，实际的提升速率 肯定会低于理论值，但是，大量数据并行传输与串行传输比较，提速效果非常显 著显然毋庸置疑，但也正是r a i d o 的这个特性也导致了它致命的缺点。 r a i do 的缺点： 从图2 - 1 0 可以很清楚看出，r a i d o 并不提供数据冗余操作，因此一旦数据遭 到破坏，再也无法得到恢复，这对数据的安全性有极大的威胁，所以r a i d o 一般 不会单独使用，通常情况下会和其他r a i d 级别联合使用，扬长避短，比如说r a i d 0 1 。 r a i d0 的优点： 通过上边的分析，可以知道采用分条技术的r a i d0 的优点就是存取数据速度 快，通常用在对数据存取性能要求较高，但对数据安全性要求不太高领域，如图 形工作站等r a i d0 是提高硬盘存储性能的不二之选。 p a d1 r a i d1 又称为m i r r o r ( 镜像) ，它的宗旨是以最大的努力保证用户数据的可 用性和可修复性。r a i d1 的操作方式是把用户写入硬盘的数据百分之百地自动复 制到另外一个硬盘上，以此来保证数据的安全性，所以它的硬盘的利用率是最低 的，因为采用了完全冗余的操作。 图2 一iir a i d1 磁盘阵列组上数据存放图 电子科技大学硕士学位论文 如图2 1 1 所示：当读取数据时，系统先从源盘d i s k0 处读取数据，如果读取 数据成功，则系统不会去管备份盘上的数据；如果读取源盘数据失败，则系统自 动转而读取备份盘上的数据，所以它并不会因为源盘数据的丢失或破坏而给用户 的工作带来不便或延迟。当然，在出现源盘数据被破坏的情况下，我们应及时地 更换损坏的硬盘并启动存储系统的自动备份功能，对数据重新建立m i r r o r ，避免 备份盘在发生损坏时，造成不可挽回的数据损失。 r a i d1 缺点： 从图表2 1 1 所示，存放的数据是百分之百备份，因而r a i dl 的磁盘空间利 用率低，存储成本高。 r a i d1 优点： 同样，从图表2 - 1 1 处可以了解到，正是因为数据的百分之百的备份，它在所 有r a i d 级别中提供了最高的数据安全保障 r a i d0 + i 正如此r a i d 级别名称一样，它是集r a i d o 和r a i d l 的优点于一身，互补缺陷 的一种做法。 图表2 1 2r a i d o + i 磁盘阵列组上数据存放图 数据存储方式如图2 - 1 2 所示：r a i d0 + i 是存储性能和数据安全兼顾的一种常 用方案。它在提供与r a i dl 一样的数据安全保障的同时，也提供了与r a i d0 近 似的条带存储性能。 由于r a i d0 + i 也通过数据的1 0 0 备份功能提供数据安全保障，因此r a i d0 + i 的磁盘空间利用率与r a i dl 相同，所以存储成本高，是这种存储方式不可避免的 缺陷。 1 6 第二章存储系统 由此可见，它特别适用于既有大量数据存取需要，又对数据安全性要求较高的 场合，如银行、金融、仓储库房、各种档案管理等。 r a i d5 r a i d5 是一种存储性能、数据安全和存储成本兼顾的存储解决方案，以图2 - 1 3 为例 图2 1 3r a i d 5 磁盘阵列组上数据存放图 在图2 1 3 中，p 0 为d o ，d l 和d 2 的奇偶校验信息，其它以此类推。r a i d5 不 对数据进行冗余备份，而是把数据和对应的校验信息存储到r a i d 5 的各个磁盘上， 且校验信息和相对应的数据分开存放在不同的盘片上。当其中的一个磁盘发生坏 数据后，用户可利用剩下的数据和相应的校验信息来恢复损坏的数据。 由此可见，r a i d5 可以理解为是r a i d0 和r a i d1 的折衷方案 图2 1 4 给出一个不同r a i d 等级的硬盘利用率 r a i d 类受剽甩率 o1 0 0 ， 11 ，n 1 05 麟 5 t n 4 ，1 1 6 ( n - - 2 ) n 图2 1 4 硬盘利用率 1 7 电子科技大学硕士学位论文 而对于存储系统中的r a i d 它的流程大概可以表示如下： 图表2 1 5r a i d 流程 下面是有关磁盘阵列的一些概念 1 、磁盘镜像( d i s km i r r o r i n g ) ：磁盘镜像最简单的形式是，一个主机控制 器带两个非常互为镜像的磁盘。数据同时写入两个硬盘，两个硬盘上的数 据完全相同，因此一个硬盘故障时，另一个硬盘可提供数据备份。 2 、硬盘数据跨盘( d i s ks p a n n i n g ) ：利用这种技术，几个硬盘看上去是一个 大硬盘；这个虚拟盘可以把数据跨盘存储在不同的物理盘