数据库存储环境ppt课件

.,8.2数据库存储环境,8.2.1存储控制结构8.2.2RAID技术8.2.3存储区域网络（SAN）8.2.4网络连接存储（NAS）8.2.5多级混合存储8.2.6存储缓冲区8.2.7存储设备的性能评价,.,8.2数据库存储环境,存储器涉及的一些主要部件1.前端口(卡)2.后端口(卡)3.控制器4.Cache,.,8.2.1存储控制结构,1.双控制器体系结构,.,从图中可以看到，两个控制器通过交换连接方式点对点地连接了四个磁盘。每个磁盘分别通过两个后端口连接至两个不同的控制器上。这种结构提供了良好的容错性，其中某个控制器失效后不会影响存储系统运行。端口的数目决定了控制器的级别，存储级别越低，端口越少；端口越多，代表可以连接的主机或者存储设备也就越多，所对应的存储设备的内部带宽也更大。,.,8.2.1存储控制结构,2.多控制器结构,.,在高端存储系统中（如EMC产品，EMC公司是外部存储系统、整体存储软件和虚拟化软件主要提供商），Cache是其中心。它们采用多控制器体系结构，OS以微码的形式集成在前端卡与后端卡中；每个前端卡与后端卡都有自己的CPU，可以认为是一个单独的控制器。在双控制器体系结构中，如果损坏一个控制器，它们的性能会降低50以上，因为缺少了写Cache会导致写的速度严重变慢。在多控制器结构中，Cache是作为存储的核心而单独存在的，任何一个Cache硬件模块的损坏，都可以由别的Cache替代，不会导致严重的性能下降问题。多控制器的体系结构，一般分为总线结构、交叉结构和直连结构。总线结构效率低，交换结构和直接结构是比较常用的结构。图8.4是多控制器的体系结构示意图。,.,8.2.2RAID技术,数据库服务器可以安装多个磁盘，多个磁盘同时工作可以提高I/O系统的带宽。其方法是将数据分布存储在各个磁盘中，应用系统可以并行地从几个磁盘存取收据。在并行情况下，同时使用几个磁盘可以提高数据传输带宽几倍。这种将几个磁盘连接到一个控制器上获得更高的数据传输带宽和数据冗余容错能力的方法称为冗余磁盘阵列RIAD（RedundantArraysofInexpensiveDisks),.,RAID技术按照数据块大小来分类可以分为细粒度RAID和粗粒度RAID实现冗余的方式和数据划分粒度是区分五个级别RAID，分别称为RAID1、RAID2、RAID3、RAID4、RAID5,.,RAID1使用阵列中的一半磁盘保存信息而另外一半磁盘的作为备份存储。RAID2通过Hamming码来实现冗余，这些代码包含数据组件不同重叠子集的奇偶校验信息。RAID3是使用位间隔存储的奇偶校验。RAID4解决了RAID3的存在的第一个缺点。RAID5通过将奇偶校验信息均匀分布到所有磁盘上的方法解决了奇偶校验磁盘读浪费的缺点，其他与RAID4类似。,.,8.2.3存储区域网络（SAN）,SAN主要有FCSAN与IPSAN之分，FCSAN主要是采用光纤通道（FiberChannel）协议的存储子网，IPSAN主要是通过TCP/IP协议组成的存储子网，如ISCSI存储。本节主要介绍FCSAN。,.,FCSAN示意结构,.,8.2.4网络连接存储（NAS）,网络连接存储（NAS，NetworkAttachedStorage），也称作“网络存储器”，作为一个独立的连接在网上的存储设备，是专用的数据服务器，可通过网络接口与应用服务器连接，支持通用数据传输协议，具备在异构服务器间共享数据的能力。,.,SAN和NAS的区别：（1）SAN是一种网络，NAS产品是一个专有文件服务器或一个文件管理设备。（2）SAN是在服务器和存储器之间用作为I/O的专用网络。（3）SAN包括面向块（SCIS）和面向文件（NAS）的存储产品。（4）NAS产品可以通过SAN连接到存储设备。,.,8.2.5多级混合存储,目前，网络数据库应用已经成为主流，并且已经形成众多不同的存储技术，如ISCSI、NAS和SAN等。不同的存储技术各有优点和缺点，如SAN具有高带宽、高速度的特点，其可以用来构建海量数据存储中心，但其缺点是难以跨大距离分布，所以只能用它构建局部存储中心。再如，NAS通过通用网络的支持，适合构建远程的、异构的存储中心，其有更好的分布支持能力。所以，我们可以根据实际情况的需要构建基于多个技术的混合的数据存储和管理中心，来适合不同级别数据存储的需要，因而需要多级混合存储。图8.6给出一个多级混合存储事例。,.,.,图中集中展示了SAN、NAS、ISCSI、数据库服务器机群、应用服务器集群之间的关系，在以上的结构中，我们可以看到如下特点：（1）FCSAN的FC协议与IP协议是独立运行的，所以服务器机群能访问的SAN网络与服务器机群访问的TCP/IP网络也是独立的。数据库服务器机群即可以访问FCSAN环境上的存储，也可以防问ISCSI存储系统与NAS系统。应用服务器只可以访问ISCSI存储系统与NAS系统。（2）ISCSI是基于TCP/IP协议的，任何连接到TCP/IP网络上的计算机，包括应用程序服务器，都可以访问它。但是它本身不提供任何服务，只是简单地提供块存储空间，如果需要使用ISCSI存储，则需要ISCSI提供逻辑设备，并在计算机上映射具体的硬盘物理卷。（3）NAS也是基于TCP/IP协议，任可连接到TCP/IP上的计算机，都可以访问它的存储空间。但NAS本身具有操作系统与文件系统，它的协议决定了它具有很强的跨平台性。任何访问NAS的计算机，只需要简单地根据IP地址，登录指定的目录即可直接使用。而且，不同的计算机可以同时使用一个NAS设备。,.,8.2.6存储缓冲区,存储缓冲区（Cache）是位于存储控制器或底层存储设备（如硬盘）上的内存储器，其运行速度级别远远高于磁盘等存储介质。数据存储操作有写操作和读操作，存储缓冲区设置的目的是提高这些操作的速度，以便有更好的并发支持能力。,.,8.2.7存储设备的性能评价,存储设备的主要评测指标主要有3个：（1）每秒IO个数(IOPS)参数（2）带宽（3）单个I/O响应时间,.,（1）每秒IO个数(IOPS)参数决定IOPS的因素主要为：磁盘个数、Cache命中率以及阵列的算法。磁盘个数是决定存储IOPS的最关键的因素。每个磁盘的最大IOPS个数可以根据其转数、Cache容量及结构来决定。这里假设10000rpm的硬盘的IOPS值为100，15000rpm的硬盘的IOPS值为150，而IDEATA硬盘的IOPS值为50。那么，如果一个存储阵列有160块15000rpm的光纤硬盘，该存储阵列能支撑的磁盘IOPS为：磁盘数目X每个磁盘的IPOS=160X150=24000。这时，如果对该存储阵列的磁盘上的IOPS超过这个值，该存储阵列将可能变得非常缓慢而无法正常工作。如果在存储阵列上加上较大的Cache，那么存储阵列能真正支撑的IOPS将大于这个值。如果加上Cache，那么将如何计算IPOS？。假定Cache命中率在正常业务运行的情况下可以达到35，那么，以上160块15000rpm的硬盘能支撑多少IOPS?计算方法：IOPS=磁盘数目X每个磁盘的IPOS/磁盘访问比率=160*150/(135%)=24000/065=36923。在这种情况下，整个存储阵列最大可以支撑36923个IOPS。假定现在存储阵列接收到的IOPS为15000，存储命中率为20%，计算每块磁盘的IOPS个数。计算结果为：阵列总IOPSX磁盘访问比率/磁盘数目=15000X（1-20%）/120=100。这时，每块磁盘承受IOPS个数为100个。影响IOPS值的还有存储阵列的操作算法，如Cache算法、寻道算法、预读算法等，它们对IOPS与Cache命中率也有直接或是间接的影响.,.,（2）带宽存储设备吞吐量主要取决于硬盘的个数、光纤通道的数量和带宽、存储的IOPS。每个物理硬盘有其能支持的最大数据带宽。10000rpm的硬盘的带宽值为10MB/s，15000rpm的硬盘的带宽值为13MB/s，而IDEATA硬盘的带宽值为8MB/s。那么一个存储的带宽的计算公式如下：磁盘个数X单个磁盘的带宽。假定一个存储阵列有120块15000rpm的光纤硬盘，那么硬盘上最大的可以支撑的数据带宽为120X13MB/s=1560MB/s。光纤通道对存储的带宽影响还是比较大的。一块2Gb的光纤卡，所能支撑的最大带宽应当是2Gb/8=250MB/s；如果配置4块2Gb光纤卡就能达到1GB/s的带宽流量。,.,（3）单个I/O响应时间第三个评测存储的指标就是单个I/O的响应时间。单个I/O的响应时间与IOPS的当前值、吞吐量大小及Cache命中率都有密切的关系。单个IO的响应速度越快的越好。研究测试表明，一个IO的响应时间在20ms以内，应用基本可以正常工作。但在OLTP环境下，最佳的单个IO响应时间建议在10ms以内。,.,8.3高速网络互联,8.3.1网络性能参数8.3.2高速网络技术8.3.3ServerNet8.3.4InfiniBand,.,8.3.1网络性能参数,本节将介绍网络延迟、网络带宽和吞吐量的描述和测试方法。延迟（L）是从发送方到接收方发送最小消息所需要的时间。带宽（B）用来描述数据从发送方到接收方传输速度的度量。吞吐量吞吐量函数定义为T（S）=S/D（S），S是以字节计算的消息长度,.,8.3.2高速网络技术,高速互联网络具备的特性：（1）可扩展的网络结构（2）软件可靠性校验与通信延迟（3）网络连接介质（4）包交换模式（5）流控制（6）集体通信,.,8.3.3ServerNet,ServerNet由两个主要部分组成：（1）到系统总线接口和多种I/O接口的端节点;（2）连向同一机群系统所有端节点的路由器。其主要的设计目标是构建在两个I/O设备间直接传输数据的能力，这样就使处理器免于处理简单的数据复制工作。由于支持多项同步I/O传输。ServerNet消除了I/O瓶颈，提供了可扩展的机群服务器。图8.7显示了一个示例系统的结构。多数ServerNet使用I/O(PCI)适配器连接。,.,.,主要特征,1）ServerNet链路ServerNet是十全双工、蠕洞交换的网络。最初使用了9位并行物理接口，带有LVDS/ECL信号机制，运行于50MHZ的ServerNet将物理带宽提高到125MB/s，推动标准8b/10b串行器/解串行器连往1000BaseX(Gb以太网)标准线缆。有了串行铜线缆的支持，ServerNet能够跨距更长的距离。链路是以异步方式操作的，通过周期性地插入接收者产生的SKIP控制符，避免了缓存溢出。两个链路端节点交接特殊的流控制符，以保证数据不会因为缺少缓存空间而被丢弃。（2）数据传输基本数据传输机制是基于DMA的远端内存的读/写。可以命令一个端节点从（向）远端内存位置读/写不超过64字节的数据分组。分组的地址包括ServerNetID，ServerNetID可以唯一地指出了一个端节点以及其到目的地的路径。（3）容错ServerNet的一个主要特征是它支持多个级别上保证无错的顺序数据传递。在链路层，每个网络级检查CRC码，验证消息是否被正确接收。每个链路都要通过定期交换心跳控制符来检查。每个端节点通过向发送者发回确认信息来保证正确的传输。（4）交换机ServerNetI提供6端口交换机，可以连接成任意的拓扑结构。输入及输出端口保持FIFO缓存固定数量的数据，通过13X13门闩连接。多个物理链路可以被用来构造一个逻辑链路，连接两个同样的链路端点。交换机现在也可以配置成能够动态地选择一条链路，在重负载情况下更好地利用链路。,.,8.3.4InfiniBand,InfiniBand是一个统一的互联结构，既可以处理存储I/O、网络I/O，也能够处理进程间通信(IPC)。它可以将磁盘阵列、SANs、LANs、服务器和集群服务器进行互联，也可以连接外部网络（比如WAN、VPN、互联网）。设计InfiniBand的主要目的是用于企业数据中心，满足其高可靠性、高可用性、高可扩展性和高性能的需求。InfiniBand可以在相对短的距离内提供高带宽、低延迟的传输，而且在单个或多个互联网络中支持冗余的I/O通道，因此能保持数据中心在局部故障时仍能运转。,.,InfiniBand主机通道适配器和多CPU、存储总线间的关系,.,主要特征,（1）串行传输InfiniBand基于全双工，交换串行传输。InfiniBand使用串行传输技术比PCI并行总线能提供更远的距离和寻址能力。InfiniBand利用主机通道适配器（HCA）将外设连接到系统总线上，取替了传统的PCI桥芯片。同时HCA适配器将比PCI控制器支持更多外设。图8.8显示了一个InfiniBand主机通道适配器和多CPU、存储总线间的关系。2）传输率InflniBand是一个全双工通信技术，单方连接速度可以达到2.5GB/s。InfiniBand版本1的全双工通信建度就达到5GB/s。另外InfiniBand支持主动连接建立多个传输组跨越4到12个连接性能提高4信及12倍。也就是说InfiniBand单向传输速度是2.5GB/s、l0GB/s和30GB/s，相比PCI的1GB/s传输速率要快的多。（3）外部系统扩展系统通过外部扩展，而不是利用系统内部的扩展槽。并行总线信号不易通过外部电缆传输，所以传统的计算机将外设安装在系统内部。这样PCI的距离限制了系统设备的扩展。InfiniBand的应用对于建立更大和更快逮的服务器系统很重要。作为串行传输技术，InfiniBand的电路和传输距离比PCI的更远，使一些热力拔插设备安装在系统的外部、并且采用独立的供电系统，这一设计思想简