NDMP测试报告.docx

tsm基于ndmp的备份-恢复测试报告tsm_ndmp备份-恢复测试报告一、 测试目的：由于nas环境下网络备份方案已经被广泛使用，但大数据量文件通过lan网络和备份管理服务器会带来诸多弊端，这种方式对备份管理服务器的i/o吞吐量要求极高，此外，最令客户难以忍受的是备份数据流对网络资源的占用，甚至可能会影响正常业务的运行。与san环境下成熟的lan-free技术一样，通过ndmp协议备份是当前业界解决大数据量nas备份的方法。通过为nas设备和备份软件程序之间的接口定义一种通用代理，ndmp最小化了对网络资源的需求，并且实现了本地备份和灾难恢复。本文描述了tsm实现ndmp备份的物理连接方式和tsm配置，本文涉及到的备份软件tsm及磁带库等硬件设备均支持ndmp协议。网络数据管理协议（ndmp）是一种基于企业级数据管理的开放协议。ndmp 中定义了一种基于网络的协议和机制，用于控制备份，恢复，以及在主要和次要存储器之间的数据传输。ndmp结构基于客户机/服务器模型，文件备份管理软件用作客户机。tsm通过ndmp备份nas有多种方案，包括：nas独占带库；nas共享磁带库；或者nas与tsm服务器、nas与存储代理程序、nas文件服务器间驱动器共享等方式，本次测试中采用的为nas独占带库方式。即磁带库只连接到nas文件服务器，驱动器和磁带全部被nas设备独占，tsm服务器不直接操纵机械手，而是通过将库命令通过网络发送到 nas 文件服务器控制库自动装置。nas 文件服务器将命令传送到磁带库。库生成的任何响应都将发送到 nas 文件服务器，并通过网络传送回 tivoli storage manager 服务器。本测试用以验证ndmp备份方式的备份效率及恢复。二、 测试环境2.1硬件：l ibm ts3100磁带库（一个fc lto4驱动器，6盘lto4磁带，单逻辑带库）l netapp fas3000系列nas存储l dell r710服务器（tsm server）l cisco 3750以太网交换机l 普通pc工作站（tsm client）2.2软件：tsm serverwindows server 2003 standard editionibm tivoli storage manager v5.4.3ibm tivoli storage manager backup client v5.4.3tsm clientibm tivoli storage manager backup client v5.4.3三、 网络拓扑图nas独占带库方式：磁带库通过fc直连到netapp头，tsm server和client通过以太网连接到netapp头，tsm server以及client对磁带库无操作权限，tsm server在该环境中相当于任务分发服务器，对带库的操作全部由netapp来执行。需要在netapp中开通一个拥有ndmp权限的帐号，用于tsm与netapp通信。四、 ip规划表roleip addressuser idpasswordport numbernetapp_nodendmp12345610000netapp_nodendmp12345610000tsm serveradminadmin1580tsm clientnode1password1500五、 测试项目1. tsm基于ndmp的备份（完全、差异）2. tsm基于ndmp的备份查询3. tsm基于ndmp的完全恢复4. tsm基于ndmp的指定恢复5. tsm基于ndmp的指定时间点备份恢复六、 tsm安装配置6.1 默认安装tsm server6.2 常规建立tsm server服务实例6.3 打开tsm server web页面，执行如下命令define library naslib libtype=scsi定义一个名为naslib的库define devclass nasclass devtype=nas library=naslib mountretention=0 estcapacity=30000g定义nas devclass，指定devtype为nas类型define stgpool naspool0 nasclass maxscratch=10 dataformat=netappdumpdefine stgpool naspool1 nasclass maxscratch=10 dataformat=netappdump定义两个名为naspool0和naspool1的nas存储池，数据格式为netapp转储。define stgpool tocpool disk定义toc存储池，此创建目录所使用的磁盘存储池，创建目录在恢复的时候可以指定文件进行恢复（建立完成后在池内添加一个磁盘卷）。define volume tocpool c:windowssystem32toc_vol.dsm formatsize=1024在tocpool中添加一个大小为1gb的磁盘卷define domain nasdomain description=policy domain for nas file servers为nas服务器创建策略域。define policyset nasdomain standard为nas服务器创建策略集。define mgmtclass nasdomain standard mc1为nas服务器创建管理类。define copygroup nasdomain standard mc1 destination=naspool0 tocdestination=tocpool verexists=4在缺省管理类中定义副本组。目的地指定到为ndmp创建的存储池（包括nas存储池和toc存储池）；verexists指定保存备份版本数。assign defmgmtcalss nasdomain standard mc1设定缺省管理类为mc1。validate policyset nasdomain standard验证策略集。activate policyset nasdomain standard激活策略集。register node 5200 password domain=nasdomain type=nas注册一个名为5200的nas节点。define datamover 5200 type=nas hladdress= lladdress=10000 userid=ndmp password=123456 dataformat=netappdump将名为5200的nas节点定义成一个datamover。define path 5200 naslib srctype=datamover desttype=library device=mc0定义库路径。define drive naslib nasdrive1 element=256定义驱动器。define path 5200 nasdrive1 srctype=datamover desttype=drive library=naslib device=rst0h定义驱动器路径。在定义库路径和驱动器路径的时候，需要用到带库和驱动器的设备名，我们通过ssh连接到netapp管理中，输入sysconfig m和sysconfig t来查看，如下图所示：label libvolume naslib search=yes labelsource=barcode checkin=scratch overwrite=yes标记磁带在磁带标记完成后，我们输入q libv命令查看标记好的库卷，如下图所示：define volume naspool0 100032l4 access=readwritedefine volume naspool0 100033l4 access=readwritedefine volume naspool0 100034l4 access=readwrite将编号为100032l4至100034l4的磁带添加进naspool0存储池。define volume naspool1 mx9926l4 access=readwritedefine volume naspool1 mx9927l4 access=readwritedefine volume naspool1 mx9928l4 access=readwrite将编号为mx9926l4至mx9928l4的磁带添加进naspool1存储池。grant authority node1 classes=node node=5200 auth=owner为了使用客户机备份，还需要建立一个名为node1的标准tsm节点，建立完成后，授权node1具有5200节点的所有者权限。至此，tsm server配置完成。七、 备份测试7.1 测试方法服务器端，我们输入backup node 5200 /vs0/test1 toc=yes命令即可启动ndmp备份test1目录并生成toc。客户端，我们输入backup nas -nasnodename=5200 /vs0/test1 toc=yes -mode=full命令即可启动ndmp完全备份test1目录并生成toc。7.2 备份测试通过tsm备份netapp中test1目录，该目录大小330mb，如下图所示：通过查看tsm日志，可以看到：管理员发出备份命令时间为03/23/2011 12:29:56磁带库mount磁带完成时间为03/23/2011 12:30:45tsm返回备份成功时间为03/23/2011 12:31:13由于磁带为线性存储，mount到驱动器后还需要花费15至40秒倒带到存储数据的点（此次测试，估算大概23秒），所以真正做数据备份的时间大概是5秒。也就是说5秒时间备份了330mb的数据，传输速度大致为66mb/s备份完成后，通过查看卷信息，我们可以看到/vs0/test1已经成功备份到100032l4这盘磁带上，备份大小为347585536字节330mb。为了获得真实的速度，我们更改了网络拓扑结构，将netapp和磁带库同时连接到光纤交换机上（磁带库连接p3，netapp连接p10），这样就可以在光纤交换机中取到端口的速度。一下分别测试碎文件和大文件的备份速度。1.以asiagame为例，现有的asiagame下的文件比较小，如下图所示：通过监视光纤交换机的p3,p10端口，取到的速度是61.8mb/s将一个比较大的单体文件（7.11g），放到asiagame下，通过监视光纤交换机的p3,p10端口，取到的速度是124.5mb/s通过以上数据可以看出，单体大文件的备份速度远大于碎文件的备份速度。八、 恢复测试8.1 测试准备我们以workasiagame文件夹为例,该文件夹在netapp存储中的卷路径为/vs0/asiagame首先，备份该卷并生成toc，以便稍后的指定文件恢复测试。输入backup node 5200 /vs0/asiagame toc=yes我们看到，该目录已备份完成，并拥有toc，当不指定mode参数时，tsm默认首次备份为完全备份，其余的为差异备份。8.2 恢复测试一：目录全恢复：首先，删除asiagame下所有文件及目录以模拟asiagame目录损坏，或内容被删除。然后输入restore node 5200 /vs0/asiagame恢复整个asiagame文件夹通过tsm，可以看到，asiagame已经恢复完成，在windows资源管理器中查看：所有文件及文件夹已全部恢复成功。8.3 恢复测试二：单个文件恢复：首先，将asiagame中的某个文件改名，以模拟单个文件损坏的情况，我们以resourcemov1sc-06.mov 为例进行测试。将workasiagameresourcemov1sc-06.mov改名为workasiagameresourcemov2sc-06.mov。然后在命令行中输入restore node 5200 /vs0/asiagame filelist=/resource/mov/1sc-06.mov从tsm中可以看到，恢复操作已成功完成。在windows资源管理器中查看可以看到，两个文件的大小及修改时间完全相同，恢复成功。8.4 恢复测试三：恢复指定备份映像1. 首先，在asiagame目录下，建立一个文件名为1.txt的文本文档，内容为“111111”然后，使用backup node 5200 /vs0/asiagame toc=yes mode=full来备份asiagame目录。2. 将1.txt文件内容更改为“222222”并保存。然后，使用backup node 5200 /vs0/asiagame toc=yes mode=full来备份asiagame目录。这样，我们得到了两份内容不同的asiagame备份，使用q nasbackup 5200 /vs0/asiagame命令可以查看该卷的所有备份，如下图所示：15:15:14的备份，1.txt的内容为“111111”15:17:50的备份，1.txt的内容为“222222”3. 将1.txt文件的内容改为若干个3，并保存，这样1.txt便不与前两次备份的内容一致，以便验证恢复。4. 使用restore node 5200 /vs0/asiagame filelist=/1.txt命令来恢复1.txt文件。当不指定时间点的时候，tsm默认恢复最近一次（15:17:50）备份的映像。通过查看tsm日志，可以看到，恢复已经成功，在windows资源管理器中打开恢复后的1.txt文件，可以看到，文件内容已经恢复为“222222”，说明1.txt已经恢复为最后一次备份的内容。5. 使用restore node 5200 /vs0/asiagame filelist=/1.txt pitdate=03/24/2011 pittime=15:15:14来恢复2011年3月24日15:15:14备份中的1.txt通过查看tsm日志，可以看到，恢复已经成功，在windows资源管理器中打开恢复后的1.txt文件，可以看到，文件内容已经恢复为“111111”，说明1.txt已经恢复为倒数第二次备份的内容。至此，恢复测试完成。8.5 恢复效率测试首先，删除asiagame下的所有文件及目录，使用restore全恢复命令，恢复asiagame。restore node 5200 /vs0/asiagame分析tsm日志可以看出：13:30:13，管理员发起恢复命令13:31:09，磁带100032l4被mount到磁带机，并被恢复进程打开13:32:52，恢复进程关闭磁带100032l4，恢复进程结束从恢复进程打开磁带到恢复进程结束，共历时104秒，共恢复数据8.78gb，恢复平均速度约为86.5mb/s。当待恢复的文件比较碎时，通过监视光纤交换机的端口，取到的速度为69.7mb/s当待恢复的文件比较大时，通过监视光纤交换机的端口，取到的速度为122mb/s。九、 测试结论在备份测试中，采用ndmp备份方式，可以在不额外占用网络带宽、不影响正常业务的前提下，大幅提高nas备份的速度，此次测试，当文件比较碎时，取到的速度为61.8mb/s，当文件大时，取到的速度为124.5mb/s。在恢复测试中，tsm即可以按卷恢复，也可以按文件恢复（前提条件：需在备份时生成toc），并可以恢复指定时间点备份中的指定文件或者是卷。十、 配置中用到的tsm命令define library naslib libtype=scsidefine devclass nasclass1 devtype=nas library=naslib mountretention=0 estcapacity=790gdefine devclass nasclass2 devtype=nas library=naslib mountretention=0 estcapacity=790gdefine stgpool naspool1 nasclass1 maxscratch=10 dataformat=netappdumpdefine stgpool naspool2 nasclass2 maxscratch=10 dataformat=netappdumpdefine stgpool tocpool1 diskdefine stgpool tocpool2 diskdefine domain nasdomain1 description=policy domain for nas file serversdefine domain nasdomain2 description=policy domain for nas file serversdefine policyset nasdomain1 standarddefine policyset nasdomain2 standarddefine mgmtclass nasdomain1 standard mc1define mgmtclass nasdomain2 standard mc2define copygroup nasdomain1 standard mc1 destination=naspool tocdestination=tocpool1 verexists=4define copygroup nasdomain2 standard mc2 destination=naspool tocdestination=tocpool2 verexists=4assign defmgmtcalss nasdomain1 standard mc1assign defmgmtcalss nasdomain2 standard mc2validate policyset nasdomain1 standardvalidate policyset nasdomain2 standardactivate policyset nasdomain1 standardactivate policyset nasdomain2 standardregister node 5200 password domain=nasdomain1 type=nasregister node 5300 password domain=nasdomain2 type=nasdefine datamover 5200 type=nas hladdress= lladdress=10000 userid=ndmp pass