




版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
1、xxx虚拟化灾备及高可用性建设方案日期:2012/11/15版本:1.1目 录1.项目背景41.1.信息化现状41.2.存在的问题42.建设目标53.解决方案53.1.架构设计63.1.1.数据中心级灾备视图63.1.2.同一机房多主机视图83.2.工作原理83.2.1.数据中心级灾备83.2.2.主机高可用性93.3.虚拟化监控的考虑103.3.1.工作负载分析113.3.2.健康状况分析123.4.实施前置条件133.5.实施路径133.6.VMware原厂专业服务介绍144.项目预期效果165.投资预算175.1.软件投资175.2.硬件投资175.3.实施服务176.附录一:SRM容灾
2、管理196.1.主要优势和功能196.2.SRM应用场景206.3.SRM主要功能216.4.功能特性226.4.1.vSphere Replication226.4.2.自动执行故障恢复236.4.3.计划性迁移236.4.4.计划性迁移236.4.5.灵活的虚拟机引导顺序246.4.6.改进的 API246.4.7.vSphere Replication246.4.8.支持基于第三方存储的复制256.4.9.集中式恢复计划256.4.10.无中断测试256.4.11.自动执行灾难恢复故障切换266.4.12.自动执行故障恢复266.4.13.计划性迁移261. 项目背景1.1. 信息化现状
3、xxxx经过若干年的对技术的不断追求和坚持,尤其在虚拟化和云计算在业务上的应用在全省农村信用合作联社中取得了领先的地位,并且起到了排头兵和模范作用。xxxx采用了VMware vSphere的虚拟化平台,使得原有需要几十台PC服务器才能完成的前置业务服务,在现有几台PC服务器就可以完全胜任。并且使用vSphere的HA 最大限度的保证了系统的在线时间,降低了系统整体的故障率。在IT运维和管理方便也大大节约和简化了IT底层简单及重复性的劳动,将更多的精力投入到了采用IT技术对业务更好的支撑和改进。目前xxxx已经设计了同城异地的灾备最基础的网络环境,尚未完成对系统同城异地的灾备。1.2. 存在的
4、问题随着业务种类的增多及个性化业务的扩展,对业务支撑系统提出了更大的挑战。xxxx采用了虚拟化技术,在服务器部署和维护上大大节省了时间和精力,但是在服务器硬件、存储、网络、虚拟机出现异常时就会造成业务的中断。根据我们前期的调研与分析,东阳农信在业务支撑上存在数据中心级和本地虚拟机HA的高可靠性问题。xxxx正在建设的网络的灾备,实现了网络线路的冗余,保证当网络连接出现问题时业务不中断的情况。虚拟化软件版本(vSphere 4)原因导致可能存在的系统单点故障使得HA功能在vCenter损坏时无法正常使用。同时没有建设数据中心或机房的灾备,所以当数据中心发生突发事件时(如长时间断电、火灾等)应用系
5、统再也无法向外继续提供对外服务,从而影响到业务与生产。数据中心的灾备和高可用性保证是高可用性的保证,只有有了坚实的基础才可能有不间断的系统,才可能有不间断业务服务。2. 建设目标根据现状和问题的分析,我们建议本期的建设目标为:通过建设数据中心级灾备、主机级高可用性来全面提高和保证应用服务的不间断提供。1) 建设数据中心的虚拟化灾备建设数据中心为范围的灾备保证受保护的虚机可以在不同地点、不同网络、不同服务器和不同存储的环境中快速恢复业务服务能力。2) 建设物理服务器和虚拟机的高可用性与HA建设物理服务器和虚拟机的高可用性和HA保证在同一机房中,不同主机间的故障转移和高可用性。3. 解决方案针对x
6、xxx的虚拟化灾备目标我们给出的解决方案是采用VMware vSphere 5 、VMware Site Recovery Manager(简称SRM)、存储复制软件和定制化开发共同完成。3.1. 架构设计3.1.1. 数据中心级灾备视图3.1.1.1. 生产环境组成部分l 生产环境四台高配物理服务器安装VMware vSphere 5.0企业版,做成一个群集。l 每台物理服务器本地硬盘安装VMware的VMware vSphere 5.0,ESX Server上创建的虚拟机VM则放在共享的光纤存储上。l 两台服务器作为VMware Virtual Center集中管理虚拟化平台服务,即Vir
7、tual Center。Virtual Center用来控制和管理整个虚拟环境,包括生产环境和灾备中心环境。因此Virtual Center必须能够通过网络访问到生产环境和灾备中心环境上的所有共享存储和ESX Server。3.1.1.2. 灾备组成部分l 四台物理服务器(可以利旧)安装VMware vSphere 5.0企业版,做成一个群集,可由客户决定虚拟机的运行数量。l 备站点两台物理服务器安装VMware vSphere 5.0企业版,做成一个群集用于灾备。3.1.1.3. 容灾过程描述:在生产环境,装在ESXi server上的每个虚拟机运行各自的操作系统、应用程序以及数据库。对于虚
8、拟机的Virtual Center来看,每个虚拟机即是一个打包的文件,如下图所示。这个文件会随着每天的运行而逐渐变大。Physical Server.nvram.vmx.vmdkVirtual Machine由于所有备份工作及相应的由存储复制模块功承担,备份站点存放保护应用OS,因此备份和恢复工作均可以在低峰时段工作,不会影响到业务。3.1.2. 同一机房多主机视图vSphere HA 利用配置为群集的多台 ESXi 主机,为虚拟机中运行的应用程序提供快速中断恢复和具有成本效益的高可用性。3.2. 工作原理3.2.1. 数据中心级灾备SRM可以为用户提供创建、管理和执行灾难恢复计划的主要环节。
9、该解决方案已经集成到VMware VirtualCenter管理界面中,可以统一管理虚拟基础架构及该架构的灾难恢复计划。SRM可以简化并自动执行设置、测试和执行恢复计划的主要环节。设置恢复基础架构 SRM可指导用户完成远程站点的连接,并连接使用的存储复制软件,还可让用户轻松地将生产资源映射到恢复站点上。创建恢复计划 SRM具有直观的界面,可以协助用户创建适用于不同故障切换情况和基础架构的恢复计划。用户可以指定一些虚拟机暂停或关闭,从而释放可用资源以供恢复使用,还可以指定虚拟机启动的顺序、设置用户定义的脚本自动执行。测试恢复计划 SRM可以利用存储阵列的快照功能,在恢复站点上自动创建无中断的、隔
10、离的测试环境,然后将虚拟机连接到用户的隔离测试网络中。它将自动执行在实际故障切换中使用的恢复计划,并在测试结束后清除测试环境。测试结果会被保存,以便随时查看和导出。自动执行故障切换 管理员从VMware VirtualCenter 启动恢复计划后,SRM会自动执行恢复计划中的所有步骤,保证恢复完全按照预期执行。管理员通过VirtualCenter可以看到恢复计划的执行情况,并可以随时暂停或停止执行。随着环境的变化,用户也可以通过VirtualCenter随时更新和修改恢复计划。3.2.2. 主机高可用性3.2.2.1. vSphere HAvSphere HA 提供快速中断恢复,vSphere
11、 HA 利用配置为群集的多台 ESXi 主机,为虚拟机中运行的应用程序提供快速中断恢复和具有成本效益的高可用性。vSphere HA 通过以下方式保护应用程序可用性:l 通过在群集内的其他主机上重新启动虚拟机,防止服务器故障。l 通过持续监控虚拟机并在检测到故障时对其进行重新设置,防止应用程序故障。与其他群集解决方案不同,vSphere HA 提供基础架构并使用该基础架构保护所有工作负载:l 无需在应用程序或虚拟机内安装特殊软件。所有工作负载均受 vSphere HA 保护。配置 vSphere HA 之后,l 不需要执行操作即可保护新虚拟机。它们会自动受到保护。l 可以将 vSphere H
12、A 与 vSphere Distributed Resource Scheduler (DRS) 结合使用以防止出现故障,以及在群集内的主机之间提供负载平衡。3.2.2.2. vSphere Fault TolerancevSphere HA 通过在主机出现故障时重新启动虚拟机来为虚拟机提供基本级别的保护。vSphere Fault Tolerance可提供更高级别的可用性,允许用户对任何虚拟机进行保护以防止主机发生故障时丢失数据、事务或连接。Fault Tolerance 通过确保主虚拟机和辅助虚拟机的状态在虚拟机的指令执行的任何时间点均相同来提供连续可用性。使用 ESXi 主机平台上的 V
13、Mware vLockstep 技术来完成此过程。vLockstep 通过使主虚拟机和辅助虚拟机执行相同顺序的 x86 指令来完成此过程。主虚拟机捕获所有输入和事件(从处理器到虚拟 I/O 设备),并在辅助虚拟机上进行重放。辅助虚拟机执行与主虚拟机相同的指令序列,而仅单个虚拟机映像(主虚拟机)执行工作负载。如果运行主虚拟机的主机或运行辅助虚拟机的主机发生故障,则会发生即时且透明的故障切换。正常运行的ESXi 主机将无缝变成主虚拟机的主机,而不会断开网络连接或中断正在处理的事务。使用透明故障切换,不会有数据损失,并且可以维护网络连接。 在进行透明故障切换之后,将重新生成新的辅助虚拟机,并将重新建
14、立冗余。整个过程是透明且全自动的,并且即使 vCenter Server 不可用,也会发生。3.3. 虚拟化监控的考虑考虑到虚拟化平台监控对日常的运维可以起到预防的作用,同时可以知道虚机对资源的要求,为后期调整生产和灾备环境提供数据依据。根据东阳农信日常对系统的维护要求,可以采用定制开发的方式对固定的Linux 前置机应用进程进行监控和报警。vSphere 5.x后内含vCenter Operation Manager Foundation所以建议在此次项目中实施Operation Manager Foundation对工作负载和虚机健康状况进行监控。3.3.1. 工作负载分析1) 工作负载度
15、量可用于显示当前虚拟基础架构中各节点(可以在vCenter级别,数据中心级别,集群级别,ESXi主机级别以及虚拟机级别上显示节点信息)的资源使用情况和资源需求情况,并以数字的形象直观地呈现负载的高低。2) 关键资源的负载汇总视图对于主要的环境资源,包括CPU,内存,网络以及存储I/O等,进行使用情况汇总。3) 提供工作负载的细节视图可以详细显示资源缺乏情况和与之关联的对象,包括需要调整的系统组件以及受到影响的对象。显示性能问题并给出解决建议:如某个对象受到了影响还是导致了问题;虚拟机的密度是否过大,是否应该迁移某些虚拟机到新的位置,是否缺少资源,是否存在配置问题,OS和应用程序层面是否需要进行
16、调整等等。3.3.2. 健康状况分析1) 健康状况度量用0-100的数值表示对象的健康状况,自动学习对象的行为特征,记录其在执行正常行为时的各项指标,当一项或多项指标出现异常时,及时向管理人员发出告警。2) 分析故障点及故障原因当某个对象的健康状况出现问题时,系统将提供关于其健康状况的分析报告,明确指出问题所在并给出解决办法供管理人员进行参考。3) 结合工作负载分析主机健康状况工作负载和健康状况都比较高的主机处于正常状态,负载较高但是健康状况较低的主机需要特别关注,健康问题可能因为负载过高导致,健康问题如果影响到系统运行,则会造成较大的影响。3.4. 实施前置条件对于虚拟化灾备的实施需要以下前
17、置条件:1) 提供网络灾备和存储的多路径灾备。2) 能够提供两个数据中心间,具有100M的存储复制带宽。3) 存储级别的复制,同时存储能够提供VMware认证的Site Recovery Adapter。4) 定义灾备触发条件5) 定义灾备恢复优先级别和顺序3.5. 实施路径目前xxxx的虚拟化平台为vSphere 4.0, 应用级的HA只能在vSphere 5.0 以后实施,所以我们建议先对现有的平台进行升级然后进行后期的灾备、高可用性及监控的实施。为了保证整体实施的质量我们建议重要内容采用VMware原厂服务,在实施完毕后进行知识转移。具体实施路径为:1) 升级vSphere 到 5.x版
18、本(VMware原厂服务实施)a) 升级vCenter到5.x版本b) 迁移VM并升级ESXi服务器到5.x版本c) 升级虚拟机VMware Toolsd) 升级虚拟机硬件版本2) 安装灾备机房的硬件a) 安装灾备机房服务器与存储b) 配置灾备机房网络3) 实施存储复制软件a) 存储软件实施b) 双向数据复制测试4) 实施SRM(VMware原厂服务实施)a) SRM灾备架构规划与设计b) SRM 灾备实施c) 灾备演练5) 实施VM及应用HAa) 物理机HA策略实施(VMware原厂服务实施)b) VM HA 策略实施(VMware原厂服务实施)c) 应用HA调研、原型(VMware原厂服务
19、实施)d) 开发与实施6) 实施虚拟化监控a) vCenter Operations Manager Foundation实施3.6. VMware原厂专业服务介绍VMware专业服务团队(PSO)遵循虚拟化基础架构和云平台建构方法论提供下列虚拟化专业服务:1) 评估定量分析现状,对实施策略和实施路线图提出建议;2) 虚拟化基础设施规划和设计对客户的虚拟化平台作出专业规划和设计,按照VMware最佳做法做出包括云数据中心规划,网络设计、存储设计、容灾与备份设计、高可用性和业务连续性设计、虚拟机设置、虚拟化流程设计;3) 云平台计算基础设施部署安装、配置和测试虚拟化基础设施,创建虚拟机到虚拟化基
20、础设施,调试虚拟化后的各个业务系统运转正常,保证项目的成功;4) 系统迁移把存量应用系统迁移到VMware云平台,制定迁移规划,实施系统迁移及迁移后的测试。5) 虚拟化持续运营改进服务帮助客户改进原有IT运营流程并定制标准操作流程、建立虚拟化基础设施的容量管理流程和平台、建立虚拟化基础设施的IT管理流程和平台。4. 项目预期效果通过实施本次基于VMware虚拟化的业务连续性方案,可以获得到以下效果:1) 虚拟化平台的优化通过升级获得了更佳的虚拟化性能及虚拟硬件的支持,可以支持大型软件和应用中间件。2) 缩短停机时减少非计划停机时间,同时减少计划内停机时间,最大限度降低总的停机时间。整个站点灾备
21、情况下,平均每台虚机切换时间为5分钟内。3) 降低容灾系统成本以低成本打造高可用、高可靠的容灾系统,不需要额外购买专有硬件或软件,最大限度地降低总体成本。4) 简化操作流程不需要维护主备中心完全一样的物理硬件,降低了硬件维护的复杂性。5) 虚拟化平台监控让虚拟化平台的日常维护有序、简单、规范化、流程化。5. 投资预算5.1. 软件投资编号名称描述数量预算(万元)1vSphere 5.0 企业增强版服务器虚拟化软件2vSphere Site Recovery Manager 5.x与vCenter紧密集成,自动执行灾难恢复计划的管理和执行工作软件50虚机3存储复制软件5.2. 硬件投资编号名称描
22、述数量预算(万元)1容灾站点服务器设备 Vsphere 5.042容灾站点存储存放同步容灾数据13容灾站点光纤交换机冗余光纤路线24容灾裸光纤线路45.3. 实施服务编号名称描述数量预算(万元)1SRM实施与定制服务VMware 原厂实施与开发服务人天2硬件设施与其他实施开发硬件设施与软件开发6. 附录一:SRM容灾管理VMware Site Recovery Manager 提供开创性的解决方案,可自动执行并简化灾难恢复计划的管理和执行工作,帮助您摆脱传统灾难恢复中的诸多不便。由于 VMware Site Recovery Manager 省去了复杂的手动恢复步骤,能够对恢复计划执行无中断测
23、试,并且可以自动执行恢复过程,因此能够在整个数据中心高效地进行灾难恢复。VMware Site Recovery Manager 还有助于进行数据中心的计划内故障切换,例如数据中心迁移。VMware Site Recovery Manager 与 VMware Infrastructure、VMware VirtualCenter 及其他主要存储供应商提供的存储备份软件紧密集成,让灾难恢复变得快捷、可靠、经济,而且便于管理。这样,灾难恢复便不存在任何风险和后顾之忧,还可将所有重要的系统和应用程序纳入保护之列。6.1. 主要优势和功能管理灾难恢复计划: 通过 VMware VirtualCent
24、er 管理 VMware 虚拟环境的过程中即可创建、更新及记录恢复计划。 对故障切换和恢复执行无中断测试: 使用 VMware Site Recovery Manager 可以对恢复过程执行自动化测试。利用针对实际故障切换创建的恢复计划执行测试,而不会对环境造成任何中断。 自动执行故障切换和恢复: 通过自动执行恢复过程,省去传统灾难恢复中许多常见的速度慢又不可靠的手动处理过程,从而确保恢复过程始终能正确执行。SRM可以使灾难恢复变得快捷、可靠又便于管理,让企业达到其恢复目标。SRM可以让用户集中管理恢复计划,还可以自动执行恢复过程。它将传统灾难恢复中使用的复杂的纸质操作手册,转换成虚拟基础架构
25、管理软件中的集成元素,并显著改善恢复计划的测试效果。SRM是为VI提供的一款领先的灾难恢复管理和自动化解决方案。SRM通过自动执行恢复过程来加快恢复的速度,并将灾难恢复作为VMware虚拟基础架构管理的集成要素,从而简化灾难恢复计划的管理工作。该解决方案省去复杂的手动恢复步骤,支持无中断的恢复计划测试,确保恢复过程的安全可靠。SRM紧密集成VMware vSphere 5.0、VMware VirtualCenter及其他领先存储供应商提供的存储复制软件,使故障切换和恢复变得快捷、可靠和经济,而且便于管理。因此,企业不仅无需担心灾难恢复的风险,还可将所有重要的系统和应用程序纳入保护范围。6.2
26、. SRM应用场景SRM可以帮助企业应对传统灾难恢复方法的各种挑战,满足恢复时间目标(RTO)和恢复点目标(RPO)以及法规遵从的要求。利用SRM,企业可以管理从生产数据中心到灾难恢复站点的故障切换,同时还可以管理两个互为恢复站点且具有活动工作负载的站点之间的故障切换。SRM还可以自动执行及简化故障切换至新数据中心的过程。企业利用SRM可以实现以下诸多功能。管理灾难恢复计划SRM支持企业将创建、更新和记录恢复计划作为VMware虚拟环境管理的集成部分。传统的灾难恢复解决方案往往需要将故障切换的所有步骤和所需资源记录到操作手册中,而这很难保证准确无误和及时更新。采用SRM,可直接在VMware
27、VirtualCenter中管理故障切换过程。对故障切换和恢复执行无中断测试使用SRM,企业可以执行恢复计划的自动测试,而不会对环境造成任何中断。SRM可以利用实际故障切换的恢复计划,轻松创建一个隔离的测试环境。自动执行故障切换和恢复SRM可以自动执行恢复计划,排除传统灾难恢复中常见的缓慢且不可靠的手动处理。同时,SRM可以确保按照预期执行恢复计划。6.3. SRM主要功能灾难恢复管理 利用存储供应商认证的集成功能,查找并显示受存储备份保护的虚拟机;直接在 VirtualCenter中创建及管理恢复计划;利用定制脚本扩展恢复计划;监视远程站点的可用性,并提示用户可能会发生的站点故障;存储、查看
28、和导出测试结果,并在 VirtualCenter中执行故障切换;利用基于角色的访问控制方法来控制对恢复计划的访问。无中断测试 利用存储快照功能执行恢复测试,而不会丢失备份数据;将虚拟机连接至现有的隔离网络,以便进行测试;自动执行恢复计划;定制针对不同测试情况的恢复计划;完成故障切换测试之后,自动清除测试环境。自动执行故障切换只要按一下按钮,用户即可从VirtualCenter中执行恢复计划;利用领先的存储供应商为其备份平台创建的适配器,自动提升备份的数据存储区,以便在恢复情况下使用;执行用户定义的脚本,并可在恢复过程中暂停;重新配置虚拟机的IP地址,使其与故障切换站点的网络配置相符;在Virt
29、ualCenter中管理和监视恢复计划的执行情况。6.4. 功能特性VMware vCenter Site Recovery Manager 可提供先进的复制、灾难恢复管理、无中断测试、自动故障切换和故障恢复以及计划性迁移功能。 VMware vCenter Site Recovery Manager 可以管理从生产数据中心到灾难恢复站点的故障切换,以及两个具有活动工作负载的站点之间的故障切换。 甚至可以将多个站点恢复为一个共享的恢复站点。 Site Recovery Manager 经常用于计划性迁移和预防性故障切换以避免遭受灾难。6.4.1. vSphere Replicationl 所有
30、版本的 Site Recovery Manager 均捆绑了经济高效的复制功能,无需支付额外费用 l 业界首款基于虚拟化管理程序的复制功能,专门针对 vSphere 和 Site Recovery Manager 构建 l 支持从 15 分钟至 24 小时的灵活 RPO l 为了提高网络效率,仅复制已更改磁盘区域的最新数据 l 每个集群的规模可扩展到数百个虚拟机 l 通过在 vCenter 中以更精细灵活的“虚拟机”级别管理复制来简化复制管理 l 消除了在多个站点中重复保留相同存储阵列的要求 l 支持使用低端存储,包括直连存储 l 确保与 Site Recovery Manager 紧密集成,
31、从而实现协调一致的故障切换 6.4.2. 自动执行故障恢复l 在使用现有恢复计划执行故障切换过程后,将出现故障的虚拟机自动恢复为初始生产站点状态 l 管理和协调要求进行反向复制的存储和复制配置更改 6.4.3. 计划性迁移l 当站点未发生大量变化时,自动从故障中恢复为原始生产站点状态 l 通过自动反向复制为原始站点状态来重新保护虚拟机 l 反向执行原始恢复计划 l 自动故障恢复可用于基于存储的复制,但不能用于 vSphere Replication 6.4.4. 计划性迁移l 在执行恢复计划之前,在保持应用程序一致性的状态下,使用计划性迁移来确保完整复制虚拟机 l 在原始站点非常顺畅地关闭受保
32、护的虚拟机 l 执行“数据同步”以强制将关闭的虚拟机完整复制到故障切换站点 l 在故障切换站点利用应用程序一致的虚拟机执行恢复计划 6.4.5. 灵活的虚拟机引导顺序l vCenter Site Recovery Manager 现在可支持 4 个虚拟机引导优先顺序级别 l 确保在故障切换站点完全控制恢复流程 6.4.6. 改进的 APIl 在受保护站点和恢复站点均提供了 API l 受保护站点的 API 支持虚拟机保护,可提供有关复制、保护组和虚拟机保护的状态信息 l 恢复站点 API 支持执行恢复计划,并且可提供有关恢复计划和恢复计划执行情况的信息 6.4.7. vSphere Repli
33、cationl 所有版本的 Site Recovery Manager 均捆绑了经济高效的复制功能,无需支付额外费用 l 业界首款基于虚拟化管理程序的复制功能,专门针对 vSphere 和 Site Recovery Manager 构建 l 支持从 15 分钟至 24 小时的灵活 RPO l 为了提高网络效率,仅复制已更改磁盘区域的最新数据 l 每个集群的规模可扩展到数百个虚拟机 l 通过在 vCenter 中以更细致灵活的“虚拟机”级别管理复制,简化复制管理过程 l 消除了在多个站点中重复保留相同存储阵列的要求 l 支持使用低端存储,包括直连存储 l 确保与 Site Recovery Manager 紧密集成,从而实现协调一致的故障切换 6.4.8. 支持基于第三方存储的复制l 通过与所有主要供应商的存储阵列和复制产品的兼容性,提供广泛的可选择复制方案。 下载可兼容阵
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 教师招聘之《幼儿教师招聘》复习提分资料及参考答案详解【综合题】
- 教师招聘之《幼儿教师招聘》综合检测提分含答案详解【b卷】
- 编程小明星秀场创新创业项目商业计划书
- 电网故障抢修智能调度系统创新创业项目商业计划书
- 教师招聘之《幼儿教师招聘》练习题(一)含答案详解(模拟题)
- 教师招聘之《幼儿教师招聘》检测卷讲解附参考答案详解(轻巧夺冠)
- 2025年教师招聘之《小学教师招聘》通关练习题库包及参考答案详解(能力提升)
- 教师招聘之《小学教师招聘》题库附答案详解(综合卷)
- 教师招聘之《小学教师招聘》考试黑钻押题【易错题】附答案详解
- 2025年新能源汽车制造产业链上下游企业合作模式研究报告
- 人教版初中英语七八九全部单词(打印版)
- 某自来水厂运营管理项目服务方案(技术方案)
- DBJ50-T-164-2021 民用建筑电线电缆防火设计标准
- 2025年浙江省建设工程检测技术人员(建筑材料及构配件)考试题库(含答案)
- 测试婴儿肌张力的六个动作
- NB/T 11536-2024煤矿带压开采底板井下注浆加固改造技术规范
- 变电站消防设施技术规范书
- 新能源电力市场交易与运营考核试卷
- 2015-2024年十年高考数学真题分类汇编专题21 立体几何大题综合
- 《车船税法》课件
- 2023-2024学年广东省广州市海珠区九年级(上)期末语文试卷
评论
0/150
提交评论