版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
智算中心裸金属服务器与网络运维实战培训华鲲AT3500G3专项智算中心裸金属服务器与网络运维实战培训华鲲AT3500G3专项·硬件架构组网实操与基础环境教学对象:智算中心运维工程师/SRE/网络工程师/AI部署工程师NPU0NPU0910BNPU1NPU1910BNPU2NPU2910BNPU3NPU3910B4路HCCS·480GbpsNPU4NPU4910BNPU5NPU5910BNPU6NPU6910BNPU7NPU7910B8×200GERoCEv2+4×GE+4×25GE4×2600W冗余电源·8热插拔风扇华鲲AT3500华鲲AT3500昇腾910B盐城智算中心上午场教学地图拓扑解读·VLAN/LACP光模块兼容性连通性测试☕下节课预告:计算面ROCE网络异构架构原理BMC管理·硬件巡检ROCEv2原理·PFC/ECN/DCBCE9860配置·网卡配置性能测试·调优要点openEuler安装+openEuler安装+Cloud-Init自动化SSH五层加固认证/协议/会话/访问/审计CANN+MindSpore版本匹配+npu-smi权重传输+离线依赖+MindIE每个模块都包含理论讲解、案例分析和命令实操02/62您将获得什么?11异构架构+BMC管理+硬件巡检能力2233openEuler+CANN+MindSpore+npu-smi44硬件巡检清单内网部署Checklist硬件巡检清单内网部署Checklist网络配置模板8份运维资产文档(见P61)通过上午学习,您将系统掌握智算中心裸金属运维完整能力链模块一华鲲AT3500G3模块一华鲲AT3500G3硬件深度解析教学方式:理论讲解+实物演示+教学方式:理论讲解+实物演示+案例什么是异构计算?PCIe4.0 这是智算中心的主流架构。通用计算通用计算vsAI计算·分工示意通用计算·鲲鹏920CPU✓操作系统调度✓文件系统与I/O控制✓进程管理与资源分配→通用任务、控制面、I/O密集✓模型前向/反向传播✓集合通信(AllReduce/AllGather)→AI训练/推理、算力密集场景2.6GHzTaiShan2.6GHzTaiShanv110核心数内存通道昇腾910B:达芬奇架构AI算力架构算力FP16算力INT8显存互联对外接口架构算力FP16算力INT8显存互联对外接口Ascend910BAscend910BNPU3NPU4NPU5NPU6NPU7NPU2NPU0NPU1CPU与NPU如何协同?用户进程地址空间/dev/davinci0~7##排障第一步查看PCIeBDF号•文件系统与网络协议栈•HCCL集合通信原语•CPU↔NPUPCIeBAR映射•256MB地址空间/卡•/dev/davinci0~7设备节点AT3500G3物理布局与散热8×风扇4×电源2600W热插拔8×风扇4×电源2600W热插拔独立风道分区独立风道分区前面板冷风进后面板热风出冷风热风出⚠NPU温度异常首要检查风扇转速,再查风道堵塞物理规格网络接口8×200GERoCEv2电源散热存储2×960GBSATASSD2×3.84TBNVMeSSD盐城主中心真实案例·NPU温度监控+B117B模型训练速度突降40%NPU利用率从95%降至55%223344①重新插拔Fan1电源线②BMC自检→验证转速恢复8000rpm ⚠NPU0温度92℃超阈值85℃,触发降频保护案例二:区县节点NVMe故障导致模型加载失败$nvmesmart-log/dev$nvmesmart-log/dev/nvme0SmartLogforNVMedevice:nvme0critical_warning:0temperature:45°Cavailable_spare:100%percentage_used:92%media_errors:15234num_err_log_entries:187WarningCompositeTemp.Time1:0现象1定位·根因2处置3预防预防4⚠media_errors15234表明SSD存在大量坏块,已达磨损阈值SMART周巡检重点关注三项指标num_err_num_err_log_entriesmedia_errorscritical_warningATAT3500G3后面板→管理交换机↑标注MGMT或iBMC的RJ45口即为BMC专用网口MGMT•无DHCP:169.254开头链路本地地址•默认账号:Administrator/Huawei12#$首次登录强制改密配置流程4步#配置BMC静态IP(ipmitool)ipmitool-Ilanplus-H00\-UAdministrator-PHuawei12#$\#设置静态IP地址ipmitool-Ilanplus-H00\-UAdministrator-PHuawei12#$\lanset1ipaddr0#验证配置ipmitool-Ilanplus-H0\-UAdministrator-Pnewpasslanprint1指示灯速查表:一眼识别硬件状态灯位置灯位置颜色状态含义处置建议Alarm绿色常亮=正常黄色常亮=电源告警黄色闪烁=系统告警红色常亮=严重故障绿色常亮=正常黄色闪烁=温度告警绿色闪烁=有数据熄灭=链路断开供电正常/供电正常/电源模块故障需关注但不紧急/必须立即处理需关注但不紧急/必须立即处理红色常亮=故障链路正常通信中熄灭:检查网线/链路正常通信中showinterfacetrans经验:绿色常亮=正常|黄色闪烁=关注|红色常亮=立即处理·养成进机房先扫一眼指示灯的习惯硬件巡检六大命令#温度/风扇/电压#温度/风扇/电压②传感器读数③NPU详细状态⑤磁盘SMART#确认电源冗余正常①BMC事件日志#查看硬件告警事件建议:将六个命令做成脚本,每次巡检一键执行,输出标准化报告Step1检查PDU与机房环境Step2闭合PDU空开Step3按电源键启动服务器Step4BMC确认无告警验证清单Step1停止推理服务Step2确认NPU空闲Step3系统正常关机Step4BMC远程下电注意事项注意事项⚠仅在系统死机时使用Step1长按电源键5秒Step2BMC强制下电⚠⚠风险提示••光口污染占故障60%+,是光模块故障首要原因•使用无尘纸+无水乙醇清洁光口•禁止用手直接触摸光模块金手指和光口•防静电手套:接触硬件时佩戴•防静电垫:拆卸硬件放置区域•防静电服:进入机房统一穿着••人体静电可达数千伏(行走/摩擦产生)•NPU芯片损坏阈值仅100-200V教学方式教学方式拓扑讲解+CLI实操+案例分析VLAN创建/Trunk/Access/LACPshowinterfacetranscei盐城智算中心网络拓扑SSH/BMC→防火墙ACL→S960X→管理口客户端API→防火墙→S960X→业务口华鲲AT3500G3服务器集群华鲲AT3500G3服务器集群管理VLAN与业务VLAN二层隔离·防火墙三层受控互通·计算面ROCE独立物理网络VLAN与LACP:网络隔离与带宽聚合逻辑链路AccessTrunkHybrid逻辑链路AccessTrunkHybrid不打Tag连接终端打Tag交换机互联可Tag/Untag混合场景中兴默认负载分担:src-dst-ip哈希标准以太网帧 DSTMACSRCMACTy802.1QTag帧 4字节·12位VLANID•中兴默认src-dst-ip哈希负载分担##进入接口配置模式zte(cfg)#interface10ge1/0/1#设置端口为Access模式zte(cfg-if-10ge1/0/1)#portlink-typeaccess#修正PVID为200(原误配为100)zte(cfg-if-10ge1/0/1)#portdefaultvlan200#退出接口zte(cfg-if-10ge1/0/1)#quit#验证配置zte(cfg)#showvlan200zte(cfg)#showinterface10ge1/0/1①现象新增AT3500G3接入S960X②排查服务器网卡UP无IP③根因规划文档与实际配置不符④处置修正VLAN配置经验总结##进入安全策略配置视图security-policy#创建放行规则rulenameallow_ssh_officesource-addressdestination-address#服务与动作servicesshactionpermit#验证:sessiontable查看会话①服务器侧sshd正常·22端口监听✓②交换机侧ping服务器IP通✓④处置添加放行规则→验证SSH连通1.服务器侧:检查sshd、端口监听2.交换机侧:ping测试连通性3.防火墙侧:查会话表、ACL策略适用于所有网络不通的故障排查⚠⚠中兴有两种CLI语法风格:传统ZTE语法(setvlan格式)和类华为语法。本页以传统语法为主。#创建VLAN200并启用zte(cfg)#setvlan200enable#设置VLAN描述zte(cfg)#setvlan200descriptionManagement_VLANzte(cfg)#showvlan200Access端口配置#将端口加入VLAN(不打Tag)zte(cfg)#setvlan300addport1/2untag#设置端口PVIDzte(cfg)#setport1/2pvid300zte(cfg)#showvlan300Trunk端口配置#将端口加入VLAN(打Tag)zte(cfg)#setvlan200addport1/1tag#设置端口PVIDzte(cfg)#setport1/1pvid200zte(cfg)#showinterface1/1LACP链路聚合#启用LACPzte(cfg)#setlacpenable#创建聚合组(端口1/3和1/4)zte(cfg)#settrunk1/3,1/4trunk1zte(cfg)#showtrunk查看配置命令:查看配置命令:showvlan|showinterface1/1transceiver型号速率传输距离机房内互联机房内互联→SR短距模块跨机房互联→LR长距模块showinterface10ge1/0/1transceiver•TransceiverType:模块类型•TransferDistance:传输距离两端模块型号必须一致!②traceroute—路径追踪适用场景:查看数据包经过的每一跳traceroute<IP>②traceroute—路径追踪适用场景:查看数据包经过的每一跳traceroute<IP>①ping—基础连通性适用场景:快速验证目标是否可达④tcpdump④tcpdump—抓包分析适用场景:深度分析协议交互tcpdump-ieth0-nnhost<IP>andport22结合ping+traceroute,实时显示每跳丢包率和时延网络不通?→ping验证可达性→mtr综合诊断定位哪一跳→traceroute确认路径→tcpdump深度抓包分析推荐:mtr作为首选工具,结合ping和tcpdump按需使用业务网络设计三原则最小权限放行原则仅放行必要端口源/目的地址精确匹配核心交换机双机热备服务器双网卡bonding电源与风扇冗余业务网络(API/客户端)物理或VLAN隔离避免相互影响故障域隔离三网隔离避免相互影响·冗余设计消除单点故障·安全分区最小权限放行·区县QoS保障管理流量模块二要点回顾迪普FW→中兴S960X→服务器·管理与业务VLAN二层隔离setvlan语法·Trunk/Access端口·LACP链路聚合showinterfacetransceiver·10GE/25GE/100GE模块型号·两端一致ping/traceroute/m三网隔离·冗余设计·安全分区·区县QoS华为CE9860·PFC/ECN/DCB·无损网络·性能测试教学方式教学方式原理讲解+配置实操+案例剖析RDMA网卡RDMA网卡硬件直传远端RDMA远端RDMA网卡硬件直传 延迟50-100μs2-5μs 吞吐受限于CPU接近线速 协议栈参与RFC3168交换机标记ECN位接收端识别ECNRFC3168交换机标记ECN位接收端识别ECN标记发送CNP帧通知降速✓长期速率调整RDMA流量标记RDMA→优先级3UDP端口4791DSCP=24✓统一打标与流控IEEE802.1Qbb8个优先级独立流控缓存达阈值发送PAUSE上游暂停发送避免丢包✓短期暂停避免丢包③队列拥塞缓存超阈值暂停优先级3③队列拥塞缓存超阈值⑦发送端降速配置死锁检测间隔100ms·检测到永久PAUSE时自动恢复端口·防止网络死锁指标丢包率延迟要求带宽协议承载流量业务面毫秒级TCP/IP100-200GbpsRoCEv2(RDMA)AllReduce/AllGather•业务网络丢包率10⁻³vsROCE要求10⁻⁹•业务突发可能触发PFC风暴•共享链路导致尾延迟飙升业务网络中兴业务网络中兴S960XROCEROCE网络华为CE9860计算面职责计算面职责•AllReduce/AllGathe①正常①正常多机训练运行2小时②卡死NPU利用率全部降至0③定位ethtool-Seth1|greppfc④根因某节点网卡firmwarebug⑤处置临时:重启mlx5_core模块根本:升级网卡firmwareethtool-Seth1|greppfctx_pfc_pause:291847经验总结带宽延迟带宽延迟70%高带宽延迟70%高带宽延迟•现象:ROCE带宽仅达预期70%•时延偏高•定位:displaydcbecn未启用PFC和ECN必须同时配置缺一不可,否则性能不达标98%<5μs##进入接口配置interface100GE1/0/1#启用ECNqoswredecnenable#配置优先级3的ECN阈值qoswredecnpriority3low-limit100high-limit300ib_write_bw-dmlx5_0--report_gbits-Fib_read_lat-dmlx5_0-Finterface100GE1/0/1#启用优先级3的PFCpfcenable3#开启死锁检测pfcpriority3deadlock-detectenablequit③③QoS信任模式#信任服务器侧DSCP打标interface100GE1/0/1trustdscp#信任入方向DSCP标记quit#流分类匹配DSCP24trafficclassifierc_rdmaif-matchdscp24#标记ECN11trafficbehaviorb_ecn④死锁检测④死锁检测#全局死锁检测配置dcbpfcdeadlock-detectinterval100#检测间隔100ms#检测到永久PAUSE时自动恢复网卡型号:网卡型号:MellanoxConnectX-6(MT28908)#安装MLNX_OFED离线驱动包./MLNX_OFED_*.run--install#加载内核模块modprobemlx5_corelsmod|grepmlx5_core#验证加载#查看RDMA设备与网卡映射ibdev2netdev#mlx5_0→eth0,mlx5_1→eth1#查看RDMA设备详情ibstat#关键字段:CAtype/Portstate/Linklayermlx5_0port1=>eth0mlx5_1port1=>eth1#RDMA设备名→网卡名映射#eth1即为ROCE网卡字段含义字段含义与验证标准服务端客户端ib_ib_write_bw-dmlx5_0--report_gbits-F<节点A_IP>#连接服务端发起写操作ib_write_bw-dmlx5_0--report_gbits-F--connection=RC#-d指定RDMA设备--report_gbits输出Gbps100GE端口目标带宽98Gbps+·多连接压测8进程并发模拟多卡通信ib_read_lat-dmlx5_0-F<节点A_IP>•带宽:100GE端口≥98Gbps·20•延迟:<5μs·多连接压测8进•服务器、交换机全链路一致•减少中断次数,提升吞吐•PFC优先级3需要足够的缓存空间•缓存不足会导致丢包•bufferheadroom需根据端口速率调整•通过tc命令打标•或通过网卡固件打标•确保与交换机策略匹配根据实际buffer深度调整•low-limit/high-limit阈值tcpdumptcpdump-ieth0-nn-c100port47ipiprouteget<对端RoCE_IP>tcpdump抓4791端口无输出说明RDMA流量没有走业务网卡tcpdumptcpdump-ieth1-nn-c100notpor三个验证通过=双网隔离正确三个验证通过=双网隔离正确①eth0抓4791→无输出②eth1抓非4791→无输出③iproutegetRoCE_IP→走eth1✓业务流量走eth0✓RDMA流量走eth1✓双网隔离配置正确教学方式教学方式步骤化实操+案例分析Air-gapped环境针对ARM架构深度优化·调度与内存性能提升2.NUMA针对ARM架构深度优化·调度与内存性能提升2.NUMA感知调度鲲鹏920内存分层与跨节点访问优化3.iSulad轻量容器比docker更轻量·适配AI推理服务4.A-Tune智能调优自动优化系统参数·负载感知5.Cloud-Init自动化注入主机名/SSH密钥/网络/脚本openEuleropenEuler22.03LTSSP3•开源Linux服务器操作系统•aarch64+x86双架构•长期支持版本至2027AT3500G2鲲鹏节点昇腾910B算力底座metadata主机名/网络Cloud-Init服务首启动解析注入user-dataSSH密钥/脚本就绪可登录sshd启动实例节点配置生效→→→→SSH安全加固五层防护五层防护金字塔(底→顶)命令审计AllowUsers/TCPWrapper超时断开·MaxAuthTries3仅SSHv2·高强度加密禁用密码·ED25519密钥②协议层②协议层Cipherschacha20-poly1305@opeMACshmac-sha2-512-etm@openss③会话层③会话层ClientAliveCountMax2④访问控制AllowUsers④访问控制AllowUsersopsroot@/24#TCPWrapper:/etc/hosts.allow/⑤审计层⑤审计层#/var/log/secure审⚠⚠这五层缺一不可,是SSH安全的基本要求每层独立加固,逐项验证后重启sshd生效现象•区县节点主机名重复•SSH公钥未注入,无法免密登录根因•metadata服务不可达(区县分段网络)•NoCloud数据源未配置处置手动注入user-data脚本至本地种子cat>/var/lib/cloud/sssh_authorized_keys:现象•SSH登录需等待8-10秒才提示密码•批量运维效率严重下降根因•UseDNSyes反向DNS查询超时•GSSAPIAuthenticationyes认证慢处置关闭DNS反查与GSSAPI认证GSSAPICleanupCredenti验证结果登录延迟8-10s→0.3s✓SSHSSH登录耗时对比优化前8-10s→优化后0.3s提升约30倍,区县批量发放效率恢复openEuler安装与Cloud-Init配置文件系统ext4文件系统ext4大小/boot/boot/efivfat/剩余XFS•软件包:MinimalInstall+SystemToolsXFS大文件支持佳·在线扩容无需卸载#cloud-confighostname:at3500-node01fqdn:at3500-node01.yancheng.localssh_pwauth:falsessh_authorized_keys:-ssh-rsaAAAAB3NzaC1yc2E...ops_pubkeychpasswd:expire:truewrite_files:-path:/etc/sysctl.d/99-ai.confcontent:"vm.swappiness=10"runcmd:-systemctlenablesshd-systemctlenable--nowfirewalld#强制密钥/etc/ssh/sshd_config-sed-i's/^#PasswordAuth.*/PasswordAuthenticationno/'sshd_configsshd_config关键配置#生成ED25519密钥ssh-keygen-ted25519\-C"ops@yancheng#生成ED25519密钥ssh-keygen-ted25519\-C"ops@yancheng"#分发公钥ssh-copy-id-i\~/.ssh/id_ed25519.pub\ops@node01→密钥注入成功✓#登录宽限期LoginGraceTime60#最大尝试次数MaxAuthTries3#保活探测ClientAliveInterval300ClientAliveCountMax2#校验语法#重启服务systemctlrestartsshd#验证登录#允许登录的用户/来源AllowUsersopsroot@/24AllowGroupssshusers#禁用空密码PermitEmptyPasswordsno#TCPWrapper兜底#/etc/hosts.allow/hosts.deny#禁止root密码登录PermitRootLoginprohibit-password#关闭密码认证PasswordAuthenticationno#启用密钥认证PubkeyAuthenticationyes#推荐加密算法chacha20-poly1305@aes256-gcm@#MAC算法hmac-sha2-512-etm@#KEX算法curve25519-sha256⚠⚠注意修改sshd_config前先用sshd-t校验语法,避免锁死;保留一个已登录会话作为兜底CANNCANNToolkit与MindSpore版本匹配模块4·CANN与内网部署算子编译错误(OperatorError)训练中断/NPU不可识别atc转换失败/内存泄漏CANN版本CANN版本MindSpore版本驱动版本推荐→→→→→matmulbenchmark 模块4·CANN与内网部署+--------------------------------------------------------------------------------+|npu-smi23.0.0Version:23.0.0|+----------------------+---------------+--------------------------------------------+|NPUName|Health|Power(W)Temp(C)Huge|Chip|Bus-Id|AICore(%)Memory-Usage(+======================+===============+============================================+Health健康状态·Power功耗Temp温度·AICore算力利用率Memory显存使用(已用/总量)+======================+===============+============================================+查询型号、序列号、PCIE信息芯片/板卡温度监控AICore/内存实时使用率详细健康事件码查询正常运行持续关注立即处理紧急停机检修0x0000WarningCritical0x00010x00020x0004AlarmOK8卡集群需逐卡查询(-i0~7建议脚本化巡检,定时记录Power/Temp/Memory趋势,发现告警立即定位故障卡。基础镜像制作与环境变量配置基础镜像制作与环境变量配置模块4·CANN与内网部署1123456ascend.sh环境变量配置/etc/profile.d/ascend.sh#/etc/profile.d/ascend.shexportASCEND_HOME=/usr/local/AscendexportASCEND_TOOLKIT_HOME=$ASCEND_HOME/ascend-toolkit/latestexportPATH=$ASCEND_TOOLKIT_HOME/bin:$PATHexportLD_LIBRARY_PATH=$ASCEND_TOOLKIT_HOMEib64:$LD_LIBRARY_PATHexportPYTHONPATH=$ASCEND_TOOLKIT_HOMEython/site-packages:$PYTHONPATH#加载并验证source/etc/profile.d/ascend.shPXE网络启动/镜像克隆PXE网络启动/镜像克隆区县中心节点批量部署8节点/16节点并发克隆统一安装NPU驱动/CANN运维工具/SSH加固✓黄金镜像快照优势一次制作多次分发→→Cloud-Init注入节点配置主机名/IP/SSHKey✓节点就绪可服务不联网内网环境:开源模型部署挑战不联网内网环境:开源模型部署挑战 模块4·CANN与内网部署离线安装/模型转换/启动昇腾910B推理服务下载模型权重/Python依赖下载CANN/算子包Air-Gap下载准备打包/校验MD5/清单部署执行安装/转换启动/验证→→→Air-gapped概念定义与公网完全物理隔离无法pipinstall在线安装无法gitclone下载模型/代码无法访问HuggingFace/PyPI/GitHub⚠盐城政务云/智算中心场景1223345aarch64架构/框架版本需严格对应5aarch64架构/框架版本需严格对应模型权重下载与离线传输模型权重下载与离线传输模块4·CANN与内网部署推荐推荐huggingface-clihuggingface-clidownloadQwen/Qwen2-7B-Instruct\#支持断点续传·自动校验文件完整性国内更快国内更快#阿里ModelScope镜像,国内带宽更高gitclonehttps://huggingface.co/Qwen/Qwen2-7B-必做步骤必做步骤昇腾适配最佳昇腾已适配昇腾已适配需转换适配需转换·MindSpore推理特点特点适用场景移动硬盘SCPrsyncsha256sumtokenizer.json#推荐shasha256sumtokenizer.json#推荐sha256校验更严格#对比manifest.json中的校验和,全部8个分片文件逐一校验PythonPython依赖与CANN离线安装包准备 模块4·CANN与内网部署pipinstall--no-index\--find-links=./mindspore_deps\--find-links=./tf_deps\-rrequirements.txtMindSpore及依赖pipdownloadmindspore==2.3.0\--dest./mindspore_deps/\--platformmanylinux2014_aarch64\--python-version3.10--only-binary=:all:Transformers及依赖pipdownloadtransformers==4.41.0\tokenizersaccelerate\--dest./tf_dep⇄⇄验证关键依赖验证关键依赖python-c"importmindspore;print(mindspore.version)"python-c"importtransformers;print(transformers.version)"预期输出:2.3.0#MindSpore版本号4.41.0#transformers版本号硬盘传输硬盘传输Ascend-cann-toolkit_8.0.Ascend-cann-toolkit_8.0.从昇腾官网下载选择aarch64版本(与910B服务器架构匹配)同时下载cann-kernels-910B包(算子库)校验SHA256·文件大小约2.5GBCANNCANNToolkit离线安装模块4·CANN与内网部署exportASCEND_TOOLKIT_HOME=$ASCEND_HOME/ascend-toolkit/latestexportPATH=$ASCEND_TOOLKIT_HOME/bin:$PATH=$ASCEND_TOOLKIT_HOME/lib64:...=$ASCEND_TOOLKIT_HOME/python/site-packages:$PYTHONPATH#所有节点统一此文件→→chmod+xAscend-cann-/usr/local/Ascend/ascend-toolkit文件名:Ascend-cann-kernels-910B_8.0.RC1_linux-aarch64.run·必须与toolkit版本完全一致●安装顺序:NPU驱动→CANNtoolkit→cann-kernels→MindSpore;版本号必须严格匹配官方兼容矩阵●多节点部署:将cann.sh镜像内置到黄金镜像中,新节点克隆即可使用,无需重复配置环境变量MindSpore格式transfosave→→MindSpore格式transfosave→→fromtransformersimportAutoModelForCausalLM,AutoTokenizerhf_path="/data/models/Qwen2-7B-Instruct"output_path="/data/models/Qwen2-7B-Instruct_ascend"#加载tokenizer和模型tokenizer=AutoTokenizer.from_pretrained(hf_path,trust_remote_code=True)model=AutoModelForCausalLM.from_pretrained(hf_path,torch_dtype="float16")#保存为MindSpore格式tokenizer.save_pretrained(output_path)model.save_pretrained(output_path,save_format="mindspore")必须同时保存tokenizer和配置文件#固定shape场景可选ATC编译为OM格式atc--model=model.onnx--framework=5\--output=model_ascend--soc_version=Ascend910B/data/models/├──Qwen2-7B-Instruct/#原始HF格式├──Qwen2-7B-Instruct_ascend/#转换后昇腾格式├──offline_packages/#离线安装包└──model_registry.json#模型注册表{"models":[{"name":"Qwen2-7B-Instruct","version":"1.0.0","format":"mindspore","path":"/data/models/Qwen2-7B-Instruct_ascend","memory_gb":14,"deploy_date":"2026-07-15","status":"production","md5":"a3b2c1d4..."}]}每模型保留两个目录(原始+转换)离线包统一存放offline_packagesmodel_registry.json记录元数据1345213452检查前置条件配置config.yaml创建systemd服务启动服务验证#/etc/mindie/config.yamlserver:port:8080host:mo
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 2026年大学试题(文学)-汉语言文学历年参考题库含答案解析
- 2026年太原幼儿师范高等专科学校高职单招笔试化学历年参考题库含答案解析
- 2026年天津城市职业学院高职单招笔试化学历年参考题库含答案解析
- 2026年大学试题(大学选修课)-微生物与人类健康历年参考题库含答案解析
- 2026年四川邮电职业技术学院高职单招笔试职业技能测验历年参考题库含答案解析
- 神经内科脑卒中防治进展
- 普通话教程教学教案
- 健康宣教会资料
- 2026新版汽修厂生产安全事故应急预案
- 2026年灯光考试题库及参考答案
- 《电力重大事故隐患判定标准及治理监督管理规定》国家能源局解读课件
- 2026年四川气象局招聘考试练习试卷【含答案】
- 【2026 版国资委15号文 穿透式监管内控检查全套工作底稿】
- 2026年税务系统公务员考试笔试模拟题及答案
- 普通高中学业水平测试物理合格考公式及知识点总结
- 加油站安全重点部位及爆炸危险区域培训
- 2026年呼吸内科副主任医师职称答辩实务题
- 焊接工艺指导书
- 煤矿劳动防护用品培训
- 护理论文写作规范课件
- 2025~2026学年河北省唐山市高新区统编版四年级上册期中考试语文试卷
评论
0/150
提交评论