人工智能导论 课件 第7章 人工智能实践

第七章

人工智能实践2本章导入：AI落地不是只训练模型从“训练一个模型”扩展到“开发一个可复现、可部署、可迭代的系统”数据采集→模型训练→效果评测→模型导出→模型部署→迭代优化数据是否规范格式、标签、切分、泄露控制决定评测是否可信。算力是否匹配显存、带宽、精度与部署形态决定任务能否跑通。算法是否合适学习范式、损失函数、评测指标必须服务业务目标。模型效果不好时，应该先换模型，还是先检查数据与评测？3AI项目开发的全流程数据版本记录采集、清洗、标注规则训练配置保存参数、环境、随机种子评测报告固定指标、切片、误差分析导出模型关注格式、精度、兼容性部署镜像保证环境一致与可回滚4AI实践三要素项目成败取决于三者是否匹配，而不是单看算法是否先进数据Data决定模型能学到什么：格式可读、标签一致、切分合理、无信息泄漏。算力Compute决定任务能否跑通、跑快：显存、带宽、多卡、数值精度。算法Algorithm决定学习方式：监督信号、训练范式、损失函数、评测指标。核心判断：三要素是否共同服务业务目标与资源约束5AI实践三要素：数据可用数据≠可训练数据•格式可被程序稳定读取：文件、字段、编码、缺失值处理一致。•标签含义一致：同一类别、同一标注规则不能前后漂移。•训练/验证/测试切分无信息泄漏：评测可信的前提。采集清洗标注质检增强切分回流优化数据质量是一项贯穿全流程、并随实验不断回流优化的闭环工作。6AI实践三要素：数据训练集、验证集、测试集各司其职训练集：学习模型参数。验证集：模型选择与超参数调整。测试集：最终结论确认。基本原则：测试集不参与任何调参、选择或中间决策，只能在最后评估。方法如何划分适用任务主要优势随机按比例全量样本按比例图像分类简单、实现快分层随机保持标签分布类别不均衡分类指标稳定按时间按时间排序时间序列/推荐用过去预测未来滚动验证多个时间窗口滚动时间序列/需求预测更稳健按组划分以用户/病人/商品划分推荐/搜索/医疗防止同主体泄漏7AI实践三要素：数据信息一旦回流，评测就不再可信训练集反复学习参数验证集选择方案/调参测试集最终一次评估•重复样本泄露：同一图片/文本同时出现在训练和测试中。•同主体泄露：同一用户、病人、商品跨集合出现。•时间泄露：用未来信息预测过去。•全量统计泄露：先在全量数据上归一化/特征统计，再切分。总结：先切分，再只在训练集上拟合处理规则。8AI实践三要素：算力显存batch、分辨率、序列长度最敏感数据搬运硬盘读取、CPU预处理、GPU传输可能导致空转数值精度FP32稳定；INT8等量化可降成本硬件选型不是追求单一指标最优硬件典型优势典型短板适用场景CPU通用、稳定、易部署吞吐有限预处理、轻推理GPU吞吐高、生态完善显存与驱动敏感深度学习训练/推理TPU云端吞吐强生态绑定云上大规模训练NPU能效好、端侧形态算子/生态差异端侧/国产化部署训练更关注吞吐、显存与分布式扩展；推理更关注端到端延迟、稳定性与部署形态9AI实践三要素：算力排障顺序：显存→数据通路→精度/部署→多卡扩展从直接因素入手，而不是立刻更换模型问题表现判断方向处理思路OOM/显存不足输入规模最敏感降batch/降分辨率/截断序列GPU利用率低数据通路可能阻塞加速读取、缓存、并行预处理推理成本高精度与部署形态受限量化、裁剪、选择端侧/云端方案10AI实践三要素：算法算法选择不是选论文名词，而是匹配数据形态、标注成本与任务目标监督学习SL标签充足半监督Semi-SL少量标签+大量无标签自监督SSL几乎无标签，学通用表征无监督UL无标签，发现结构弱监督WSL弱标签/噪声标签强化学习RL交互决策，长期回报有没有标签？标签成本多高？任务是识别、定位、生成还是决策？上线有什么约束？11AI实践三要素：算法训练不是“调用fit”这么简单损失函数决定模型学习目标：分类、回归、检测、分割或多任务权重。优化器决定参数更新方式与节奏；影响收敛速度和稳定性。学习率策略通过预热、衰减等机制平衡稳定性与收敛速度。正则化抑制过拟合，提高对噪声、长尾与分布变化的适应能力。评测要回答：模型是否真正满足业务目标？绑定业务目标明确错误代价、延迟、稳定性等约束，选择核心指标与辅助指标。保证可复现固定数据版本、预处理、后处理、评测脚本与随机性控制。看清性能来源关注波动范围、长尾样本、关键切片与分布变化下的鲁棒性。12AI开发环境：环境问题是多层软件栈问题环境问题极少是单点故障项目代码/配置训练脚本、数据路径、评测入口Python依赖NumPy、Pandas、SciPy、业务包深度学习框架PyTorch/TensorFlow/JAX等GPU软件栈驱动、CUDA、cuDNN、算子库操作系统与硬件CPU/GPU、内存/显存、存储、网络标准化目标：隔离运行环境、锁定依赖版本、匹配GPU软件栈。13AI开发环境：GPU环境配置最常见也最隐蔽的问题：版本不匹配检查项如何查看常见问题表现处理思路驱动版本nvidia-smi识别不到GPU重装/升级驱动CUDA版本nvcc及框架信息缺少动态库安装匹配CUDA框架版本pip/condalist算子报错/性能差换匹配wheel/conda包•CUDA：NVIDIAGPU通用计算平台与工具链，包含运行库和编译工具。•cuDNN：建立在CUDA上的深度学习算子加速库，如卷积、归一化等。建议：记住排查入口：nvidia-smi→nvcc/框架CUDA→pip/condalist。14AI开发环境：容器化Docker是环境标准化工具，不是万能系统一致性工具Docker的价值•封装用户态软件栈•提升环境一致性•保留版本可追溯性•提高交付效率•减少开发、训练、评测、部署之间的环境漂移Docker的边界•不能替代宿主机驱动•不能解决数据I/O瓶颈•不能替代网络拓扑与多机互联•不能替代集群资源管理•不是所有环境问题的万能解法适合定位：环境标准化与工程交付不适合定位：替代底层系统保障15AI开发环境：运行与可复现中大规模训练的关键：可观测、可回滚、可对比IDE/Jupyter适合调试、探索和可视化原型；不适合长时间训练。脚本+配置适合大规模训练和复现实验；可重复执行、易对比。日志工具TensorBoard、W&B、MLflow：定位问题、复现结果、对比实验。曲线诊断：过拟合、训练不稳定、训练正常；同时结合吞吐、显存占用和GPU利用率判断。16AI开发工具箱：框架与生态初学者不必从零写训练循环，应优先熟练使用成熟框架和工具PyTorch科研探索与工业原型开发常用。TensorFlow/Keras部分生产体系中工程化优势明显。JAX函数式建模与编译优化方向。PaddlePaddle/MindSpore国产化或特定硬件生态开发部署。GitHubgitclone/READMEHuggingFaceHubfrom_pretrained/snapshot_downloadTransformersAutoTokenizer/AutoModel/Trainerdatasets/evaluateload_dataset/map/compute17AI开发工具箱：模型通用训练流程先打通闭环，再逐步增加复杂度典型任务工具组合CV：torchvision、timm、Detectron2、MMDetectionNLP：Transformers多模态与生成Diffusers、ControlNet、Transformers；视频任务配合OpenCV/Decord。低成本微调PEFT/LoRA用较少参数完成微调，降低训练成本。定义任务与数据边界选择基线方案固化代码框架最小训练跑通最小评测验证端到端推理•先明确任务定义、输入输出形式与评测口径。•优先选择带预训练权重且生态成熟的基线模型。•用小数据、单卡、短轮数跑通训练与评测，再做完整实验。•最后做端到端推理校验，确认训练和推理流程一致。输入多分类预测建模问题输出-概率向量其中pk

代表样本属于第k类犯罪的概率，且该向量必须满足所有类别的概率之和为1。-类别标签c最终预测的犯罪类别经典机器学习算法实践-旧金山犯罪分类预测经典机器学习算法实践-旧金山犯罪分类预测不同类型特征应采用不同编码策略特征类型示例处理方式注意点数值型X、Y、距离标准化或保留原值线性模型更依赖标准化二值型是否周末直接使用0/1含义需稳定无序类别DayOfWeek、PdDistrict独热编码防止模型误解大小顺序目标标签CategoryLabelEncoder映射为整数索引计算损失文本地址Address提取路口/街道类型/关键词避免过高维稀疏噪声经典机器学习中，良好的特征工程往往比复杂模型更能决定性能上限。时间特征：用sin/cos保留23点与0点相邻的周期距离空间特征：标准化经纬度、旋转坐标轴、计算地标距离经典机器学习算法实践-旧金山犯罪分类预测构建预处理器构建分类器经典机器学习算法实践-旧金山犯罪分类预测构建Pipeline模型训练模型评估经典机器学习算法实践-旧金山犯罪分类预测评估指标：Accuracy：衡量分类是否准确LogLoss：衡量预测概率是否可靠Std：衡量模型结果是否稳定评估方法：分层K折交叉验证将样本划分为K个子集，轮流使用其中K-1折训练，1折验证分层约束，保证各折类别比例近似一致，使评估结果更稳定、可比经典机器学习算法实践-旧金山犯罪分类预测评估结果：经典机器学习算法实践-旧金山犯罪分类预测结果分析：逻辑回归直接优化对数似然LogLoss最低，适合风险概率预测梯度提升树非线性拟合能力强Acc最高，类别判别能力较好随机森林基于多棵树投票，倾向于输出高置信度预测错误预测会被LogLoss放大惩罚25深度学习算法实践-时间序列预测时间序列预测任务定义任务描述给定一段已知的历史观测序列（输入窗口），模型学习其内在变化规律，并预测未来若干时刻的取值（预测窗口）。形式化表述输入：{xt-L+1,…,xt}→预测：{xt+1,…,xt+H}输入窗口长度决定可利用的历史信息预测窗口长度决定预测时域的远近26深度学习算法实践-时间序列预测数据准备与预处理▍数据集：电力变压器温度（ETT）记录变压器油温与六项用电负荷预测目标为油温，反映设备健康状况▍预处理三步缺失值插补，保证时间连续标准化，统一量纲、稳定训练按时间切分，杜绝未来信息泄漏先读懂数据，再规范处理，才能让模型学到规律1.7万条记录每小时一条7个变量油温+6负荷7:1:2切分比训练/验证/测试27字段含义示例值Date时间戳2016-07-0100:00HUFL高压有功负荷5.827HULL高压无功负荷2.009MUFL中压有功负荷1.599LUFL低压有功负荷4.203OT油温（预测目标）30.531缺失值插补线性插值补全采集空隙，保证时间连续数据标准化StandardScaler统一量纲，稳定训练按序划分7:1:2严格按时间截断，杜绝未来信息泄漏深度学习算法实践-时间序列预测数据准备与预处理28多步预测：策略选择与张量结构直接预测（推荐）一次性输出未来整段序列，无误差累积、推理快，适合长时序；难以建模输出内部依赖。滚动预测自回归逐点预测，符合因果直觉；但每步误差带入下一步，远期精度迅速下降。张量结构（ETT，多变量）张量形状(Batch,Len,Var)含义输入Input(32,96,7)32样本×96小时历史×7变量输出Output(32,96,7)预测未来96小时×7变量深度学习算法实践-时间序列预测单变量预测#以ETTh1数据集为例，仅预测油温(OT):data={"04:00":30.46,"05:00":31.38,#2016-07-05连续4时刻

"06:00":32.78,"07:00":31.73}#变压器绝缘油温度(℃)x=[30.46,31.38,32.78,31.73]#输入向量，形状(4,)#若B=32(批大小),L=96(历史窗口),C=1(单变量):input_tensor.shape=(32,96,1)#32个样本，每含96小时历史output_tensor.shape=(32,96,1)#32个样本，每含96小时预测多变量预测#多变量模式：同时使用全部7个特征features=["HUFL","HULL","MUFL","MULL",#高/中/低压有功+无功

"LUFL","LULL","OT"]#OT=油温(预测目标)x_04=[5.827,2.009,1.599,0.462,#HUFL,HULL,MUFL,MULL

4.203,1.340,30.531]#LUFL,LULL,OT#若B=32,L=96,C=7(七个通道):input_tensor.shape=(32,96,7)#每样本96小时×7特征output_tensor.shape=(32,96,7)#预测未来96小时×7特征深度学习算法实践-时间序列预测30深度学习算法实践-时间序列预测DLinear模型介绍预测未来多个时间点的两种思路一次性预测：模型一口气把未来好几个时间点全部预测出来，速度快，也不会出现误差累积。逐步预测：先预测下一个点，再把它当作已知，接着预测后面的点。越往后预测，误差越容易越积越大。在长序列预测里，我们一般采用更稳定、更高效的一次性预测。DLinear模型的思路它先把一段历史数据拆成两部分：一部分是总体的变化趋势，另一部分是周期性的波动。这两部分各用一个简单的线性模型分别预测，最后把结果加起来，就是最终的预测值。结构非常简洁，计算量小，但预测效果却很好。输入历史数据拆成趋势和周期波动总体趋势周期波动用线性模型预测用线性模型预测两部分相加，得到预测结果31DLinear模型：序列分解+双线性头核心思路把历史序列拆成两部分：·趋势项：移动平均提取的总体走向·季节项：原序列减趋势后的周期波动两项各用一个线性层预测，结果相加即输出。结构简洁、计算量小，长序列预测中常作为高效基准。移动平均分解（nn.AvgPool1d）趋势/季节双线性头与权重初始化深度学习算法实践-时间序列预测MovingAvg模块#移动平均模块：提取序列趋势项classmoving_avg(nn.Module):#继承PyTorch模块self.avg=nn.AvgPool1d(#一维平均池化层kernel_size=kernel_size,#滑窗大小，控制平滑程度stride=stride,#步长，通常等于kernel_sizepadding=0)#不填充，后续手动补齐DLinear初始化#DLinear模型初始化self.decomposition=series_decomp(kernel_size)#序列分解：趋势+季节foriinrange(enc_in):#为每个通道创建独立线性层self.Linear_Seasonal.append(#季节项映射层

nn.Linear(seq_len,pred_len))#历史长度→预测长度self.Linear_Trend.append(#趋势项映射层

nn.Linear(seq_len,pred_len))#同上self.Linear_Seasonal[i].weight=#权重初始化为均值分布

nn.Parameter((1/seq_len)*torch.ones(#保证训练初期[pred_len,seq_len]))#输出稳定深度学习算法实践-时间序列预测33深度学习算法实践-时间序列预测深度学习训练的标准流程训练流程图梯度清零前向计算计算损失反向传播参数更新损失函数时序预测本质是回归问题，常用MSE；也可同时看MAE。优化器Adam具备自适应学习率，实践中收敛速度通常优于传统SGD。34深度学习算法实践-时间序列预测训练验证与可视化评估模型是怎么训练的先把训练数据分成一批（Batch），输入给模型一批，并打乱顺序，让模型学得更扎实。用预测值和真实值的误差来衡量模型好坏，再用优化算法一步步调整模型，让误差越来越小。训练就是不断重复"看数据、算误差、调整模型"这个过程，一轮一轮地进行。什么时候停，效果怎么看每训练一轮，都在验证集上检查一次误差，看看模型有没有进步。如果连续N轮都不再进步，就提前停止训练，并保留效果最好的那个模型。最后把预测曲线和真实曲线画在一起对比，就能直观看出预测得准不准。35训练与评估：标准流水线+早停TSlib通用训练框架：加载→训练→早停→评估训练循环五步梯度清零→前向→算损失→反向→更新参数；损失用MSE，优化器用Adam。早停机制每轮在验证集算MSE/MAE；连续若干轮不再下降即停止，保留最优权重。预测曲线与真实值对比（HUFL）深度学习算法实践-时间序列预测训练流水线#①数据准备：按train/val/test三份加载train_loader=data_provider(args,flag='train')#加载训练集val_loader=data_provider(args,flag='val')#加载验证集test_loader=data_provider(args,flag='test')#加载测试集#②模型、优化器与损失函数model=Model(args).to(device)#初始化模型(DLinear/SegRNN等)optimizer=Adam(model.parameters(),lr=lr)#Adam自适应优化器criterion=MSELoss()#均方误差损失函数#③训练循环+早停forepochinrange(train_epochs):#逐轮迭代训练model.train()#切换到训练模式

forbatch_x,batch_y,x_mark,y_markintrain_loader:#按批遍历outputs=model(batch_x,x_mark,dec_inp,y_mark)#前向推理loss=criterion(outputs[:,-pred_len:],#计算预测区间batch_y[:,-pred_len:])#与真实值的损失optimizer.zero_grad()#梯度清零loss.backward();optimizer.step()#反向传播+更新

ifearly_stopping(val_loss,patience):#④验证集早停判断

break

#损失不再下降则终止#⑤测试与评估model.load_state_dict(best_checkpoint)#加载最优模型preds,trues=predict(model,test_loader)#测试集推理mse,mae=compute_metrics(preds,trues)#计算MSE和MAE深度学习算法实践-时间序列预测37强化学习算法实践-机器人仿真控制监督学习数据格式：样本x+标签y学习目标：拟合输入到输出的映射反馈方式：每个样本有明确标准答案典型任务：分类、回归、检测、分割强化学习数据格式：状态s+动作a+奖励r学习目标：学习最大化长期回报的策略反馈方式：奖励可能延迟、稀疏、有噪声典型任务：机器人控制、游戏、调度状态s动作a奖励r下一状态s′策略更新监督学习vs强化学习：两类学习范式的训练信号完全不同38强化学习算法实践-机器人仿真控制IsaacSim仿真环境快速上手IsaacSim是什么它是英伟达公司推出的机器人仿真平台，可以在电脑里搭建逼真的虚拟环境。我们可以让机器人先在仿真环境里反复练习，再把学到的本领用到真实机器人上。先认识三个常用面板初次打开软件时，先熟悉右边这三个面板，就能开始动手搭建训练场景。把机器人、地面、障碍物和目标放进去，就构成了一个完整的练习环境。39强化学习算法实践-机器人仿真控制IsaacSim的三个核心模块IsaacSim界面功能布局Stage场景树以树状结构展示机器人、地形、灯光等Prim。Physics物理面板管理重力、时间步长、求解器迭代次数。Viewport3D视图实时渲染与多视角切换，观察机器人状态。40构建环境：Gym风格的“观测—动作”接口CartBalanceEnv：reset/step/观测空间8维/动作2维接口规范step(action)推进一个仿真步，返回新观测、奖励、终止标志。reset()每回合开始初始化环境，保证训练可重复。观测/动作观测8维：位姿+IMU；动作2维：左右轮速，归一化到[-1,1]。强化学习算法实践-机器人仿真控制CartBalanceEnvimportgymnasiumasgym#导入Gym强化学习接口importnumpyasnp#导入数值计算库classCartBalanceEnv(gym.Env):#IsaacSim小车平衡环境

def__init__(self):#初始化环境self.sim=init_isaac_sim()#启动IsaacSim仿真引擎self.observation_space=gym.spaces.Box(#观测空间定义-np.inf,np.inf,(8,))#8维:[x,y,z,roll,pitch,yaw,a,g]self.action_space=gym.spaces.Box(#动作空间定义

-1.0,1.0,(2,))#2维:[左轮速,右轮速]

defreset(self):#重置环境到初始状态self.sim.reset()#重置仿真场景

returnself._get_obs()#返回初始观测(8维向量)

defstep(self,action):#执行一步交互self.sim.apply_action(action)#施加动作到执行器self.sim.step()#推进仿真一个时间步

returnself._get_obs(),#返回:新观测self._compute_reward(),#即时奖励self._check_done(),{}#终止标志+附加信息强化学习算法实践-机器人仿真控制42环境接口：遵循OpenAIGym规范方法输入输出示例reset()无obs(8,)[0,0,0,0,0,0,9.81,0]step(a)action(2,)(obs,r,done,info)a=[0.35,-0.12]→r=0.95_get_obs()无obs(8,)concat(pose,imu)观测空间（8维）小车横纵向速度、姿态角、陀螺仪读数，以及地面与目标的相对位置信息。动作空间（2维）左右轮的目标速度，归一化到[-1,1]；采用连续速度控制驱动轮式小车。强化学习算法实践-机器人仿真控制43强化学习算法实践-机器人仿真控制PPO/SAC算法原理PPO完整的训练循环：智能体与环境不断交互、采样、评估、更新，策略在循环中持续改进。采样交互环境返回状态与奖励，收集为训练数据（①②）分工评估Actor选动作、Critic评价值，算出动作优势（③④）稳定更新PPO用裁剪限制更新幅度，避免训练崩坏（⑤）44强化学习算法实践-机器人仿真控制PPO/SAC算法原理SAC是一种离策略、最大熵的算法：用经验回放复用历史数据，在拿高奖励的同时保持充分探索。经验复用交互数据存入回放池，随机抽样训练，样本效率高（①②③）双Q防高估取两个Q网络较小值估计价值，让训练更稳（④）熵自调节Actor选高价值动作，Alpha动态平衡探索与利用（⑤⑥）PPO训练循环model=ActorCritic(obs_dim=8,act_dim=2)#创建Actor-Critic网络optimizer=torch.optim.Adam(model.parameters(),#Adam优化器lr=3e-4)#学习率3e-4foriterationinrange(1000):#主训练循环:1000轮#①采集经验：与环境交互obs=env.reset()#重置环境

forstepinrange(rollout_steps):#采集rollout_steps步action,log_prob,value=model.act(obs)#Actor输出动作+概率next_obs,reward,done,_=env.step(action)#环境返回buffer.store(obs,action,reward,#存入经验缓冲区value,log_prob)#含价值估计和对数概率obs=next_obs#更新当前观测#②计算优势函数advantages=compute_gae(buffer,#广义优势估计(GAE)gamma=0.99,lam=0.95)#折扣因子+平滑参数#③PPO策略更新：同批数据复用10轮

forepochinrange(10):#复用经验10轮ratio=new_prob/old_prob#新旧策略概率比clip_loss=-min(ratio*adv,#裁剪目标函数clamp(ratio,0.8,1.2)*adv)#限制更新幅度[0.8,1.2]loss=clip_loss+0.5*(V-returns)**2

#总损失=策略+价值optimizer.zero_grad()#梯度清零loss.backward();optimizer.step()#反向传播+更新强化学习算法实践-机器人仿真控制46强化学习算法实践-机器人仿真控制训练策略与PPO/SAC对比PPO更快更稳、SAC探索更强、性能上限更高怎么读这张图纵轴是归一化平均回报，越高代表学得越好；阴影是多次实验的波动范围。PPO约60k步收敛，SAC约80k步，PPO上升更快。对比结论稳定性：PPO曲线波动更小、更平稳。最终性能：两者接近，SAC后期略有追平。选型：求快求稳选PPO，重探索、重上限选SAC。奖励函数设计def_compute_reward(self):#计算即时奖励#获取当前状态pitch=self.sim.get_pitch()#获取俯仰角（弧度）pitch_vel=self.sim.get_pitch_velocity()#获取角速度#奖励设计：角度越小越好，角速度越小越好alive_bonus=1.0

#存活奖励：每步+1.0angle_penalty=-5.0*pitch**2

#角度惩罚：偏离竖直越大越重velocity_penalty=-0.1*pitch_vel**2

#角速度惩罚：抖动越大越重reward=alive_bonus+angle_penalty\#总奖励=三项之和+velocity_penalty#典型范围:[-2,1]

returnreward#返回即时奖励值#训练监控指标(TensorBoard)writer.add_scalar('reward',mean_reward,step)#每回合平均奖励writer.add_scalar('policy_loss',pi_loss,step)#策略网络损失writer.add_scalar('value_loss',v_loss,step)#价值网络损失#收敛判断：奖励趋稳+Loss不再下降→训练完成强化学习算法实践-机器人仿真控制强化学习算法实践-机器人仿真控制强化学习训练监控：奖励趋稳+Loss不再下降，才算基本收敛监控指标含义如何解读MeanEpisodeReward每回合平均奖励整体策略质量，越高越好，但需看是否稳定PolicyLoss策略网络损失反映策略更新方向，剧烈震荡需调学习率/裁剪ValueLoss价值网络损失Critic对回报预测误差，过大说明价值估计不稳EpisodeLength回合长度平衡任务中越长通常表示策略越好Std/方差多次实验波动评估策略稳定性与可复现性49大语言模型实践核心能力：文本、知识与边界文本理解与生成识别语义、情感与隐含意图；生成语法正确、逻辑连贯的多语言文本。知识检索与推理掌握历史、科学、文化、法律等多领域知识，回答事实问题并进行逻辑推断。幻觉风险（需警惕）有时以确定语气生成错误信息；知识止于训练截止日，重要结论须独立核验。50提示词工程：与模型有效对话核心原则：清晰告诉模型任务内容、具体要求与期望呈现方式——提示词越精确，输出越贴合需求。要素作用示例角色设定让模型以特定身份回答你是一位经验丰富的历史学教授任务描述明确说明需要完成的任务请分析以下历史事件的成因内容要求指定输出的具体内容重点讨论经济和政治因素格式要求说明输出的格式和结构用三个段落，每段一个论点长度限制指定输出的长度范围800字左右风格定位说明语言风格和语气正式学术风格，避免口语化受众定位明确目标读者群体面向大学本科生大语言模型实践51提示词优化：对比与常见问题优化前后对比（撰写产品介绍）优化前「介绍一下这个智能手表」——表述笼统，输出难以聚焦。优化后请为智能手表撰写一段产品介绍：·长度约200字·重点突出健康监测功能·语言活泼，面向年轻用户·结尾引导互动输出不符预期的改进方法问题表现改进方法内容偏离主题明确核心要求，增加约束条件长度不合适明确指定字数或段落数风格不匹配指定语言风格和目标受众格式混乱提供格式模板或输出示例大语言模型实践52使用注意事项：核验与隐私防范幻觉对不确定信息要求模型如实说明、不要猜测；重要结论交叉核验权威来源，区分事实与推测。专业内容须审核医学、法律、金融等领域输出仅作初稿，由专业人士复核；提示中可要求「不确定处请注明」。隐私最小化原则不输入身份、金融凭证、商业机密及他人隐私；输入经云端处理，须按需脱敏。示例：撰写邮件的安全做法✗不安全：在提示中直接写明张三手机、邮箱等真实信息。✓安全：先用泛化信息生成文本，再手动填入具体信息。将模型视为高效的辅助工具，而非最终依据大语言模型实践53AIGC实践从文本到多媒体：AIGC总览AIGC跨越文本、图像、音频与视频，生成具有相当质量的创意内容。多模态大模型可同时理解图像与文字指令——上传图片并提问，模型即综合作答。图像理解能力基础识别物体、场景、人物动作、文字识别等常规任务。深度分析理解情感氛围、辨别艺术风格与技法、把握画面元素的叙事关联。典型应用场景·教育辅导：讲解图表、批改图片作业·内容审核：识别违规与敏感画面·数据分析：从图表图像中提取结构化信息·电商运营：分析产品图拍摄角度、光线、构图并提出改进建议54图像生成：文字到画面的转换提示词结构主体+环境/背景+风格+构图+光影+色彩+质量参数两个实用技巧·逐步迭代：从简到繁，每次聚焦一个维度，观察输出再补充细节。·负面提示词：明确排除不想要的元素（模糊、变形、多余肢体），精准控图。示例：水彩插画风格人物AIGC实践55视频生成：为画面增加时间维度提示词结构场景+主体动作+镜头运动+时长/节奏+风格+氛围特点与要领·擅长数秒至十余秒、场景较简单的短视频。·在画面描述之外，需说明运动与时间：元素如何运动、镜头如何移动、节奏快慢。·用「平滑、流畅、自然」引导，避免复杂轨迹。视频帧：白鹭进入画面视频帧：白鹭降落湖边AIGC实践56常见问题与版权伦理图像生成常见问题问题表现改进方法主体不明确增加具体细节描述风格不对使用具体风格名称构图混乱明确指定构图方式色彩不协调添加色调描述版权与伦理规范先审核后使用评估是否准确达意、有无错误、风格是否契合受众，再投入使用。守住法律与伦理底线不直接模仿特定艺术家风格，改以风格特征描述；不滥用真实人物肖像与姓名；公开发布须标注「AI生成」。AIGC实践57模型部署实践常用模型部署工具TensorFlowServing定位TensorFlow生态的在线推理服务框架，面向生产环境，高性能、可扩展使用要点以SavedModel标准格式加载模型通过Docker容器启动，挂载模型目录接口gRPC（8500）：高并发、低时延REST（8501）：易调试、跨语言集成TorchServe定位PyTorch生态的在线推理服务框架流程：模型打包—服务加载—在线调用使用要点先用torch-model-archiver打包为.mar文件含模型权重与推理入口（handler）接口推理接口InferenceAPI（8080）管理接口ManagementAPI（8081）ONNX/跨框架部署定位统一的模型表示格式，框架无关的计算图

实现训练框架与推理环境解耦使用要点从训练框架导出，在多种推理引擎运行属交付格式，本身非完整部署方案注意事项算子兼容性、数值一致性需验证部署前做推理一致性测试58模型部署实践模型开发与部署流程离线研发把数据准备好、把模型训练好，拿到一个达标的模型，然后把训练配置、数据版本这些信息都留好，打成一个"可交付包"——后面部署的人拿到这个包就能用。验证适配模型训完不能直接上线，得先进行测试，延迟、吞吐、资源占用都得看一遍。服务封装验证通过之后，就把推理过程包成一个标准接口——接口规范、参数校验、异常处理，这些都得写清楚，让业务系统能直接调用。部署交付上线的时候用容器化部署，保证可迁移性。再加上灰度发布和版本回滚，万一出了问题可以快速退回。运行治理模型上线不是结束，而是新的开始。日志、监控、告警一个都不能少——数据分布变了、业务逻辑变了，就得重新训练、重新发布，持续迭代。59模型部署实践基于ONNX进行模型部署推理验证四步流程1模型加载2输入预处理3推理执行4结果后处理以轻量级视觉模型MobileNetV2为例，基于onnxruntime在本地完成推理验证：1模型加载用onnxruntime.InferenceSession加载.onnx，并查看输入/输出名称与形状2输入预处理读图转RGB→缩放224×224→归一化（ImageNetmean/std）→转NCHW并加批次维3推理执行调用session.run()，按“输入名称—数组”传入张量，得到各类别得分（非概率）4结果后处理对得分做SoftMax，取Top-K，按标签文件映射为可读类别名称60模型部署实践三种部署形态：按场景权衡选择本地部署模型运行在企业内部环境数据可控性强，适合隐私/安全要求高的场景；对算力与运维依赖较大。云端部署依托云平台弹性算力自动化运维，适合业务波动大、迭代频繁；需关注数据合规与网络时延。边缘端部署推理下沉到设备/近端节点低时延、少依赖网络，适合实时性高或数据本地化场景；受限于设备算力。结合数据安全、性能指标与成本约束权衡，必要时多形态结合61模型部署实践部署框架与工具：命令速览TensorFlowServingSavedModel格式+Docker启动；gRPC(8500)/REST(8501)TorchServe先打包.mar，再启动；推理(8080)/管理(8081)ONNX/跨框架部署统一的模型表示格式框架无关计算图，实现训练框架与推理环境解耦；从训练框架导出，在多种推理引擎运行。注意：属交付格式，非完整方案需验证算子兼容性与数值一致性；部署前务必做推理一致性测试。62模型部署实践ONNX模型本地推理验证：MobileNetV2示例ONNX局部结构Top-K输出示例模型加载输入预处理推理执行结果后处理模型加载onnxruntime.InferenceSession加载.onnx并查看输入输出。预处理RGB→224×224→ImageNet标准化→NCHW。后处理SoftMax转概率，取Top-K并映射为可读标签。63算法竞赛平台实践：Kaggle平台介绍全球领先的数据科学竞赛平台Kaggle集成竞赛组织、数据集发布、在线开发与结果评测四大能力；竞赛提供数据文件、任务描述与评测指标，参赛者提交预测结果，以排行榜形式展示模型效果。双榜机制：兼顾反馈与泛化PublicLeaderboard（公共榜）基于测试集的一部分样本计算，比赛过程中实时可见，为迭代优化提供反馈。PrivateLeaderboard（私有榜）基于另一部分样本计算，赛后公布最终排名，降低过拟合风险、反映真实泛化能力。KaggleNotebook：在线开发闭环浏览器内完成数据读取→特征处理→模型训练→结果导出，无需配置复杂环境，形成「数据处理—模型训练—结果提交—排行榜反馈」的迭代闭环。64算法竞赛平台实践：其他主流竞赛平台三个代表性平台，各有侧重天池Tianchi阿里巴巴·产业实战覆盖推荐系统、搜索排序、广告CTR、计算机视觉与自然语言处理等方向。产业背景强，数据与任务贴近真实业务，适合了解工业数据建模特点。DrivenData公益·可持续发展主题为社会公益与可持续发展：公共健康预测、灾害响应、环境治理。数据多来自政府、非营利与研究机构，强调可解释性与实际落地意义。AICrowd研究