版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领
文档简介
第五章优化与智能计算5.1优化的基本概念5.2凸优化、梯度下降、随机梯度下降5.3智能优化方法第五章优化与智能计算5.1优化的基本概念5.2凸优化、梯度下降、随机梯度下降5.3智能优化方法优化及与人工智能的联系优化：在一定的约束条件下寻找最优方案的技术。路径规划、节能方案、工艺流程、定价策略……应用数学和工程的重要交叉方向运筹学数学规划人工智能：在外界条件约束下，寻找成功概率最大的模型、参数、或决策——与优化具有天然的联系优化的基本概念
优化的基本概念
人工智能与优化很多人工智能任务可以建模为优化问题：离散优化与连续优化根据优化变量的取值，优化问题可以分为连续优化（变量是实数）和离散优化（如布尔变量、整数变量）一般而言，连续优化易于求解从当前解出发，可以根据梯度等信息感知不同方向上的变化趋势；在右图所示的离散优化问题中，当前解与其附近的点之间没有联系（因为目标函数只在整数点上才有定义），无法预先知道周围解的情况无约束条件与有约束优化约束条件是优化问题的重要部分，不同的约束条件对应的求解方法可能完全不同一般而言，无约束优化比有约束优化易于求解很多人工智能方法涉及无约束优化，或约束条件比较简单
第五章优化与智能计算5.1优化的基本概念5.2凸优化、梯度下降、随机梯度下降5.3智能优化方法凸集与凸函数
“弦在曲线上”凸优化问题
凸优化应用举例：前后背景分离
通过求解凸优化问题，可以将视频分解为稀疏图像（前景）和低秩图像（背景）[4]最优性条件
梯度下降
随机梯度下降
随机梯度下降随机梯度下降使得我们可以对大规模问题进行有效的求解每一步迭代中，梯度下降得到了函数值的快速下降；随机梯度下降方法的函数值甚至有可能上升。因此随机梯度下降的搜索次数比梯度下降多。但每一步计算时，随机梯度下降的计算量比梯度下降少，因此总的计算效率有可能比梯度下降方法高，特别是在大规模优化问题中第五章优化与智能计算5.1优化的基本概念5.2凸优化、梯度下降、随机梯度下降5.3智能优化方法模拟退火算法梯度下降算法会陷入局部极小负梯度一定能使得函数值减小局部极小附近没有比当前点更好的解跳出局部极小，必须容忍函数值的上升以概率接收函数值的上升接收概率与上升程度成反比接收概率随算法进行而变小粒子群算法多个粒子进行搜索和信息交互，提供跳出局部极小的可能
遗传算法仿照生物群体的进化过程利用自然选择机制选择好的点利用杂交机制，集中和综合好的解的特性利用变异，为种群提供多样性和新的可能性随机生成包含足够数量的染色体的生物种群；计算种群中每个个体的“适应度”（fitness）；根据适应度随机选择竞争中胜出的个体，适应度越高，相应个
温馨提示
- 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 化工厂入职培训课件
- 飞船乐队介绍
- 钢结构机器人焊接技术应用
- 2026年福建莆田市司法局市学园公证处编外人员4人备考考试试题及答案解析
- 2026上海第二工业大学招聘66人备考考试题库及答案解析
- 2026年荆州市企事业单位人才引进833人备考考试题库及答案解析
- 2026广东中山市阜沙镇社区卫生服务中心招聘合同制工作人员8人备考考试题库及答案解析
- 俱乐部元宵活动策划方案(3篇)
- 长治东站-施工方案(3篇)
- 飞机安全员技能培训课件
- XRD仪器使用实操手册大全
- 司法鉴定机构工作流程及质量控制
- 江门流态固化土施工方案
- 人民法院受理案件通知书
- 道路-砖-施工方案
- 医院门诊护士岗位职责说明
- 【语文】桂林市五年级下册期末复习试卷(含答案)
- 手术室三方核查规范
- 内分泌护士长年终总结
- 500万的咨询合同范本
- 中药热熨敷技术及操作流程图
评论
0/150
提交评论