已阅读5页，还剩4页未读， 继续免费阅读
版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领
文档简介
1,梯度下降法,2,梯度下降法又称最速下降法。函数J(a)在某点ak的梯度 是一个向量，其方向是J(a)增长最快的方向。显然，负梯度方向是J(a)减少最快的方向。 在梯度下降法中，求某函数极大值时，沿着梯度方向走，可以最快达到极大点；反之，沿着负梯度方向走，则最快地达到极小点。,3,4,求函数J(a)极小值的问题，可以选择任意初始点a0,从a0出发沿着负梯度方向走，可使得J(a)下降最快。 s(0)：点a0的搜索方向。,5,对于任意点ak，可以定义ak点的负梯度搜索方向的单位向量为: 从ak点出发，沿着 方向走一步，步长为 ,得到新点ak+1,表示为：,6,7,因此，在新点ak+1，函数J(a)的函数值为： 所有的ak组成一个序列，该序列由迭代算法生成 a0, a1, a2, . , ak, ak+1, . 该序列在一定条件下收敛于使得J(a)最小的解a* 迭代算法公式：,8,迭代算法公式： 关键问题：如何设计步 长 如果选得太小，则算法收敛慢，如果选得太大， 可能会导致发散。,9,梯度法的迭代过程： 选取初始点a0，给定允许误差0,0,并令k=0。 计算负梯度 及其单位向量 。 检查是否满足条件 ，若满足则转8，否则继续。 计算最佳步长 。 令： 计算并检验另一判据： ，满足转
温馨提示
- 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 重庆市江津第四中学2026年初三第三次教学质量检测试题英语试题试卷含解析
- 婴幼儿过敏性疾病预防健康教育专家共识
- 土地分成合同
- 2026年联合种植合同（1篇）
- 企业合同管理审计规范及实操指南
- 2026年企业危化品物流安全管理实践与案例分析
- 2026年基于错题资源的小学数学教学研究
- 2026年社会心理服务（危机干预）数字化平台探索
- 讲课网络教研区片集备《识字七》教学设计
- 皮肤科湿疹患者日常护理培训
- 2026年河南单招宠物经济大类动物医学专业技能实操题库含答案
- 模拟教学案例设计的真实性原则
- 人工智能应用报告
- 电商教学合同
- hc工法组合桩施工方案
- 供电营业厅培训课件
- 生活垃圾收集人员培训管理方案
- 无人机保险相关知识培训课件
- 十五五特殊教育发展提升行动计划
- 超声内镜在胰腺疾病诊疗中的应用
- 供应链协同对农村电商发展的机制分析
评论
0/150
提交评论