课件PPT13 机器学习Lecture3_第1页
课件PPT13 机器学习Lecture3_第2页
课件PPT13 机器学习Lecture3_第3页
课件PPT13 机器学习Lecture3_第4页
课件PPT13 机器学习Lecture3_第5页
已阅读5页,还剩28页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

多元线性回归,多特征,机器学习,多个特征(变量),多个特征(变量),多个特征(变量),符号:=功能数量=训练示例的输入(特征)。=训练示例中的特征值。,假设:,先前:,为方便记法,请定义。,多元线性回归。,多元线性回归,多个变量的梯度下降,机器学习,假设:,成本函数:,参数:,(同时更新),梯度下降,重复,以前(n=1):,新算法:,重复,(同时更新),多元线性回归,梯度下降实践I:特征缩放,机器学习,例如=尺寸(0-2000英尺2)=卧室数量(1-5),特征缩放想法:确保功能类似。,尺寸(英尺2),卧室数量,特征缩放,将每个功能都放到大约一个范围内。,替换为使特征具有近似零均值(不适用于)。,均值归一化,E.g.,多变量线性回归,梯度下降II:学习率,机器学习,梯度下降,“调试”:如何确保梯度下降工作正常。,如何选择学习率。,示例自动收敛测试:,如果减少小于一次迭代,则声明收敛。,迭代次数,确保梯度下降工作正常。,确保梯度下降工作正常。,梯度下降不起作用。使用更小。,迭代次数,迭代次数,迭代次数,对于足够小,应该在每次迭代时减少但如果太小,梯度下降可能会很慢收敛。,总结:,如果太小:收敛慢。如果太大:每次迭代都不会减少;可能不会收敛。,选择合适的,多元线性回归,特征和多项式回归,机器学习,房价预测,多项式回归,价钱(y),尺寸(x),选择功能,价钱(y),尺寸(x),多元线性回归,正规方程,机器学习,梯度下降,正规方程:求解的方法解析。,直觉:如果是1D,解决,(每个),例子:,例子:,例子;特征,例如,如果,是矩阵的逆。,培训示例,功能。,梯度下降,正规方程,无需选择。不需要迭代。,需要选择。需要多次迭代。,即使很大,也能很好地工作。,需要计算,慢如果非常大。,多元线性回归,正规方程和不可逆性(可选),机器学习,正规方程,如果是不可逆的怎么办?(单数/退化),如果是不可逆的怎么办?,冗余功能(线性相关)。

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论