深度学习应用开发 课件 cha5 4-过拟合与欠拟合_第1页
深度学习应用开发 课件 cha5 4-过拟合与欠拟合_第2页
深度学习应用开发 课件 cha5 4-过拟合与欠拟合_第3页
深度学习应用开发 课件 cha5 4-过拟合与欠拟合_第4页
深度学习应用开发 课件 cha5 4-过拟合与欠拟合_第5页
已阅读5页，还剩7页未读， 继续免费阅读

付费下载

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

目录1过拟合与欠拟合概述01任务过拟合及解决办法02任务欠拟合及解决办法03任务1过拟合与欠拟合概述1过拟合与欠拟合概述对于深度学习或机器学习模型来说，我们不仅要求它对训练数据集有很好的拟合，同时也希望它可以对未知数据集（测试集）有很好的拟合结果（泛化能力），所产生的测试误差被称为泛化误差。度量泛化能力的好坏，最直观的表现就是模型的过拟合（overfitting）和欠拟合（underfitting）。过拟合和欠拟合是用于描述模型在训练过程中的两种状态。一般来说，训练过程会是如下所示的一个曲线图：2过拟合及解决办法2过拟合及解决办法（1）过拟合概念过拟合是指训练误差和测试误差之间的差距太大。换句换说，就是模型复杂度高于实际问题，模型在训练集上表现很好，但在测试集上却表现很差。模型学习到了一些训练集中的不适用于测试集的性质或特点，比如噪声，模型的泛化能力差。2过拟合及解决办法（2）过拟合出现的原因训练数据集样本单一，样本不足。如果训练样本只有负样本，然后那生成的模型去预测正样本，这肯定预测不准。所以训练样本要尽可能的全面，覆盖所有的数据类型。训练数据中噪声干扰过大。噪声指训练数据中的干扰数据。过多的干扰会导致记录了很多噪声特征，忽略了真实输入和输出之间的关系。模型过于复杂。模型太复杂，已经能够“死记硬背”记下了训练数据的信息，但是遇到没有见过的数据的时候不能够变通，泛化能力太差。我们希望模型对不同的模型都有稳定的输出。模型太复杂是过拟合的重要因素。2过拟合及解决办法（3）防止过拟合方法获取和使用更多的数据（数据集增强）；采用合适的模型（控制模型的复杂度）；降低特征的数量；L1/L2正则化；加入Dropout；采用Earlystopping方法。3欠拟合及解决办法3欠拟合及解决办法（1）欠拟合概念欠拟合是指模型不能在训练集上获得足够低的误差。换句换说，就是模型复杂度低，模型在训练集上就表现很差，没法学习到数据背后的规律。3欠拟合及解决办法（2）欠拟合解决办法欠拟合基本上都会发生在训练刚开始的时候，经过不断训练之后会避免欠拟合问题。如果随着训练的进行，模型仍然存在欠拟合问

人人文库> 全部分类> 教育资料 > 课件下载

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论