版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
第7章模型选择与正则化学习目标理解为什么需要进行模型选择和正则化了解模型选择的方法掌握正则化的几种方法,以及如何使用程序实行正则化模型选择决定使用哪些特征不同特征的排列组合产生多个模型主要介绍最佳子集选择法和前向分步算法最佳子集选择法
前向分步算法
正则化方法通过将参数向0收缩来达到减小点估计量方差的目的常见方法:岭回归套索回归弹性网络岭回归(RidgeRegression)修改线性回归的代价函数引入正则化项正则化参数
𝜆控制模型复杂度套索回归(LassoRegression)
岭回归与套索回归比较两者都通过
𝜆控制正则化套索回归可使某些特征系数变为0弹性网络(ElasticNet)结合岭回归与套索回归的优势代价函数中同时包含两个正则项模型训练
模型训练
超参数设置实验不同𝜆值以找到最佳模型留出部分数据进行最终验证正则化使用注意事项先对特征进行缩放缩放后的变量应具有相似的标准偏差逻辑回归中的正则化加入岭回归的正则化项加入套索回归的正则化项正则化程序示例
导入相关库数据读取及处理正则化程序示例
删除建立回归模型不需要的列分割数据集中的特征变量和目标变量标准化处理岭回归模型示例
创建一个Ridge对象使用fit方法训练模型使用predict方法对训练数据进行预测计算均方误差岭回归模型示例
对验证数据进行预测计算均方误差评估模型的性能习题知识理解哪种正则化方法能达到类似于模型选择的方法?提高正则化超参数值
𝜆对于模型拟合中的哪种问题有帮助?阐述
𝜆值对模型参数𝑤的影响。以及,如果𝜆>0会如何影响𝑤的可解释性。习题程序操作请使用每股收益预测数据进行模型训练。在训练模型时,使用套索回归进行正则化。将
𝜆值设为0.1,1,10,以及20。观察在这些
𝜆值时,哪些特征被从模型
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 班会设计 揭开职业的面纱 教学设计-2025-2026学年高中下学期职业探索
- (2026年)医院急性肺水肿患者急救流程课件
- 2026年安全生产月:电力企业迎峰度夏保供与安全生产课件
- 2026春西师大版二年级下册数学期末易错题专项训练试卷含答案
- 2026年寝室安全知识竞答主题
- 2026年供应链金融分析师初级模拟卷
- 2026年秋季安全知识中班
- 2026年证券从业证券市场基础知识练习题
- 2026年心理健康知识培训活动方案策划
- 2026年营销策划师认证考试模拟题
- QY130V633技术规格书(含配套件)
- 三年级数学下册《暑假作业》(共50套)
- 居民自建桩安装告知书回执
- 辅导员基础知识试题及答案
- 水利工程施工课程设计
- 公路隧道开挖施工技术规范
- DB14∕T 1925-2019 流通领域供应链标准体系
- 2022年中考语文12本名著导读考点梳理
- GB/T 30791-2014色漆和清漆T弯试验
- GB/T 25261-2010建筑用反射隔热涂料
- 噪声污染与控制
评论
0/150
提交评论