人工智能算法与实践-第4章 逻辑回归_第1页
人工智能算法与实践-第4章 逻辑回归_第2页
人工智能算法与实践-第4章 逻辑回归_第3页
人工智能算法与实践-第4章 逻辑回归_第4页
人工智能算法与实践-第4章 逻辑回归_第5页
已阅读5页,还剩20页未读 继续免费阅读

付费下载

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

4.4算法总结4.1算法简介4.2算法原理4.3算法实验目录第四章逻辑回归算法人工智能算法与实践—1

01算法简介PartONE简要介绍逻辑回归算法的作用、相关知识等—2

4.1.1

逻辑回归的作用—3

逻辑回归功能示意图学习目的:怎么得到模型。4.1.2

逻辑回归的引入—4

线性回归是否能做分类问题?线性回归(少量样本)预测

线性回归(稍多样本)预测4.1.3Sigmoid函数—5

Sigmoid函数02算法原理PartTWO介绍逻辑回归算法的原理,包括公式推导—6

4.2.1

算法流程—7

求解逻辑回归模型流程图如线性回归的假设函数

一样,逻辑回归也需要先构造一个假设函数。求解假设函数的待优化参数,直至达到预期效果为止。

4.2.2

假设函数—8

将线性回归的假设函数替换为这里的x

Sigmoid函数的定义域为R,与此同时线性回归的假设函数(值域为R)作为Sigmoid函数的自变量。Sigmoid函数关于点(0,0.5)对称,可以无差别的分成两类。Sigmoid函数连续且可导,便于后续利用导数进行优化。Sigmoid函数图4.2.3

求解关键—9

训练集损失函数

4.2.4

损失函数—10

以e为底的对数函数

4.2.4

损失函数—11

m个训练样本的平均损失函数

最终的衡量(每个w)指标

合并4.2.5

梯度下降算法—12

已知第i轮的w,如何求解第i+1轮的w?

W=

第i+1轮中w向量中的第j个值4.2.5

梯度下降算法—13

求偏导的公式推导:4.2.5

梯度下降算法—14

依据偏导结果,第i+1轮的w为:

-

……

=

4.2.6

梯度下降算法结束条件—15

or测试—16

求得

逻辑回归模型预测流程示意图03算法实验PartTHREE利用代码实现逻辑回归算法,分类肿瘤数据—17

4.3.1

数据—18

共90条数据的训练集4.3.2

读取数据—19

引入相关类库,定义数据集路径。定义一个函数,传入一个字符串类型的数据集路径。将特征值x与标签y分别用两个列表存取,并返回。4.3.3

Sigmoid函数—20

形参z可以是一个数字,也可以是一个列表。我们一次性要处理90个数据,所以传入的是列表。4.3.4

核心代码—21

更新轮数设置为1000作为结束条件。返回权重列表,即得到了分类模型。4.3.5

实验结果—22

训练集预测结果图

04算法总结PartFOUR归纳总结逻辑回归的精髓—23

线性回归假设函数Sigmoid函数交叉熵损失函数梯度下降求取权重向量W4.4.1

总结ADDRELATEDTITLEWORDS—24

将线性回归的假设函数作为sigmoid函数的自变量利用交叉熵作为损失函数3.利用梯度下降算法

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论