机器学习基础与应用 课件 第七章 基于逻辑回归的信用卡异常行为检测

第七章基于逻辑回归的信用卡异常行为检测目

录逻辑回归算法定义逻辑回归算法定义K折交叉验证法010203逻辑回归算法定义01逻辑回归算法定义逻辑回归（logisticregression）算法也称作Logistic回归分析算法，是一种广义线性回归，虽然逻辑回归算法带着回归两个字，但它并不是一种回归算法，而是一种分类算法。逻辑回归算法是基于多元线性回归的一种算法，是一种线性分类器。01逻辑回归与线性回归具有相似之处：线性回归采用线性表达式来输出预测值；逻辑回归通过在线性回归的基础上添加非线性变换，输出离散值来解决分类问题。逻辑回归算法原理02逻辑回归算法原理逻辑回归算法既可以用于进行二分类，也可以用于多分类。二分类问题是比较常用的、也更加容易解释，所以在实际问题中，比较常用的是二分类的逻辑回归。02逻辑回归二分类算法原理逻辑回归多分类算法原理逻辑回归算法原理逻辑回归算法在实现二分类任务时，通常将线性回归的结果输入Sigmoid函数中，将其转换为概率值，把线性回归的预测结果从一个无限区间值映射为（0，1）的两个候选结果。Sigmoid函数是一种常用于二分类问题的激活函数，它可以将任意实数映射到0到1之间，可以被看作是一种将实数转化为概率值的函数，可以使用σ来进行表示。逻辑回归二分类算法的表达式为：02逻辑回归二分类算法原理逻辑回归算法原理假设有三角形（标签为0）和圆形（标签为1）两种类别，如果输入一个新的数据（大一点的圆形），逻辑回归算法首先会通过线性回归算法计算出一个输出为（-∞，+∞）的预测值，然后再将这个预测值输入给Sigmoid函数（图中的S形图像）中将其映射成为一个0到1之间的数值，如果数值大于0.5，则归为1类；如果数值小于0.5，则归为0类。02逻辑回归二分类算法原理逻辑回归算法原理逻辑回归实现多分类任务的算法：一对多法和Softmax法02逻辑回归多分类算法原理一对多法指的是对K（K指的是分类个数）分类，训练时依次把某个类别的样本归为一类，其他剩余的样本归为另一类，得到K个分类器；预测时分别用K个分类器进行预测，选择结果最大的作为分类的结果。逻辑回归算法原理逻辑回归实现多分类任务的算法：一对多法和Softmax法02逻辑回归多分类算法原理Softmax法指的是使用Softmax函数将一个向量映射为另一个向量，使得输出向量中的所有元素均在0到1之间，并且所有元素的和为1。Softmax函数与逻辑回归二分类算法中使用的Sigmoid函数类似，它们的主要区别在于输入和输出的维度不同，以及应用的场景不同。Softmax函数通常用于多分类任务，输出为样本属于每个类别的概率分布。K折交叉验证法03K折交叉验证法数据集划分：训练集、测试集、验证集。测试集：在完成模型训练之后，用来测试模型泛化能力的数据集。验证集：在训练过程中用于检验模型的训练情况，从而确定合适的超参数；使用目的是选择合适的模型参数。03划分数据集的方式通常是在固定数据集之后进行随机划分的，会导致数据集的利用率比较低，也会受到随机划分的影响。K折交叉验证法能够避免由于数据集划分不合理而导致的问题。K折交叉验证法K折交叉验证法的主要用途：03进行模型评估选择合适的模型参数K折指的是将训练集划分成为K个子集并执行K次训练12K折交叉验证法3折交叉验证法示例：具体过程是先将训练集划分为3个子集，每次将其中1