第3章-线性回归

MACHINELEARNING机器学习第3章线性回归3.1线性回归算法3.2

波士顿房产价格分析3.3回归模型的评价方法of4123.4多元线性回归第3章线性回归of413可解决回归问题思想简单，实现容易许多强大的非线性模型的基础结果具有很好的可解释性蕴含机器学习中的很多重要思想3.1线性回归算法第3章线性回归of414线性回归算法以一个坐标系里一个维度为结果，其他维度为特征（如二维平面坐标系中横轴为特征，纵轴为结果），无数的训练集放在坐标系中，发现他们是围绕着一条执行分布。线性回归算法的期望，就是寻找一条直线，最大程度的“拟合”样本特征和样本输出标记的关系。3.1线性回归算法线性回归算法原理第3章线性回归of415线性回归算法首先确定拟合样本特征函数，然后再确定拟合特征函数与样本之间距离的损失函数，最后通过数学方法推导使损失函数值最小的算法参数数学式子。3.1线性回归算法线性回归算法原理第3章线性回归of416拟合样本数据的直线方程损失函数

因为需要使用求导的方法，找到使损失函数值最小的算法参数（直线方程中的a和b）数学式子，所以损失函数需要可导。损失函数不使用绝对值的方式，由于绝对值函数存在不可导的点。损失函数不使用直接相减的方式，由于差值有正有负，会抵消。3.1线性回归算法线性回归算法原理第3章线性回归of417使用典型的最小二乘法可推导出a和b的式子损失函数是计算期望值和预测值的差值，期望其差值（也就是损失）越来越小，而效用函数则是描述拟合度，期望契合度越来越好3.1线性回归算法线性回归算法原理第3章线性回归of4183.1线性回归算法线性回归的最小二乘法推导过程第3章线性回归of4193.1线性回归算法线性回归的最小二乘法推导过程第3章线性回归of41103.1线性回归算法线性回归的最小二乘法推导过程第3章线性回归of41113.1线性回归算法线性回归的最小二乘法推导过程第3章线性回归of41123.1线性回归算法线性回归的最小二乘法推导过程第3章线性回归of41133.1线性回归算法线性回归的最小二乘法推导过程第3章线性回归of41143.1线性回归算法线性回归的最小二乘法推导过程—向量化第3章线性回归of41153.1线性回归算法线性回归的最小二乘法推导过程—向量化第3章线性回归of41163.2波士顿房产价格分析第3章线性回归of41173.3回归模型的评价方法MSEMeanSquareError均方误差第3章线性回归of41183.3回归模型的评价方法RMSERootMeanSquardError均方根误差第3章线性回归of41193.3回归模型的评价方法MAEMeanAbsoluteError平均绝对误差第3章线性回归of41203.3回归模型的评价方法RSquared第3章线性回归of41213.4多元线性回归多元线性回归推导第3章线性回归of41223.4多元线性回归多元线性回归推导第3章线性回归of41233.4多元线性回归多元线性回归推导第3章线性回归of41243.4多元线性回归多元线性回归推导第3