机器学习 课件 第1章　绪论

机器学习AlphaGo5:0战胜欧洲冠军樊麾2段，法国围棋队总教练2015年10月5日-9日绪论AlphaGo4:1战胜世界冠军李世石9段。李世石被公认为过去10年间韩国最强棋手2016年3月9日-15日韩国首尔绪论AlphaGo3:0战胜围棋等级分当时世界第一的柯洁2017年5月23日-27日乌镇绪论金融商务股票交易投资顾问风险管理和反欺诈客户流失预警服务优化客户沟通绪论智能交通交通监控智能停车智能路灯车路信息管理……绪论能源开发绪论电力传输绪论军事绪论生物制药绪论机器人工业机器人娱乐机器人看护机器人绪论气象预报绪论智能家居绪论游戏绪论机器学习定义Wikipedia机器学习是人工智能的一个分支，即机器基于输入的原始数据生成规则。机器学习是一门系统的学科，它关注设计和开发算法，使得机器的行为随着经验数据的累积而进化，经验数据通常是传感器数据或数据库记录。机器学习（续）TomM.MitchellJasonBrownlee一个机器学习就是从数据中训练出一个模型，该模型有不低于某种评估指标的泛化能力。一个计算机程序能够从经验E中学习（学习任务是T，学习的表现用P衡量），这个程序在任务T与表现衡量P下，可以通过经验E得到改进。机器学习（续）中科院自动化所王珏研究员根据样本集合建立一个模型，并期望这个模型对问题空间中所有样本预测的正确率大于一个给定的常数。模型可以理解为对问题空间的一种统计描述：

①一致性假设

②划分

③泛化能力

发展时期 时间段 主流技术推理期 1956年-1970s初 基于符号知识表示的演绎推理技术知识期 1970s中期-1980s基于符号知识表示，通过获取和利用领域知识来建立专家系统学习期 1980s-至今 符号主义学习、基于神经网络的连接主义学习机器学习发展历程人工智能发展的三个时期机器学习发展历程时间段 机器学习理论 代表性成果1950s初期 人工智能研究处于推理期 A.Newell和H.Simon的“逻辑理论家”（LogicTheorist）程序证明了数学原理，以及“通用问题求解”（GeneralProblemSolving）程序。出现机器学习的相关研究 1952年，阿瑟·萨缪尔（ArthurSamuel）在IBM公司研制了一个西洋跳棋程序，这是人工智能下棋问题的由来。1950s中后期 出现基于神经网络的“连接主义”学习F.Rosenblatt提出感知机（Perceptron），处理线性分类问题，处理不了“异或”逻辑。B.Widrow提出Adaline。机器学习发展历程（续）1950s初期 人工智能研究处于推理期 H.Simon、A.Newell、J.C.Shaw“逻辑理论家”（LogicTheorist）程序证明了《数学原理》52个定理，以及“通用问题求解”（GeneralProblemSolving）程序。MarnivLeeMinskyJohnMcCarthyAllenNewellHerbertA.Simon人工智能之父JohnCliffordShaw机器学习发展历程（续）MarnivLeeMinskyJohnMcCarthy人工智能之父1951年提出思维如何萌发并形成的基本理论1956年达特茅斯会议的发起人之一，并提出“人工智能”的概念1958年在MIT创建世界上第一个AI实验室1969年首位图灵奖获得者1975年首创框架理论1956年达特茅斯会议的发起人之一，并提出“人工智能”的概念1958年与明斯基一起创建世界上第一个人工智能实验室发明α－β剪枝算法1959年开发LISP语言开创逻辑程序研究，用于程序验证和自动程序设计1971年获得图灵奖机器学习发展历程（续）1950s初期 人工智能研究处于推理期 H.Simon、A.Newell、J.C.Shaw“逻辑理论家”（LogicTheorist）程序证明了《数学原理》52个定理，以及“通用问题求解”（GeneralProblemSolving）程序。MarnivLeeMinskyJohnMcCarthyAllenNewellHerbertA.Simon人工智能之父JohnCliffordShaw机器学习发展历程（续）ArthurSamuel机器学习之父不需要确定性编程就可以赋予机器某项技能的研究领域1950s初期 出现机器学习的相关研究 1952年，阿瑟·萨缪尔（ArthurSamuel）在IBM公司研制了一个西洋跳棋程序，这是人工智能下棋问题的由来。机器学习发展历程（续）激活函数用阶跃函数换成了连续型函数，用一个Quantizer函数（量化函数，类似AD采样）进行类别预测F.Rosenblatt1950s后期 出现基于神经网络的“连接主义”学习F.Rosenblatt提出感知机（Perceptron），处理线性分类问题，处理不了“异或”逻辑。B.Widrow提出自适应线性神经元（Adaline）网络。机器学习发展历程（续）时间段 机器学习理论 代表性成果1960s-1970s基于逻辑表示的“符号主义”（Symbolism）学习PatrickH.Winston的结构化概念学习系统，R.S.Michalski的基于逻辑的归纳学习系统，E.B.Hunt的概念学习系统以决策理论为基础的学习技术强化学习技术N.J.Nilson的“学习机器”知识工程专家系统统计学习理论的一些奠基性成果支持向量，VC维，结构风险最小化原则机器学习发展历程（续）1960s-1970s基于逻辑表示的“符号主义”（Symbolism）学习P.H.Winston

的结构化概念学习系统，R.S.Michalski的基于逻辑的归纳学习系统，E.B.Hunt的概念学习系统。RyszardS.MichalskiPatrickH.WinstonEarlB.Hunt机器学习发展历程（续）1960s-1970s决策理论为基础的学习技术强化学习技术知识工程N.J.Nilson的“学习机器”专家系统NilsJ.NilssonEdwardA.Feigenbaum知识工程之父RajReddyA*路径算法斯坦福国际研究院Shakey

项目的领导人，Shakey是首批具有视觉感知和轨迹规划的移动机器人之一。机器学习发展历程（续）1960s-1970s统计学习理论的一些奠基性成果支持向量、VC维、结构风险最小化原则。支持向量机（SVM）源自模式识别中广义肖像算法（generalizedportraitalgorithm）

1963年，前苏联学者VladimirN.Vapnik和AlexanderY.Lerner发表研究1964年，Vapnik和AlexeyY.Chervonenkis，硬边距的线性SVM随着模式识别中最大边距决策边界理论研究，出现基于松弛变量（slackvariable）的规划问题求解技术，和VC维（Vapnik-Chervonenkisdimension,VCdimension）Vapnik,V.N.andLerner,A.Y.Recognitionofpatternswithhelpofgeneralizedportraits.Avtomat.iTelemekh.1963,24(6):774-780.TheEnd机器学习发展历程主讲人：李侃1980s机器学习成为独立的学科领域，各种机器学习技术1980年，CMU

第一届机器学习研讨会《策略分析与信息系统》三期机器学习专辑1983年，R.S.Michalski、J.G.Carbonell和T.M.Mitchell《机器学习：一种人工智能途径》1986年，《MachineLearning》创刊1989年，《ArtificialIntelligence》机器学习专辑1990年，《机器学习：风范与方法》MIT出版社机器学习发展历程（续）机械学习（死记硬背式学习）示教学习（从指令中学习）

类比学习（通过观察和发现学习）归纳学习（从样例中学习百花初绽1979年，J.R.Quinlan，ID3算法原型1986年，

J.R.Quinlan，ID3算法，决策树学习理论1986年，Schlimmer和Fisher，引入节点缓冲区，ID4算法1993年，Quinlan，C4.5算法ID3

的另一个分支：分类回归决策树算法(ClassificationRegressionTree，CART)，

主要用于预测。机器学习发展历程（续）1980s-1990s从样例中学习：（1）符号主义学习

（2）基于逻辑的学习决策树（decisiontree），覆盖分类和回归两个领域

归纳逻辑程序设计（InductiveLogicProgramming,ILP）具有很强的知识表示能力，但会导致学习过程面临的假设空间太大，复杂度高，因此，问题规模稍大就难以有效地学习。机器学习发展历程（续）1980s-1990s从样例中学习：（1）符号主义学习

（2）基于逻辑的学习决策树（decisiontree），覆盖分类和回归两个领域

归纳逻辑程序设计（InductiveLogicProgramming,ILP）具有很强的知识表示能力，但会导致学习过程面临的假设空间太大，复杂度高，因此，问题规模稍大就难以有效地学习。归纳逻辑程序设计：使用一阶谓词逻辑进行知识表示，通过修改和扩充逻辑表达式完成对数据的归纳。FOIL(FirstOrderInductiveLearner)[Quinlan,1990]D.E.Rumelhart,G.E.Hinton,andR.J.Williams,“Learningrepresentationsbyback-propagatingerrors,”Nature,1986,323(6088):533–536.机器学习发展历程（续）1980s-1990s从样例中学习：基于神经网络的连接主义学习1983年，J.J.Hopfield利用神经网络求解“流动推销员问题”这个NP难题。1986年，D.E.Rumelhart等人重新发明了BP算法。JohnJ.HopfieldRonaldJ.WilliamsDavid.E.RumelhartGeoffreyHinton机器学习发展历程（续）时间段 机器学习理论 代表性成果1990s中期统计学习支持向量机，基于核的学习方法21世纪初----深度学习深度卷积神经网络、循环神经网络、生成对抗网络、Seq2seq、Transformer……统计学习理论（StatisticalLearningTheory），也称VC理论（VapnikChervonenkistheory）机器学习发展历程（续）1990s中期统计学习支持向量机，基于核的学习方法VladimirNaumovichVapnikAlexeyChervonenkis1992年，BernhardE.Boser、IsabelleM.Guyon和Vapnik，核方法的非线性SVM1995年，CorinnaCortes和Vapnik，软边距的非线性SVM，并将其应用于手写字符识别问题机器学习发展历程（续）21世纪初----深度学习深度卷积神经网络、循环神经网络、生成对抗网络、Seq2seq、Transformer……2018年图灵奖序列的概率建模高维词嵌入与注意力机制生成对抗网络反向传播玻尔兹曼机对卷积神经网络的修正提出卷积神经网络改进反向传播算法拓宽神经网络的视角序列的概率建模高维词嵌入与注意力机制生成对抗网络机器学习发展历程（续）21世纪初----深度学习深度卷积神经网络、循环神经网络、生成对抗网络、Seq2seq、Transformer……2018年图灵奖反向传播玻尔兹曼机对卷积神经网络的修正提出卷积神经网络改进反向传播算法拓宽神经网络的视角序列的概率建模高维词嵌入与注意力机制生成对抗网络机器学习发展历程（续）21世纪初----深度学习深度卷积神经网络、循环神经网络、生成对抗网络、Seq2seq、Transformer……2018年图灵奖反向传播玻尔兹曼机对卷积神经网络的修正提出卷积神经网络改进反向传播算法拓宽神经网络的视角序列的概率建模高维词嵌入与注意力机制生成对抗网络机器学习发展历程（续）21世纪初----深度学习深度卷积神经网络、循环神经网络、生成对抗网络、Seq2seq、Transformer……2018年图灵奖反向传播玻尔兹曼机对卷积神经网络的修正提出卷积神经网络改进反向传播算法拓宽神经网络的视角TheEnd机器学习分类与性能度量主讲人：李侃机器学习分类机器学习分类（续）机器学习分类（续）机器学习分类（续）数据集：训练集（trainingset）、验证集（validationset）和测试集（testset）训练集：用来训练模型算法，通过设置分类器参数，训练分类模型。验证集：训练集训练出的多个模型对验证集数据进行预测，并记录模型准确率。

选出效果最佳的模型所对应的参数，即用来调整模型参数。测试集：用来测试模型的性能和分类能力。机器学习分类（续）

当模型无需人为设定超参数，所有参数都通过学习得到，则不需要验证集。验证集适用多个不同的超参数训练多个模型，通过验证集，选择最好的模型及其相应的超参数。

分类（classification）：输出是离散型变量(如:+1、-1)，是一种定性输出。

(预测明天天气是阴、晴还是雨)

回归(regression)

：输出是连续型变量，是一种定量输出。(预测明天的温度是多少度)。机器学习分类（续）监督学习（supervisedlearning），有导师学习：分类和回归从给定的训练数据集中学习出一个函数（模型参数），当输入新数据时，可以根据这个函数预测结果。输入数据没有标签，样本数据类别未知，需要根据样本间的相似性对样本集进行划分使类内差距最小化，类间差距最大化。基于概率密度函数估计的直接方法基于样本间相似性度量的聚类方法机器学习分类（续）无监督学习（unsupervisedlearning），无导师学习：聚类和维度约简用于描述和解决智能体（agent）在与环境的交互过程中通过学习策略以达成回报最大化或实现特定目标的问题。机器学习的范式和方法论之一。机器学习分类（续）强化学习（reinforcementlearning），再励学习、评价学习或增强学习不同于监督学习和无监督学习，强化学习不要求预先给定任何数据，而是通过接收环境对动作的奖励（反馈）获得学习信息并更新模型参数。绪论误差误差（error）指的是模型输出与真值（labels）的偏离程度，通常定义一个损失函数（lossfunction）来衡量误差的大小。

在训练集上的产生误差称为经验误差（empiricalerror）或者训练误差经验误差的大小反映了模型在训练数据上拟合效果的好坏模型在未知样本上的误差称为泛化误差（generalizationerror），通常将测试误差作为泛化误差的近似值泛化误差用于衡量训练好的模型对未知数据的预测能力绪论过拟合与欠拟合模型在训练样本中表现得过于优越，导致在验证数据集以及测试数据集中表现不佳。

指模型在训练和预测时表现得都不好。过拟合（overfitting）欠拟合（under-fitting）绪论评估方法常见方法：留出法（hold-out）交叉验证法（cross

validation）自助法（bootstrap）评估方法留出法ST数据集D训练集S测试集T已有的数据集分为两个互斥的部分

保证数据分布一致

测试集比例一般保持在1/3～1/5评估方法交叉验证法DN1N2N3N4N5Nk…训练测试N1N2N3Nk-1…Nk模型1N1N2Nk-2…Nk-1模型2Nk………………N2N3Nk-1…N1模型mNk求平均m个样本互斥保证数据分布一致

k=m,留一法评估方法自助法数据集D中包含m个样本，对数据集D进行m次有放回采样，采样到的数据构成数据集D′，将D′作为训练集，未出现在D′中的数据作为测试集

。

样本不出现在D′中的概率为：对m取极限数据集D中有大约36.8%的数据不会出现在D′中适用于小数据集改变了数据分布,易引起估计偏差不会减小训练集规模功能：主要用于比较分类结果和实例的真实信息性能度量分类以二分类（正、负）为例：真正(TP)：模型预测为正的正样本假正(FP)：模型预测为正的负样本假负(FN)：模型预测为负的正样本真负(TN)：模型预测为负的负样本混淆矩阵（confusionmatrix），误差矩阵：正确预测的正反例数

/总数性能度量（续）（续）分类准确率（accuracy）

：正确预测的正例数/预测正例总数精确率（precision）

：正确预测的正例数

/实际正例总数召回率（Recall）

：正确预测的正反例数

/总数性能度量（续）（续）分类准确率（accuracy）

：正确预测的正例数/预测正例总数精确率（precision）

：正确预测的正例数

/实际正例总数召回率（Recall）

：正确预测的正反例数

/总数性能度量（续）（续）分类准确率（accuracy）

：正确预测的正例数/预测正例总数精确率（precision）

：正确预测的正例数

/实际正例总数召回率（Recall）

：precision和recall的调和值性能度量（续）（续）分类F-score

β=1时，

F1-score或

F1-Measure，精确率和召回率都很重要，权重相同；β<1时，精确率更重要；β>1时，召回率更重要。：precision和recall的调和平均评估指标F1-score

（receiveroperatingcharacteristiccurve）性能度量（续）分类ROC曲线根据分类结果计算得到ROC空间中相应的点，连接这些点形成ROC曲线真正率(TPR)：预测为正的正样本数/正样本实际数假正率(FPR)：预测为正的负样本数/负样本实际数TPR=TP/(TP+FN)FPR=FP/(FP+TN)靠近左上角的ROC曲所代表的分类器准确性最高（areaundercurve）性能度量（续）分类AUCAUC=1：100%完美识别正负类，不管阈值怎么设定都能得出完美预测；0.5<AUC<1：优于随机猜测。这个分类器（模型）妥善设定阈值的话，可能有预测价值；AUC=0.5：跟随机猜测一样（例：随机丢N次硬币，正反面的概率为50%），模型无预测价值；AUC<0.5：比随机猜测还差，不存在AUC<0.5的情况：ROC曲线下的面积(ROC的积分)AUC=１AUC＝０.８AUC＝０.５（precisionrecallcurve）性能度量（续）分类PR：precision

对recall的曲线PR曲线与ROC曲线相同点：采用TPR

(Recall)，用AUC来衡量分类器效果；不同点：ROC曲线使用了FPR，PR曲线使用了precision在同一测试集，上面的曲线比下面的曲线好（绿线比红线好）；光滑曲线与不光滑曲线好：L1范数损失（L1-normloss）性能度量（续）（续）回归平均绝对误差（meanabsoluteerror，MAE）：L2范数损失（L2-normloss）平均平方误差（meansquared