Python机器学习编程与实践 课件 1机器学习导论

Python机器学习编程与实践教师：专业：联系方式：推荐的教材与参考书Python机器学习编程与实践，朱福珍.清华大学出版社，2025.11Python编程数据分析到数据科学，朝乐门著，电子工业出版社，2020.8考核方式：课程报告50%；平时成绩：50%课堂表现：10’，共考察10次，每次1分，缺勤大于等于4次消考；事假每人最多给2次，多于2次按缺勤处理。作业：2次，共20分。第一次编程作业5分；第二次作业以翻转课堂形式进行,专题汇报及陈述5分,问答5分，上交报告5分,共15分。实验：20’,共5个实验，每次4分

办公室：

课程要求为什么用Python机器学习编程Lifeisshort,youneed

Python1989年圣诞节阿姆斯特丹ABC

语言英国戏剧《Monty

Pythonand

theFlying

Circus》吉多个人网站Guidovan

RossumP.

5三个基本问题1

Python有哪些优点？优雅、明确、简练。Python语法要点：Pythoniccoding2.我们已经学过C、Java、C++等语言，为什么还要需要学习Python？（1）Python/R用于数据分析

；C、Java用于软件开发（2）DA技术手段：统计学、机器学习、可视化，Python中有很多的包和模块而C、Java库函数和类库都是面向软件开发的，支持DA的库函数和类库很少（3）包和模块的开发者太牛了，pandas-Mckinneyggplot-Hadly,利用牛人的智慧解决DA问题3.3.本课程应该学习Python的哪些知识？Pythonforeverything，在不同领域区别很大PythonforDAP.

6P.

8【报有，转载请注明出处）告人】朝乐门

（版权归报告人所chaolemen@【日期】2020年10月►

1.Python语法要点Wes

McKinneyPython(pandas)Hadley

WickhamR(ggplot2)Sandy

RyzaDA未来，不是【Python

vsR】，而是【Python

andR】P.

82008Python3

的第一版2008-2012Python

3与Python2并存与兼容期Python2的退出期2020Python2

的淘汰Python的版本►

1.Python语法要点Python数据分析中常用的包基础库Pandas（关系DB—表格），Numpy（线代—矩阵），Scipy（高数—科学计算）绘图及可视化Matplotlib，Seaborn，Bokeh，Basemap，Plotly，NetworkX机器学习SciKit-Learn，Pytorch，TensorFlow，Theano，Keras统计分析Statsmodels自然语言处理、数据挖掘及其他NLTK，Gensim，Scrapy，Pattern数据科学领域常用的Python库P.

10学习Python之前的准备工作有哪些？我在哪里写Python代码？编辑器JupyterNotebookJupyterLabSpyderRstudioiPythonpycharm我用什么执行代码？解释器CPythonJPythonIronPythonPyPyPython开发还需要什么？包/模块pandasnumpyScikit_learn等1000+包的下载/更新/删除等还需要？包管理器pip（专用python,Javascript）Conda（通用）easyinstall以上功能可否显示在统一界面？门户AnacondaNavigatorAnaconda(以上都装了)MiniAnaconda不含包codingrunAnacondaPromptrunDA适合采用解释性语言Anaconda安装与环境配置

机器学习导论计算机博弈：AlphaGo2016年3月，谷歌旗下的DeepMind公司的AlphaGo围棋AI战胜了韩国围棋世界冠军九段棋手李世石2017年5月战胜排名第一的世界冠军柯杰之后，宣布AlphaGo将不再参加围棋比赛技术:

蒙特卡洛树+深度学习+强化学习AlphaGo采用深度卷积神经网络训练策略网络和价值网络，以减少模拟的宽度和深度2017年10月18日，DeepMind团队公布了新版阿尔法围棋，代号AlphaGo

Zero《Nature》（2017年10月19日）:AlphaGo

Zero完全从零开始，无监督学习，不需要人类经验，以100:0的战绩击败AlphaGo计算机博弈：AlphaGo

Zero计算机博弈：Dota2017年6月，腾讯在成都的全球合作者大会上表示智能AI“绝艺”

已经投入到了王者荣耀这款游戏中匹茨堡大学、腾讯

AI

Lab

等机构提交到

ICML

2018

大会的一篇论文揭开了王者荣耀

AI

研究，结果表明AI

智能体在

1v1

游戏模式中很有竞争力2017年8月，人工智能单挑Dota世界冠军，顶尖选手10分钟惨败；从开局伊始，AI就在各个方面碾压Dendi，无论是卡位、压制、还是对于技能的释放，AI的表现都堪称完美，甚至还会各种假动作更有意义的事？探究宇宙

人类是否孤寂？2017年12月，美国宇航局（NASA）公布了使用开普勒空间天文望远镜所发现的最新重磅发现：在距离地球并不算遥远的地方，八颗行星围绕着一颗酷似太阳的恒星安静的旋转，证明了我们的太阳系不是宇宙中唯一的“太阳系”发现“缩小版”太阳系来自Google

AI的工程师Christopher

Shallue想到利用神经网络技术对开普勒望远镜的数据进行分析，通过卷积神经网络处理了140亿个数据点发现“缩小版”太阳系虽然尚未找到具体的证据表明这些世界能够维持生命，但可以预见，随着探测设备的不断发展，加之人工智能技术的飞跃，这一突破仅仅是个开始……语音助理

&

智能音箱阿里天猫精灵、腾讯听听、百度小度在家、小米小爱同学、喜马拉雅小雅AI音箱……科大讯飞阿尔法超能蛋语音识别、自然语言理解、翻译、推荐系统、语音合成……16谷歌助手可以帮助用户打电话

对方并未察觉在与机器人通话Google

Assistant2018年5月9日，谷歌CEO

Sundar

Pichai在谷歌I/O开发者大会展示谷歌助手(GoogleAssistant)

帮助用户打电话GoogleAssistant（2019）谷歌助手可以帮助用户打电话

对方并未察觉在与机器人通话2018年5月9日，谷歌CEO

Sundar

Pichai在谷歌I/O开发者大会展示谷歌助手(GoogleAssistant)

帮助用户打电话17AI语音机器人以假乱真！浙大90后团队研发会打电话的机器人，有望解放680万电话从业人员！浙江大学

官方微信公众号

2018.9.1

推文利用ASR（自动语音识别）和NLP（自然语言处理）技术自主研发的AI语音机器人。能在中文电话场景下实现语音识别、语义理解和多轮对话计算机视觉20图像识别：形色/21图像识别：爱作业http://www.zuoye.ai/Google

Translate训练素材图像处理自动填色艺术风格转换增强分辨率图像插值图像修复性别转换27AI写新闻机器人机器人写稿时代来了?

今日头条写新闻机器人拿下人工智能大奖2017年12月，今日头条人工智能实验室凭借“互联网信息摘要与机器写稿关键技术及应用”项目荣获吴文俊人工智能技术发明奖该项成果以头条号xiaomingbot的形式在今日头条上线。在里约奥运会期间，今日头条自动写新闻机器人xiaomingbot创作200余篇赛事报道，累计获得200W用户阅读。其撰写速度与电视直播同步，文章内容涵盖比赛时间、实时比分、运动员信息等主要新闻要素，并且可以自动完成插图xiaomingbot撰写的文章现已涵盖体育、科技、财经、房产等十几个分类，并可实现多领域每日热点新闻的自动创作xiaomingbot已与光明网、《财经》杂志、大河报等主流媒体达成战略合作，向其进行优质内容输出/2017/12/271726704833.shtml28/cangtou.html人工智能魔性解说皇马比赛/news/article.php?pk=5a381206d1f149070b0000e2阿里云视频理解实验室医学辅助诊断AlphaGo出世前，Watson一直是人工智能的代名词IBM

Watson是认知计算系统的杰出代表，也是一个技术平台。认知计算代表一种新的计算模式，它包含信息分析，自然语言处理和机器学习领域的大量技术创新，能够助力决策者从大量非结构化数据中揭示非凡的洞察2011年IBM

Watson赢得

Jeopardy!答题秀2013年，IBM与世界顶级的肿瘤治疗与研究机构—MD安德森癌症中心宣布合作，用Watson辅助医生开展抗癌药物的临床测试2017年2月，MD安德森取消了与IBM的Watson合约医学辅助诊断Age:MAE3.26

yrsGender:AUC

0.97Diastolic:MAE6.39

mmHgSystolic:MAE11.23

mmHgHbA1c:MAE

1.4%R.

Poplin,

A.

Varadarajan

etal.

Predicting

Cardiovascular

Risk

Factors

from

RetinalFundus

Photographs

usingDeep

Learning.

Nature

Biomedical

Engineering,

2018.通过图像预测哪些医生无法预测的问题？成为潜在的生物标记物？预测心血管疾病？这是一种可能的比较好的非侵入式检测手段还可以预测治疗效果吗？智能汽车、自动驾驶、交通规划、即时交通控制、….智能交通34无人驾驶汽车/tech/机器人家庭服务、工业生产、医疗服务、专业服务…达芬奇手术机器人纳米机器人波士顿动力机器人产品演示快递分拣机器人机器学习定义：是研究如何使用机器来模拟人类学习活动的一门学科，研究机器如何获得新知识和新技能。在此，“机器”指的就是计算机，包括电子计算机、中子计算机、光子计算机、神经计算机等。机器学习发展：浅层学习阶段和深层学习阶段1986年，J.R.Quinlan提出著名的机器学习算法——决策树算法（ID3）1.2.1浅层学习阶段1952年，IBM的AuthurSamuel写出了一款可以学习的西洋跳棋程序1956年，达特茅斯会议上提出了“机器学习”这个词1957年，Rosenblatt发明了感知机或称感知器1960年，Widrow发明了Delta学习规则1969年，Minskey提出了著名的XOR问题1970年，SeppoLinnainmaa首次完整地叙述了自动链式求导方法，BP算法雏形1985-1986年，Rumelhart、Hinton等许多神经网络学者成功实现了用BP算法1995年，Vapnik和Cortes提出了支持向量机（SupportVectorMachine，SVM）1997年，Freund和Schapire提出了另一个坚实的机器学习模型AdaBoost1.2.2深层学习阶段2012年Hinton教授团队首次在ILSVRC的图像分类项目中获得冠军，提出AlexNet深度卷积神经网络2014年的ILSVRC中诞生了GoogLeNet和VGGNet，分别获得冠军和亚军2015年微软研究院的何凯明等人在ILSVRC上提出了深度空前的ResNet模型2016年，“搜神”代表队采用集成学习的方法，将Inception-v3、Inception-v4、ResNet、Inception-ResNet-v2和WRN模型进行了融合2017年，自动驾驶创业公司Momenta和牛津大学提出的SENet（Sequeeze-and-excitationNetwork）模型2006年，Hinton提出了一个新的神经网络模型叫作深度置信网络（DeepBeliefNetwork，DBN）深度学习框架最为流行的深度学习框架Tensorflow、Keras、PyTorch、Theano、Caffe、MXNet和PaddlePaddle机器学习分类：有监督学习、半监督学习、无监督学习和强化学习。机器学习的研究领域：模式识别、统计学习、数据挖掘、计算机视觉、语音识别、自然语言处理、回归算法、人工神经网络、支持向量机、聚类算法、降维算法、推荐算法，等。Source:

https://goo.gl/ycQCom人工智能、机器学习与深度学习人工智能人工智能是要让机器的行为看起来像人所表现出的智能行为一样人工智能包括计算智能、感知智能和认知智能等层次，目前人工智能还介于前两者之间目前人工智能所处的阶段还在“弱人工智能”（Narrow

AI）阶段，距离“强人工智能”（General

AI）

还有较长的路要走经验归纳规律新的问题输入预测未来历史数据训练模型新的数据预测未知属性输入机器学习机器学习的学习形式分类机器学习的学习形式分类机器学习有监督学习半监督学习无监督学习强化学习有监督学习（supervised

learning），指的是事先需要准备好输入与正确输出（区分方法）相配套的训练数据，让计算机进行学习，以便当它被输入某个数据时能够得到正确的输出（区分方法）有监督学习无监督学习无监督学习（unsupervised

learning）的目的是让计算机自己去学习怎样做一些事情，所有数据只有特征而没有标记。无监督学习被运用于仅提供输入用数据、需要计算机自己找出数据内在结构的场合。其目的是让计算机从数据中抽取其中所包含的模式及规则。半监督学习二者的中间地带是半监督学习（semi-supervised

learning）。对于半监督学习，其训练数据一部分有标记，另一部分没有标记，而没有标记数据的数量常常极大于有标记数据的数量。它的基本规律是：数据的分布必然不是完全随机的，通过结合有标记数据的局部特征，以及大量没标记数据的整体分布，可以得到比较好的分类结果强化学习强化学习（reinforcement

learning，RL），是解决计算机从感知到决策控制的问题，从而实现通用人工智能。强化学习是目标导向的，从白纸一张的状态开始，经由许多个步骤来实现某一维度上的目标最大化。最简单的理解是在训练过程中，不断去尝试，错误就惩罚，正确就奖励，由此训练得到的模型在各个状态环境中都最好。对强化学习来说，它虽然没有标记，但有一个延迟奖励与训练相关，通过学习过程中的激励函数获得某种从状态到行动的映射。强化学习强调如何基于环境而行动，以取得最大化的预期利益。强化学习一般在游戏、下棋等需要连续决策的领域。无监督机器学习的典型应用模式聚类常见算法：k-means关联规则抽取预测针对连续数据常见算法：线性回归、GradientBoosting、AdaBoost、神经网络/machine-learning/crash-course/有监督机器学习的典型应用模式长度重量分类针对离散数据常见算法：逻辑回归、决策树、KNN、随机森林、支持向量机、朴素贝叶斯、神经网络有监督机器学习的典型应用模式深度学习神经网络神经元1904年，生物学家了解了神经元的组成结构1943年，心理学家Warren

McCulloch和数学家Walter

Pits发明了神经元模型神经网络神经网络神经网络24常见激活函数S型（Sigmoid）激活函数将加权和转换为介于

0

和1

之间的值修正线性单元激活函数（简称为

ReLU）的效果通常要好一点，同时还非常易于计算深度神经网络深度神经网络卷积神经网络

CNN卷积神经网络（Convolutional

Neural

Network,

CNN）是深度学习中最重要的概念之一20世纪60年代，Hubel和Wiesel在研究猫脑皮层中用于局部敏感和方向选择的神经元时发现，其独特的网络结构可以有效降低神经网络的复杂性1998年，Yann

LeCun提出了LeNet神经网络，标志着第一个采用卷积思想的神经网络面世卷积神经网络

LeNetAlexNet深度学习的巨大成功2010-2015年ImageNet

ILSVRC大赛冠军团队识别分类的错误率ImageNet数据集有1400多万幅图片，涵盖2万多个类别；其中有超过百万的图片有明确的类别标注和图像中物体位置的标注AlexNetVGG

NetGoogle

NetInception结构35深度神经网络没有最深，只有更深……神经网络大观/neural-network-zoo/Neural

NetworkMarvinMinskyDeep

BeliefNetworkPerceptron1943196920062016195819862012AlexNetin

ILSVRC12深度学习发展历程1995SVM1998LeNet深度学习技术存在的问题：面向任务单一依赖于大规模有标签数据几乎是个黑箱模型，可解释性不强–

……无监督的深度学习、迁移学习、深度强化学习和贝叶斯深度学习等受关注深度学习具有很好的可推广性和应用性，但不是人工智能的全部，未来人工智能需要有更多类似技术深度学习，仍在发展中……深度学习框架主流深度学习框架主流深度学习框架Keras作者、谷歌研究科学家FrançoisChollet晒出一张图，他使用GoogleSearch

Index，展示了过去三个月，ArXiv上提到的深度学习框架排行Theano开发始于

2007，加拿大的蒙特利尔大学；由于出身学界，它最初是为学术研究而设计，在过去的很长一段时间内，Theano

是深度学习开发与研究的行业标准Theano

是一个比较低层的库，适合数值计算优化。支持自动的函数梯度计算，带有

Python

接口并集成了

Numpy，可以说Theano是Python的一个数值计算库不支持多

GPU

和水平扩展随着

Tensorflow

在谷歌的支持下强势崛起，Theano

日渐式微，这过程中的标志性事件是：创始者之一的

Ian

Goodfellow

放弃

Theano

转去谷歌开发

Tensorflow。Theano2013

年就已问世，老牌的框架之一，创始人是加州大学伯克利分校的中国籍博士生贾扬清全称是

“Convolution

Architecture

For

Feature

Extraction”，意为“用于特征提取的卷积架构”，它的设计初衷是计算机视觉存在灵活性不足的问题：为模型做调整常常需要用

C++

和CUDACaffe2

是在2017年4月Facebook

发布，可以看作是

Caffe

更细粒度的重构，在实用的基础上，增加了扩展性和灵活性CaffeTorch

是一个非主流，开发语言：基于1990

年代诞生的

LuaFacebook

的人工智能研究所用的框架是TorchTorch

非常适用于卷积神经网络Torch

的灵活度更高，因为它是命令式的，支持动态图模型2017

年初，Facebook

在Torch

的基础上，针对

Python

语言发布了一个全新的机器学习工具包

PyTorch。PyTorch可以说是Torch的Python版，然后增加了很多新的特性2018年4月，

Facebook

宣布

Caffe2将正式将代码并入了

PyTorchPyTorchMXNet是亚马逊AWS

选择支持的深度学习框架MXNet尝试将两种模式无缝的结合起来：在命令式编程上MXNet提供张量运算，而声明式编程中MXNet支持符号表达式。用户可以自由的混合它们来快速实现自己的想法。MXNet

支持语言：C++/Python/R/Julia/Go学习难度较高MxNetMicrosoft认知工具包(Cognitive

Toolkit)之前被大家所知的缩略是

CNTK2016年微软宣布，已在GitHub上向外部开发人员开源其人工智能工具包CNTK（ComputationalNetwork

Toolkit）CNTK工具包中的语音和图像识别速度比较快CNTK还具有着更为强大的可扩展性——开发者可以用多台计算机实现GPU的扩展，从而能够更加灵活的应对大规模的实验对C#

的支持CNTKKeras

是一个非常高层的库，可以工作在

Theano

和、TensorFlow和CNTK之上Keras

强调极简主义——你只需几行代码就能构建一个神经网络，Keras

为支持快速实验而生，能够把你的idea迅速转换为结果Keras的句法是相当明晰的，文档也非常好支持PythonKerasDL4J是基于JVM、聚焦行业应用且提供商业支持的分布式深度学习框架，其宗旨是在合理的时间内解决各类涉及大量数据的问题。Java可以与Hadoop和Spark集成，可使用任意数量的GPU或CPU运行，Chainer是一个专门为高效研究和开发深度学习算法而设计的开源框架基于Python的独立的深度学习框架Chainer在训练时“实时”构建计算图，“边运行边定义”的方法使构建深度学习网络变的灵活简单这种方法可以让用户在每次迭代时或者对每个样本根据条件更改计算图。同时也很容易使用标准调试器和分析器来调试和重构基于Chainer的代码ChainerPaddlePaddle，百度旗下深度学习开源平台。Paddle(Parallel

DistributedDeep

Learning，并行分布式深度学习)2016年9月1日百度世界大会上，百度首席科学家Andrew

Ng(吴恩达)首次宣布将百度深度学习平台对外开放，命名PaddlePaddle。2016年9月27日，PaddlePaddle在开源社区Github及百度大脑平台开放百度资深科学家、PaddlePaddle研发负责人徐伟介绍：“在PaddlePaddle的帮助下，深度学习模型的设计如同编写伪代码一样容易，设计师只需关注模型的高层结构，而无需担心任何琐碎的底层问题。”PaddlePaddleAmachinelearning

platformfor

everyonetosolvereal

problemsTensorFlowDistributedExecution

EngineCPUGPUTPUMobile...Neural

NetsC++K-MeansLoss

Functions,MetricsLinear

AlgebraDecision

TreesSVMGaussianMixture

ModelsRegressionRandomForestsProbabilisticMethodsSignalProcessingLattice全面的机器学习工具集PythonJava...TensorBoard：TensorFlow的可视化工具53TensorBoard计算图可视化度量可视化TensorFlow

支持多种开发语言Go人1.5工智能发展史，跌宕起伏的60+年1.5人工智能、机器学习与深度学习人工智能（Artificial

Intelligence，简称AI）一词缘起于1956年8月美国达特茅斯学院的夏季研讨会，发起人：东道主约翰·麦卡锡（John

McCarthy）哈佛大学的马文·明斯基（Marvin

Minsky）IBM的纳撒尼尔·罗切斯特（Nathaniel

Rochester）信息论的创始人克劳德·香农（Claude

Shannon）人工智能人工智能是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。人工智能的定义对人工智能学科的基本思想和内容作出了解释，即围绕智能活动而构造的人工系统。人工智能是知识的工程，是机器模仿人类利用知识完成一定行为的过程。根据人工智能是否能真正实现推理、思考和解决问题，可以将人工智能分为弱人工智能和强人工智能。人工智能弱人工智能是指不能真正实现推理和解决问题的智能机器，这些机器表面看像是智能的，但是并不真正拥有智能，也不会有自主意识。迄今为止的人工智能系统都还是实现特定功能的专用智能，而不是像人类智能那样能够不断适应复杂的新环境并不断涌现出新的功能，因此都还是弱人工智能。目前的主流研究仍然集中于弱人工智能，并取得了显著进步，如语音识别、图像处理和物体分割、机器翻译等方面取得了重大突破，甚至可以接近或超越人类水平。人工智能强人工智能是指真正能思维的智能机器，并且认为这样的机器是有知觉的和自我意识的，这类机器可分为类人（机器的思考和推理类似人的思维）与非类人（机器产生了和人完全不一样的知觉和意识，使用和人完全不一样的推理方式）

两大类。从一般意义来说，达到人类水平的、能够自适应地应对外界环境挑战的、具有自我意识的人工智能称为“通用人工智能”、“强人工智能”或“类人智能”。强人工智能不仅在哲学上存在巨大争论（涉及到思维与意识等根本问题的讨论），在技术上的研究也具有极大的挑战性。强人工智能当前鲜有进展，大部分专家任务至少在未来几十年内难以实现。人工智能图灵测试1936年，哲学家阿尔弗雷德·艾耶尔思考心灵哲学问题：我们怎么知道其他人曾有同样的体验。在《语言，真理与逻辑》中，艾耶尔建议有意识的人类及无意识的机器之间的区别1950年，艾伦·图灵提出了著名的图灵测试：如果一台机器能够与人类展开对话（通过电传设备）而不能被辨别出其机器身份，那么称这台机器具有智能。这一简化使得图灵能够令人信服地说明“思考的机器”是可能的。图灵测试是人工智能哲学方面第一个严肃的提案。图灵艾伦·麦席森·图灵（Alan

Mathison

Turing，1912年6月23日－1954年6月7日），英国数学家、逻辑学家、密码学家、计算理论家，被称为计算机之父，人工智能之父。图灵提出的著名的图灵机模型为现代计算机的逻辑工作方式奠定了基础。二战期间帮助英国军方破译德国著名的密码系统Enigma，帮助盟军取得了二战的胜利。图灵奖（Turing

Award）由美国计算机协会（ACM）于1966年设立，专门奖励那些对计算机事业作出重要贡献的个人。它是计算机界最负盛名、最崇高的一个奖项，有“计算机界的诺贝尔奖”之称。西洋跳棋（Checkers）AI程序IBM

阿瑟·萨缪尔（Arthur

LeeSamuel）研制，1962年击败了当时全美最强的西洋棋选手之一的罗伯特·尼雷核心技术是α-β剪枝搜索+自我对弈来学习评价函数国际象棋（西洋跳棋）1997

年

5

月

11

日，加里·卡斯帕罗夫以2.5:3.5（1胜2负3平）输给

IBM的计算机程序“深蓝”，人机大战震惊世界IBM在比赛后宣布深蓝退役1997年6月，深蓝在世界超级电脑中排名第