计算思维导论第16讲-深度学习与人工智能

第16讲深度学习与人工智能哈尔滨工业大学计算学部教学委员会主任国家教学名师战德dechen@第16讲深度学习与人工智能一、人工智能与深度学习概述二、神经网络三、卷积与深度神经网络四、人工智能及其三大流派五、人工智能基本技术六、人工智能+X：国家人工智能规划人工智能与深度学习概述神经网络和深度学习是人工智能研究的一个重要流派人工智能能够感知、推理、行动和自适应的程序机器学习能够随数据量增加不断改进性能的算法深度学习利用多层神经网络从大量数据中进行学习并提高性能需要理解：1神经网络、2卷积、3深度神经网络人工智能与深度学习概述神经网络发展的几个阶段1943195819862012神经元--MP模型抽象模型单层神经网络--感知机基本计算模型，能表示并实现基本逻辑运算如与、或、非等两层神经网络--BP神经网络误差反向传播多层神经网络--CNN卷积神经网络卷积-特征提取，多层（已出现150层甚至更多）第16讲深度学习与人工智能一、人工智能与深度学习概述二、神经网络三、卷积与深度神经网络四、人工智能及其三大流派五、人工智能基本技术六、人工智能+X：国家人工智能规划神经网络生物神经元与生物神经网络一个神经元：多个树突（输入）+1个轴突+多个轴突末梢（输出），轴突末梢与其他神经元的树突产生连接，从而传递信号。连接位置被称为“突触”。神经网络基本神经元模型【示例】x1x2w3w1

非线性函数fyx3w2输入权值输出神经元模型y=f(x1*w1+x2*w2+x3*w3)=f(xi*wi)神经网络神经元的训练与学习x1x2w3w1

非线性函数yx3w2输入权值输出神经元模型可依据已有标签的样本训练，获得最优权值已有标签样本的y值偏差枚举枚举w使偏差最小已有标签的样本的x值损失函数lossfunctions或误差函数errorfunction或代价函数costfunction权重weight，或参数parameter激活函数activationfunction转移函数transferfunction

典型激活函数示例超参数：控制算法运行的一些参数，例如控制枚举量的参数Sigmoid函数Tanh(双曲正切)函数关于神经元相关的概念辨析，下列说法正确的是___________。激活函数或转移函数是改变数据分布的一种非线性函数损失函数是衡量样本由模型产生的值和样本真实值的偏差大小的一种度量函数神经元中的参数是指神经元模型中的权重，也即方程的系数神经元中的超参数是指控制神经元模型学习算法运行的一些参数ABCD提交多选题1分你知道下列激活函数：Tanh(x)、Sigmoid(x)、ReLU(x)和sgn(x)下列说法正确的是___________。（1）Tanh（2）

sgn（3）Sigmoid（4）ReLU（1）Tanh（2）Sigmoid（3）sgn（4）ReLU（1）Sigmoid

（2）Tanh（3）sgn（4）ReLU（1）

ReLU（2）

Sigmoid（3）sgn（4）TanhABCD提交（1）（2）（3）（4）单选题1分神经网络单层感知机x1x2w3w1

sgnyx3w2单层感知机模型可依据有标签的样本训练，获得最优权值输出神经元连接到下一神经元x1x2w3w1

yx3w21

(xi*wi)->=0y=

f((xi*wi)-)=

(xi*wi)-<001

(xi*wi)>0y=sgn((xi*wi)）=

(xi*wi)=00-1

(xi*wi)<0：阈值输出为二值权重来自前一神经元的输出已知x1,x2的值为0和1，问如右图感知机，其表达的运算是___________。y=x1andx2y=x1

orx2y=x1

xorx2上述都不正确ABCD提交x111

2x2y单选题1分神经网络用单层神经网络表达二值逻辑运算x111

2x2x1

x2x111

1x2x1

x2-1

0x1

x11-1

1x2x1

x1

x2

1x1

x21-1

111x1

x2=(x1

x2)

(x1

x2)X1X2

X2X1*1+X2*(-1)输出00100010-101011111000单层神经网络能够表达二值逻辑与或非运算，但难以表达异或运算。由此需要两层神经网络，但两层神经网络计算更为复杂。神经网络有近似任何函数的能力。神经网络两层神经网络模型x1x2w13w11

y1x3w12

Sigmoidy2w23w21w22

h11h12z1

z2h21h22x2w13w11

y1x3w12

y2w23w21w22

h11h12z1

z2h21h22SigmoidSigmoidSigmoidSigmoidSigmoidSigmoidSigmoid+1b1+1b2x1c1c2两层神经网络模型带偏置的两层神经网络模型神经网络BP神经网络：一种按照误差反向传播算法训练的多层前馈神经网络x1x2w13w11

y1x3w12

Sigmoidy2w23w21w22

h11h12z1

z2h21h22SigmoidSigmoidSigmoid期望值误差反向传播数据前向传播神经元模型的训练：枚举神经网络的训练：枚举（利用误差反向传播机制降低枚举量）超参数：控制算法运行的一些参数，例如控制枚举量的参数神经网络前馈神经网络与循环神经网络循环神经网络（RNN:Recurrent

NeuralNetwork），如双向循环神经网络（BidirectionalRNN）和长短期记忆网络（LongShort-TermMemorynetworks，LSTM），递归神经网络（recursiveNeuralNetwork）

。前馈神经网络仅向下一层传输计算数据循环神经网络/递归神经网络向下一层传输计算数据，同时也可能本层循环

x1x2xixnw11w12w1iw1nw21w22w2iw2nwm1wm2wmiwmn∑∑∑fSigmoidy分类层或输出层全连接网络层神经网络将方程组表达成图的形式—神经网络x1x2xixnw11w12w1iw1nw21w22w2iw2nwm1wm2wmiwmn∑∑∑输入层∑∑∑fSigmoidy分类层或输出层隐藏层1隐藏层i隐藏层全连接层特征层1神经网络典型的多层神经网络：卷积神经网络隐藏层有什么作用？什么是卷积？卷积神经网络的基本架构与层次卷积神经网络：ConvolutionalNeuralNetworks,CNN第16讲深度学习与人工智能一、人工智能与深度学习概述二、神经网络三、卷积与深度神经网络四、人工智能及其三大流派五、人工智能基本技术六、人工智能+X：国家人工智能规划143413431343425462343433441345435641010111010----15

-

-

-

------

-

-

-

----1*0+4*1+3*0+4*1+1*1+3*1+4*0+3*1+1*0=15ABC【卷积】是一种可作用于每一个元素上的计算。可在一维数据上进行卷积，也可在二维数据上进行卷积，还可在多维数据上进行卷积。有一个【卷积核】，又称为卷积【算子】,可以是3*3，5*5，7*7，…，k*k等大小卷积核原始图像卷积结果卷积与深度神经网络【卷积】的概念与计算

143413431343425462343433441345435641----

-

-

-

------

-

-

-

----AC15卷积与深度神经网络【卷积】计算示例BBBBBBBBBBBBBBBB1217181314161615161819211621201*0+4*1+3*0+4*1+1*1+3*1+4*0+3*1+1*0=151/91/91/91/91/91/91/91/91/90-10-15-10-10-1-1-1-18-1-1-1-1提取边缘锐化模糊卷积与深度神经网络【示例】卷积的作用：图像增强与特征提取卷积与深度神经网络利用【卷积】提取边缘特征：已知卷积核，进行卷积计算LBP（LocalBinaryPattern，局部二值模式）是一种用来描述图像局部纹理特征的算子，具有旋转不变性和灰度不变性等优点卷积与深度神经网络改变卷积的计算方式--提取纹理特征图像处理问题模型形式具有待确定卷积核的卷积运算图像处理（已知卷积核进行卷积运算）结果处理后的S已明确处理结果(标签)的样本图像集合{Si,<标签>}标签={合格1，不合格0}训练/学习已知处理结果,反求卷积核

模型具有明确卷积核的卷积运算待处理的图像数据S

卷积与深度神经网络机器学习中的卷积--依据有标签的样本数据，反求【卷积核】b11b12b13b21b22b23b31b32b33010111010卷积提取特征卷积与深度神经网络卷积神经网络：卷积层—特征提取什么是池化？1434134313434254623434334413454356414466将左侧像素矩阵划分为四个区域，可以区域内像素的最大值作为区域像素值--最大池化2.673.223.673.89将左侧像素矩阵划分为四个区域，也可以区域内像素的平均值作为区域像素值--平均池化【示例】通过池化层，将6*6的特征像素矩阵，降低为2*2的池化特征像素矩阵卷积与深度神经网络卷积神经网络：池化层—降维处理卷积神经网络通过逐层处理，提取出对图像分类起关键作用的特征。包括如下处理类型：---卷积；---降采样/池化；---等等…………卷积池化卷积全连接

池化dogcatlionbird分类卷积与深度神经网络计算机如何使用卷积神经网络精准识别图中的动物：深度神经网络以卷积、激活函数和池化层为基本结构，多次重复构成深度神经网络分类方程组神经网络卷积已知卷积核，提取特征已知分类结果，反求卷积核—机器学习深度学习，增加神经网络的层数卷积与深度神经网络小结第16讲深度学习与人工智能一、人工智能与深度学习概述二、神经网络三、卷积与深度神经网络四、人工智能及其三大流派五、人工智能基本技术六、人工智能+X：国家人工智能规划什么是人工智能人工智能通常是指通过计算机程序来呈现人类智能的技术人工智能是指由人制造出来的机器所表现出来的类人的智能人工智能是使机器能够模拟、延伸和扩展人类智能的功能的集合只要能展现人类智能的理论与技术就属于人工智能的范畴人工智能的基本研究范畴符号主义流派联结主义流派行为主义流派人工智能及其三大流派什么是人工智能【符号主义人工智能流派】有一个经典的假设，即人类认知和思维的基本单元是符号，认知过程就是对符号的一种运算，因此能够用计算机的符号操作来模拟人的认知过程“图灵机”本身和“启发式搜索算法”被看作是符号主义的尝试“图灵测试”也被认为是符号主义的尝试并被认为是人工智能的终极目标源于数理逻辑，其核心是知识表示和知识推理

可用符号表示知识，也可用符号进行推理

【示例】“我喜欢你”，可以推出“我不恨你”【示例】“我喜欢你们”，可以推出“我喜欢你”机器自动证明几何定理：将几何命题的条件和结论都转换成代数多项式，然后证明条件多项式能够产生的多项式集合中包含结论对应的多项式，即将定理证明转换为一个集合成员判定问题。【吴文俊】提出了“吴方法”。专家系统。知识库、推理机和解释器。知识工程理论与技术。人工智能及其三大流派人工智能：符号主义流派【图灵测试】怎样的机器才被认为是有智能的？1）测试人员通过对话界面输入一句话；2）对话界面会同时将测试人员的输入发送给应答人员和聊天机器人；3）应答人员和聊天机器人分别将各自的回复发送给对话界面；4）对话界面采用随机回复的机制，将应答人员的回复或聊天机器人的回复，发送给测试人员，完成一个轮次的对话交流；5）重复过程1）-4）至测试结束（测试结束的标准可以由测试人员主动发起或设置最多轮次数，达到即结束测试）；6）测试人员对对话记录中，非自己输入的句子（简称对话回复）进行身份标注，即对于这些句子标注其为“人类回复”或是“机器回复”；7）图灵认为，如果测试人员将聊天机器人给出的对话回复误判为应答人员给出的对话回复，并且这个误判数达到对话回复总数的1/3及以上的比例，则认为聊天机器人具有了人类的智能。人工智能及其三大流派符号主义流派：图灵测试【中文屋】图灵测试是否会得出错误结论？1）实验开始后，屋外的参与人发送一条中文消息给屋里的参与人；2）屋里的参与人收到消息后，由于看不懂中文，于是操作中英翻译机将消息拷贝粘贴，如果是打印的纸条形式的话，采用拍照扫描上传后进行OCR（OpticalCharacterRecognition，光学字符识别，一种文字识别技术）识别成中文文字后，再拷贝粘贴，并将其翻译成英文，从而理解输入的中文消息的含义；3）屋里的人根据其理解的中文消息的含义，输入相应的英文回复到中英翻译机中，将回复翻译成中文，并通过消息介质发送给屋外的人。人工智能及其三大流派符号主义流派：中文屋【联结主义人工智能流派】源起于二值神经元模型--MP模型(1943年由生理学家麦卡洛克(W.S.McCulloch)和数理逻辑学家皮茨(W.A.Pitts)创立，用二人名字首字母命名）.其把神经元视为二值开关，通过不同的组合方式可以实现不同的逻辑运算，开创了用电子装置模仿人脑结构和功能的新途径。感知机--神经网络模型BP神经网络：多层网络中的反向传播算法，一种按照误差反向传播算法训练的多层前馈神经网络。卷积神经网络CNN、循环神经网络RNN、长短时记忆网络LSTM、注意力神经网络ANN、图神经网络GNN人工智能及其三大流派人工智能：联结主义流派【行为主义人工智能流派】的主要观点

1机器(或称智能体)学习的方式和过程均处于真实世界环境；2机器(或称智能体)学习的对象、动作的反馈和效果的评估都是来自与真实世界环境的交互；3机器(或称智能体)体现智能的方式是一个感知-行动的循环过程；4机器(或称智能体)智能程度的提升，涉及到智能算法、感知元件和机械设计与控制等多方面的共同发展，而且这几个方面的发展相对独立。模拟人在控制过程中的智能行为和作用，如对自寻优、自适应、自镇定、自组织和自学习等控制论系统的研究，诞生了智能控制和智能机器人系统。智能安防机器人、无人驾驶汽车、智能清扫机器人、智能仓储机器人等。人工智能及其三大流派人工智能：行为主义流派第16讲深度学习与人工智能一、人工智能与深度学习概述二、神经网络三、卷积与深度神经网络四、人工智能及其三大流派五、人工智能基本技术六、人工智能+X：国家人工智能规划【蒙特卡洛树搜索】是人工智能的一项重要技术，其核心思想是在搜索过程中，通过多次模拟，根据模拟结果选择得分最高的下一步动作，进而在降低搜索空间的前提下能获得较好的决策结果。【示例】如何生成自然语言的问答语句？人工智能的基本技术蒙特卡洛树搜索与自然语言语句生成【语音识别】也称为自动语音识别(ASR)、计算机语音识别等,使计算机能够将人类语音转换为文本并进行话语理解，或转换为命令并控制相应程序的执行。【语音识别的基本任务】信号处理模式识别发声机理和听觉机理语音合成我想预约一个位置人工智能的基本技术语音处理【图像处理】通常是指通过计算机程序对图像进行处理，对图像要素进行识别，对图像内涵进行理解，以及将其结果作为特征完成其他的任务（如身份识别、物体自动抓取、自动避障等）【图像处理/视觉的基本任务】图像增强。改善图像的视觉效果图像恢复。力求图像保持本来面目图像识别。特征抽取并分类图像编码。解决数字图像占用空间大问题图像分割。有意义特征的提取图像描述。图像要素的结构性表达其他。如图像转换成文字，图像要素理解人工智能的基本技术图像处理及视觉【自然语言处理】通常是指通过计算机程序对自然语言进行分析及理解，以及将其结果作为特征完成其他的任务（如文本分类、文本生成、信息抽取、问答及对话）【自然语言处理的基本任务】词法分析：分词句法分析。结构化的语句框架

语义分析。语义依存结构语用分析。言外之意“地球/是/太阳系/中/的/一/颗/行星”“地球是太阳系中的一颗行星”分词句法分析语义分析语用分析?答：

问：“地球是什么？”“地球是哪个星系中的行星？”人工智能的基本技术自然语言处理第16讲深度学习与人工智能一、人工智能与深度学习概述二、神经网络三、卷积与深度神经网络四、人工智能及其三大流派五、人工智能基本技术六、人工智能+X：国家人工智能规划2017年颁布《新一代人工智能发展规划》人工智能重要性。人工智能的迅速发展将深刻改变人类社会生活、改变世界；人工智能发展进入新阶段、人工智能成为国际竞争的新焦点、人工智能成为经济发展的新引擎、人工智能发展的不确定性带来新挑战发展人工智能是一项事关全局的复杂系统工程，要按照“构建一个体系、把握双重属性、坚持三位一体、强化四大支撑”进行布局，形成人工智能健康持续发展的战略路径。一个体系：新一代人工智能基础理论和关键共性技术体系双重属性是人工智能技术属性和社会属性（二者高度融合）三位一体是指国家在研发攻关、产品应用和产业培育协同推进四大支撑是指要发挥人工智能对科技、经济、社会发展和国家安全的支撑作用人工智能+X：国家人工智能规划新一代人工智能发展规划构建开放协同的人工智能科技创新体系，从前沿基础理论、关键共性技术、创新平台、高端人才队伍等方面强化部署。培育高端高效的智能经济，发展人工智能新兴产业，推进产业智能化升级，打造人工智能创新高地。建设安全便捷的智能社会，发展高效智能服务，提高社会治理智能化水平，利用人工智能提升公共安全保障能力，促进社会交往的共享互信。加强人工智能领域军民融合，促进人工智能技术军民双向转化、军民创新资源共建共享。构建泛在安全高效的智能化基础设施体系，加强网络、大数据、高效能计算等基础设施的建设升级。前瞻布局重大科技项目，针对新一代人工智能特有的重大基础理论和共性关键技术瓶颈，加强整体统筹，形成以新一代人工智能重大科技项目为核心、统筹当前和未来研发任务布局的人工智能项目群。人工智能+X：国家人工智能规划新一代人工智能发展规划：六方面重点任务人工智能涉及到的：基础理论研究。如人工智能三个流派（符号主义流派、联结主义流派和行为主义流派）及其支撑理论、脑科学理论等技术研发。如语音识别与理解、图像识别与理解、视觉识别与理解、语言识别与理解等领域应用。如智慧城市、智慧教育、智能制造、智慧物流、智慧商务等“人工智能+”人工智能+X：国家人工智能规划新一代人工智能发展规划：人工智能涉及到的【智慧教育】：人工智能+教育教学。主要关注：人工智能技术如何助力教师在在线教学与课堂教学方面进行改革，如何制作并开放能够吸引学生的教学资源（如教学视频），如何辅助教师强化学生互动效率与效果（如辅助课堂教学），辅助教师自动评价学生学习成果（如智能评阅系统）人工智能技术如何助力学习者知识获取方法与学习能力提升，如何辅助学生强化知识脉络梳理、建构知识体系（如知识图谱），辅助学生评估学习资源有效性以及如何获取有效学习资源（如智能推荐），辅助学生评估自身学习效果与效率（如智能评估）等教育教学基础设施建设，如智慧校园、在线平台、立体化综合教学场等人工智能+X：国家人工智能规划人工智能+教育：智慧教育人工智能+X：国家人工智能规划人工智能+教