人工智能课件 第3章 人类学习与机器学习

第3章

人类学习与机器学习3.1学习的本质学习：有明确目的的知识获取过程2你从妈妈肚子里30周就开始学习啦学习伴随着我们一生！3.1学习的本质植物也会学习《科学报告》杂志刊载的一篇文章发现，对玉米幼苗进行“训练”（左图），将光源和风扇始终置于同一侧，玉米幼苗学习到了“有风的地方就会有光”这一知识。移去光源仅留下风扇（右图），玉米幼苗按照学习到的知识，猜测到有风的方向会有光照，因此依然向着风扇的方向生长。33.1学习的本质动物也会学习著名的条件反射巴甫洛夫实验监督学习43.1.1人类学习5行为主义关注行为结果认知主义关注信息加工建构主义关注情境中的主动建构人在特定情境下，为了达成目标，获取外部信息并不断改进自身行为，最终实现能力提升的过程学习的五个核心要素：辨别田鼠与家鼠明确的目标：区分具体的主体：学习者合理的方法：分类方法大量的资料：田鼠家鼠各种数据有效信息：能够界定物种差异的关键特征63.1.1人类学习利用特定的算法，从经验数据中提取规律，并以此对初始的计算模型进行修正与改进，从而提升模型在特定任务目标上的执行效能73.1.2机器的学习目标：学习过程的核心导向与最终归宿模型：机器用来表征世界、理解环境的内在逻辑架构算法：一套明确的规则，规定模型如何根据当前的任务表现（即预测值与真实值的偏差）来更新自身的内部结构基于神经网络的图像分割目标：分割模型：CNN算法：迭代优化机制数据：训练样本、标签特征：隐式表达83.1.3机器学习案例93.1.4人机共同学习103.1.4人机共同学习监督学习113.2机器学习的3大范式无监督学习强化学习分类任务：输出离散，预测样本属于哪一个预定义的标签123.2.1监督学习常用分类器--支持向量机（SVM）

SVM目标函数

支持向量：离分类超平面（Hyperplane）最近的样本点13非线性分类SVM的难点：核函数14常用核函数：线性核、多项式核、高斯核等。回归：输出连续，预测样本对应的具体数值大小153.2.1监督学习163.2.1监督学习的挑战聚类：根据事物自身的特征，聚集相似的，分开不相似的173.2.2无监督学习KMEANS有四个牧师去郊区布道，一开始牧师们随意选了几个布道点，并且把这几个布道点的情况公告给了郊区所有的村民，于是每个村民到离自己家最近的布道点去听课。听课之后，大家觉得距离太远了，于是每个牧师统计了一下自己的课上所有的村民的地址，搬到了所有地址的中心地带，并且在海报上更新了自己的布道点的位置。牧师每一次移动不可能离所有人都更近，有的人发现A牧师移动以后自己还不如去B牧师处听课更近，于是每个村民又去了离自己最近的布道点……就这样，牧师每个礼拜更新自己的位置，村民根据自己的情况选择布道点，最终稳定了下来。18线性聚类非线性聚类流形学习：通过观察发现样本的非线性分布规律。如图所示，数据集中在一个蛋卷曲面上，如果能找到这个蛋卷曲面，就可以更合理地表示数据间的关系。19降维在海量的信息中寻找“灵魂”，寻找数据之间的“相关性”和“变异性”可视化203.2.2无监督学习213.2.2无监督学习的挑战训练小狗去拿“苹果”或“橘子”，但它听不懂？！用奖励信号代替监督信号来引导它主动学习。如果它拿对了，就给它一块骨头做奖励；如果拿错了，就没有奖励。久而久之，它就可以听懂主人的命令了。是一种间接的监督学习，通过奖励让机器知道应该如何行动。223.2.3强化学习智能体：学习主体环境：智能体与之交互并从中获得反馈状态：智能体做决策所需的所有信息动作：智能体可执行的操作奖励：反馈策略：决策规则233.2.3强化学习243.2.3强化学习案例253.2.3强化学习案例感知机263.3深度学习27多层感知机多层学习梯度下降误差反向传播28神经网络的训练与优化前馈神经网络(FeedforwardNeuralNetworks,FNN)293.3.3经典网络结构卷积神经网络（CNN）以核函数为参数的“透镜”在输入平面上的“卷积”，提取特征每个卷积层可以包含多个卷积核扫描得到的输出多个卷积层可以累积起来，卷积核的视野逐渐扩大，得到的特征越来越明显适合具有局部特征，且这些特征在空间上具有不变性的数据。303.3.3经典网络结构激活函数31卷积神经网络（CNN）激活函数一般使用ReLU(TheRectifiedLinearUnit，修正线性单元)，它的特点是收敛快，求梯度简单。计算公式也很简单，max(0,T)，即对于输入的负值，输出全为0，对于正值，则原样输出。池化（Pooling）32卷积神经网络（CNN）将输入图像进行缩小，减少像素信息，只保留重要信息。Maxpooling:相当于保留了这一块最佳的匹配结果全连接“分类器”的作用模型训练得出权重，对特征进行加权求和，得到各个结果的预测值，取值最大的作为识别的结果33卷积神经网络（CNN）34卷积神经网络（CNN）循环神经网络(RecurrentNeuralNetworks,RNN)引入自循环连接，每一个时间步的输出不仅取决于当前的输入，还取决于上一个时间步的隐藏状态网络具有了“短期记忆”353.3.3经典网络结构图神经网络(GraphNeuralNetworks,GNN)处理非欧几里德结构、关系性数据核心原理基于“消息传递机制”363.3.3经典网络结构Transformer373.3.3经典网络结构参数量庞大学习数据海量计算资源消耗巨大383.4生成式大模型预训练：构建通用知识微调：适配具体应用场景39大模型的训练稀疏注意力机制减少注意力层的计算复杂度，具有“局部紧密相关和远程稀疏相关”的特性上下文/情景学习（in-contextlearning,ICL）在被给定的几个任务示例或一个任务说明的情况下，模型应该能通过简单预测以补全任务中其他的实例，不进行任何梯度更新指令精调Instruction-tuning激发语言模型的理解能力多任务精调后，可以用于其他任务的zero-shot思维链（Chain-of-Thought，CoT）通过向大语言模型展示一些少量的样例，在样例中解释推理过程，大语言模型在回答提示时也会显示推理过程把一个多步骤推理问题，分解成很多个中间步骤，分配给更多的计算量，生成更多的token，再把这些答案拼接在一起进行求解40GPT3混合专家模型（Mixtures-of-Experts，MoE）关键组件：专家（Expert）：由许多专家、小型MLP或复杂的LLM（如Mistral7B）组成。路由器（Router）：确定将哪些输入token分配给哪些专家。MoE优势：每个专家都可以专门处理不同的任务或数据的不同部分。MoE构架能向LLM添加可学习参数，而不增加推理成本。可以利用稀疏矩阵的高效计算。并行计算所有专家层，以有效利用GPU的并行能力。帮助有效地扩展模型