1第一章人工智能的前世今生-2

人工智能基础主讲：XXX时间：202X/X目录CONTENTS01机器学习原理02机器学习经典方法03深度学习机器学习原理AIPARTONE机器学习原理人工智能、机器学习以及深度学习的关系机器学习是人工智能的一个子集，专注于让计算机从数据中学习和改进，而无须人工干预。深度学习则是机器学习的一个子集。机器学习可以分为监督学习、无监督学习和强化学习等。监督学习使用标记数据（即标签）进行训练；无监督学习处理未标记数据；强化学习通过与环境的互动进行学习。机器学习原理数据驱动范式当我们借助机器学习处理问题时，通常会接触数据集、样本和标签这几个重要的概念。数据集数据集（Dataset）就是所有用于训练、验证或测试的数据的集合。你可以把它想象成一本书，其中每一页包含一些信息。样本样本（Sample）是数据集中具体的一条数据，或者说是数据集中的一个实例。每一个样本通常由输入数据和标签组成。标签标签是每个样本的答案，表示样本的真实类别或目标值。对于分类任务，标签通常是类别名称或数值；对于回归任务，标签是数值。机器学习原理训练集是从数据集中划分出来的一个部分，用来训练模型，帮助我们调整模型的参数，使模型能够尽可能准确地预测输出。模型会从训练集的数据中学习规律，从而学会如何做出预测或决策。训练集的核心作用是让模型找到输入数据与标签之间的关系。训练集验证集也是从数据集中划分出来的一个部分。它的作用是帮助我们评估模型的性能，同时调整训练过程中模型使用的超参数（例如学习率、网络层数等）。验证集的数据不会参与模型训练，它仅被用来进行中间评估，帮助我们选择最佳的模型配置。验证集测试集仍是从数据集中划分出来的一部分。它用于进行模型的“最终考核”。模型在测试集上的表现通常被视为其最终性能。与训练集和验证集不同，测试集的数据在整个训练过程中都没有被使用过，即没有被模型“见过”。测试集机器学习经典方法AIPARTTWO机器学习经典方法监督学习需要输入训练数据和对应的标签，建立模型并选取相应的损失函数。无监督学习在没有明确标签或目标函数的情况下进行学习,可以发现无标签数据中潜在的模式和结构，从而为后续的任务奠定基础。损失函数用来衡量模型预测标签和真实标签的差距。通过最小化损失函数的方法可以得到最优的模型参数，最小化损失函数的过程就是模型训练过程。在这个过程中，机器学习算法通过学习标注好的数据集，构建从输入到输出的映射关系，以便对未知输入进行预测和分类。无监督学习对数据集进行聚类、降维、特征提取、密度估计等一系列操作，使得数据集中的样本在某种意义上被划分或转换，从而提取有意义的特征或模式。无监督学习通过自学成才的方式来训练模型，使用的数据集中只有输入数据，没有标签。

机器学习经典方法监督学习和无监督学习的区别机器学习经典方法监督学习监督学习主要用于以下任务：分类任务目标为预测输入属于哪个类别（离散标签）。比如根据图片判断其中的动物是猫还是狗，或者根据邮件内容判断其是否为垃圾邮件。可使用的方法主要包括SVM、决策树。目标为预测输入对应的连续值（数值标签）。比如根据房屋特征预测房价、根据历史股价预测未来股价。可使用的方法主要包括线性回归和随机森林回归。回归任务机器学习经典方法以SVM为例

机器学习经典方法以SVM为例机器学习经典方法无监督学习无监督学习主要用于以下任务：聚类任务目标为将数据分成若干组，使每组中的数据具有相似性。比如根据客户行为将客户分组、将图片按不同的主题聚类。可使用的方法主要包括：K均值聚类（K-Means）、层次聚类和密度聚类。降维任务目标为将高维数据映射到低维空间，同时保留重要信息。比如在二维平面上可视化高维数据、提取文本或图像的主要特征。可使用的方法主要包括：主成分分析（PCA）和奇异值分解（SVD）。异常检测目标为发现数据中与大多数样本不一样的异常样本，比如银行交易中的欺诈检测、工厂设备的故障检测。可使用的方法主要包括：高斯混合模型（GMM）和孤立森林（IsolationForest）。机器学习经典方法以K-means为例K-Means是一种快速、高效的聚类算法，它适用于处理大量数据，简单、直观，计算开销较低，同时在球形分布数据上的聚类效果较好。机器学习经典方法机器学习经典方法机器学习经典方法迁移学习迁移学习（TransferLearning）是一种机器学习技术，其核心思想是将在源域中学到的知识（特征或模型参数）迁移到目标域，以减少对大规模标注数据的依赖，加速训练过程并提升模型性能。意义在传统的机器学习或深度学习中，训练模型通常需要大量标注数据，并且往往需要从零开始。但在现实中，标注数据非常昂贵，尤其是在专业领域（如医学、遥感等）。而迁移学习提供了一种解决方案，即将一个任务或领域中训练好的模型知识迁移到另一个相关任务或领域中。迁移学习的核心（1）知识的共享和重用：从一个领域中学到的知识（如模型权重、特征表示）被应用到另一个领域中。（2）特征的通用性：深度学习模型的浅层（如卷积神经网络中的低级卷积层）学习到的特征（如边缘、纹理）往往是通用的，可迁移到其他任务中使用。（3）任务和领域的相似性：如果源任务和目标任务具有相似的模式或结构，迁移学习的效果通常更好。机器学习经典方法迁移学习的不同方法机器学习经典方法特征迁移特征迁移是指通过特征变换的方式迁移，来减少源域和目标域之间的差距；或者将源域和目标域的数据特征变换到同一特征空间中。特征迁移的代表包括特征变换、对抗学习和对比学习。关系迁移关系迁移学习源域中样本之间的关系（如样本间的距离、依赖关系），并将这些关系迁移到目标域。这种方法适用于源域和目标域的样本具有类似的关系模式时。若源域和目标域的关系模式差异较大，迁移效果可能不佳。样本迁移假设源域和目标域的数据分布不完全一致，但仍有部分样本对目标域的学习任务是有用的。样本迁移能根据一定的权重生成规则，通过重新加权源域的数据，使其分布更接近目标域的数据分布。参数迁移参数迁移假设源域的模型参数可以部分或全部迁移到目标域，用于初始化模型或共享知识。首先在源域训练好模型参数，将其作为目标域模型的初始参数，再根据目标域的数据进行微调。其中，模型的整体参数或者部分参数再在目标域进行训练。迁移学习的不同方法机器学习经典方法特征迁移关系迁移样本迁移参数迁移迁移学习的不同方法机器学习经典方法强化学习强化学习（ReinforcementLearning，RL）是机器学习领域之一，受到行为心理学的启发，主要关注智能体如何在环境中采取不同的行动，以最大限度地提高累积奖励。通俗地说，强化学习是智能体以试错的方式进行学习，通过与环境进行交互获得的奖励指导动作，目标是使智能体获得最高的奖励。结构强化学习主要由智能体（Agent）、环境（Environment）、状态（State）、动作（Action）、奖励（Reward）组成。智能体包括模型、策略（Policy）和值函数，依靠某一策略和环境交互，每次交互时通过观察得到当前的状态，根据这一状态选择某一动作，以此得到奖励。通过多次交互，智能体即可学习到在特定环境下选择合适动作的优化策略（OptimalPolicy），使得奖励最大化。机器学习经典方法智能体的数学化表达机器学习经典方法智能体的数学化表达机器学习经典方法以Q-learning为例Q-Learning是经典的算法。Q-Learning通过学习Q函数（动作-值函数），让智能体知道在每个状态执行不同动作的累积奖励期望，从而选择最优动作。机器学习经典方法实际问题：迷宫导航（1）环境：一个大小为4×4的迷宫，智能体的目标是从起点到达目标点。起点为左上角(0,0)，目标点为右下角(3,3)。（2）状态：定义每个位置(x,y)是一个状态，则共有16个状态。（3）动作：智能体可选择4个动作——向上、向下、向左、向右。若执行动作后位置超出迷宫边界，则停留在原位置。（4）奖励：到达目标点奖励10，其他状态奖励−1（通过惩罚以鼓励智能体尽快到达目标点）。（5）Q表结构：行代表状态，共16行；列代表动作，共4列（对应4个可能的动作）。初始时，将所有Q(s,a)的值设为

0，Q表如下所示。机器学习经典方法实际问题：迷宫导航机器学习经典方法实际问题：迷宫导航智能体通过试错不断更新Q表，并调整策略。最终的Q表记录了所有状态-动作对的价值，智能体可以直接从最终的Q表中找到最优的决策。机器学习经典方法强化学习优缺点优点（1）不需要大量标注数据：智能体通过与环境交互实现自主学习。（2）适合解决动态决策问题：适用于非静态环境。（3）全局优化能力：能够学习复杂、长期依赖的策略。缺点（1）探索与利用的权衡：智能体既要尝试新策略（探索），又要利用现有策略。（2）高计算成本：需要与环境进行大量交互，训练时间长。（3）稀疏奖励问题：当奖励很少或延迟时，学习变得困难。深度学习AIPARTTHREE深度学习深度学习深度学习是机器学习的一个子集，专注于使用人工神经网络（尤其是深层神经网络）来进行学习，能够处理复杂的数据表示和模式识别任务。人工神经网络由多层神经元组成，能够通过层层抽象从原始数据中提取特征。这使得深度学习在图像识别、自然语言处理和语音识别等任务中表现出色。人工神经网络深度学习在大规模数据集上的表现优于传统机器学习方法，特别在处理高维数据（如图像和视频）时。深度学习优势深度学习在人工智能领域得到广泛应用，成为推动现代人工智能技术发展的核心动力，不仅提高了人工智能系统的性能，还拓宽了人工智能的应用边界。深度学习意义深度学习深度学习在人工智能中的重要性在以下几个方面，深度学习展现了其在人工智能中的重要性。自动学习特征能力传统的机器学习模型依赖于人工特征工程，需要专家根据具体问题设计和提取特征，而深度学习通过多层神经网络自动从数据中学习特征。这一能力简化了特征工程，在处理复杂的数据（如图像、语音和文本）时表现出色。大规模数据处理能力深度学习能够从海量数据中学习，在面对高维数据时表现出色。传统的机器学习方法在处理高维数据时往往难以取得理想的效果，但深度学习能够通过深层网络结构逐步提取信息，从而有效地处理复杂的高维数据。在复杂任务上的表现深度学习模型具备强大的泛化能力，在许多复杂任务上的表现超越传统的机器学习方法。深度学习跨领域的适应性深度学习的模型架构和技术方法可以应用于多个领域。无论是计算机视觉中的目标检测与分类，还是自然语言处理中的机器翻译、文本生成，深度学习都能够提供对应的解决方案。推动生成模型的发展深度学习推动了生成模型的发展，如GAN和变分自编码器。GAN的出现为图像生成、艺术创作等带来了全新的可能性，其生成的图像、音频和视频在创意产业中得到广泛的应用。突破计算瓶颈并行计算和分布式计算使深度学习模型可在短时间内处理大量数据并优化大量参数。这使得深度学习模型可以快速完成训练，并在实际应用中做到实时推断，提升了效率和实用性。

强大的可扩展性和灵活性深度学习模型在具备极强的可扩展性，可根据任务需求设计不同的网络，使深度学习能适应从语音识别到自动驾驶的广泛应用领域。此外，深度学习可以集成不同类型的数据，实现多模态的智能感知和决策。

深度学习深度学习能够通过强化学习等技术，推动智能系统向自适应化和个性化发展。推荐系统就是一个很好的例子，它能够根据用户的行为模式不断调整推荐内容，提供个性化的服务。自适应能力使得智能系统能够不断优化自身，变得更加智能和高效。推动智能系统的自适应化与个性化深度学习在监督学习中表现出色，还能推动自监督学习和无监督学习的发展。如基于Transformer的预训练模型可以在无标注数据上进行学习，从而减少对人工标注数据的依赖。这种能力在数据标注成本高昂或数据难以获取的领域中尤为重要。推动自监督学习和无监督学习的研究深度学习还能推动人工智能理论和实践的发展。诸如神经符号推理、图神经网络、强化学习+深度学习等领域的研究，正在突破传统人工智能方法的限制，探索更复杂、更智能的人工智能系统。众多突破性的进展将为未来的人工智能应用打下坚实的基础。推动未来人工智能的发展深度学习人工智能技术的实际应用提出了一项新任务，即以3D形状、反射率和纹理的时间演化序列的形式生成时间对象内部函数。引入了一个框架，用于从预训练的2D扩散模型中提取4D一致的时间对象内部函数。该框架的核心是非经典神经模板，它将畸变信号筛选到特定的时间状态。消融研究表明，该框架中提出的核心模块和技术对性能至关重要。4