计算机基础与人工智能通识 课件 第7-12章 机器学习-AI智能办公

计算机基础与人工智能通识第7章机器学习目录01机器学习基本概念02监督学习03无监督学习04强化学习05人工神经网络和深度学习01机器学习基本概念Partone7.1机器学习基本概念什么是机器学习机器学习的四大类型机器学习的基本过程7.1.1什么是机器学习机器学习是人工智能领域中的一项关键技术，它指的是计算机系统通过学习和经验积累来不断提升其性能的过程简单来说，机器学习就是让计算机具备自我学习和改进的能力，从而模拟人类的思考和行为。机器学习涉及多个学科领域，包括统计学、概率论、优化算法等。机器学习的核心在于构建一个能够从数据中学习的模型。这个模型通常是通过训练数据来构建的，训练数据包含已知的输入和输出，机器学习算法会利用这些数据进行模型的参数调整和优化，使得模型能够更好地拟合数据的内在规律。机器学习算法从大量数据中自动提取特征、发现规律根据规律对新数据进行预测或决策7.1.2机器学习的四大类型（有标签）（有评级标签）（无标签）（有部分标签）有监督学习无监督学习半监督学习增强学习7.1.3机器学习的基本过程数据探索性分析模型训练数据预处理建立模型特征工程交叉验证模型评估02监督学习Parttwo7.2监督学习回归算法分类算法支持向量机KNN7.2.1回归算法回归算法线性回归岭回归套索回归弹性网络回归7.2.1回归算法在金融与经济学领域，回归算法可以用于以下场景：基于公司财报数据、历史价格、市场情绪指数、宏观经济指标等，预测未来某只股票的价格或走势。股票价格预测预测个人或企业的信用评分（一个连续的数字分数）。输入特征包括收入、负债、信用历史、年龄等，输出是一个连续的分数，分数越高，违约风险越低。风险评估（信用评分)这是线性回归最著名的例子。根据房屋的特征（如面积、卧室数量、卫生间数量、地理位置、学区评分、建成年份等）来预测其市场售价。房地产市场分析（房价预估）零售商根据历史销售数据、季节性因素、促销活动、天气预报等，预测未来一段时间内产品的销量，以便优化库存管理。需求预测与销售预测7.2.1回归算法在医疗健康领域，回归算法可以用于以下场景：基于患者的生理指标（如年龄、体重、血压、胆固醇水平、基因数据等），预测其患某种疾病（如糖尿病）的风险概率（可视为0-1之间的连续值）或疾病的预期发展情况。疾病预测与预后分析保险公司或医院根据患者的年龄、病史、诊断信息、生活方式等，预测其未来的医疗成本，用于保险定价和资源规划。医疗费用预测预测不同剂量的化合物对生物标志物（如血压降低值、肿瘤缩小尺寸）的影响，从而确定最有效的剂量。药物研发7.2.1回归算法在零售与电子商务领域，回归算法可以用于以下场景：预测一个客户在未来可能为企业带来的总收益，帮助企业识别高价值客户并制定相应的营销策略。客户终身价值预测预测用户对某个未评分商品的评分（例如5分制下的具体分数）。这通常是协同过滤算法的一部分。推荐系统基于需求、竞争对手价格、库存水平、用户点击行为等，实时预测商品的最优售价，以实现收入最大化。动态定价7.2.1回归算法在工业与制造业领域，回归算法可以用于以下场景：预测性维护通过传感器持续监控设备（如风力涡轮机、飞机发动机）的温度、振动、噪音等数据，预测其剩余使用寿命。这可以帮助企业在设备发生故障前安排维护，避免意外停机。质量控制预测生产出的产品的关键质量指标（如强度、纯度），并分析工艺参数（如温度、压力）如何影响这些指标，从而优化生产流程。7.2.1回归算法在能源与环境领域，回归算法可以用于以下场景：电力公司根据历史用电数据、天气（温度、湿度）、日期类型（工作日/节假日）等，预测未来一天甚至几小时的电力需求，以便调度发电资源，确保电网稳定。电力负荷预测预测连续的气象数值，如温度、降水量、风速、湿度等。数值天气预报本身就是一個极其复杂的回归问题。天气预报7.2.2分类算法分类算法逻辑回归01朴素贝叶斯04决策树02随机森林037.2.2分类算法逻辑回归的典型应用场景如下：金融风控预测贷款申请者是否会违约（是/否）。输入特征包括收入、信用历史、负债情况等。01医疗诊断根据患者的各项体检指标（如血压、血糖、胆固醇水平），判断其是否患有某种疾病（是/否）。02广告点击率预测预测用户是否会点击某个广告（点击/不点击）。这是在线广告系统的核心模型之一。037.2.2分类算法决策树的典型应用场景如下：用于信用评分模型，通过一系列规则对申请人进行分级。根据用户的人口统计学特征（年龄、性别、地区）和购买历史，判断用户属于哪一类客户群体（例如，高价值客户、流失风险客户），从而进行精准营销。辅助医生进行决策，例如根据症状（发烧、咳嗽、喉咙痛）判断是普通感冒还是流感。医疗诊断金融评估客户细分与营销7.2.2分类算法随机森林的典型应用场景如下：生态系统研究电子商务生物信息学根据卫星遥感图像的光谱特征，对土地覆盖类型进行分类（如森林、农田、水域、城市）。识别欺诈交易。通过分析交易时间、地点、金额、用户行为等大量特征，准确判断交易是否可疑。基于基因表达数据对癌症类型进行分类或对肿瘤进行良恶性判断。7.2.2分类算法朴素贝叶斯的典型应用场景如下：垃圾邮件过滤经典应用。将邮件中的单词作为特征，判断邮件是垃圾邮件还是正常邮件。新闻分类快速将新闻自动分类到预定义的类别中。情感分析分析社交媒体上的文本情感倾向。7.2.3支持向量机支持向量机（SupportVectorMachine，简称为SVM），是有监督学习算法的一种，它既可以用来做分类，也可以用来做预测（回归）。当SVM被用于分类时，被称为SVC（SupportVectorClassification），当SVM被用于回归分析时，被称为SVR（SupportVectorRegression）。7.2.3支持向量机支持向量机的典型应用场景如下：

01垃圾邮件识别：判断一封邮件是正常邮件还是垃圾邮件。情感分析：分析一条商品评论或社交媒体帖子是正面、负面还是中性的。新闻主题分类：自动将新闻文章归类到“体育”、“科技”、“财经”等预定义的类别中。生物信息学：蛋白质功能分类、基因表达数据分析等。手写字符识别：如邮政编码识别、银行支票数字识别。0203040506人脸检测：判断图像中的一个区域是否是人脸。目标识别：在复杂的场景中识别特定类别的物体（如汽车、行人）。07医学图像分析：对MRI或X光影像中的组织进行分类，辅助医生诊断。08指纹识别：将提取的指纹特征输入SVM进行身份匹配。097.2.4KNNKNN（K-NearestNeighbor）即K最近邻算法，是一种常用的监督学习方法，是机器学习算法中最基础、最简单的算法之一，它既能用于分类，也能用于回归。KNN通过测量不同特征值之间的距离来进行分类，简单来说，它遵循“物以类聚、人以群分”的思想，即认为待分类样本的类别与相邻样本的类别相关，会根据k个最近的邻居的类别来决定样本的类别。7.2.4KNNKNN的典型应用场景如下：应用场景推荐系统缺失值插补模式识别与分类概念搜索与相似性检索7.2.4KNN典型应用场景：推荐系统

比如，电商平台为用户推荐其可能感兴趣的商品，流媒体平台为用户推荐其可能感兴趣的视频，新闻APP为用户推荐其可能感兴趣的新闻等。7.2.4KNN手写数字识别如识别邮政编码、银行支票号码。图像分类简单的图像内容识别，例如区分图片中是猫还是狗（在深度学习普及之前是常用方法）。植物/动物分类根据花瓣长度、宽度等特征对鸢尾花品种进行分类，是机器学习入门教学的经典案例。典型应用场景：模式识别与分类7.2.4KNN概念搜索与相似性检索用手机拍一张衣服的照片，在电商平台上搜索同款或相似款。图像检索找到与某篇研究论文内容最相近的其他论文。文档检索Shazam等“听歌识曲”应用的核心算法之一音频检索典型应用场景：概念搜索与相似性检索7.2.4KNN典型应用场景：缺失值插补

KNN也可以用于数据预处理，填补数据集中的缺失值。如果数据集中某个样本的某个特征值缺失了，可以计算该样本与其他所有样本的距离，找到最近的K个邻居，然后用这K个邻居在该特征上的均值（数值型）或众数（分类型）来填充缺失值。03

无监督学习Partthree7.3无监督学习无监督学习主要是聚类算法。聚类算法又叫做“无监督分类”，其目的是将数据划分成有意义或有用的组（或簇）。这种划分可以基于业务需求或建模需求来完成，也可以单纯地帮助我们探索数据的自然结构和分布聚类分类核心将数据分成多个组，探索各个组的数据是否有关联从已经分组的数据中去学习，把新数据放到已经分好的组中去学习类型无监督学习算法，不需要标签进行训练有监督学习算法，需要标签进行训练典型算法K-Means、DBSCAN、层次聚类KNN、决策树、朴素贝叶斯、逻辑回归、支持向量机、随机森林算法输出无需预设类别，类别数不确定，类别在学习中生成预设类别，类别数不变，适合类别或分类体系已经确定的场合7.3无监督学习聚类算法的典型应用场景如下：

客户细分01图像分割02异常检测03文档和新闻分类04社交网络分析05生物信息学06地理信息系统中位置点的聚类077.3无监督学习客户细分：电商、零售、金融公司拥有大量的用户交易数据、人口统计数据、行为数据（浏览点击、App使用时长）等，可以使用聚类算法，根据用户的购买力、消费频率、品牌偏好、活跃度等特征将用户分成不同的群组，从而实现精准营销、个性化推荐和市场策略制定。7.3无监督学习图像分割：在计算机视觉中，需要将图像划分成多个区域或“超像素”，使得每个区域内的像素具有相似的颜色、纹理、亮度等特征。将每个像素看作一个数据点（其特征可以是RGB颜色值、坐标位置等），就可以使用聚类算法（如K-Means）将这些像素点聚类，从而用于图像压缩、简化图像分析、背景替换、医学图像分析（如识别肿瘤区域）等。7.3无监督学习异常检测：在网络安全、金融风控、工业检测中，需要识别出与正常模式显著不同的异常点。正常的数据点通常会形成密集的聚类簇，而异常点则远离任何聚类中心。使用聚类算法（如DBSCAN）可以发现这些离群点，从而实现金融反欺诈、入侵检测和工业质检等应用。7.3无监督学习文档和新闻分类：新闻机构、学术平台或企业拥有大量未分类的文本文档，可以使用文本向量化技术（如TF-IDF）将每个文档转换为一个数值向量，然后使用聚类算法（如K-Means）将这些文档向量进行分组，从而将新闻文章自动聚类到“体育”、“科技”、“财经”等主题下，无需人工打标签。7.3无监督学习社交网络分析：在社交网络中（如Facebook、微博），用户之间形成了复杂的关注、点赞、转发关系图。使用图聚类或社区发现算法（如层次聚类）。这些算法将网络中的节点（用户）分组，使得同一组内的用户连接紧密，而组与组之间的连接稀疏，从而可以实现发现兴趣社群、信息传播研究、好友推荐等应用。7.3无监督学习生物信息学：在基因微阵列研究中，拥有大量基因在不同实验条件下的表达数据。对基因进行聚类（根据它们在各种条件下的表达水平），可以发现共同工作的基因（可能参与相同的生物学通路）。同样，也可以对样本（如不同的患者）进行聚类。这样就可以支持疾病分型、功能基因发现等应用。7.3无监督学习地理信息系统中位置点的聚类：如果拥有大量带有地理坐标的点数据，如出租车GPS轨迹、餐厅位置、地震震中等，就可以使用基于密度的聚类算法（如DBSCAN）或基于位置的K-Means，将这些点聚类成区域，从而可以实现热门区域识别、商业选址、地震带分析等应用。04强化学习Partfour7.4强化学习强化学习的基本要素强化学习的过程强化学习的典型应用场景7.4.1强化学习的基本要素强化学习的基本要素包括：

状态（State）：环境在某一时刻的描述。3奖励（Reward）：智能体执行动作后从环境中获得的反馈。5价值函数（ValueFunction）：评估在某一状态下长期累积奖励的期望值。6环境（Environment）：智能体交互的外部世界。2

动作（Action）：智能体在某一状态下可以执行的操作。4策略（Policy）：智能体在给定状态下选择动作的规则。策略分为确定性策略(deterministicpolicy)和不确定性策略(stochasticpolicy)，确定性策略只每种状态下选择的动作是确定的，即百分之百选择一种策略，而不确定性策略是指某种状态下选择的动作是不确定的，策略只是确定动作的分布，然后在分布中进行采样来确定策略。7

智能体（Agent）：学习和决策的主体。17.4.2强化学习的过程强化学习的基本过程如下：智能体需要探索环境以了解不同行动的潜在结果。探索（Exploration）智能体利用已有的知识来选择最佳行动以获得最大奖励。利用（Exploitation）智能体通过学习过程不断更新其策略，以更好地预测价值函数和选择行动。学习策略（LearningPolicy）智能体确定哪些行动对获得奖励有贡献，并将信用分配给这些行动。信用分配（CreditAssignment）7.4.3强化学习的典型应用场景强化学习的典型应用场景如下：自动驾驶与智能交通机器人控制与自动化游戏与智能博弈推荐系统与信息检索金融与交易医疗健康资源管理与优化自然语言处理与对话系统7.4.3强化学习的典型应用场景游戏与智能博弈：是强化学习最早取得突破性成就的领域，也是最经典的验证场景，具体如下：Libratus和Pluribus等AI在德州扑克中击败了顶级职业选手。扑克等不完全信息博弈DeepMind的DQN算法仅使用像素输入，就在多款雅达利游戏中达到了超越人类的水平。这证明了强化学习可以从高维原始输入中直接学习控制策略。经典电子游戏AlphaGo及其后续版本（AlphaGoZero、AlphaZero）通过结合蒙特卡洛树搜索和深度强化学习，击败了人类世界冠军，是强化学习历史上的里程碑。围棋OpenAI的Five在《Dota2》中击败了人类职业战队，DeepMind的AlphaStar在《星际争霸II》中达到宗师水平。这些游戏需要长期的战略规划、不完全信息处理和即时微操作，极具挑战性。多人在线战术竞技游戏7.4.3强化学习的典型应用场景机器人控制与自动化：强化学习非常适合训练机器人完成复杂的物理动作任务，尤其是在仿真环境中进行训练，再迁移到现实世界，具体如下：移动抓取与操纵无人机控制训练机器人行走、奔跑、跳跃、甚至摔倒后爬起来。例如，波士顿动力（虽然不完全是强化学习）和宇树科技的算法让机器人完成了复杂的后空翻动作。训练机械臂抓取各种形状、大小和材质的物体，或完成更精细的任务，如拧瓶盖、插积木、叠衣服等。控制无人机进行敏捷飞行、穿越障碍物、实现自主编队等。7.4.3强化学习的典型应用场景自动驾驶与智能交通：自动驾驶是一个极其复杂的序列决策过程，与强化学习的范式高度契合，具体如下：决策规划在复杂的交通场景中做出安全、舒适且高效的决策，如换道、超车、路口通过、环岛行驶等。路径优化为单个车辆或多个车辆（车队）规划全局最优路径，避免拥堵。交通灯控制通过控制城市中多个交通信号灯的配时，来优化整体交通流，减少拥堵和等待时间。7.4.3强化学习的典型应用场景资源管理与优化：在具有约束条件的复杂系统中进行资源分配，强化学习可以找到接近最优的动态策略优化库存水平、物流路径和需求预测，以最小化成本并最大化服务水准。供应链与库存管理在5G/6G等无线通信网络中，动态分配频谱、功率等资源，以最大化网络吞吐量和连接质量。网络资源分配在数据中心中，动态分配计算资源、网络带宽和电力，以降低能耗并提高效率。Google曾使用RL来优化其数据中心的冷却系统，节省了大量能源。计算资源调度7.4.3强化学习的典型应用场景推荐系统与信息检索：与传统基于协同过滤的方法不同，强化学习将推荐过程视为一个序列决策问题，考虑用户的长期兴趣和满意度个性化推荐不仅推荐用户当下可能点击的内容，更考虑用户长期的留存度和活跃度。例如，避免一直推荐同质化内容导致用户厌倦。搜索排序优化搜索结果的排序策略，以最大化用户的点击满意度或完成特定任务（如购买、下载）的概率。广告竞价动态决定出价策略，在预算约束下最大化广告主的投资回报率。7.4.3强化学习的典型应用场景金融与交易：金融市场具有高波动性和不确定性，适合使用强化学习进行风险下的决策优化，具体如下：训练AI根据市场状态（价格、成交量、宏观指标等）自动做出买入、持有或卖出的决策，以最大化投资组合的长期收益。算法交易动态调整不同资产（股票、债券、加密货币等）的配置比例。投资组合管理评估和预测信贷风险，进行欺诈检测等。风险控制7.4.3强化学习的典型应用场景医疗健康：强化学习在医疗领域的应用需要极高的谨慎和可解释性，但目前已在许多方面展现出潜力，具体如下：个性化治疗方案为癌症、糖尿病等慢性病患者动态调整用药剂量和治疗方案，在疗效和副作用之间找到最佳平衡。01医学影像分析引导AI模型更高效地阅读CT、MRI等影像，类似于学习“从哪里看”和“看什么”的策略。02机器人辅助手术训练手术机器人进行精细的操作，减少对医生经验的绝对依赖。037.4.3强化学习的典型应用场景自然语言处理与对话系统：强化学习用于优化生成式模型的输出，使其更符合人类偏好，具体如下：训练对话系统生成不仅语法正确，而且更有趣、更贴心、更能完成特定任务（如订餐、订票）的回复。目标是最大化对话的成功率和用户满意度。使用基于人类反馈的强化学习（RLHF）来优化摘要质量或翻译的流畅度，而不仅仅是基于BLEU等传统指标。对话AI文本摘要与翻译05人工神经网络和深度学习Partfive7.5人工神经网络和深度学习人工神经网络深度学习7.5.1人工神经网络人工神经网络（ArtificialNeuralNetwork，ANN）简称神经网络(NN)，是基于生物学中神经网络的基本原理，在理解和抽象了人脑结构和外界刺激响应机制后，以网络拓扑知识为理论基础，模拟人脑的神经系统对复杂信息的处理机制的一种数学模型。该模型以并行分布的处理能力、高容错性、智能化和自学习等能力为特征，将信息的加工和存储结合在一起，以其独特的知识表示方式和智能化的自适应学习能力，引起各学科领域的关注。它实际上是一个有大量简单元件相互连接而成的复杂网络，具有高度的非线性，能够进行复杂的逻辑操作和非线性关系实现的系统。人工神经网络是一种运算模型，由大量的节点（或称神经元）之间相互联接构成。每个节点代表一种特定的输出函数，称为激活函数。每两个节点间的连接都代表一个对于通过该连接信号的加权值，称之为权重，神经网络就是通过这种方式来模拟人类的记忆。7.5.1人工神经网络感知器是一种最简单的神经网络，它只有一个神经元。在这个模型中（如图所示），中央的神经元接受从外界传送过来的若干个信号，这些输入信号都有其对应的权重（比如图中的x1、x2和x3），然后，将各个输入值与其相应的权重相乘，再另外加上偏移量b，最后，通过激活函数的处理产生相应的输出y。7.5.1人工神经网络单个的感知器就构成了一个简单的模型，但在现实世界中，实际的决策模型则要复杂得多，往往是由多个感知器组成的多层网络，如图所示，这也是经典的神经网络模型，由输入层、隐含层、输出层构成，其处理问题的能力大大提高。人工神经网络可以映射任意复杂的非线性关系，具有很强的并行性、记忆能力、自学习等能力，在分类、预测、模式识别等方面有着广泛的应用。7.5.1人工神经网络人工神经网络有多种不同的连接方式，有一种连接方式叫作“前馈网络”（如图所示），它是在整个神经元模型组成的网络中，信息朝着一个方向传播，没有反向的回溯。按照接受信息的顺序不同被分为不同的层，当前层的神经元接受上一层神经元的输出，并将处理过的信息输出传递给下一层。人工智能领域知名的卷积神经网络（ConvolutionalNeuralNetwork,CNN）就是一种前馈网络，YannLeCun提出的LeNet是最早的卷积神经网络，奠定了CNN的基本思想和结构，随后，研究者们又提出了GoogleNet、VGG、ResNet等一大批新型CNN模型，现在，CNN已经广泛应用于图像分类、计算机视觉和自然语言处理等领域。7.5.2深度学习1.什么是深度学习1957年，弗兰克・罗森布拉特提出感知器，这是首个模拟生物神经元的计算模型：通过输入层接收信号，经权重加权后用激活函数输出（如二分类结果）。但它仅能处理线性可分问题（如“与”“或”逻辑），对“异或”这类非线性问题完全失效，这一致命局限引发了第一次AI寒冬。7.5.2深度学习1.什么是深度学习为突破线性限制，后来研究者提出多层感知器（即包含多个层次的神经网络），在输入层与输出层间加入“隐藏层”，通过多层非线性变换拟合复杂关系。但多层网络的训练难题曾长期困扰着学界和业界。1969年，明斯基指出，传统算法无法有效更新深层权重（梯度消失问题）。直到1986年，反向传播算法被重新引入，通过链式法则从输出层反向计算梯度，逐层更新权重，让多层感知器终于能稳定训练。不过，此时网络仍较“浅”（通常只包含1-2个隐藏层），受限于计算能力（CPU算力不足）和数据量，未能爆发式发展。7.5.2深度学习1.什么是深度学习2006年，辛顿等人的工作成为关键转折点，他们提出深度置信网络（DBN），用“逐层预训练”策略缓解梯度消失——先无监督训练浅层网络，再堆叠成深层网络。这一方法证明“深层网络”的可行性，由此开启了“深度学习”时代。7.5.2深度学习1.什么是深度学习深度学习的真正爆发发生在2012年，AlexNet以8层深度在ImageNet竞赛中碾压传统算法，错误率比第二名低10%。其成功依赖三大支撑：GPU并行计算解决了深层网络的算力瓶颈；大数据提供了足够训练样本；ReLU激活函数减轻了梯度消失。7.5.2深度学习1.什么是深度学习此后，卷积神经网络（CNN）、循环神经网络（RNN）等架构快速迭代。CNN用局部感受野和权值共享降低参数规模，适配图像处理；RNN（以及LSTM）通过记忆机制处理序列数据（如文本、语音）；2017年Transformer的自注意力机制，更是让深层网络能捕捉长距离依赖，带来了大模型的爆发。7.5.2深度学习1.什么是深度学习人工神经网络从感知器一步步演化到深度学习，本质是“从线性到非线性”“从浅层到深层”的跨越，理论上靠反向传播和激活函数突破训练限制，技术上靠GPU和大数据支撑深层网络的规模扩张，最终实现对复杂任务（如图像识别、自然语言处理）的高精度拟合。7.5.2深度学习2.机器学习和深度学习的关系机器学习和深度学习是人工智能领域中紧密关联但层次不同的两个概念，二者是包含与被包含的关系：深度学习是机器学习的一个重要分支，是机器学习在“深层神经网络”方向上的延伸与突破。7.5.2深度学习2.机器学习和深度学习的关系具体关系可从以下维度理解：（1）范围：深度学习是机器学习的子集。机器学习是一个宽泛的概念，指通过算法让计算机从数据中自主学习规律，实现“无需显式编程即可完成任务”的目标。其涵盖的算法体系庞大，包括线性回归、决策树、支持向量机（SVM）、贝叶斯模型、聚类算法等，既包含简单的线性模型，也包含复杂的非线性模型。深度学习则特指使用

“深层神经网络”（通常含3层及以上隐藏层）完成学习任务的机器学习方法。它的核心是通过多层非线性变换（如激活函数）提取数据的抽象特征，本质上是机器学习中“神经网络”算法的深度拓展。7.5.2深度学习2.机器学习和深度学习的关系（2）核心差异：模型结构与特征处理。二者的关键区别体现在模型复杂度和特征工程的依赖程度上。在模型结构方面，传统机器学习多采用“浅层模型”（如1-2层的决策树、单一的支持向量机），处理复杂数据（如高维图像、长文本）时能力有限；深度学习依赖“深层神经网络”（如10层以上的ResNet、含数十层的Transformer），通过多层级联的神经元模拟人脑的层级特征提取机制，能处理更复杂的模式。1在特征处理方面，传统机器学习高度依赖人工特征工程，需要专家手动设计特征（如为图像识别手动提取边缘、纹理特征），特征质量直接决定模型性能；深度学习实现了端到端学习，模型可自动从原始数据中学习特征（如从像素值中逐层提取边缘→部件→物体），大幅减少了对人工特征设计的依赖。27.5.2深度学习2.机器学习和深度学习的关系（3）发展脉络：深度学习是机器学习的进阶。深度学习的兴起是机器学习发展的必然结果。早期机器学习受限于计算能力和数据量，多聚焦于浅层模型；2006年起，随着Hinton等人提出“深度置信网络”的训练方法、GPU算力提升及大数据爆发，深层神经网络的训练难题被突破，深度学习成为机器学习中解决高维、复杂数据（如图像、语音、自然语言）的核心技术。7.5.2深度学习2.机器学习和深度学习的关系需要指出的是，深度学习既不属于单纯的监督学习，也不属于单纯的非监督学习，而是一种可以适配多种学习范式的模型框架。深度学习模型既可以通过带标签的数据（输入与对应输出的配对样本）进行训练，学习输入到输出的映射关系，也可以通过无标签数据自主学习数据的内在规律（如分布特征、结构模式）。深度学习兴起以后，传统的机器学习算法（比如分类、聚类、关联规则等）是否过时了呢？深度学习的兴起确实在很多领域（如图像识别、自然语言处理）带来了革命性突破，但传统机器学习算法并未过时，反而在大量场景中仍扮演着不可替代的角色。两者的关系并非“替代”，而是“互补”——各自在不同的问题场景、数据条件和业务需求下发挥优势。7.5.2深度学习传统机器学习算法（如逻辑回归、SVM、K-Means、Apriori等）的价值，源于其在特定场景下的“不可替代性”，主要体现在以下几个方面：小数据场景下的稳定性价值结构化数据的高效处理强解释性与业务适配性低计算成本与高效性7.5.2深度学习另外，深度学习存在一些局限性，也使得传统的机器学习算法大有用武之地。深度学习的强大依赖特定前提（大数据、高算力、复杂任务），但在这些前提不满足时，传统算法反而更具优势：深度学习容易过拟合（模型记住噪声而非规律），而传统算法（如正则化逻辑回归）通过简化模型结构，能更好地泛化；数据量不足时传统算法训练快、调参简单（如调整SVM的核函数参数），而深度学习模型（如训练一个Transformer模型）可能需要数天，难以适应高频业务调整。业务需快速迭代时若特征已通过人工工程提炼（如“用户信用分”“商品价格区间”），深度学习的“自动特征提取”优势无从发挥，反而可能因模型复杂引入冗余；特征明确时7.5.2深度学习在实际业务中，传统机器学习算法与深度学习常结合使用，形成“1+1>2”的效果：特征工程阶段用传统算法（如PCA、因子分析）对高维数据降维，再输入深度学习模型，减少计算量；多模态数据处理用传统算法（如XGBoost）处理结构化数据（用户属性），用深度学习（如CNN）处理非结构化数据（用户上传的图片），最后融合两者结果；模型校验用逻辑回归的解释性验证深度学习的预测逻辑（例如，若深度学习判断某用户“高违约风险”，可用逻辑回归的特征权重检查是否与常识一致）。总之，传统机器学习算法并未因深度学习的流行而被淘汰，它们在小数据、强解释性、低算力、结构化数据等场景中仍不可替代。深度学习与传统算法的关系，更像是“复杂工具”与“基础工具”的配合——就像手术刀（深度学习）适合精细手术，但日常切割仍离不开普通刀具（传统算法）。7.5.2深度学习3.深度学习的典型应用场景应用场景推荐系统时间序列分析自然语言处理游戏与机器人计算机视觉7.5.2深度学习3.深度学习的典型应用场景——计算机视觉：这是深度学习最早取得突破性成就的领域之一。判断一张图片中的主要内容是什么（例如，猫、狗、汽车、风景）。图像分类与识别不仅识别出图片中的物体，还要用边界框标出它们的位置。目标检测对图像中的每个像素进行分类，确定它属于哪个物体或区域。图像分割创建全新的、逼真的图像，或将一种图像的风格应用到另一张图像上。图像生成与风格迁移识别或验证个人身份。人脸识别7.5.2深度学习3.深度学习的典型应用场景——自然语言处理深度学习极大地提升了机器理解和生成人类语言的能力。机器翻译将一种语言的文本或语音自动翻译成另一种语言。情感分析分析一段文本（如评论、微博、新闻）所表达的情感倾向（正面、负面、中性）。文本生成根据给定的提示或上下文，自动生成连贯、有意义的文本。语音识别与合成将人类的语音转换为文本，或将文本转换为逼真的语音。智能问答与聊天机器人理解用户用自然语言提出的问题，并给出精准答案或进行多轮对话。7.5.2深度学习3.深度学习的典型应用场景——推荐系统这是互联网公司的核心应用之一，深度学习了用户和物品的复杂非线性关系。深度学习可以根据用户的历史行为（点击、购买、浏览）和偏好，预测并推荐其可能喜欢的物品。7.5.2深度学习3.深度学习的典型应用场景——时间序列分析利用循环神经网络（RNN）、长短期记忆网络（LSTM）和Transformer等模型处理序列数据。通过分析设备传感器（温度、振动等）的时序数据，预测设备可能发生故障的时间。预测性维护分析股票价格、汇率等金融时间序列数据，进行趋势预测和风险评估。金融预测7.5.2深度学习通过强化学习，AI智能体通过与环境互动和试错来学习最佳策略。游戏AI训练机器人学习复杂的动作技能和导航策略。机器人控制3.深度学习的典型应用场景——游戏与机器人06本章小结Partsix7.6本章小结本章系统梳理了机器学习的核心知识体系。首先从基本概念出发，明确了机器学习通过数据自主学习规律的本质，及其与传统编程的根本区别。随后，本章详细介绍了监督学习、无监督学习、强化学习三大范式的典型算法及应用场景，展现了机器学习处理不同类型问题的能力。最后，作为重要分支，人工神经网络与深度学习的引入，让我们看到了机器学习在复杂任务上的强大潜力。谢谢观看！林子雨

副教授厦门大学附录A：主讲教师林子雨简介单位：厦门大学计算机科学与技术系E-mail:ziyulin@个人网页：/post/linziyu数据库实验室网站：主讲教师：林子雨林子雨，男，1978年出生，博士（毕业于北京大学），全国高校知名大数据教师，入选“2021年高校计算机专业优秀教师奖励计划”。现为厦门大学计算机科学与技术系副教授，厦门大学信息学院实验教学中心主任，曾任厦门大学信息科学与技术学院院长助理、晋江市发展和改革局副局长。中国计算机学会数据库专业委员会执行委员，中国计算机学会信息系统专业委员会执行委员。国内高校首个“数字教师”提出者和建设者，厦门大学数据库实验室负责人，厦门大学云计算与大数据研究中心主要建设者和骨干成员，2013年度、2017年度、2020年度和2023年度厦门大学教学类奖教金获得者，荣获2024年福建省高等教育教学成果奖特等奖（个人排名第七）、2022年福建省高等教育教学成果奖特等奖（个人排名第一）、2018年福建省高等教育教学成果奖二等奖（个人排名第一）、2018年国家精品在线开放课程、2021年国家级线上一流本科课程、2020年国家级线上一流本科课程。主要研究方向为数据库、数据仓库、数据挖掘、大数据、云计算和物联网，并以第一作者身份在《软件学报》《计算机学报》和《计算机研究与发展》等国家重点期刊以及国际学术会议上发表多篇学术论文。作为项目负责人主持的科研项目包括1项国家自然科学青年基金项目(No.61303004)、1项福建省自然科学青年基金项目(No.2013J05099)和1项中央高校基本科研业务费项目(No.2011121049)，主持的教改课题包括1项2016年福建省教改课题、1项2016年教育部产学协作育人项目、1项2024年教育部产学协作育人项目。编著出版了《大数据技术原理与应用》等13本大数据系列教材，被国内1000多所高校采用；建设了国内高校首个大数据课程公共服务平台，为教师教学和学生学习大数据课程提供全方位、一站式服务，年访问量超过400万次，累计访问量超过3200万次。大数据系列MOOC课程入选“2023年教育部国家智慧教育公共服务平台应用典型案例”。附录B：大数据学习路线图大数据学习路线图访问地址:/post/10164/附录C：林子雨大数据系列教材了解全部教材信息:/post/bigdatabook/附录D：林子雨人工智能通识系列教材了解全部教材信息:/post/ai-book/附录E：林子雨Python系列教材了解全部教材信息:/post/python-books/谢谢！林子雨副教授厦门大学计算机基础与人工智能通识第8章大模型01大模型概述目录02大模型产品03大模型的基本原理04大模型的特点05大模型的分类06大模型的应用07大模型面临的挑战08大模型与世界模型01大模型概述Partone8.1.1大模型的概念大模型通常指的是大规模的人工智能模型，是一种基于深度学习技术，具有海量参数、强大的学习能力和泛化能力，能够处理和生成多种类型数据的人工智能模型大模型的“大”的特点体现在：参数数量庞大训练数据量大计算资源需求高2020年，OpenAI公司推出了GPT-3，模型参数规模达到了1750亿2023年3月发布的GPT-4的参数规模是GPT-3的10倍以上，达到1.8万亿大模型的优势主要体现在：大模型具有更强的上下文理解能力，能够理解更复杂的语意和语境。这使得它们能够产生更准确、更连贯的回答上下文理解能力大模型可以从大量的数据中学习，并利用学到的知识和模式来提供更精准的答案和预测。这使得它们在解决复杂问题和应对新的场景时表现更加出色学习能力强大模型可以生成更自然、更流利的语言，减少了生成输出时呈现的错误或令人困惑的问题语言生成能力学习到的知识和能力可以在不同的任务和领域中迁移和应用。这意味着一次训练就可以将模型应用于多种任务，无需重新训练可迁移性高8.1.1大模型的概念小模型通常指参数较少、层数较浅的模型，它们具有轻量级、高效率、易于部署等优点，适用于数据量较小、计算资源有限的场景，例如移动端应用、嵌入式设备、物联网等8.1.2大模型与小模型的区别而当模型的训练数据和参数不断扩大，直到达到一定的临界规模后，其表现出了一些未能预测的、更复杂的能力和特性，模型能够从原始训练数据中自动学习并发现新的、更高层次的特征和模式，这种能力被称为“涌现能力”。而具备涌现能力的机器学习模型就被认为是独立意义上的大模型，这也是其和小模型最大意义上的区别相比于小模型，大模型通常参数较多、层数较深，具有更强的表达能力和更高的准确度，但也需要更多的计算资源和时间来训练和推理，适用于数据量较大、计算资源充足的场景，例如云端计算、高性能计算、人工智能等8.1.2大模型与小模型的区别大模型发展历经三个阶段，分别是萌芽期、沉淀期和爆发期8.1.3大模型的发展历程萌芽期（1950-2005）这是一个以CNN（ConvolutionalNeuralNetworks，卷积神经网络）为代表的传统神经网络模型阶段1956年，从计算机专家约翰·麦卡锡提出“人工智能”概念开始，AI发展由最开始基于小规模专家知识逐步发展为基于机器学习1980年，卷积神经网络的雏形CNN诞生1998年，现代卷积神经网络的基本结构LeNet-5诞生，机器学习方法由早期基于浅层机器学习的模型，变为了基于深度学习的模型，为自然语言生成、计算机视觉等领域的深入研究奠定了基础，对后续深度学习框架的迭代及大模型发展具有开创性的意义8.1.3大模型的发展历程沉淀期（2006-2019）这是一个以Transformer为代表的全新神经网络模型阶段2013年，自然语言处理模型Word2Vec诞生，首次提出将单词转换为向量的“词向量模型”，以便计算机更好地理解和处理文本数据。2014年，被誉为21世纪最强大算法模型之一的GAN（GenerativeAdversarialNetworks，对抗式生成网络）诞生，标志着深度学习进入了生成模型研究的新阶段2017年，Google颠覆性地提出了基于自注意力机制的神经网络结构——Transformer架构，奠定了大模型预训练算法架构的基础2018年，OpenAI基于Transformer架构发布了GPT-1大模型，意味着预训练大模型成为自然语言处理领域的主流，其中，GPT的英文全称是GenerativePre-TrainedTransformer，是一种基于互联网的、可用数据来训练的、文本生成的深度学习模型2019年，OpenAI发布了GPT-28.1.3大模型的发展历程爆发期（2020-至今）这是一个以GPT为代表的预训练大模型阶段2020年6月，OpenAI公司推出了GPT-3，模型参数规模达到了1750亿，成为当时最大的语言模型，并且在零样本学习任务上实现了巨大性能提升。随后，更多策略如基于人类反馈的强化学习（RLHF，ReinforcementLearningfromHumanFeedback）、代码预训练、指令微调等开始出现，被用于进一步提高推理能力和任务泛化2022年11月，搭载了GPT3.5的ChatGPT（ChatGenerativePre-trainedTransformer）横空出世，凭借逼真的自然语言交互与多场景内容生成能力，迅速引爆互联网，在全球范围内引起轰动，使得大模型的概念迅速进入普通大众的视野。ChatGPT是人工智能技术驱动的自然语言处理工具，它能够通过理解和学习人类的语言来进行对话，还能根据聊天的上下文进行互动，真正像人类一样来聊天交流，甚至能完成撰写邮件、视频脚本、文案、翻译、代码，写论文等任务8.1.3大模型的发展历程爆发期（2020-至今）OpenAI在2023年3月发布了GPT-4，它是一个多模态大模型（接受图像和文本输入，生成文本）。相比上一代的GPT-3，GPT-4可以更准确地解决难题，具有更广泛的常识和解决问题的能力。2023年12月，谷歌发布大模型Gemini，它可以同时识别文本、图像、音频、视频和代码五种类型信息，还可以理解并生成主流编程语言（如Python、Java、C++）的高质量代码，并拥有全面的安全性评估8.1.3大模型的发展历程人工智能包含了机器学习，机器学习包含了深度学习，深度学习可以采用不同的模型，其中一种模型是预训练模型，预训练模型包含了预训练大模型（可以简称为“大模型”），预训练大模型包含了预训练大语言模型（可以简称为“大语言模型”），预训练大语言模型的典型代表包括OpenAI的GPT和百度的文心ERNIE，ChatGPT是基于GPT开发的大模型产品，文心一言是基于文心ERNIE开发的大模型产品8.1.4人工智能与大模型的关系人工智能和大模型是相互关联的。人工智能是研究和开发使机器能够模仿人类智能行为的技术和方法的学科，包括机器学习、自然语言处理、计算机视觉等。而大模型则是指训练过程中使用了大量数据和参数的模型，这些模型包含了大量的知识和规则，能够更好地模拟人类智能行为为了提高人工智能系统的性能，研究者们不断尝试使用更大的模型来提高准确率和效果。例如，近年来非常热门的Transformer模型，就是一种大模型，它在自然语言处理领域取得了很多突破性进展。大模型的使用能够帮助人工智能系统更好地理解语义、提高处理能力和决策准确性人工智能的发展也推动了大模型的发展大模型的出现，使得人工智能技术得到了更广泛的应用。在许多领域，如自然语言处理、图像识别、语音识别等，大模型都能够提供更准确、更高效的处理能力。例如，在自然语言处理领域，大模型可以通过学习大量的文本数据，自动提取出文本中的语义信息，从而实现对文本的自动分类、情感分析、问答等任务。随着数据量的不断增加和计算能力的不断提升，大模型能够处理的数据量和处理速度也在不断提升。这使得人工智能技术能够更好地应对各种复杂的问题和挑战，进一步推动了人工智能技术的发展大模型是人工智能技术发展的重要推动力8.1.4人工智能与大模型的关系02大模型产品Parttwo8.2.1国外的大模型产品OpenAIGPT-5.2GoogleGemini3AnthropicClaude4.5MetaLlama3.1xAIGrok4.18.2.2国内的大模型产品大模型图标指标排名DeepSeek

能力测评第一豆包

用户数量第一Kimi

文本处理第一即梦AI

作图能力第一视频能力第一智谱清言

文档归纳第一2026年1月国内大模型排行榜03大模型的基本原理Partthree大模型是基于Transformer架构的，这种架构是一种专门用于自然语言处理的“编码-解码器”架构。在训练过程中，大模型将输入的单词以向量的形式传递给神经网络，然后通过网络的编码解码以及自注意力机制，建立起每个单词之间联系的权重。大模型的核心能力在于将输入的每句话中的每个单词与已经编码在模型中的单词进行相关性的计算，并把相关性又编码叠加在每个单词中。这样，大模型能够更好地理解和生成自然文本，同时还能够表现出一定的逻辑思维和推理能力大模型基于深度学习利用大量的数据和计算资源训练具有大量参数的神经网络模型不断地调整模型参数模型能够在各种任务中取得最佳表现8.3.1原理概述大模型的学习主要依赖于大量的文本数据。这些数据可以来自互联网、书籍、文章等各种来源。通过对这些数据进行训练，大模型能够学习到自然语言的统计规律和模式数据驱动大模型通常使用深度学习中的神经网络，尤其是Transformer结构。这种结构特别适合于处理序列数据（比如文本）。神经网络由多层的神经元组成，每一层都会对数据进行一定的转换和处理神经网络在Transformer架构中，编码器和解码器是两个核心组件。编码器负责将输入的文本转换为一种内部表示，而解码器则负责将这种内部表示转换回文本编码-解码过程这是Transformer的一个关键特性，允许模型在处理文本时考虑到每个单词与其他单词的关系。通过计算每个单词与其他所有单词的关联度，模型能够捕捉到文本中的复杂依赖关系自注意力机制大模型的训练通常使用梯度下降等优化算法。在训练过程中，模型会不断地调整其内部的参数，以最小化预测结果与实际结果之间的差异训练和优化一旦训练完成，大模型就能够对新的、未见过的文本进行理解和生成。这种能力使得大模型在各种自然语言处理任务中表现出色，如机器翻译、文本摘要、问答系统等泛化能力8.3.1原理概述8.3.2大模型训练的实例演示“厦门大学是一所具有光荣传统的大学”会被切分成8个Token，即“厦门”、“大学”、“是”、“一所”、“具有”、“光荣”、“传统”、“的”、“大学”。大模型是无法识别文本类型的数据的，它只能识别数值型数据（比如1,2,3,0.3,0.9等）。因此，需要采用“词向量化”技术把单词转化为向量。一维向量[2]，二维向量[0.1,8]，三维向量[2,0.4,9]“厦门”被转化成向量[0.3,8,2.5]，“大学”被转化成向量[2,1.3,7]。这种转化的数学本质就是，把每个单词都映射到一个三维数学空间中目前的主流大模型中，每个Token都是被映射到1000维以上的高维空间中8.3.2大模型训练的实例演示04大模型的特点Partfour（1）巨大的规模大模型通常包含数十亿个参数，模型大小可以达到数百GB甚至更大。这种巨大的规模不仅提供了强大的表达能力和学习能力，还使得大模型在处理复杂任务时具有更高的效率和准确性8.4大模型的特点（2）涌现能力涌现能力是指模型在训练过程中突然展现出之前小模型所没有的、更深层次的复杂特性和能力。当模型的训练数据突破一定规模时，模型能够综合分析和解决更深层次的问题，展现出类似人类的思维和智能。这种涌现能力是大模型最显著的特点之一，也是其超越传统模型的关键所在大模型的涌现能力源于其巨大的规模和复杂的结构。这些模型包含数亿甚至数十亿个参数，能够捕捉到数据中的复杂模式和关系。在训练过程中，大模型通过不断优化参数，逐渐形成了一种高度协调和自适应的结构，从而产生了意想不到的特性和能力。这种涌现能力使得大模型在处理复杂任务时具有更高的效率和准确性。它们能够更好地理解和模拟现实世界中的各种复杂现象，并从中提取出更深层次的知识和规律。这种能力使得大模型在自然语言处理、图像识别、语音识别等领域中展现出了卓越的性能8.4大模型的特点（3）更好的性能和泛化能力大模型因其巨大的规模和复杂的结构，展现出更出色的性能和泛化能力。它们在各种任务上都能表现出色，超越了传统的小模型。这主要归功于大模型的参数规模和学习能力。大模型能够更好地理解和模拟现实世界中的复杂现象，从而在各种任务中表现出更高的准确性和效率。它们能够捕捉到数据中的微妙差异和复杂模式，使得在未见过的数据上也能表现优秀，即具有良好的泛化能力（4）多任务学习大模型的多任务学习特点使其能够同时处理多种不同的任务，并从中学习到更广泛和泛化的语言理解能力。通过多任务学习，大模型可以在不同的NLP（NaturalLanguageProcessing）任务中进行训练，例如机器翻译、文本摘要、问答系统等。这种多任务学习的方式有助于大模型更好地理解和应用语言的规则和模式在多任务学习中，大模型可以共享参数和知识，使其在不同的任务之间建立联系，提高模型的泛化能力。通过多任务学习，大模型能够从多个领域的数据中学习知识，并在不同领域中进行应用。这有助于促进跨领域的创新，使得大模型在自然语言处理、图像识别、语音识别等领域中展现出卓越的性能8.4大模型的特点（5）大数据训练大模型需要大规模的数据来训练，通常在TB级别甚至PB级别。这是因为大模型拥有数亿甚至数十亿的参数，需要大量的数据来提供足够的信息供模型学习和优化。只有大规模的数据才能让大模型的参数规模发挥优势，提高模型的泛化能力和性能。同时，大数据训练也是保证大模型能够处理复杂任务的关键。通过使用大规模数据，大模型能够更好地理解数据中的复杂模式和关系，从而更好地模拟现实世界中的各种现象（6）强大的计算资源大模型需要强大的计算资源来训练和运行。由于模型规模庞大，参数数量众多，计算复杂度极高，因此需要高性能的硬件设备来支持。通常，训练大模型需要使用GPU（GraphicsProcessingUnit，图形处理器）或TPU（TensorProcessingUnit，张量处理器）等专用加速器来提高计算效率。这些加速器能够并行处理大量的参数和数据，使得大模型的训练和推断速度更快。除了硬件设备，大模型的训练还需要大量的时间。由于模型参数众多，训练过程中需要进行大量的迭代和优化，因此，训练周期可能长达数周甚至数月8.4大模型的特点（7）迁移学习和预训练通过在大规模数据上进行预训练，大模型能够学习到丰富的语言知识和模式，从而在各种任务上展现出卓越的性能。迁移学习和预训练有助于大模型更好地适应特定任务在大规模数据上进行预训练后，大模型可以在特定任务的数据上进行微调，从而更好地适应目标任务的特性和要求。这种微调过程可以帮助大模型更好地理解和处理目标任务的特定问题，进一步提高模型的性能在特定任务的数据上进行微调迁移学习和预训练也有助于大模型实现跨领域的应用。通过在多个领域的数据上进行预训练，大模型可以学习到不同领域的知识和模式，并在不同领域中进行应用。这种跨领域的应用能力，有助于大模型更好地服务于实际需求，推动人工智能技术的创新和发展跨领域的应用能力8.4大模型的特点（8）自监督学习自监督学习利用大规模未标记数据进行训练，通过从数据中挖掘内在的规律和模式，使模型能够自动地理解和预测数据中的信息。在大规模的未标记数据中，大模型通过预测输入数据的标签或下一个时刻的状态来进行训练。这种训练方式使得大模型能够从大量的数据中自动地学习到语言的内在结构和模式，而不需要人工标注和干预自监督学习使得大模型能够更好地适应大规模未标记数据的处理，减少了对于人工标注的依赖，提高了训练的效率和泛化能力。同时，自监督学习也使得大模型能够更好地捕捉数据的内在结构和模式，进一步提高模型在处理复杂任务时的性能和准确性8.4大模型的特点（9）领域知识融合大模型通过领域知识融合，能够将不同领域的数据和知识融合在一起，从而更好地模拟现实世界中的复杂现象领域知识融合使得大模型能够从多个领域中学习到广泛的知识和模式，并将这些知识和模式整合到统一的框架中通过领域知识融合，大模型能够更好地理解不同领域之间的联系和共同规律，从而更好地处理复杂任务。这种能力有助于大模型在不同领域之间进行知识迁移和应用，促进跨领域的创新和发展8.4大模型的特点（10）自动化和效率大模型在应用中展现出高度的自动化和效率。由于大模型具有强大的表达能力和学习能力，它可以自动化许多复杂的任务，大大提高工作效率。大模型通过预训练和微调过程，能够自动地适应特定任务，而不需要过多的手工调整和干预。这使得大模型能够快速地应用于各种实际场景，并且自动地处理复杂的任务，如自动编程、自动翻译、自动摘要等大模型的自动化和效率还体现在其对大规模数据的处理能力上。大模型能够高效地处理TB级别甚至PB级别的数据，从中自动地提取出有用的信息和知识。这种高效的数据处理能力使得大模型在处理大规模数据时具有显著的优势，提高了数据处理和分析的效率8.4大模型的特点05大模型的分类Partfive语言大模型视觉大模型多模态大模型是指在自然语言处理（NaturalLanguageProcessing，NLP）领域中的一类大模型，通常用于处理文本数据和理解自然语言。这类大模型的主要特点是它们在大规模语料库上进行了训练，以学习自然语言的各种语法、语义和语境规则。代表性产品包括GPT系列（OpenAI）、Bard（Google）、文心一言（百度）等是指在计算机视觉（ComputerVision，CV）领域中使用的大模型，通常用于图像处理和分析。这类模型通过在大规模图像数据上进行训练，可以实现各种视觉任务，如图像分类、目标检测、图像分割、姿态估计、人脸识别等。代表性产品包括VIT系列（Google）、文心UFO、华为盘古CV、INTERN（商汤）等是指能够处理多种不同类型数据的大模型，例如文本、图像、音频等多模态数据。这类模型结合了NLP和CV的能力，以实现对多模态信息的综合理解和分析，从而能够更全面地理解和处理复杂的数据。代表性产品包括DingoDB多模向量数据库（九章云极DataCanvas）、DALL-E(OpenAI)、悟空画画（华为）、midjourney等8.5.1

按照输入数据类型划分按照应用领域的不同，大模型主要可以分为L0、L1、L2三个层级是指可以在多个领域和任务上通用的大模型。它们利用大算力、使用海量的开放数据与具有巨量参数的深度学习算法，在大规模无标注数据上进行训练，以寻找特征并发现规律，进而形成可“举一反三”的强大泛化能力，可在不进行微调或少量微调的情况下完成多场景任务，相当于AI完成了“通识教育”通用大模型L0是指那些针对特定行业或领域的大模型。它们通常使用行业相关的数据进行预训练或微调，以提高在该领域的性能和准确度，相当于AI成为“行业专家”行业大模型L1是指那些针对特定任务或场景的大模型。它们通常使用任务相关的数据进行预训练或微调，以提高在该任务上的性能和效果垂直大模型L28.5.2

按照应用领域划分8.5.3大语言模型的分类大语言模型分为：通用大模型和推理大模型，二者不是彼此取代关系如果你需要完成数据分析、逻辑推理、代码生成等逻辑性较强且较为复杂的任务，请选择推理大模型如果你面临创意写作、文本生成、意图识别等发散性较强且较为创意多样的任务，请选择通用大模型特性推理大模型通用大模型适用场景复杂推理、解谜、数学、编码难题文本生成、翻译、摘要、基础知识问答复杂问题解决能力优秀，能进行深度思考和逻辑推理一般，难以处理多步骤的复杂问题运算效率较低，推理时间较长，资源消耗大较高，响应速度快，资源消耗相对较小幻觉风险较高，可能出现“过度思考”导致的错误答案较低，更依赖于已知的知识和模式泛化能力更强，能更好地适应新问题和未知场景相对较弱，更依赖于训练数据擅长任务举例解决复杂逻辑谜题，编写复杂算法，数学证明撰写新闻稿，翻译文章，生成产品描述，回答常识问题成本通常更高通常更低06大模型的应用Partsix大模型的应用领域非常广泛，涵盖了自然语言处理、计算机视觉、语音识别、推荐系统、医疗健康、金融风控、工业制造、生物信息学、自动驾驶、气候研究等多个领域（1）自然语言处理大模型在自然语言处理领域具有重要的应用，可以用于文本生成（如文章、小说、新闻等的创作）、翻译系统（能够实现高质量的跨语言翻译）、问答系统（能够回答用户提出的问题）、情感分析（用于判断文本中的情感倾向）、语言生成（如聊天机器人）等（2）计算机视觉大模型在计算机视觉领域也有广泛应用，可以用于图像分类（识别图像中的物体和场景）、目标检测（能够定位并识别图像中的特定物体）、图像生成（如风格迁移、图像超分辨率增强）、人脸识别（用于安全验证和身份识别）、医学影像分析（辅助医生诊断疾病）等8.6大模型的应用（3）语音识别大模型在语音识别领域也有应用，如语音识别、语音合成等。通过学习大量的语音数据，大模型可以实现高质量的跨语言翻译和语音识别以及生成自然语音（4）推荐系统大模型可以用于个性化推荐、广告推荐等任务。通过分析用户的历史行为和兴趣偏好，大模型可以为用户提供个性化的推荐服务，提高用户满意度和转化率8.6大模型的应用大模型可以用于自动驾驶中的感知、决策等任务。通过学习大量的驾驶数据，大模型可以实现对车辆周围环境的感知和识别，以及进行决策和控制，提高自动驾驶的安全性和效率自动驾驶大模型可以用于医疗影像诊断、疾病预测等任务。通过学习大量的医学影像数据，大模型可以辅助医生进行疾病诊断和治疗方案制定，提高医疗水平和效率医疗健康大模型可以用于信用评估、欺诈检测等任务。通过分析大量的金融数据，大模型可以评估用户的信用等级和风险水平，以及检测欺诈行为，提高金融系统的安全性和稳定性金融风控8.6大模型的应用工业制造大模型可以用于质量控制、故障诊断等任务。通过学习大量的工业制造数据，大模型可以辅助工程师进行产品质量控制和故障诊断，提高生产效率和产品质量气候研究在气候研究领域，大模型可以处理气象数据，进行天气预测和气候模拟。它们能够分析复杂的气象现象，提供准确的气象预报，帮助人们做出应对气候变化的决策生物信息学在生物信息学领域，大模型可以用于基因序列分析（识别基因中的功能元件和变异位点）、蛋白质结构预测（推测蛋白质的二级和三级结构）、药物研发（预测分子与靶点的相互作用）等8.6大模型的应用7大模型面临的挑战Partseven大模型在人工智能领域的应用带来了显著的进步和便利，但同时也面临着一些挑战可解释性训练时间和数据量资源消耗数据隐私和安全模型泛化能力公平性和偏见大模型的挑战8.7.1大模型面临的挑战大模型幻觉（1）资源消耗大模型通常需要大量的计算资源和存储空间。训练大模型需要高性能的计算机集群以及大量的存储空间，来存储训练过程中的数据和模型参数。这使得大模型的训练和部署成本较高，限制了其在一些资源有限的环境中的应用。此外，大模型训练和使用过程也带来了大量水资源的消耗，以ChatGPT为例，一个用户和ChatGPT聊天可能会消耗500毫升的水。大模型需要大量的计算能力和数据处理，这会涉及到庞大的机房、服务器和数据中心，而这些机房和服务器需要进行冷却来保持正常运行，而冷却又需要大量的水资源。这个过程中，水通过散热器冷却这些设备，带走了设备工作时产生的热量，以保证设备的正常运行（2）训练时间和数据量大模型的训练需要大量的时间和数据。通常，训练一个大型神经网络需要数周甚至数月的时间，这取决于模型的复杂度、计算能力和可用数据量。此外，为了获得更好的性能，大模型通常需要大量的标记数据来训练。这不仅增加了训练成本，还限制了其在缺乏足够数据的环境中的应用8.7.1大模型面临的挑战大模型的训练和使用，可能引入公平性和偏见问题。如果训练数据中存在偏见或不公平因素，那么，模型的输出也可能受到这些因素的影响。这可能导致不公平的决策或偏见的结果。因此，在大模型的训练和使用过程中，需要考虑公平性和偏见问题，并采取相应的措施来减少这些影响公平性和偏见大模型的复杂性和黑箱性质，使得其决策和预测的依据难以解释。这使得在某些领域，如医疗、金融等，大模型的应用受到限制。人们往往需要知道模型做出决策的原因，而不仅仅是结果。因此，提高大模型的可解释性是一个重要的挑战可解释性在训练和使用大模型的过程中，需要处理大量的个人数据。如何保证数据的安全和隐私是一个重要的挑战。一旦数据泄露或被滥用，将对个人隐私和企业声誉造成严重损害。因此，在大模型的训练和使用过程中，需要采取严格的数据保护措施，确保数据的安全和隐私数据隐私和安全尽管大模型在特定任务上表现出色，但其泛化能力仍然是一个挑战。在某些情况下，大模型可能过于复杂，导致过拟合，即过度拟合训练数据，而无法泛化到新数据。此外，当任务发生变化时，大模型可能需要重新训练或调整参数，这增加了其应用和维护的成本模型泛化能力8.7.1大模型面临的挑战大模型是个概率模型，用它生成的内容具有不确定性。大模型幻觉，用一种形象的说法就是“大模型一本正经的胡说八道”，准确地说，是指大模型生成的内容与现实世界事实或用户输入不一致的现象。目前研究人员也在积极研究消除大模型幻觉的相关技术，比如，检索增强生成（Retrieval-augmentedGeneration），简称RAG，就是当下热门的大模型前沿技术之一大模型幻觉8.7.1大模型面临的挑战8大模型与世界模型Parteight8.8大模型与世界模型大模型是否可以通向AGI人工智能的未来：世界模型8.8.1大模型是否可以通向AGI2018年图灵奖获得者杨立昆（YannLeCun）2018年“图灵奖”获得者、世界著名人工智能科学家、美国学者杨立昆（YannLeCun），在2025年多个场合发表观点，认为“AGI遥遥无期，大模型只不过是基于概率分布的统计模型。它们无法判断什么是对，什么是错。只能通过启发式方法来判断什么可能是对的，什么可能是错的。因此，无法通过推理来构建世界的客观规律。在追求类人推理机器的道路上，我们已经多次犯错。我们现在错了，而且可能还会再错。人类的推理远比统计模型复杂得多。我们每次都错了！”8.8.2人工智能的未来：世界模型世界模型是人工智能模拟现实世界运行规律、构建环境动态认知的核心技术体系，并非简单的数据映射，而是让智能体形成对物理世界和交互场景的内在表征与因果推演能力。它以图像、视频、传感器等多模态时序数据为基础，融合强化学习、仿真模拟等方法，学习环境状态的关联逻辑与变化规律，能精准预测不同行动带来的后续结果，实现对场景的预判、规划与决策。01其核心目标是让AI摆脱单纯的模式匹配，拥有类人的环境理解与推理能力，弥补大模型物理常识缺失、因果逻辑薄弱的短板，广泛适配自动驾驶、机器人控制、复杂场景决策等需要与现实交互的任务，是实现通用人工智能的关键方向。028.8.2人工智能的未来：世界模型维度大模型世界模型核心目标预测文本序列、完成语言交互与符号推理，是“文本智能”的核心载体构建物理环境的动态表征，预测状态变化与行动后果，实现“物理智能”的环境交互引擎数据与范式以文本为主的静态数据，采用自监督学习，擅长统计模式匹配与知识复现以图像、视频、传感器等多模态时序数据为主，常结合强化学习/仿真，强调因果建模与动态预测能力边界语言理解、内容生成、抽象知识泛化强，但物理常识缺失、因果推理弱、易产生“幻觉”环境状态预测、物理规律推演、决策规划能力突出，泛化性依赖环境交互数据典型应用聊天机器人、文案创作、代码生成等文本相关场景自动驾驶、机器人控制、虚拟仿真、复杂场景决策等交互类任务表8-1大模型与世界模型的对比大模型是人工智能领域的重要研究方向，其强大的语言理解和生成能力使得它在自然语言处理、机器翻译、智能客服等领域有着广泛的应用。大模型的训练需要大量的数据和计算资源，同时也需要先进的技术和算法支持。随着技术的不断发展，大模型的应用场景也在不断扩展，未来将会更加广泛地应用于各个领域8.9

本章小结林子雨副教授谢谢观看！厦门大学附录A：主讲教师林子雨简介单位：厦门大学计算机科学与技术系E-mail:ziyulin@个人网页：/post/linziyu数据库实验室网站：主讲教师：林子雨林子雨，男，1978年出生，博士（毕业于北京大学），全国高校知名