人工基础智能教程 5

第7章大语言模型范式转移与涌现能力主要内容1.大语言模型的定义与演进2.训练范式：预训练与微调3.构建基石：数据、参数与算力4.LLM典型学习范式5.前沿挑战：幻觉、对齐与安全基础模型：AI构建的全新模式大语言模型(LLM)的定义基于Transformer架构。海量文本数据+自监督学习。参数规模达到巨大量级(百亿至万亿)。不再针对单一任务，而是通用的基础平台。从研究原型向消费级应用的跨越大语言模型的历史演进2017:Transformer诞生。2020:GPT-3确立Few-shot标准。2022:ChatGPT引发消费级革命。2024-2025:o1与DeepSeek-R1开启推理时代。规模与通用性的本质飞跃LLM与传统NLP模型的区别通用性(Generality):习得了广泛的世界知识和语言规律规模(Scale):在参数量、数据量和计算量上实现了数量级的飞跃。涌现(Emergence):当模型规模突破特定临界点后，LLM展现出小模型所不具备的全新能力，类似于从“专用集成电路”向“通用CPU”的演变。北京三天亲子研学旅行规划范式转移的体现：案例分析2.知识检索：筛选特定标签景点。1.复杂指令解析：捕捉多重约束。3.逻辑推理与规划：优化地理路径。模型单次推理即可完成：4.结构化生成：严格遵循格式要求输出Markdown表格。大语言模型知识获取的基石“两阶段”训练范式第一阶段：预训练通读海量数据，学习语言规律与世界常识。(通才养成)第二阶段：微调规范模型行为，教会其遵循人类指令。(助手对齐)下一个词元预测(NextTokenPrediction)预训练：核心任务模型在此过程中内化了句法、语法和常识。概率预测的“文本接龙”：今天的天气真热今天的天气->真今天的天气真->热下个词预测类似于掷骰子性能提升的幂律关系缩放定律(ScalingLaws)训练数据量(D)↑参数量(N)↑计算量(C)↑投入资源越多，Loss下降越可预测。从“续写文本”到“智能助手”微调：规范行为与指令对齐RLHF:基于人类反馈的强化学习。SFT:确保模型诚实、无害、有益。PEFT:高效微调(如LoRA)。确保模型诚实、无害、有益。微调（fine-tuning）阶段旨在规范模型行为微调：核心任务（1）监督微调（supervisedfine-tuning，SFT）使用人工编写的高质量“指令-回复”对模型进行训练，教会模型如何遵循指令、回答问题。微调（fine-tuning）阶段旨在规范模型行为微调：核心任务（2）基于人类反馈的强化学习（RLHF）通过引入奖励模型（rewardmodel）来模拟人类的偏好，并利用PPO算法优化生成策略，使模型输出更符合人类的价值观（诚实、无害、有益）。微调（fine-tuning）阶段旨在规范模型行为微调：核心任务（3）参数高效微调（PEFT）如LoRA技术，仅微调极少量参数即可适配下游任务，海量、高质量的训练语料构建基石：数据(Data)书籍与论文：arXiv/Wikipedia严谨逻辑。通用网络文本：CommonCrawl泛知识。代码数据：显著提升逻辑推理能力。神经网络的记忆容量构建基石：参数(Parameters)内化复杂抽象概念。存储海量事实。建立不同语言间的潜在关联。参数分布在数百层Transformer中：工业级高性能计算集群构建基石：算力(Compute)GPT-3消耗约3.14e23FLOPs。以FLOPs衡量计算量。算力成为大模型研发的硬门槛。需要数千块高性能GPU(H100)连续运行：无需更新参数的全新学习范式上下文学习(In-contextLearning)One-shot:给1个示范。Zero-shot:仅给指令。Few-shot:给3-5个示范。利用预训练习得的“模式匹配”能力。模拟人类解决问题的“慢思考”过程思维链推理(Chain-of-Thought)支持多步符号推理。提升数学应用题准确率。使用户能定位并纠正错误步骤。将复杂问题分解为多个子步骤：激活模型逻辑潜能的神奇咒语零样本思维链(Zero-shotCoT)无需编写推理步骤示例，即可显著提升推理表现。只需在指令末尾添加：“让我们一步一步地思考”PromptEngineering核心技能人机交互新范式：提示工程1.角色设定“你是一位资深数据科学家…”——激活特定领域的知识子空间。2.结构化约束“请以JSON格式输出…”——利用模型的代码生成能力规范输出。3.思维链提示“请列出你的分析步骤…”——激发CoT能力，提升复杂任务的准确率。前沿风险：幻觉(Hallucination)自信地编造“看似合理”的虚假事实制约：在高严谨领域（医疗、法律）受阻。根源：基于概率的统计生成。解决方案：RAG(检索增强生成)。版权挑战：训练数据的合法性“合理使用”与版权所有权的博弈输出端的高度混合统计产物难以追溯。大规模抓取受版权保护的作品。典型案例：NYT诉OpenAI/GettyImages案。学术伦理：生成式AI的边界维护科学研究的真实性与诚信❌严禁列为作者AI不具备论文责任能力。✅强制性披露必须公开声明AI辅助的情况。维护科学真实性，明确AI工具的使用边界。技术前沿：多模态与世界模型超越语言，建模物理世界理解物理规律与因果关联