生成式 AI 是怎么工作的？-给初学者的科普课

AI初学者科普系列·第01讲生成式AI是怎么工作的？从"输入一句话，AI为什么能回答你"切入用简单类比读懂Token、训练、推理与上下文面向零基础读者·无需编程基础CONTENTS·课程目录我们将一起走过这六站01引入：一句话的旅程输入一句话，AI为什么能回答你02Token：AI怎么"读"文字把文字切成AI能理解的最小单位03训练：AI怎么"学"知识从海量文本中摸索语言规律04推理：AI怎么"想"答案一个词一个词地"猜"出回答05上下文：AI怎么"记住"对话为什么AI有时会"忘记"前面说的06实战：用好AI的5个方法普通人最值得掌握的使用技巧每一站都从一个真实问题出发，用类比和流程图建立理解，最后用一页小结收束。全程约65页，建议按顺序阅读。第01站·引入输入一句话，AI为什么能回答你？你："帮我写一首关于秋天的诗"→AI："秋风拂过金色的稻田……"这短短几秒之间，到底发生了什么？AI不是一个"懂中文的人"坐在电脑另一端回复你。它是一个经过海量数据训练的数学模型，在你按下回车的那一刻，启动了一套精密的计算流程。这句话先被拆成一个个小单位，然后模型根据它学到的语言规律，一个词一个词地"预测"接下来最可能出现什么。整个过程，我们会在后面四章逐一拆开来看。核心问题：AI的回答不是"想出来的"，而是"算出来的"——理解这一点，是读懂后续所有内容的钥匙。CHAPTER02AI看到的不是字，那它看到的是什么？你输入"你好"，AI看到的不是"你"和"好"两个汉字。它有自己的一套"阅读方式"——把文字切成更小的碎片，每个碎片有一个编号。这套碎片，就叫Token。本章问题：Token是什么？为什么要切？切了之后AI怎么用？第02站·TokenToken：AI世界里的"最小积木"定义：Token是AI处理文字时的最小单位。一段文字会被"分词器"切成若干个Token，每个Token对应一个数字编号，AI实际处理的是这些编号。原始文字我爱学习→切分成Token我爱学习→变成数字[276,428,912,733]注意：上面只是简化示意。实际的Token不一定是一个字一个Token——有时两个字合成一个Token，有时一个英文单词被拆成好几个Token。分词器有自己的规则，目标是让常用组合尽量成为一个Token。一句话记住：Token=AI能识别的文字碎片+编号。AI不识字，只认编号。第02站·Token·类比类比：Token就像乐高积木乐高积木·每块积木有固定的形状和颜色·不同积木拼在一起，可以搭出房子、汽车、城堡·常用的组合（如"门+窗"）会做成一块大积木·不常用的部分，用小积木一点点拼·积木本身没有"意义"，拼起来才有AI的Token·每个Token有固定的编号·不同Token排列组合，可以组成任何句子·常用的词（如"人工智能"）可能是一个Token·生僻字或新词，会被拆成更小的Token·Token本身没有"理解"，排列顺序才有意义关键区别：乐高积木是"空间拼接"，Token是"顺序排列"。AI最关心的不是单个Token是什么，而是Token之间的排列规律。第02站·Token·流程一句话是怎么被切成Token的？第1步输入原始文字→第2步分词器扫描→第3步匹配最长片段→第4步输出编号示例："今天天气真好"今天天气真好分词器发现"今天"和"天气"是常用组合，各作为一个Token；"真"和"好"单独成Token。最终得到4个Token。分词器的核心策略叫"最大匹配"：从左到右扫描，每次尝试匹配词表里最长的片段。词表是训练阶段就定好的，通常包含几万个常用Token。遇到词表里没有的新内容，就拆成更小的单位甚至单个字符。第02站·Token·对比中文和英文的Token不一样多对比项英文中文示例句子IlovelearningAI我爱学习人工智能大约Token数5个左右6-8个特点一个单词常是1个Token，长单词会被拆常用词可合并，生僻字常单独成Token效率相对高效，词表覆盖好同样内容通常消耗更多Token这意味着什么？同样的意思，用中文表达通常比英文消耗更多Token。而Token数量直接关系到AI的处理成本和速度——这也是为什么中文用户有时会觉得AI回复"更贵"或"更慢"的原因之一。经验法则：英文约4个字符=1个Token；中文约1-2个字=1个Token（具体因模型而异）。第02站·Token·可视化亲眼看看：一句话拆成Token原句："人工智能正在改变我们的生活方式"Token1人工智能Token2正在Token3改变Token4我们Token5的Token6生活Token7方式共7个Token（示意，实际分词结果因模型而异）观察到了什么？·"人工智能"四个字合成了一个Token——因为它太常用了·"正在""改变""我们""生活""方式"各是一个Token——常用双字词·"的"单独一个Token——最常见的助词·分词器的目标：让常用表达尽量"打包"，减少Token总数第02站·Token·成本Token为什么和钱有关？AI服务商通常按Token数量收费。你输入的问题消耗"输入Token"，AI的回答消耗"输出Token"，两者加起来就是这次对话的总成本。输入Token（你写的）·你的问题、指令、背景信息·之前的对话历史（上下文）·系统提示词（AI的"人设"）·你上传的文件内容（如有）·通常比输出Token多输出Token（AI回的）·AI生成的回答正文·回答越长，消耗越多·通常单价略高于输入Token·可以通过限制回答长度控制·是成本控制的关键变量对普通人的启示：如果你发现AI回答越来越慢或费用增加，可能是因为对话太长——每轮对话都会把之前的所有内容重新计算一遍。适时开启新对话，是最简单的"省钱技巧"。第02站·Token·避坑关于Token的三个常见误解×误解一：一个汉字=一个Token正解：常用词可能多个字合成一个Token，生僻字可能一个字拆成多个Token。×误解二：Token是AI发明的，所有模型都一样正解：每个模型有自己的分词器和词表，同一句话在不同模型里Token数可能不同。×误解三：Token越多，AI理解得越好正解：Token多只代表文字长，不代表信息质量高。简洁清晰的表达反而更有效。记住：Token是"运输单位"，不是"理解单位"。就像快递按包裹数收费，但包裹多不代表东西好。第02站·小结本章小结：AI先"切字"再"认字"回到引题问题：AI看到的不是字，而是一组Token编号。支柱判断01Token是AI处理文字的最小单位，每个Token对应一个数字编号。支柱判断02分词器用"最大匹配"策略切分，常用组合尽量合并成一个Token。支柱判断03Token数量决定成本和速度，中文通常比英文消耗更多Token。下一站预告：知道了AI怎么"读"文字，那它是怎么"学会"这些文字之间的规律的？答案就在"训练"里。CHAPTER03AI的知识是从哪里学来的？一个刚出生的AI什么都不会。它需要"阅读"海量的文字，从中摸索语言的规律。这个过程，就叫"训练"。训练是AI获得能力的源头，也是它最昂贵、最耗时的阶段。本章问题：训练是什么？AI学什么？怎么学？学完之后能做什么？第03站·训练训练：AI的"读书时代"定义：训练是让AI模型阅读海量文本，通过反复预测"下一个词"来调整内部参数，最终掌握语言规律的过程。训练的核心动作：预测下一个Token给AI看："今天天气真"AI猜："好"→猜对了，表扬一下（参数微调）给AI看："我喜欢吃苹果和"AI猜："香蕉"→猜对了，再表扬一下重复几十亿次……AI逐渐掌握了"什么词后面通常跟什么词"训练的本质：不是"教AI知识"，而是让AI在海量文本中统计词与词的规律。它不知道"苹果"是什么，但知道"苹果"后面常跟"香蕉""水果"。这种统计规律，就是AI看起来"懂"语言的原因。第03站·训练·类比类比：训练就像学徒学艺木匠学徒·看师傅做了成千上万张桌子·每次试着自己做，师傅指出哪里不对·慢慢记住了"桌腿要垂直""桌面要平整"·学成后，没见过的桌子也能做出来·但他不一定能说出"为什么要这样做"·靠的是"手感"，不是"公式"AI训练·读了万亿字的文本·每次预测下一个词，错了就调整参数·慢慢记住了"什么语境下用什么词"·训练后，没见过的问题也能回答·但它不一定"理解"自己在说什么·靠的是"统计规律"，不是"真正理解"关键洞察：AI的"智能"更像熟练工的"手感"，而不是学者的"理解"。第03站·训练·数据AI的"课本"从哪里来？训练数据是AI的"课本"。课本的质量和广度，直接决定了AI能学会什么。网页文本维基百科、新闻、博客、论坛等公开网页内容书籍已授权的电子书、教材、小说、专业著作等代码GitHub等开源代码仓库，帮助AI学会编程对话数据人工标注的问答对，用于微调阶段让AI更会"聊天"数据规模有多大？主流大模型的训练数据通常达到万亿Token级别——相当于一个人不吃不喝读几万年。但数据不是越多越好，质量和多样性同样关键。重要推论：训练数据里没有的东西，AI不可能真正"知道"。它的所有知识都来自"课本"。第03站·训练·流程训练过程全流程图解第1步准备数据→第2步初始化模型→第3步预测+对比→第4步调整参数第3、4步循环重复数十亿次每一步在做什么？准备数据：收集、清洗、过滤海量文本，去掉低质量内容和有害信息初始化模型：给模型的参数随机赋值——此时它什么都不会，预测全是乱猜预测+对比：输入一段文字的前半部分，让模型预测下一个Token，和真实答案对比调整参数：预测错了，就按照"错了多少"微调参数，让下次更接近正确答案循环：这个"预测—对比—调整"的循环，在成千上万张GPU上同时进行，持续数月第03站·训练·预训练预训练：打基础的"寒窗苦读"预训练是训练的第一阶段，也是最核心的阶段。AI在这个阶段阅读海量无标注文本，目标只有一个：学会预测下一个Token。预训练的特点·数据量最大：万亿级Token·计算量最大：数千张GPU跑数月·成本最高：可达数千万美元·目标最纯：只学语言规律·产出：一个"什么都知道一点"的基础模型预训练后的状态·能接话：给上句能接下句·但不会"聊天"：不知道怎么回答问题·可能输出奇怪内容：因为只学了"接话"·需要进一步"调教"才能用·这个"调教"就是下一页的微调类比：预训练就像一个人读了万卷书，满腹经纶，但还不会跟人对话——你问他问题，他可能自顾自地继续"背书"，而不是回答你。第03站·训练·微调微调：从"书呆子"到"好助手"微调是在预训练基础上，用高质量的"问答对"继续训练，让AI学会"听懂问题、给出有用回答"。对比项预训练微调数据海量无标注文本精选问答对（几万到几十万）目标预测下一个词学会有用的对话方式成本极高（数千万美元）较低（数万到数百万）效果会接话，但不会聊天能听懂问题，给出有用回答微调中还有一个关键技术叫"人类反馈强化学习"（RLHF）：让人类给AI的回答打分，AI根据分数进一步优化。这就是为什么同一个基础模型，微调后体验可以天差地别。第03站·训练·参数模型参数：AI的"脑细胞"你可能听过"70亿参数""1750亿参数"这样的说法。参数是什么？简单说，参数就是AI存储语言规律的"容器"。类比：参数就像大脑里的突触连接人的大脑有大约860亿个神经元，神经元之间的连接（突触）更多。每次学习，就是在调整这些连接的强度。AI的参数也是一样——每个参数是一个数字，训练就是在调整这些数字，让它们编码语言规律。参数越多越好吗？·参数多=能存储更多规律=通常更聪明，但也更贵、更慢·参数少=跑得快、成本低，但能力可能有限·不是线性关系：参数翻倍不代表能力翻倍，存在"涌现"现象·实际选择：大模型做复杂任务，小模型做简单任务，按需使用第03站·训练·资源训练一个大模型要花多少资源？数千张GPU同时运行GPU是AI训练的核心硬件数月不间断训练时间从开始到完成通常3-6个月数千万美元级成本含硬件、电力、人力等（示意范围）这意味着什么？·训练是"一次性"的巨大投入，一旦训练完成，模型就固定了·训练完成后，AI的知识就"冻结"了——它不知道训练之后发生的事·这就是为什么AI会有"知识截止日期"，比如"我的知识截止到2024年"·想让AI知道新信息，要么重新训练（极贵），要么在对话时提供新信息（上下文）第03站·训练·避坑关于训练的三个常见误解×误解一：AI训练时"理解"了文字的含义正解：AI只学到了"统计规律"——什么词后面常跟什么词。它不"理解"含义，只是模式匹配。×误解二：训练完的AI会一直学习正解：训练完成后参数就固定了。和你对话时AI不会"记住"你说的话来改变自己，除非你是在做微调。×误解三：数据越多，AI一定越聪明正解：低质量数据反而会"教坏"AI。数据清洗、去重、过滤比单纯堆量更重要。一句话总结：训练=用海量数据做统计规律的"题海战术"，不是真正的"学习理解"。第03站·小结本章小结：AI靠"题海战术"学会语言回到引题问题：AI的知识来自海量文本中的统计规律，不是真正的"理解"。支柱判断01训练的核心是"预测下一个Token"，重复数十亿次后掌握语言规律。支柱判断02训练分预训练和微调两阶段：预训练打基础，微调让AI更会对话。支柱判断03训练完成后知识冻结，有"截止日期"；对话时AI不会自动学习新内容。下一站预告：训练好了的AI，在你提问的那一刻是怎么"想"出答案的？答案就在"推理"里。CHAPTER04AI回答时，它的"脑子"里在做什么？训练好的AI就像一个背完了所有课文的学生。但当你问它一个问题时，它不是在"回忆答案"，而是在逐字逐句地"现场创作"。这个创作过程，就叫"推理"。本章问题：推理是什么？AI怎么选词？为什么有时会"胡说八道"？第04站·推理推理：一个词一个词地"猜"定义：推理是AI接收输入后，利用训练好的参数，逐Token生成输出的过程。每一步只预测"下一个最可能的词"，然后把它加入上下文，继续预测下一个。推理的逐词生成过程（以"今天天气"开头为例）第1步：输入"今天天气"→AI预测下一个词→选了"真"第2步：输入变成"今天天气真"→AI预测下一个词→选了"好"第3步：输入变成"今天天气真好"→AI预测下一个词→选了"，"第4步：继续……直到生成结束符号或达到长度限制关键洞察：AI从来不是"一下子想出整段话"，而是一个词一个词地"接龙"。每个词的选择都基于之前所有的词。这就是为什么你看到AI回答时，文字是一个字一个字"蹦"出来的——它确实是在逐词计算。第04站·推理·类比类比：推理就像"成语接龙"成语接龙游戏·你说"一心一意"·我要接一个"意"开头的成语·我脑子里闪过："意气风发""意味深长""意想不到"……·选一个最顺口的接上去·然后你再接，我再接……·每一步只关心"下一个接什么"·不会提前想好整串成语AI推理·你输入"帮我写一首诗"·AI要预测下一个Token·它计算所有可能词的概率："秋"30%"春"20%"风"15%……·选一个（不一定是概率最高的）·然后基于新的序列，再预测下一个·每一步只关心"下一个词是什么"·不会提前想好整段回答关键区别：接龙是"人凭语感选"，推理是"AI凭概率选"。但本质都是——只看下一步，不看全局。第04站·推理·流程推理过程全流程图解第1步输入编码→第2步计算概率→第3步采样选词→第4步加入序列第2-4步循环，直到生成结束每一步在做什么？输入编码：把你输入的文字转成Token编号，再转成模型能处理的向量（一串数字）计算概率：模型根据当前所有输入，计算词表里每一个Token成为"下一个词"的概率采样选词：根据概率分布选一个词——不一定选概率最高的，这取决于"温度"等参数加入序列：把选中的词加到输出末尾，作为下一步的输入，然后回到第2步结束条件：生成了结束符号、达到最大长度、或满足其他停止条件第04站·推理·概率AI怎么选词：概率与采样假设输入是"我喜欢吃苹果和"，AI计算出下一个词的概率分布：香蕉35%橘子22%梨15%汽车0.5%（概率低但不为零）AI不会只选概率最高的"香蕉"。它会按概率分布"抽签"——大概率选香蕉，小概率选橘子，极小概率选汽车。这种随机性让AI的回答每次都不完全一样，也更有"创造力"。第04站·推理·温度温度参数：AI创造力的"旋钮""温度"（Temperature）是一个0到2之间的参数，控制AI选词时的随机程度。温度=0保守模式·永远选概率最高的词·回答稳定、可预测·适合：事实问答、代码生成·缺点：可能重复、死板温度=0.7平衡模式（默认）·大部分时候选高概率词·偶尔选低概率词增加变化·适合：日常对话、写作·大多数产品的默认值温度=1.5+创意模式·低概率词也有很大机会被选中·回答多样、出人意料·适合：创意写作、头脑风暴·风险：可能跑偏、胡说普通人不需要手动调温度——大多数AI产品已经设好了合适的默认值。但知道这个概念，能帮你理解为什么同一个问题AI每次回答不一样。第04站·推理·幻觉为什么AI会"一本正经地胡说"？AI的"胡说八道"有一个专门的名字：幻觉（Hallucination）。它不是在"撒谎"，而是在"接龙"时接出了不符合事实的内容。典型幻觉场景·编造不存在的论文引用、法律条文、历史事件·给出错误的数学计算、代码逻辑、事实信息·对自己不知道的问题，"自信地"编一个答案而不是说"我不知道"为什么会产生幻觉？原因一：目标是"通顺"，不是"正确"。AI训练时只学"什么词后面跟什么词"，没学"什么是真的"。它只关心接出来的话像不像人话，不关心对不对。原因二：没有"不知道"的选项。AI的设计是必须输出下一个词，它不能停下来查资料，也不能说"我不确定"。遇到不会的，只能"硬接"。原因三：概率不等于事实。一个词概率高，只代表它在训练数据中经常出现，不代表它在当前语境下是正确的。第04站·推理·对比训练vs推理：一张表看懂区别对比项训练（Training）推理（Inference）做什么调整参数，学习规律用固定参数生成回答参数变化不断更新固定不变计算量极大（数千GPU数月）较小（单次几秒）成本数千万美元（一次性）按次计费（几分钱到几元）类比学生上学读书毕业生参加工作频率几个月一次（大版本）每次对话都在发生一句话：训练是"上学"，推理是"上班"。你和AI对话时，它在"上班"，不是在"上学"。第04站·推理·可视化可视化：一个词的"诞生"过程输入："中国的首都是"第1轮：计算概率北京78%·上海8%·广州3%·其他11%↓第2轮：采样选词按概率抽签→选中"北京"（大概率事件）↓第3轮：输出+继续输出"北京"→输入变成"中国的首都是北京"→预测下一个词"。"注意：如果温度调高，第2轮可能抽到"上海"（8%概率），于是就产生了错误回答。这就是幻觉的微观来源。第04站·推理·速度推理速度：为什么有时快有时慢？AI的回答速度取决于三个因素：生成多少词、模型多大、服务器忙不忙。输出长度·每个词都需要一次完整计算·回答100词=100次计算·回答1000词=1000次计算·越长越慢，线性增长模型大小·参数越多，每次计算越慢·大模型聪明但慢·小模型快但可能不够聪明·产品通常在两者间平衡服务器负载·高峰期多人同时用会排队·晚上和工作日白天通常更忙·付费用户通常有优先级·网络延迟也有影响实用建议：如果你只需要简短回答，可以在提示词里说"用三句话回答"，这样AI生成的词少，速度更快，也更省钱。第04站·小结本章小结：AI是"接龙大师"，不是"思考者"回到引题问题：AI回答时在逐词预测，靠概率"接龙"，不是在"思考"。支柱判断01推理是逐Token生成：每步只预测下一个词，循环直到结束。支柱判断02选词靠概率分布和温度参数，随机性带来创造力也带来幻觉。支柱判断03幻觉的根源：AI追求"通顺"而非"正确"，且没有"不知道"选项。下一站预告：AI逐词生成时，每一步都要"看"之前说过的话。它是怎么"记住"的？答案就在"上下文"里。CHAPTER05AI为什么有时会"忘记"你说过的话？你有没有遇到过：聊了十几轮之后，AI突然忘了你之前说过的关键信息？这不是AI"记性差"，而是它的"工作台"大小有限。这个工作台，就叫"上下文窗口"。本章问题：上下文是什么？它怎么影响回答？超出限制会怎样？第05站·上下文上下文：AI的"工作台"定义：上下文（Context）是AI在生成回答时，能够"看到"的所有Token的总和——包括你的问题、之前的对话、系统提示词，以及你提供的参考资料。一次推理中，AI实际看到的内容=系统提示词（AI的角色设定和规则）+之前所有的对话历史（你说的+AI说的）+你当前的问题+你上传的文件或参考资料（如有）关键点：AI没有"长期记忆"，每轮对话都要重读所有上下文。对话越长，上下文越大，但也越接近上限。第05站·上下文·类比类比：上下文就像"考试时的草稿纸"考试草稿纸·考试时你只能看草稿纸上的内容·之前的计算步骤都写在纸上·纸写满了，前面的内容就看不到了·你可以把重要信息抄在显眼位置·纸越大，能记的东西越多·但纸再大也有边界·交卷后草稿纸就收走了AI上下文·推理时AI只能看上下文窗口里的内容·之前的对话都在窗口里·窗口满了，最早的内容就被"挤出去"·你可以把重要信息放在提示词开头·窗口越大，能记的对话越多·但窗口再大也有上限（如128KToken）·新对话开始，上下文就清空了关键洞察：AI的"记忆"不是存进大脑，而是写在草稿纸上。纸满了，前面的就丢了。第05站·上下文·窗口上下文窗口：AI的"记忆容量"上下文窗口的大小用Token数衡量，不同模型差异很大：4K-8KToken早期模型，约3000-6000字，几轮对话就满了32KToken约2.4万字，能装下一篇长文章或几十轮对话128KToken约10万字，一本书1M+Token（最新）约75万字注意：窗口越大不代表越好。大窗口意味着每次推理都要处理更多Token，速度更慢、成本更高。而且AI对窗口中间的内容注意力可能较弱——"中间遗忘"现象。第05站·上下文·影响上下文如何改变AI的回答？场景A：没有上下文你："它怎么样？"AI："请问您指的是什么？我需要更多信息才能回答。"场景B：有上下文（之前聊过新手机）你："它怎么样？"AI："这款新手机的续航不错，拍照也很强，但价格偏高。"上下文的三个作用消除歧义："它"指什么？有了上下文，AI知道你在说之前聊的手机。提供背景：你告诉AI"我是小学老师"，它就会用适合小学生的语言回答。约束风格：系统提示词说"用鲁迅的风格写"，AI就会模仿那种文风。第05站·上下文·溢出上下文满了会怎样？当对话内容超过上下文窗口大小时，最早的内容会被"截断"或"挤出去"。现象一：AI忘记了最早的对话内容你在第1轮说"我叫小明"，第50轮问"我叫什么"，AI可能答不上来——第1轮已被挤出窗口。现象二：AI回答开始"跑偏"或重复缺少早期的任务设定和背景信息，AI可能忘记你最初的要求，开始自由发挥或重复自己说过的话。现象三：上传的长文件只"看到"了后半部分文件内容加对话历史超过窗口时，文件开头可能被截断，AI只基于后半部分回答。怎么应对？·重要信息放在对话开头或结尾（这两个位置AI最"记得住"）·对话太长时，开新对话并把关键信息重新说一遍·长文件先让AI做摘要，再基于摘要提问第05站·上下文·系统提示系统提示词：AI的"出厂设定"系统提示词（SystemPrompt）是放在上下文最开头的一段特殊指令，定义了AI的角色、规则和行为边界。系统提示词示例（简化版）"你是一个乐于助人的AI助手。请用简洁、友好的语言回答用户的问题。如果你不确定答案，请说出来，不要编造。不要回答涉及违法或伤害他人的问题。"系统提示词的三个特点位置最靠前：放在上下文最开头，AI每轮推理都能看到，不容易被挤出窗口。优先级最高：当系统提示词和用户指令冲突时，AI通常优先遵循系统提示词。用户通常看不到：大多数AI产品的系统提示词是内置的，用户无法直接查看或修改（高级产品允许自定义）。第05站·上下文·技巧用好上下文的4个小技巧01重要信息放开头或结尾AI对上下文开头和结尾的内容注意力最强，中间容易被忽略。把关键要求放在最前面或最后面。02长对话适时开新窗口聊了几十轮后，开一个新对话，把关键背景重新说一遍。比在超长对话里挣扎更高效。03长文件先摘要再提问先让AI总结文件要点，再基于摘要提问。避免文件内容被截断，也节省Token。04定期"重申"关键设定如果对话很长，每隔几轮就重申一次关键要求（如"用表格回答""控制在200字内"）。第05站·小结本章小结：AI的"记忆"是一张草稿纸回到引题问题：AI不是"记性差"，而是上下文窗口有限，纸满了前面的就丢了。支柱判断01上下文=AI能看到的所有Token，包括对话历史、系统提示词和参考资料。支柱判断02上下文窗口有大小限制，超出后最早内容被截断；开头和结尾最容易被记住。支柱判断03给AI足够的上下文（背景、角色、要求），回答质量会显著提升。下一站预告：Token、训练、推理、上下文——四个概念拼在一起，就是一次完整回答的全流程。我们来做一次"端到端"的回顾。CHAPTER06把四个概念拼起来：一次完整回答的旅程Token、训练、推理、上下文——这四个概念不是孤立的。它们像一条流水线的四个工位，协同完成从"你输入一句话"到"AI给出回答"的全过程。本章：用端到端流程图和时间线，把所有概念串成一个完整故事。第06站·综合·全流程端到端流程图：从输入到输出阶段1你输入文字→阶段2·Token分词成Token→阶段3·上下文组装上下文→阶段4·推理模型逐词生成→阶段5你看到回答每个阶段在做什么？阶段1-2：你输入的文字被分词器切成Token编号（参考第二章）阶段3：把系统提示词、对话历史和当前问题组装成完整上下文（参考第五章）阶段4：训练好的模型（参考第三章）基于上下文，逐Token预测并生成回答（参考第四章）阶段5：生成的Token被转回文字，逐字显示在你的屏幕上循环：阶段4内部不断重复"预测下一个词"，直到生成结束符号第06站·综合·时间线时间线：一次回答用了多久？0秒你按下回车输入开始传输~0.1秒分词+组装上下文~0.3秒第一个词开始生成2-10秒逐词生成中（你看到文字蹦出）结束生成结束符号回答完成两个关键时间点"首字延迟"（TTFT）：从你按回车到看到第一个字的时间。主要受上下文长度和服务器负载影响。"生成速度"：每个后续词的生成速度，通常每秒20-50个词。主要受模型大小和输出长度影响。这就是为什么AI回答是"先等一下，然后一个字一个字蹦出来"——前面在准备，后面在逐词计算。第06站·综合·速查表四个核心概念速查表概念一句话定义类比发生时机对用户的意义TokenAI处理文字的最小单位乐高积木每次输入和输出决定成本和速度训练从海量文本中学语言规律学徒学艺模型发布前（一次性）决定AI的能力上限推理逐词预测生成回答成语接龙每次对话时决定回答内容和质量上下文AI能看到的所有信息考试草稿纸每轮推理前组装决定AI是否"记得住"记住：Token是"砖块"，训练是"建房"，推理是"装修"，上下文是"房间里的家具"。CHAPTER07知道了原理，怎么用得更好？了解AI的工作原理，最终是为了更好地使用它。基于前面讲的Token、训练、推理和上下文，我们提炼出普通人最值得掌握的5个方法。每一个都有原理依据，不是"玄学技巧"。本章：5个方法+实战对比+常见错误，让你从"会用AI"到"用好AI"。第07站·方法总览普通人用好AI的5个方法01写清楚你要什么原理依据：推理靠概率，指令越明确，概率分布越集中02给AI足够的上下文原理依据：AI只能看到上下文里的信息，看不到的就靠猜03分步提问，拆解复杂任务原理依据：上下文窗口有限，分步可以每步聚焦、减少遗漏04验证和追问，不要全信原理依据：AI会产生幻觉，追求通顺而非正确05了解局限，合理期待原理依据：训练有知识截止日期，推理没有实时信息接下来我们逐一展开每个方法，给出具体做法和示例。方法01·写清楚你要什么方法一：把需求说具体，别让AI猜差的提问"帮我写个东西""写篇文章""翻译一下"AI只能靠猜，结果往往不是你想要的好的提问"帮我写一封300字的请假邮件，原因是家人住院需要照顾，语气正式但不生硬，发给直属经理"好提问的4个要素角色："你是一个有10年经验的市场经理"——给AI设定身份，回答会更专业任务："帮我写一份产品推广方案"——明确要做什么，不要模糊格式："用表格呈现，分3个阶段，每阶段不超过100字"——指定输出结构限制："语气正式，不要用网络用语，控制在500字以内"——设定边界条件方法02·给AI足够的上下文方法二：提供背景，AI不是"读心术"AI只能看到你给它的信息。你不说的，它要么猜（可能猜错），要么反问。场景：让AI帮你改一段工作汇报不要只说"帮我改一下这段话"。要说："这是我给客户的季度汇报，听众是技术出身的客户总监，我希望突出我们产品的稳定性优势，语气要专业但不要太技术化，以下是原文：……"应该提供哪些背景？你的身份："我是一个刚入职的运营新人"——AI会调整语言难度和假设前提目标读者："这是给小学生看的科普文"——AI会控制用词和深度使用场景："这是要在公司年会上念的发言稿"——AI会调整语气和节奏已有材料：把相关数据、文档、之前的版本贴给AI——它无法访问你电脑里的文件偏好和禁忌："不要用英文缩写""不要提到竞品"——明确告诉AI什么可以、什么不行方法03·分步提问方法三：大任务拆成小步骤，一步步来一次性大任务（容易翻车）"帮我做一份完整的市场分析报告，包括行业规模、竞争格局、用户画像、趋势预测和建议，5000字左右"→AI容易遗漏、泛泛而谈、结构混乱分步提问（质量更高）第1步："帮我列一个市场分析报告的大纲"第2步："基于大纲，先写行业规模部分"第3步："接着写竞争格局，重点对比3家"→每步聚焦，可调整，质量可控分步提问的3个好处减少遗漏：每步只关注一个部分，AI不容易在长输出中丢三落四随时调整：如果某一步的结果不满意，可以立刻修正方向，不用等全部写完再改节省Token：避免在一次请求中塞入过多要求，减少上下文压力，也降低成本方法04·验证和追问方法四：AI说的，要自己查一遍AI会产生幻觉——它可能自信地给出错误答案。特别是事实性信息，必须验证。真实案例：AI编造的"引用"有律师用AI写法律文书，AI引用了6个"案例"——结果全是编造的，根本不存在。律师因此被法院处罚。这就是为什么"看起来很专业"不等于"是对的"。怎么验证和追问？要求给出处："这个数据的来源是什么？请给出具体链接或文献名称"——AI可能给不出，或给出假链接交叉验证：把AI给出的关键事实，用搜索引擎或权威网站再查一遍追问细节："你能展开说说这个结论的推理过程吗？"——如果AI在编造，细节往往会自相矛盾让AI自我检查："请检查你刚才的回答，有没有可能出错的地方？"——有时AI能自己发现问题高风险内容必须人工核实：法律、医疗、财务、安全相关的内容，绝对不能直接用AI的答案方法05·了解局限方法五：知道AI做不到什么，才知道怎么用局限意味着什么你应该怎么做知识有截止日期不知道训练之后发生的事问最新事件时提供背景，或用联网功能不会实时计算复杂数学可能算错让AI写公式，用计算器验证结果不能访问你的设备看不到你电脑里的文件需要时把内容复制粘贴或上传没有真正的理解是模式匹配，不是思考把AI当"高效助手"，不当"专家"可能有偏见训练数据中的偏见会被继承对涉及人群的内容保持批判性思维核心理