人工智能应用与实践 课件 -第3章-大语言模型及其应用

ArtificialIntelligenceApplicationsandPractices芦碧波等人工智能应用与实践第三章

大语言模型与应用目

录行业PPT模板/hangye/01大模型概述02大模型应用03提示词工程04本章小结05讨论与习题01大模型概述语言模型发展历程大语言模型（LargeLanguageModel，简称LLM）的定义：使用大量文本数据训练的深度学习模型，可以生成自然语言文本或理解语言文本的含义。大语言模型可以处理多种自然语言任务，如文本分类、问答、对话等，是通向人工智能的重要途径。目前大语言模型采用与小模型类似的Transformer架构和预训练目标，与小模型的区别是增加模型大小、训练数据和计算资源。广义大模型：多模态+大语言模型，所处理的数据包括文本、图片、视频、音频等格式。AI三要素大模型定义涌现性：训练数据和参数不断扩大，在达到一定规模后，其表现出了一些未能预测的、更复杂的能力和特性。通用性：突破了传统模型只能适配单一或少数特定任务的局限。泛化性：具备出色的知识迁移能力，能应对全新数据、任务或场景。大模型的性能特点具有较为丰富的世界知识（基于超大规模文本数据的预训练）具有较强的通用任务解决能力（多任务的数据训练过程）具有较好的复杂任务推理能力（面向问题分解的思维链技术）具有较强的人类指令遵循能力（输入和输出通过自然语言表达）具有较好的人类对齐能力（人类对输出结果进行评估和反馈）具有可拓展的工具使用能力（借鉴人类使用工具的思路）大模型的能力特点02大模型应用模型参数：指模型规模的大小，通常用字母“B”表示，1B指1Billion。token：文本中的最小单元或基本元素，也被称为“标记”或“词元”。上下文窗口：模型在处理数据时能够考虑到的前文和后文的信息范围，用token数量表示。重要术语网页端APP微信小程序桌面端浏览器插件只需浏览器和网络。面向移动设备。深度融合本地操作系统。轻量化即时敏捷，不需要频繁切换操作常见的大模型客户端类型名称所属公司发布时间客户端类型文心一言百度2023年2月7日网页、APP（文小言）、桌面（文小言）Kimi月之暗面2023年10月9日网页、APP、微信小程序、桌面、浏览器插件豆包字节跳动2023年8月17日网页、APP、桌面、浏览器插件智谱清言智谱华章2023年8月31日网页、APP、微信小程序、桌面、浏览器插件通义千问阿里云2023年4月7日网页、APP、微信小程序、浏览器插件天工AI昆仑万维2023年4月17日网页、APP、微信小程序讯飞星火科大讯飞2023年5月6日网页、APP、微信小程序、桌面、浏览器插件元宝腾讯2024年5月30日网页、APP、微信小程序、桌面秘塔AI搜索秘塔科技2024年3月网页、APP、微信小程序DeepSeek深度求索2024年1月5日网页、APP常见的国产大模型平台APPWeb大模型平台使用情况模型选择面向场景：学习成长生活助手情感陪伴职场提效休闲娱乐模板常见的国产大模型平台——文心一言长文本处理，首个支持输入20万汉字的智能产品，目前最多支持200万汉字。Kimi+：内置典型应用常见的国产大模型平台——Kimi常用功能交互性好多模态内容生成云盘（云端知识库）智能体生态丰富常见的国产大模型平台——豆包APP端的视频通话功能跨越了文本、音频和视频模态，并具备实时推理的能力。国内首款基于大模型的视频通话产品常见的国产大模型平台——智谱清言效率板块PPT创作实时记录阅读助手音视频速读链接速读格式转换参数量（超过10万亿）代码模式一句话生成应用常见的国产大模型平台——通义千问侧重点：知识检索、分析与内容创作新型知识载体：彩页和宝典彩页宝典常见的国产大模型平台——天工AI语音交互个人空间（云端）常见的国产大模型平台——讯飞星火界面简洁丰富的应用广场独特的内容资源（微信、腾讯生态的内容质量与时效性）常见的国产大模型平台——腾讯元宝信息源渠道输出模式无广告干扰搜索结果多维度筛选搜索范围类型丰富搜索结果结构化展示搜索结果易导出常见的国产大模型平台——秘塔AI搜索运行流畅回答速度迅速训练性价比高三模式：基础模型（V3）、深度思考（R1）、联网搜索常见的国产大模型平台——DeepSeek提示词：你是一位资深的数学教师，以生动形象、通俗易懂的风格向新生讲解图中的问题，需要有推导步骤，篇幅控制在20行，其中公式使用Latex格式图片输入面向学生或对数学知识有需求的人群典型应用案例——数学难题解析典型应用案例——数学难题解析提示词：我是一名来自普通本科高校计算机专业的大一新生，现在想要了解国内高校相关专业的现状，并希望能够得到关于成长方面的建议。作为一名来自普通本科高校计算机专业的大一新生，了解国内高校相关专业的现状以及成长方面的建议是非常重要的。以下是一些基于我搜索到的资料的详细分析和建议：国内高校计算机专业的现状1.课程与教学发展：计算机专业在国内高校中已经普及，并且不断扩展到其他学科领域，如农林、医学、文科等[1]。近年来，随着“新工科”建设的推进，计算机课程已成为许多非计算机专业的必修课，以提升学生的信息技术应用能力[8]。高校正在努力改进教学方法，例如采用PBL（问题导向学习）模式来提高学生的实践能力和问题解决能力[24]。2.就业前景与挑战：…3.高校排名与资源分配：…成长方面的建议1.扎实基础知识：…2.实践与动手能力：…3.持续学习与技术更新：…4.职业规划与目标明确：…5.健康的生活习惯：…6.跨学科融合与创新：…总结计算机专业在国内高校中具有广泛的发展前景和挑战。作为大一新生，你需要注重基础知识的学习，积极参与实践活动，并保持持续学习的态度。同时，明确自己的职业目标并制定相应的规划，将有助于你在未来的职业生涯中取得成功。希望这些建议能对你有所帮助！思维导图了解专业，尤其是高中生、大一新生典型应用案例——学科专业信息调研提示词：我是一名大二的班级组织委员，帮我写一个线下读书会活动的方案，需要包含但不限于策划目标、详细计划、所需资源和预算、效果评估、风险应对等。典型应用案例——校园活动方案策划典型应用案例——数学难题解析提示词：你是一家知名科技公司的人力资源经理，正在为计算机技术与工程部门招聘一名新职位的候选人。你面前的求职者是一个应届毕业生，拥有计算机技术专业的学士学位，并且在大学期间参与了多个相关的项目。Practice环节锻炼求职者在专业知识、综合素质、应变能力等方面的面试技巧典型应用案例——HR模拟面试应对会议场景（尤其是没有回放的），快速准确地记录会议内容，提炼、总结、翻译实时记录链接速读音视频速读阅读助手格式转换实时语音转文字区分发言人支持翻译快速导读脑图生成典型应用案例——会议纪要与总结实时记录链接速读音视频速读阅读助手格式转换典型应用案例——会议纪要与总结需求：资料快速获取与解析实时记录链接速读音视频速读阅读助手格式转换网页链接地址根据文字内容或播客内容进行导读、问答、翻译、脑图生成、笔记整理本地音视频资料转文字、区分发言人、支持翻译、快速导读、脑图生成本地或在线的文档、论文、图书支持翻译、快速导读、脑图生成、笔记、问答典型应用案例——会议纪要与总结实时记录链接速读音视频速读阅读助手格式转换图片转Excel典型应用案例——会议纪要与总结提示词：你是一位经验丰富的医学专家，以通俗易懂、严谨负责的态度分析这份检查结果，解释各项指标正常范围、患者的异常指标及可能的健康问题，给出下一步建议，如是否需要复查、进一步检查项目，格式为清晰的文本段落图片输入帮助患者理解复杂的医学检查结果，用通俗易懂的语言解释各项指标含义、异常情况的严重性及可能的病因，提供进一步的诊疗建议典型应用案例——医学检查结果分析根据您提供的血脂四项检验报告，我们可以逐一分析各项指标的结果。1.低密度脂蛋白（LDL）：您的低密度脂蛋白水平为3.04mmol/L，处于参考范围2-3.6mmol/L内，因此是正常的。低密度脂蛋白被称为“坏胆固醇”，因为它在血管壁上的积累可能导致动脉硬化和心血管疾病。2.高密度脂蛋白（HDL）：您的高密度脂蛋白水平为1.09mmol/L，处于参考范围1.04-1.55mmol/L内，也是正常的。高密度脂蛋白被称为“好胆固醇”，因为它有助于清除血管中的低密度脂蛋白，从而保护心血管健康。3.总胆固醇（TC）：您的总胆固醇水平为4.84mmol/L，处于参考范围3.6-5.69mmol/L内，因此是正常的。总胆固醇包括低密度脂蛋白和高密度脂蛋白，以及其他类型的胆固醇。4.甘油三酯（TG）：您的甘油三酯水平为1.91mmol/L，超出了参考范围0.58-1.71mmol/L，因此是异常的。甘油三酯升高可能与饮食习惯、肥胖、糖尿病或代谢综合征有关，也可能增加心血管疾病的风险。总结与建议：您的低密度脂蛋白、高密度脂蛋白和总胆固醇水平均在正常范围内，说明您的血脂状况总体良好。您的甘油三酯水平略高，这可能提示您需要调整饮食和生活习惯，如减少高脂肪食物的摄入、增加运动等。建议您定期复查血脂四项，以监测甘油三酯水平的变化。如果甘油三酯持续升高或出现其他症状（如胸闷、心悸等），请及时就医进行进一步检查和治疗。除了血脂检查外，您还可以考虑进行其他相关检查，如血糖、血压等，以全面评估您的心血管健康状况。典型应用案例——医学检查结果分析提示词：创建一个互动的打字游戏，游戏中会有英语单词从屏幕顶部掉落。游戏界面包括一个位于屏幕底部的文本输入框，用户需要输入下落的单词来‘接’它们。每个单词会随机从单词列表中选择，掉落时会有旋转效果。成功输入单词或当单词到达屏幕底部时，单词会消失并淡出。游戏每隔2秒生成一个新的单词并开始掉落。用户可以通过键盘输入框来输入单词并‘接住’这些单词。输入框的占位符文本是‘试试用键盘接住下落的单词’，当用户开始输入时，占位符会消失。游戏中的每个单词都会有一定的掉落速度，并且随着时间推移，掉落的速度会逐渐增加，增加游戏的难度。要练习打字，又想通过游戏的方式来进行典型应用案例——文字快打游戏开发代码模式：开发网页脚本典型应用案例——文字快打游戏开发推理+代码级分析提示词：请根据上传的excel文件，分别对期末成绩、平时成绩、过程成绩和总评成绩进行数据分析，并给出结论与相应的可视分析。典型应用案例——数据分析推理+代码级分析典型应用案例——数据分析提示词：请为我制作一份云台山的旅游宣传PPT快速生成PPT，支持在线编辑调整、下载典型应用案例——PPT制作03提示词工程提示词（Prompt）是指用户向大模型输入的文本内容，用于触发大模型的响应并指导其如何生成或回应。提高准确性引导生成增强交互性提示词（Prompt）简洁准确引导制作一个吸引人的视频改为：制作一个时长3分钟左右，以幽默动画形式呈现，能吸引20到30岁间的职场人观看的产品宣传视频我希望你能创作一篇文字内容，这个内容的主题围绕着我们日常在校园里的学习、生活等各方面展开，字数大概控制在300字上下，整体要呈现出一种积极乐观、充满正能量的风格，不要有消极的情绪表达……改为：以校园生活为主题，写一篇300字左右，积极向上的短文请解释机器学习技术原理，并用通俗易懂的语言，结合生活中的例子进行说明提示词的设计原则核心任务描述背景与条件设定输出格式与风格要求常见任务：解释、分类、设计、总结、翻译等理解任务背景与约束，生成更符合实际需求的输出输出在形式和表达上满足用户的特定需求提示词的组成要素1.设定明确的目标与上下文说明任务的具体目标（如获取信息、生成文本、分析数据等）提供背景信息，以减少模型的猜测针对不同的场景，给出期望的输出类型（如表格、列表、总结等）2.激活角色与思维模式设定模型为某种特定的身份，如技术专家、教师或HR指导模型使用某种特定的写作风格（如正式、非正式、技术性等）让模型模拟某种特定的思维模式，如批判性思维、创造性思维等3.逐步拆解复杂任务将复杂问题分解为多个独立的步骤在每一步操作结束后，请求模型总结或验证中间结果合并多个子任务的输出，形成完整的解决方案或总结4.引导深入推理与思考让模型分步骤推导出答案，要求“思维链”推理要求模型在作答前进行简要的自我反思或验证要求模型解释每一步的思路，而不仅仅是给出最终答案5.提供参考材料与外部资源向模型提供外部参考文献或文本，并要求根据这些材料生成答案要求模型在作答时引用或链接到具体的来源集成外部工具（如代码执行）来完成复杂的计算或查找任务6.动态反馈与迭代优化在收到回答后，指出模型的误差或不足，并要求修正让模型根据前一轮的输出进行自我改进请求模型总结多轮对话中的关键点，确保连贯性和准确性

提示词设计的一般流程借鉴心理学上的乔哈里视窗理论开放区隐藏区盲目区未知区提示词的设计策略开放区隐藏区盲目区未知区日常生活知识、常见的科学知识、历史重大事件等提示词设计：采用简洁直接的提问方式；避免冗长的背景说明；聚焦核心需求点。示例：一年有几个季节？地球是否围绕太阳公转？提示词的设计策略开放区隐藏区盲目区未知区个人独特的经历、公司内部数据、某团队在特定领域长期研究的成果提示词设计：运用“少样本”示例；提供清晰的结构框架；设定明确的输出格式。。示例：本甜品店提供巧克力、草莓、抹茶三种口味的蛋糕。过去一周内，巧克力口味售出200个，草莓口味售出60个，抹茶口味售出80个，且购买顾客主要为年轻人。基于这些信息，分析哪种口味更受欢迎提示词的设计策略开放区隐藏区盲目区未知区各专业领域的高深知识：复杂科学原理、前沿技术概念、晦涩的学术理论提示词设计：提出明确的问题；设定具体的学习目标；要求AI提供详细解释。示例：能否用简单的比喻说明卷积神经网络的工作原理？提示词的设计策略开放区隐藏区盲目区未知区全新的、前沿的问题，目前尚无确定答案，如未来科技的发展方向、科学界长期悬而未决的难题、对未来社会结构、文化形态的大胆设想与探索提示词设计：设置开放性思考框架；引导多角度分析；鼓励创新性思维。示例：问：未来十年可能出现哪些新型交通方式？大模型回答：或许会出现飞行汽车，凭借其飞行能力有效缓解城市拥堵。追问：飞行汽车应如何解决能源供应和安全保障问题？提示词的设计策略名称特点提示词示例开放区双方都知晓信息，追求效率。A写作场景：写一篇关于2024年春节消费趋势的文章，800字；B数据分析：分析2024年GDP增长的主要驱动因素；C内容总结：总结这篇文章的三个核心观点；隐藏区涉及专有信息或非公开数据需要提供框架和示例。A企业数据分析：我将提供一份企业销售数据（格式如：日期|产品|销量|单价|渠道）。请帮我分析月度销售趋势、产品占比分析、渠道效率对比；B个性化内容创作：我们公司是做企业软件的，主要产品特点是：[特点1][特点2][特点3]，请按该结构写一份产品推广文案：痛点描述、解决方案、产品优势；C专业报告改写：这是一份技术评估报告，格式如下：[示例报告片段]，请按照相同结构，帮我完成后续内容。提示词的设计策略名称特点提示词示例盲目区知识探索和学习场景A专业知识学习：请解释多项式回归的基本原理，用通俗易懂的方式，最好能举生活中的例子；B历史事件查询：详细介绍1929年经济大萧条的起因、发展过程和影响；C技术原理解释：区块链技术如何确保交易安全？请用简单的比喻说明。未知区创新探索和研究领域A创新思维激发：如果未来AI完全取代人工客服，可能会出现哪些新问题？请从技术、社会、心理三个维度分析；B跨领域研究：请探讨生物学中的进化理论如何应用到企业管理中，给出具体的应用场景和可能的创新方向；C未来趋势预测：结合当前元宇宙发展现状，预测未来10年可能出现的新职业和新商业模式，并分析其可行性。提示词的设计策略通用框架（提示词框架）大模型内置模板（如文心一言、豆包等）大模型动态优化（如kimi的提示词专家、智谱清言的提示词工程师）提示词工程实战参考信息+动作+目标+要求根据“参考信息”，完成“动作”，达成“目标”，满足“要求”。①参考信息：包含完成任务时需要知道的必要背景和材料，如：报告、知识、数据库、对话上下文等；②动作：需要模型解决的事情，如：撰写、生成、总结、回答等；③目标：需要模型生成的目标内容，如：答案、方案、文本、图片、视频、图表等；④要求：需要模型遵循的任务细节要求，如：按XX格式输出、按XX语言风格撰写等。提示词工程实战——通用框架“请以唐代诗人的身份，在面对黄河时，根据已有唐诗数据，撰写一篇作者借由眼前景观感叹黄河自然景观的七言绝句，并严格满足七言绝句的格律要求”。“请以高中数学老师的身份，在高中课堂上，根据《高中数学必修一》内容，逐步解答学生关于集合的数学问题，并给出解题步骤及相关知识点”。“请参照主流短视频平台的观众喜好，为一名美食探店博主，制作一个打卡评测海底捞火锅店的视频脚本，要求标明对应镜号”“按照牛顿运动定律，来分析当月球和地球质量一样时将会发生什么结果，要求分析过程科学严谨”提示词工程实战——通用框架任务+参考信息+输出要求+示例+本次输入+输出项提示词工程实战——通用框架首先进行任务的说明（请依据[根据]我提供的示例信息，将给到的内容[动作]优化成[目标]一篇如何选购电动车的笔记）给出两条参考信息（请你扮演一位擅长使用颜文字和emoji的小红书好物推荐博主和小白第一次买电动车经历分享）给出示例（一篇小红书笔记主要包括4个部分：开头、中间、结尾、最后），给出输出要求（笔记需要是小红书风格）给出输出项（请进行优化：）给出本次输入（优化成一篇笔记）提示词工程实战——通用框架难点：常见的提示词框架有几十种，如何选择使用？对策：可根据任务需求，提问大模型推荐相应的提示词框架提示词：我是一名学生，想梳理1929年经济大萧条的起因、发展过程和影响，推荐用什么具体的提示词框架？回答：作为一名学生，梳理1929年经济大萧条的起因、发展过程和影响时，可以采用“5W1H”提示词框架，这是一种简单直观且逻辑清晰的提问方式，适合初学者快速掌握核心内容。以下是具体建议：提示词工程实战——通用框架文心一言：创意写作、阅读分析、智慧绘图提示词工程实战——内置模板提示词编辑内容窗口（可编辑）提示词工程实战——内置模板豆包：帮我写作、图像生成、音乐生成提示词工程实战——内置模板提示词模板演讲稿板块提示词工程实战——内置模板提示词：我是一名高校教师，帮我写一篇演讲稿，主题是关于人工智能通识教育，字数为400字左右。演讲稿内容内容进一步优化提示词工程实战——内置模板问题：提示词框架和模板体现较为固化解决方案：基于大模型能力优化提示词典型：Kimi+中的提示词专家核心功能一键生成优化提示词结构实时反馈与调整提示词工程实战——动态优化问题：外卖好评提示词：帮我设计一个撰写外卖好评的提示词，但是我又不擅长写作表达，所以需要你帮我写，我输入美食，你输出好评。生成的好评大概1-2句话即可，30-50字左右，简洁明了，小红书种草风格，语气自然流畅。提示词工程实战——动态优化-Role:文案创意专家和美食评论家-Background:用户希望在小红书上分享外卖美食体验，但不擅长写作，需要帮助生成简洁明了且具有种草风格的好评文案。-Profile:你是一位擅长文案创作和美食评论的专家，能够用简洁而生动的语言描述美食，吸引读者的注意力，同时具备小红书平台的种草文案风格。-Skills:你拥有文案创作能力、美食鉴赏力以及对小红书平台风格的深刻理解，能够快速生成符合用户需求的好评文案。-Goals:1.根据用户输入的美食信息，生成1-2句简洁明了的好评文案。

2.确保文案具有小红书种草风格，语气自然流畅。

3.控制文案字数在30-50字左右。-Constrains:1.文案需简洁，避免冗长和复杂的句子结构。

2.保持文案的自然流畅，避免生硬的表达。

3.符合小红书平台的种草风格，具有吸引力。-OutputFormat:文字描述，1-2句好评文案。提示词工程实战——动态优化-Workflow:1.接收用户输入的美食信息。

2.根据美食特点，构思简洁有力的文案。

3.采用小红书种草风格，润色文案，确保语气自然流畅。

4.检查文案字数，确保在30-50字范围内。-Exa