大模型部署与调优项目化教程 课件全套 项目1-11：AI掌中启部署初体验 - -智鉴虚妄安全笃行-AI大模型幻觉与内容安全实训

AI掌中启，部署初体验从零开始，在本地部署你的第一个大语言模型零基础·入门级大模型部署实战课程目录本次实训核心模块大模型Ollama部署与交互实战0101.项目概述：明确实训目标与核心任务02.知识储备：理解大模型原理与Ollama工具03.任务实施：一步步完成环境部署与模型交互04.拓展总结：探索更多模型与回顾关键收获学习与收获目标✔基础夯实掌握大模型本地部署逻辑✔实操技能独立完成Ollama环境搭建✔思维拓展具备AI应用开发基础思维期待大家全神贯注，在动手实践中掌握AI时代的核心技能！项目概述部署目标核心收益核心任务完成本地服务器环境配置与模型适配，实现知识库私有化部署，完成系统联调与性能优化测试。摆脱对外部API依赖，降低长期调用成本；实现数据本地化处理，保障数据安全；提升业务响应速度。在本地环境中独立部署AI模型，构建私有化、高可控的智能问答与处理系统。本地AI模型部署|我们的目标与任务项目描述（一）：为什么要做这个项目？你是否曾体验过ChatGPT、文心一言等在线AI的强大功能？想象一下，如果这些强大的能力完全属于你，不依赖互联网，数据绝对安全，这将是多么酷的事情！本项目将引导你实现这一目标，在你的个人电脑上，从零开始部署并运行一个开源大语言模型（LLM）。我们将从环境准备、模型选择、配置优化到最终的本地运行，全程手把手教学，让你也能拥有一个属于自己的离线AI助手。项目

目标✅本地私有化部署：告别云端，AI能力“随身”携带✅数据绝对安全：敏感信息不上云，隐私得到100%保障✅完全自主可控：自由选择模型，按需求灵活调整配置项目描述（二）：你将获得什么？告别复杂无需深厚的AI背景，通过简洁的命令行指令完成所有操作，轻松上手，快速启动。离线交互拥有一个可以在完全离线状态下流畅对话的AI助手，数据隐私完全由你掌控，无需担心网络连接问题。从使用者到构建者不再仅仅是被动的AI服务使用者，更能成为它的构建者和掌控者，深入理解AI的运行逻辑。学习目标：Ollama与开源大模型实践知识目标理解大模型（LLM）和开源模型的基本概念与区别，了解模型参数、推理等核心术语含义。掌握Ollama的核心功能与底层工作原理，理解其如何实现对开源模型的快速管理与本地部署。1243任务一：Ollama软件安装在官网下载并完成Ollama基础环境配置，确保运行环境正常任务二：模型下载与部署通过命令行拉取主流开源模型，熟悉模型部署的基础流程任务四：对话记录与巩固练习保存与模型的关键对话，回顾并巩固指令的使用技巧任务三：首次对话与模型切换发起第一次AI对话，尝试切换不同模型并对比回答差异工作任务单知识储备：理解大模型与Ollama核心概念关键工具学习目标理解大模型运行的底层逻辑，掌握Ollama的基础操作，为后续在本地快速部署和调用开源大模型做好准备。Ollama：轻量级的大模型运行框架，可一键部署、管理本地开源大模型（如Llama3、Qwen等），支持跨平台使用。大语言模型(LLM)：基于海量文本数据训练的生成式AI模型，具备强大的自然语言理解与生成能力。基础认知：大模型与本地部署本地AI助手的应用场景核心价值与三大典型应用场景序号场景名称核心功能与亮点详细应用描述01离线生活助手完全脱离网络环境运行，打破对网络连接的依赖，随时随地响应需求。无需联网，即可快速查询本地存储的天气、个人日程安排、待办事项提醒等日常信息，提供流畅便捷的生活辅助体验。02离线学习伙伴具备强大的本地处理能力，支持自然语言交互，提供即时的知识与逻辑支持。即时完成文本语义解析、知识库检索与逻辑推理，辅助撰写文稿、解析知识点、解答学习疑问，成为身边的高效学习助手。03数据安全保障“数据不出本地”的核心安全模式，消除云端泄露风险，保障隐私。所有交互数据与处理过程均在用户本地设备端闭环完成，不上传至任何云端服务器，从根本上杜绝隐私泄露风险，确保数据绝对安全。知识储备（一）：什么是大模型（LLM）？大语言模型(LargeLanguageModel,LLM)大语言模型是一种参数量极为庞大的深度学习模型。它的核心能力来自于在海量文本数据上进行的预训练，在这个过程中，模型能够自动学习并内化人类语言丰富的语法结构、词汇知识，更重要的是掌握了复杂的逻辑推理能力与广泛的世界常识。得益于这些能力，LLM成为了通用的人工智能基座，能够灵活执行问答、摘要、翻译、创作、代码生成等多种自然语言处理(NLP)任务，是当下AI应用生态的核心基础。💡核心洞察：大模型不仅仅是“聊天机器人”，它通过对海量数据的学习，获得了类人的语言理解与生成能力，是连接人类意图与复杂任务执行的桥梁，也是构建智能应用的关键基石。知识储备（二）：开源大模型与量化技术本地部署·两大基石开源模型解决了“从哪来”的问题，打破了商业壁垒，让技术普惠成为可能。量化技术解决了“去哪跑”的问题，让大模型从昂贵的云端“下放到”我们身边的个人电脑和移动端设备。🔓开源模型(Open-SourceModels)将模型架构、训练代码、预训练权重等关键信息完全公开，允许开发者自由下载、使用、修改甚至二次分发。它打破了技术垄断，是AI民主化的核心力量。代表：阿里通义千问(Qwen)、DeepSeekCoder、Llama2等。⚡量化技术(Quantization)通过“压缩”模型参数的数据精度（如从FP3232位浮点数转为INT88位整数甚至4位），在牺牲极小推理精度的前提下，显著降低模型的内存占用和算力需求，从而实现大模型在个人电脑或边缘设备上的高效本地运行。“开源”赋予我们权利，“量化”赋予我们能力。两者结合，让人人都能拥有AI大脑。知识储备（三）：开源模型的许可证允许商用·宽松类协议代表：Apache2.0、MIT、BSD此类许可证对商业使用友好，允许将模型集成到闭源的商业产品中，无需开源您的代码。只要保留原作者的版权声明和免责声明即可。适合绝大多数商业场景。限制商用·强开源类协议代表：GPLv3、AGPLv3遵循“传染性”开源原则。如果您的产品使用了此类协议的模型，或者基于其进行了修改，您的整个项目代码也必须开源。对于希望保护知识产权的商业公司，使用时务必谨慎评估。“能下载”≠“可随意商用”在下载和使用任何开源模型之前，请务必花时间阅读并理解其附带的开源许可证。这不仅是法律合规的要求，更是保护您项目安全与未来发展的关键一步。知识储备（四）：认识Ollama🎯专为本地运行大模型而生的开源工具Ollama旨在极大地简化大语言模型(LLM)的部署和管理过程。它提供了一套标准化的模型打包格式，将模型权重、配置和运行代码整合在一个单一的包中，从而让开发者和终端用户无需处理复杂的环境配置，即可在本地快速启动并运行高性能的大语言模型。核心理念与优势💡设计理念：“AIforeveryone”(人人可用的AI)•降低门槛：无需深厚的AI算法背景或繁琐的编译环境，一条命令即可启动模型。•轻量高效：针对本地运行做了深度优化，在消费级电脑上也能流畅运行主流开源模型。知识储备（五）：Ollama的优势与工作流程轻量级大模型部署与管理的优选方案：本地推理引擎的核心价值01开箱即用，极简部署无需繁琐的环境配置，仅需一行命令即可完成大模型的拉取与运行，极大降低了本地部署的技术门槛。02离线运行，数据安全支持完全离线的本地推理模式，所有数据处理均在本地设备完成，有效避免数据泄露，满足企业与个人的隐私保护需求。03成本可控，高度灵活摆脱云端调用费用，低成本实现私有化大模型应用。同时支持灵活的模型管理，支持多模型快速切换与定制。📝标准工作流：用户输入指令(CLI/WebUI)→自动从模型库拉取镜像→加载至本地推理引擎运行→生成并返回推理结果。知识储备（六）：Ollama命令行详解01/安装验证02/核心命令(启动模型)03/交互与退出检查Ollama是否成功安装到本地ollama--version下载并运行指定大模型

示例：启动3B版本的通义千问ollamarun<model_name>例:ollamarunqwen:3b进入对话模式输入问题，结束对话：输入/bye或按Ctrl+D提示符:>>>💡快速上手小贴士掌握以上三条命令即可完成Ollama的核心操作闭环。首次运行模型会自动下载，需耐心等待。建议从体积较小的模型（如3B/7B参数）开始体验，以缩短下载和加载时间。知识储备（七）：高级配置—环境变量与配置文件关键环境变量核心功能与作用典型应用场景OLLAMA_MODELS修改模型文件的默认下载与存储目录系统盘空间不足，需将大模型迁移至数据盘/外接硬盘OLLAMA_HOST自定义OllamaAPI服务的监听IP地址与端口号需要跨设备调用服务，或在局域网内共享模型能力OLLAMA_NUM_PARALLEL设置同时处理的请求数量上限，控制并发负载多用户同时访问或自动化脚本批量调用，优化吞吐量💡配置总结环境变量赋予了Ollama极强的灵活性，能够适应从个人笔记本到企业服务器的各种部署环境。除了修改路径与端口，合理配置还能优化硬件资源利用率。建议修改配置后重启服务，确保参数生效。任务实施：一步步完成部署与交互Step1·环境准备Step2·数据接入Step3·交互部署配置问答模型的基础参数，一键启动服务，进行真实场景对话测试，验证并优化回答准确性。上传《学生手册》或自定义文档，完成文本的智能切分与向量化，快速构建专属的AI知识库。安装Python环境与Dify工具包，登录Dify平台创建新应用，完成基础开发环境配置。实操目标：亲手部署AI应用并实现智能交互任务一：Ollama软件安装（步骤1：下载）010203访问官网&点击下载1.打开浏览器，输入网址访问Ollama官方网站：/2.在页面显眼位置找到“Download”按钮并点击，进入下载页面。选择对应操作系统版本根据自己的系统选择macOS/Linux/Windows点击DownloadforWindows进行下载点击下载任务一：Ollama软件安装（步骤2：安装）多操作系统安装指引：macOS/Windows/Linux操作详解💡提示安装过程简单快速，建议全程保持网络畅通，以便自动下载必要组件。01macOS系统：下载完成后，找到下载的.dmg镜像文件并双击打开。在弹出的窗口中，将Ollama图标拖拽到右侧的“Applications”（应用程序）文件夹中即可完成安装。02Windows系统：下载.exe安装包后双击运行，按照安装向导的提示点击“下一步”即可完成。⚠️重要提示：如果Windows防火墙弹出网络访问提示，请务必选择“允许访问”，否则可能无法正常使用Ollama服务。03Linux系统：打开终端（Terminal），执行Ollama官网提供的一键安装脚本（通常为一条curl命令），系统将自动下载并配置运行环境。任务一：Ollama软件安装（步骤3：验证）010203打开命令行工具打开您电脑上的命令行工具。如果是Windows系统，我们强烈推荐使用PowerShell；Mac或Linux用户使用自带的“终端”应用即可。输入版本检查命令在打开的命令行窗口中，输入以下指令并按下回车键：ollama--version检查返回结果观察终端输出。如果显示了类似下方的版本号信息，则代表安装成功：ollamaversion0.20.7若提示“命令不存在”等报错，请重新检查安装过程或查看日志。验证安装三步法任务二：模型下载与部署|步骤1：环境与工具准备01.打开命令行工具根据操作系统的不同，选择对应的终端工具：•Windows:PowerShell/CommandPrompt•macOS/Linux:Terminal(终端)02.确认当前路径检查命令行的当前工作目录是否正确。•通常直接在用户的“主目录”下操作即可，无需特别切换。•如需确认，可输入命令：pwd(macOS/Linux)或cd(Windows)03.确认Ollama服务确保Ollama后台服务已启动并运行：•安装完成后，Ollama通常会作为系统服务自动在后台启动。•若未启动，请手动在应用列表中打开Ollama应用。关键提示：若命令行中输入“ollama”出现“commandnotfound”错误，请检查环境变量配置或重新启动终端。这是保证后续下载命令正常执行的前提。任务二：模型下载与部署（步骤2：执行命令）打开命令行终端，输入以下任一命令，Ollama将自动完成模型的下载与运行：01通义千问3B模型部署命令：ollamarunqwen:3b说明：通义千问是阿里云开发的高性能大语言模型，适合通用对话、文本生成等场景。02DeepSeekCoder1.3B部署命令：ollamarundeepseek-coder:1.3b说明：专为代码开发设计的模型，擅长编写和解释代码，适合技术类任务。💡首次运行会自动下载模型文件，

请保持网络通畅并耐心等待。任务二：模型下载与部署（步骤3：加载完成）当看到命令行提示符变成等待输入状态（通常是>>>或空白行）时，如图上图所示，表示模型已成功加载，同学们可以开始对话了。任务三：首次对话与模型切换（步骤1：开始对话）010203输入指令找到命令行中的>>>提示符，在其后直接输入你想问的问题或简单的问候语，输入完成后按下键盘上的回车键。等待“预热”首次进行推理时，系统可能需要加载资源，因此会有一个“预热”过程，耗时约30-60秒。请耐心等待系统响应，不要重复发送指令。提问示例·简单问候：“你好！”·知识问答：“地球上最高的山峰是哪座？”·功能测试：“帮我写一个Python的加法函数”STEP01/开启交互之旅任务三：首次对话与模型切换（步骤2：观察与退出）命令行交互实操指南：实时查看回复·体验多轮对话·掌握退出技巧01查看回复：提交指令后，AI模型生成的回答内容会直接显示在你的命令行窗口中，请留意查看。02多轮对话：无需重启程序，直接在命令行继续输入新的问题或指令，即可与模型进行连续的多轮交互。03两种退出方式：当你想结束当前对话时，输入指令/bye并按下回车，或者直接使用组合键Ctrl+D快速退出。💡实操提示：截图展示了命令行中输入退出指令的典型界面，请注意观察系统提示的退出成功信息，确认程序已正常结束运行。任务三：首次对话与模型切换｜步骤3：模型切换Ollama模型切换操作流程1.退出当前对话：在正在运行的模型命令行交互窗口中，按下Ctrl+D组合键，即可退出当前模型对话，返回到系统终端。2.执行切换命令：在终端中输入新的模型运行指令即可启动新模型，无需重启Ollama服务。例如：从阿里Qwen切换到深度求索DeepSeek代码模型，只需输入：ollamarundeepseek-coder:1.3b#从qwen:3b切换至此模型任务四：专用大模型安装（一）：向量模型与重排模型模型类型核心作用(RAG场景下)Ollama安装指令向量模型

(EmbeddingModels)将文本（问题、知识库内容）转化为计算机可理解的高维向量，通过计算向量间的“相似度”来快速检索出与用户问题最相关的文档片段。ollamapullbge-m3重排模型

(RerankerModels)对向量检索召回的结果进行二次排序，利用模型更强的语义理解能力，确保最相关、质量最高的文档排在最前面，显著提升回答准确性。ollamapulllinux6200/bge-reranker-v2-m3总结与价值：为什么需要它们？基础大模型通常没有自带您私有的知识库。向量模型与重排模型是构建企业级问答系统（RAG）的两大基石。前者负责把海量知识“存入”向量数据库，后者负责把最精准的知识“取出”给大模型参考，两者结合实现了大模型的“知识更新”与“事实一致性”。任务四：专用大模型安装（二）：部署Qwen视觉模型解锁多模态能力·让AI看懂图片并交互的部署实操STEP01

搜索模型打开Ollama官方模型库，在搜索栏输入关键词“qwenvl”。

“vl”代表“VisionLanguage”，即视觉语言模型，能同时理解文本指令和图像内容。STEP02

终端启动在命令行终端（WindowsCMD或Mac/LinuxTerminal）中执行以下命令，启动最新版模型：

ollamarunqwen2.5vl:latestSTEP03

交互问答模型下载并加载完成后，即可在交互界面进行提问。

输入提示词并附带图片路径或URL，即可让AI分析图片内容、描述画面或解答与图片相关的问题。拓展与总结：探索更多可能与回顾收获回顾收获未来展望总结行动1.复盘项目文档并归档沉淀2.组织团队内部经验分享会3.持续跟进反馈并优化现有方案•探索更多场景的AI+业务落地应用•结合用户需求持续迭代产品功能•优化系统架构，提升系统的稳定性和易用性•技术：掌握了RAG等核心AI技术的应用•能力：提升了复杂问题的分析与解决能力•成果：实现了“智答规章”的产品化落地总结回顾与未来规划任务拓展：对比不同模型对比维度qwen:3bdeepseek-coder:1.3b清晰度语言通俗易懂，结构清晰逻辑严密，技术场景解释更专业准确性常识类问题回答准确，覆盖面广技术细节精准，代码生成错误少回答风格口语化表达，亲和力较强偏书面化与技术化，严谨简洁适用场景通用问答、文案创作、日常闲聊代码编写、算法解题、技术咨询实践步骤：1.准备一个常识性问题（如：“简述太阳系八大行星”）。2.用完全相同的问题分别提问不同模型（如qwen:3b和deepseek-coder:1.3b）。3.记录回答并对比分析：在清晰度、准确性、回答风格上有什么不同？实践任务：项目总结与评价：回顾与反思🛠️安装与部署复盘关键问题：•是否顺利安装Ollama并成功拉取、运行了目标模型？•过程中遇到了什么阻碍？（如网络、硬件、版本兼容）•最终是通过什么方法解决的？有哪些经验值得分享？💬对话体验回顾主观感受：•本地模型的响应速度是否符合预期？与硬件配置有什么关系？•回答的逻辑性、准确性、可用性如何？是否能满足日常需求？•你觉得本地AI助手最适合处理哪一类任务？⚖️本地vs在线AI深度对比：•优势：数据隐私、断网可用、定制化程度、成本结构等方面有哪些独特优势？•劣势：在模型能力上限、维护成本、更新速度上与主流在线服务相比有何差距？•总结：你认为本地部署AI的未来潜力如何？💡核心收获总结通过本次项目实践，不仅掌握了本地部署AI模型的技术流程，更重要的是建立了对AI技术落地的理性认知。无论是解决问题的过程，还是对本地与云端AI的对比思考，都为我们未来更好地利用AI工具打下了坚实基础。1243Ollama版本当前推荐版本:最新推荐模型(通用)qwen:3b(通义千问3B)推荐模型(代码)deepseek-coder:1.3b常用交互命令启动:ollamarun<model_name>

退出:/bye或快捷键Ctrl+D核心数据汇总表5进阶模型示例：

向量检索:bge-m3(BGEEmbedding)|多模态视觉:qwen2.5vl:latest参考资料与信息来源资源名称详细信息/访问链接Ollama官方网站/（本地大模型部署与运行工具）Ollama模型库/models（包含Llama、Phi、Qwen等多种开源模型）通义千问开源项目阿里云达摩院推出的开源大语言模型系列(Qwen)DeepSeekCoder开源项目深度求索推出的代码生成与理解专用开源模型系列建议大家结合Ollama工具与开源模型库进行本地部署实践，既能充分利用Qwen、DeepSeek等国产优秀开源模型的能力，也能更好地保障数据隐私与安全。💡提示Q&A互动交流Q&A感谢观看，欢迎提问！THANKYOUFORLISTENING界面焕新，本地智联为本地AI模型构建现代化Web交互界面高职/本科学生人工智能应用实训智能财经学院课程目录四大核心模块：本次实训·全流程概览目01.项目概述|我们的目标与任务02.知识储备|核心概念与技术解析03.任务实施|环境准备与核心操作04.总结与展望|回顾收获与拓展方向🎯明确实训目标，理解项目背景与价值💻掌握关键技术点，完成实操任务📝沉淀经验方法，具备独立复盘能力学习预期：✨期待大家全情投入，在实践中收获成长！项目概述：我们的目标与任务核心价值预期目标关键任务1.完成图形界面原型设计与开发；

2.实现报修流程与后台逻辑的无缝对接；

3.确保界面交互的流畅性与易用性。构建一个直观、易用的报修图形界面，大幅降低师生操作难度，实现报修信息的快速录入与状态实时追踪，全面提升报修效率。提升用户体验，优化信息流转效率，解决传统纯文本或命令行交互的晦涩难懂问题，实现服务的人性化与智能化升级。项目名称：宿舍报修管家—图形化升级项目背景-告别枯燥的命令行核心维度命令行现状（痛点）本项目目标（改进）交互体验纯文本操作，视觉反馈差，枯燥乏味提供图形化界面，交互直观流畅，体验升级操作与记录缺乏历史会话记录，模型切换流程繁琐完整保留历史对话，支持模型一键快速切换使用门槛需记忆各类指令参数，对非技术用户不友好降低使用门槛，实现“所见即所得”的便捷操作最终价值仅能满足基础功能，难以充分发挥模型潜力为强大的本地AI模型，赋能友好、便捷的交互体验项目总结：回顾过往，我们已成功在本地部署AI模型，但命令行交互的体验短板限制了其易用性。本项目旨在解决操作复杂、无记录、切换难等问题，将强大的模型能力与优秀的产品体验结合，打造更易上手的本地化AI交互方案。项目愿景：项目目标—为本地AI穿上“漂亮外衣”直观的文本问答提供简洁的输入框，实现自然语言交互，让用户能够像与人交流一样轻松提问，获得精准回答。可视化对话历史清晰展示所有对话回合，以结构化方式呈现上下文，方便回顾、检索与管理历史对话记录。便捷的模型管理通过友好的操作界面，支持用户轻松切换不同的本地AI模型，灵活适配多样化的任务需求。学习目标：OpenWebUI与Docker实践知识目标KnowledgeGoals理解Web界面在大模型交互中的优势，掌握OpenWebUI的核心功能模块，了解Docker容器化部署的基本概念与工作原理。能力目标SkillGoals能够独立完成OpenWebUI的Docker环境安装与启动配置；掌握连接本地Ollama服务的方法；熟练使用Web界面进行多轮对话、模型切换及基础管理操作。素养目标LiteracyGoals体会图形化界面（GUI）对提升技术易用性的价值；培养“前端交互+后端服务”结合的系统思维能力；激发探索开源项目与动手实践的技术热情。1243任务一：Docker环境准备与OpenWebUI安装任务二：OpenWebUI连接Ollama与模型管理任务四：体验对比与项目总结任务三：流畅对话与参数调优工作任务单知识储备：核心概念与技术解析Web界面与交互OpenWebUI框架Docker容器化将应用及其依赖环境打包为标准化容器，实现跨环境的快速部署、隔离运行与高效管理，是现代开发与运维的基石。基于FastAPI构建的开源WebUI，专为大模型应用设计，支持多模型接入与功能扩展，能快速搭建高可用的AI交互界面。用户与系统交互的可视化窗口，通过浏览器访问实现操作便捷性，整合前端技术，保障系统易用性与交互体验的统一。核心知识概览|三大关键基石知识储备-核心概念概览WebUIOpenWebUIDocker核心定义：WebUserInterface（网页用户界面），是用户与网站或Web应用程序交互的图形化界面。核心定义：一个功能强大、专为本地部署的大型语言模型（LLM）设计的开源Web界面工具。核心定义：一个开源的应用容器引擎，让开发者可以打包应用及其依赖到一个可移植的容器中，实现快速部署。关键价值：优化用户交互体验，降低使用门槛，直观呈现信息与功能，提升操作效率。关键价值：提供直观、易用的交互界面，便于用户在本地快速体验、调试和使用大模型，无需复杂的命令行操作。关键价值：简化环境配置，消除“在我电脑上能运行”的问题，实现应用在不同平台上的快速、一致部署。本章总结：本章将系统学习三大核心概念：WebUI负责通过图形化的界面优化与用户的交互体验；OpenWebUI作为专为本地大模型设计的开源Web界面工具，是我们落地大模型应用的关键入口；Docker则作为容器化技术，帮助我们轻松解决复杂软件环境的部署难题。掌握这三者，是搭建完整本地AI应用服务的基石。Web界面的革命-从CLI到GUI的体验飞跃01命令行界面(CLI)•操作方式：需要记忆和输入大量复杂指令代码，对用户的技术背景有一定要求。•体验痛点：学习门槛高，交互逻辑抽象，视觉反馈不够直观。02WebUI(图形用户界面)•核心优势：实现了“所见即所得”，通过图形化的按钮、菜单和界面进行操作。•价值所在：操作逻辑直观易懂，视觉反馈丰富，极大降低了技术门槛，让普通大众也能轻松上手。关键结论：体验与普及的双重飞跃从晦涩到直观技术民主化WebUI不仅是界面的变革，

更是让技术走出专业领域，

惠及亿万用户的关键力量。OpenWebUI核心功能(1)-直观的聊天与历史记录功能模块核心能力与特性用户价值与体验对话交互界面提供类ChatGPT风格的对话框

完美支持上下文的多轮对话能力交互逻辑符合用户习惯，上手即会

流畅自然的AI沟通体验，无学习成本历史记录管理系统自动持久化保存所有对话记录

侧边栏清晰列表化展示所有历史会话避免信息丢失，支持随时回顾与查找

方便对过往的问答进行管理和分类功能总结：OpenWebUI致力于打造最接近原生体验的AI交互门户。通过提供直观、熟悉的对话框和完整的历史记录管理功能，不仅让技术门槛降到最低，更确保了用户在与AI协作过程中的信息连续性与管理便捷性，是个人与团队部署私有AI的最佳前端选择。OpenWebUI核心功能(2)-便捷的模型管理与切换功能维度OpenWebUI能力实现用户价值与体验模型选择入口集成Ollama模型选择器统一界面管理，无需记忆命令操作便捷性一键切换、直观管理所有本地模型降低技术门槛，大幅提升操作效率任务适配性按需匹配不同类型的AI能力模型灵活应对问答、代码、创意等多场景数据安全性管理本地已下载的Ollama模型数据本地运行，隐私安全有保障OpenWebUI提供直观的模型选择器，让您无需使用复杂的命令行操作，即可轻松管理Ollama中的所有本地模型。这种“所见即所得”的管理方式，不仅简化了模型切换流程，更让用户能够根据当前的具体任务需求，快速调用最合适的AI模型，极大地提升了工作效率。功能亮点总结：OpenWebUI核心功能(3)-强大的参数调优能力调优参数功能定义调整效果Temperature(温度)控制AI生成文本的随机性与创造性程度的关键指标数值越高，回复越具创意与多样性；

数值越低，回复越确定、严谨、不易跑偏。MaxTokens(最大长度)限制AI在单次对话中生成回复的Token数量上限平衡回答的详细程度与资源消耗；

避免生成过长内容导致的截断或效率问题。TopP(TopProbability)控制AI生成时考虑的候选词概率累积和（核采样）通常与温度配合使用，进一步精细化调节

生成文本的多样性与聚焦度。OpenWebUI允许用户直接在Web界面中调整LLM的各种推理参数，无需复杂的代码配置。通过可视化的方式调节温度、最大Token数等关键参数，用户可以灵活控制AI回复的确定性、详细程度与生成风格，从而精准匹配客服问答、创意写作等不同场景的需求。功能优势：Docker是什么？—软件部署的“集装箱”开源容器化平台·实现软件标准化交付Docker是一个用于开发、发布和运行应用程序的开放平台。它能将应用程序与底层的基础设施隔离开来，从而实现快速交付软件。你可以把它理解为现实中的“集装箱”：无论货物是什么（应用）、用什么船运输（操作系统），都能统一标准、安全无损地送达目的地。它将应用程序及其所有依赖项打包到一个独立的轻量级容器中，保证了从开发到生产环境的一致性，极大地简化了部署与运维流程。Core核心优势📦打包标准化|🚀分发自动化|🛡️运行一致性|⚡轻量高性能告别“在我电脑上能运行”的窘境，让软件开发和交付像搭积木一样简单高效。Docker核心优势环境一致性彻底解决“在我机器上能跑，在你机器上就不能跑”的经典问题。通过将应用及其所有依赖打包在容器内，确保了开发、测试和生产环境的完全一致。部署简便用户只需运行一个简单的dockerrun命令即可快速启动复杂应用。无需关心底层环境配置，大大简化了部署流程，提高了效率。资源隔离与高效容器之间相互隔离，避免了应用间的冲突。与虚拟机相比，容器更轻量、启动更快，能更高效地利用系统资源。OpenWebUI架构揭秘-前后端分离与插件机制核心架构模块前后端分离架构可扩展插件机制功能与交互逻辑前端：轻量级静态网页，负责界面展示与交互

后端：负责与Ollama大模型进行通信，处理业务逻辑提供灵活的扩展接口，支持按需安装与卸载插件

无需修改核心代码即可实现功能更新架构核心优势职责清晰，维护便捷

前后端独立部署，性能与稳定性更优打破功能边界，具备极强的适应性

支持社区生态共建，功能持续丰富用户价值提供流畅、响应迅速的操作体验

降低本地部署与维护的技术门槛打造“可生长”的本地AI助手

随需应变，快速适配各类场景需求OpenWebUI巧妙融合了前后端分离与插件机制两大核心优势：●轻量高效：前后端分离保证了系统的轻量级与高效通信，前端展示与后端逻辑互不干扰。●无限可能：插件机制赋予了本地AI助手“可生长”的能力，如同手机安装App般，随时按需扩展新功能。架构核心价值：任务实施核心目标关键步骤学习要点理解容器化技术的核心优势；掌握Docker基础命令的使用；了解镜像与容器的管理逻辑。1.安装DockerEngine与DockerCompose

2.配置国内镜像源以加速下载

3.执行基础命令，验证环境状态完成Docker环境的完整安装与基础配置，确保后续应用容器能稳定运行。任务实施：环境准备DockerInstallation&Configuration任务一：Docker环境准备与安装关键步骤核心依赖技术执行要点与标准环境与版本检测Windows10/11系统确认Win102004+或Win11；开启CPU虚拟化（BIOS）系统组件启用Hyper-V&WSL2控制面板开启Hyper-V功能；安装WSL2并设为默认版本DockerDesktop安装官方安装包配置下载并安装，在设置中确认使用WSL2作为引擎后端环境连通性验证CLICommands执行docker-v检查版本，运行dockerrunhello-world测试💡避坑指南：•若安装失败，先检查BIOS中的IntelVT-x或AMD-V虚拟化技术是否开启。•WSL2与Hyper-V功能需同时启用，DockerDesktop默认推荐使用WSL2引擎以获最佳性能。💡注意事项准备工作(1)-检查Windows版本与虚拟化支持010203检查Windows版本路径：“设置”→“系统”→“关于”要求：确保系统版本为Windows101903或更高版本。检查CPU虚拟化支持路径：“任务管理器”→“性能”→“CPU”要求：查看右下角“虚拟化”状态，必须显示为“已启用”。注意事项若“虚拟化”显示为“已禁用”，请重启电脑并按主板对应按键（通常是F2或Del）进入BIOS设置开启。不同品牌电脑进入BIOS的按键可能不同，请提前确认。系统环境配置检查准备工作(2)-启用WSL与虚拟机平台操作步骤：1.点击开始菜单，搜索PowerShell，选择“以管理员身份运行”。2.在打开的PowerShell窗口中，依次执行下方两条命令。>启用WSL子系统dism.exe/online/enable-feature/featurename:Microsoft-Windows-Subsystem-Linux/all/norestart>启用虚拟机平台dism.exe/online/enable-feature/featurename:VirtualMachinePlatform/all/norestart最后一步：重启计算机执行命令完成后，重启电脑使功能生效，之后就可以安装Linux分发版了。准备工作(3)-开启Windows功能服务关键操作步骤：开启虚拟化与子系统支持01打开功能设置面板打开“控制面板”→进入“程序”→点击“启用或关闭Windows功能”。等待系统加载后，将弹出功能列表窗口。02勾选三项核心功能在列表中找到并勾选以下选项（注意展开Hyper-V的子菜单并全部勾选）：

1.Hyper-V(及其所有子选项)

2.适用于Linux的Windows子系统(WSL)

3.虚拟机平台03确认安装并重启电脑点击窗口右下角的“确定”按钮。系统将自动下载并安装所需文件，完成后会提示重启计算机，请务必重启以确保功能生效。安装DockerDesktopDocker环境搭建第一步：下载、安装与验证01/下载安装程序访问Docker官方网站，根据您的操作系统（Windows或macOS）下载对应的安装包。下载完成后，双击安装文件，遵循向导提示完成安装即可。02/启动与状态验证安装完成后，在应用列表中找到并启动DockerDesktop。查看任务栏右下角的图标，当显示为稳定的鲸鱼图标（无旋转）时，即代表Docker服务已成功运行。💡安装小贴士Windows系统需开启Hyper-V和容器功能；macOS需保证系统版本符合要求。若启动失败，可尝试重启电脑或检查网络连接。常见问题解决：启动Docker提示“WSL2安装不完整”01.检查Windows功能确保Windows功能中的以下选项已勾选：•适用于Linux的Windows子系统

•虚拟机平台可在控制面板-程序-启用或关闭Windows功能中查看。02.安装WSL2内核更新包下载并安装微软官方提供的WSL2Linux内核更新包：https://aka.ms/wsl2kernel这是解决“WSL2安装不完整”报错最常见的方案。安装后需重启电脑。03.重置网络组件若前两步无效，尝试重置Winsock目录：netshwinsockreset1.以管理员身份打开PowerShell或CMD。

2.输入以上命令并回车。

3.执行完成后，务必重启电脑。💡额外建议如果以上步骤仍无法解决，请检查DockerDesktop的设置，确认“使用WSL2替代Hyper-V”选项已开启。同时，确保您的Windows版本已更新到最新。Docker基本操作-镜像与容器的管理关键概念/分类通俗化定义与解释核心命令与实操说明镜像(Image)可以将其理解为程序的安装包，包含了运行应用所需的所有代码、依赖库、配置文件和操作系统快照，是静态的文件。•dockerimages:列出本地主机上已下载的所有镜像•dockerrmi<镜像名/ID>:删除指定的本地镜像文件容器(Container)基于镜像创建的动态运行实例，就像安装包运行起来的软件进程。容器拥有独立的文件系统、网络和进程空间，彼此隔离。•dockerrun[参数]<镜像名>:从指定镜像创建并启动容器（参数如-d后台运行，-p端口映射等）核心

总结记住一个核心类比：

如果把Docker看作一台电脑，那么镜像就是软件的安装光盘，容器就是安装好后正在运行的软件。熟练掌握以上三条命令，就迈出了容器化管理的第一步。任务实施：核心操作步骤一：安装OpenWebUI步骤二：启动并配置服务步骤三：连接Ollama后端在WebUI后台添加Ollama服务器地址，完成前端与本地大模型后端的通信连接，实现问答交互。在浏览器中访问本地端口启动WebUI，进入设置页面配置基础参数，确保服务正常运行并可访问。使用容器化命令（DockerCompose）快速拉取并部署OpenWebUI前端镜像，实现开箱即用的可视化交互界面。核心目标：构建本地可视化LLM交互环境任务二：安装并启动OpenWebUI🎯任务核心目标通过Docker执行一键启动命令，快速部署并运行OpenWebUI服务，无需复杂的环境配置或手动安装依赖，实现开箱即用。📋必须满足的前置条件1.DockerDesktop已成功安装，且目前处于运行状态。

2.Ollama服务端已启动并正常运行，确保本地模型可被调用。💡操作小贴士：在执行Docker命令前，请务必检查Docker图标是否在状态栏正常显示。若遇到连接Ollama失败的情况，请确认Ollama终端窗口未被关闭，且没有被防火墙拦截。1命令执行说明：在命令行终端中直接执行以下指令，Docker将自动完成镜像下载与容器创建。核心指令2dockerrun-d-p8080:8080--add-hosternal:host-gateway\-vopen-webui:/app/backend/data--nameopen-webui--restartalways\ghcr.io/open-webui/open-webui:main3关键参数解析：其中--add-host是连接宿主机Ollama服务的核心配置；-v用于数据持久化，防止重启后配置丢失；--restartalways确保容器随Docker自动启动。效果预览执行命令后，打开浏览器访问http://localhost:8080即可进入OpenWebUI界面。这条命令整合了端口映射、数据卷挂载及服务保活，是生产环境部署的最佳实践。一键启动命令详解：Docker部署OpenWebUI连接Ollama服务-注册与登录010203访问OpenWebUI服务在浏览器的地址栏中输入http://localhost:8080，访问部署好的OpenWebUI应用程序。完成管理员账号注册首次访问时系统会自动进入注册页面，请输入您的名称、邮箱地址，并设置安全的管理员密码，确认后完成账号创建。自动登录并进入主界面管理员账号创建成功后，系统将自动完成登录流程，并直接跳转至应用的主界面，此时您可以开始配置和使用Ollama服务了。STEP访问与配置指引连接Ollama服务·手动配置API地址通常OpenWebUI会自动连接Ollama，若未连接成功，请按照以下步骤操作配置界面示意Settings>ModelsOllamaAPIBaseURLernal:11434STEP01进入设置在OpenWebUI界面中，点击右上角个人头像进入“设置”页面，然后切换到“模型”选项卡。STEP02选择Ollama在“模型提供者”列表中，找到并选择Ollama选项，进入其配置区域。STEP03输入关键地址在“APIBaseURL”输入框中，输入以下地址以连接宿主机服务：

ernal:11434STEP04保存并验证点击“保存”按钮。若地址正确，系统会自动建立连接。返回主页即可选择Ollama模型进行对话。核心原理：ernal是Docker提供的特殊DNS解析地址，专门用于在容器内部访问宿主机上运行的服务，无需配置复杂的端口映射或防火墙规则。模型管理-在Web界面中切换本地模型010203定位入口1.确保回到了应用的主聊天界面。2.在界面顶部导航栏，找到当前正在使用的模型名称。展开列表3.点击模型名称旁的下拉箭头图标，展开本地模型列表。4.列表中会展示所有您之前已下载到本地的可用模型。完成切换5.鼠标点击列表中任意一个模型名称，系统将自动加载并切换到此模型。切换完成后，您可以直接在当前界面与新选择的模型进行对话。任务三：流畅对话与参数调优像使用ChatGPT一样与本地AI交互，探索参数调整的无限可能本地交互无需联网·隐私安全·极速响应01.沉浸式流畅对话现在，你可以在漂亮的网页界面中与你的本地AI进行自然流畅的对话，体验感与ChatGPT无异，但数据完全保存在本地，既安全又快速。无论是日常问答、代码编写还是生活建议，它都能随时响应。参数魔法温度(Temperature)调节掌控回答的风格与性格02.探索温度参数的奥秘🔻调低温度(LowTemp):回答更严谨、聚焦、逻辑一致，适合需要事实准确性的任务，如写报告、回答专业问题。🔺调高温度(HighTemp):回答更具创意、多样性和想象力，适合头脑风暴、写故事、创作诗歌。体验对比-WebUIvs.命令行命令行(CLI)交互方式复杂，需记忆大量专业命令；操作无历史记录回溯困难；模型切换步骤繁琐，且无视觉反馈，整体体验门槛高、不够友好。OpenWebUI(WebGUI)交互直观，完全做到“所见即所得”；自动保存所有对话历史，随时回溯；支持一键快速切换不同AI模型；拥有现代化的视觉设计，使用体验愉悦流畅。核心价值总结从“能用”到“好用”，为所有人服务UI升级UserExperience降低本地AI使用门槛

让技术更贴近生活

提升每一次交互的效率与幸福感总结与展望回顾收获存在不足未来方向1.接入学校统一身份认证体系，实现用户无缝登录；2.扩展问答范围，涵盖校园生活、教务通知等高频场景，打造全方位的校园助手。1.知识库更新不及时，对新规的响应存在滞后；2.复杂问题处理能力有限，部分深度咨询仍需人工介入；3.移动端适配度有待提升。1.成功搭建基于RAG技术的问答系统，实现了规章知识的智能问答；2.验证了无代码平台在校园应用开发中的高效性；3.大幅提升了学生查询规章的效率，减轻了人工答疑压力。总结与展望：回顾收获与拓展方向任务四：项目总结与评价总结维度关键要点详细阐述项目交付成果部署OpenWebUI成功为本地AI模型搭建现代化的Web交互界面，直观易用。技术能力提升掌握Docker部署熟练运用容器化技术简化软件配置流程，大幅降低部署难度。交互体验飞跃命令行→图形界面实现从纯代码操作到可视化交互的转变，极大降低了AI模型使用门槛。项目核心价值融合与隐私保障达成技术融合的目标，且本地化部署有效规避数据隐私泄露风险。总结与感悟：本项目不仅成功完成了OpenWebUI的部署，更重要的是通过Docker掌握了现代化的软件交付方法。我们不仅为强大的本地AI模型赋予了易用的图形界面，实现了从底层命令行到上层应用的跨越，更在实践中体会到技术融合带来的价值——在降低使用门槛的同时，通过本地部署的方式守护了数据的安全与隐私。核心知识点回顾要点分类核心内容说明/作用三大核心技术OpenWebUI·Docker·Ollama构建本地化AI服务的完整技术栈，涵盖前端界面、容器部署与模型管理两大关键命令ollamaserve|dockerrun...启动Ollama模型服务，以及通过Docker快速部署OpenWebUI应用容器一个核心地址http://localhost:8080在本地浏览器访问该地址，进入OpenWebUI进行AI对话与管理总结：掌握这些“3-2-1”核心要点，即可轻松上手本地化AI部署！从环境搭建到服务启动，最后通过浏览器访问，快速构建属于你的AI助手。回顾总结：Q&A互动交流环节Q&A感谢聆听！欢迎大家提出疑问、分享想法，我们一起交流探讨校园百事通，智答规章

基于Dify与RAG技术的智能问答系统搭建高职/本科学生人工智能应用实训小明的困惑大一新生小明，想了解：为什么需要“校园百事通”？二（1）奖学金申请条件？（2）宿舍熄灯时间？（3）如何加入社团？（4）请假需要什么材料？（1）官网信息分散，搜索困难（2）《学生手册》上百页，翻阅耗时（3）咨询老师/学长，有时也得不到非常准确答案痛点：梦想：有一个AI助手，7×24小时随时解答校园问题项目描述技术关键词预期效果核心任务利用检索增强生成（RAG）技术+Dify无代码平台，搭建一个智能问答系统学生提问

→AI基于《学生手册》等权威文档

→

给出准确、可溯源的答案RAG、知识库、向量检索、嵌入模型、Dify项目名称：校园百事通——智答规章1243理解RAG（检索增强生成）的工作原理、优势及数学本质掌握向量数据库的基本概念及主流选型理解知识库分段（Chunking）策略对问答效果的影响了解Dify平台的功能架构学习目标——知识篇5认识嵌入模型（EmbeddingModel）的作用学习目标——能力与素养学习目标（能力目标+素养目标）Dify部署知识库向量应用参数调优测试评估独立完成Dify（Docker一键启动版）的本地部署熟练在Dify中创建和管理知识库，上传PDF文档并处理学会创建对话应用并关联知识库掌握通过调整分段大小、Top-K、重叠长度等参数进行调优具备对AI问答系统进行初步测试和评估的能力感受AI技术在解决实际信息查找问题中的便利性与高效性培养利用AI工具赋能学习和日常生活的意识激发对人工智能技术应用的兴趣和探索精神工作任务单（一览表）任务序号任务名称任务目标任务内容任务序号任务名称任务目标任务内容任务一Dify部署与知识库构建成功部署Dify，将核心校规文档转化为可检索的知识库本地部署Dify（Docker一键启动）；上传《学生手册》PDF并处理任务二智能问答应用创建与基础测试创建对话应用，连接知识库，测试问答效果创建“校园百事通”应用；测试3~5个典型问题，记录准确性任务三问答系统调优与拓展通过调整参数优化效果，拓展问答范围调整分段大小等参数；添加更多校园文档；测试5个复杂问题标题：工作任务单知识储备——RAG是什么？（入门）检索：用户提问时，先从外部知识库中查找相关文档片段依赖训练时的“记忆”，可能产生“幻觉”（编造事实）无法获取最新或特定领域的知识传统LLM的问题：RAG的解决思路生成：将检索到的片段+问题一起交给LLM，基于事实生成答案检索增强生成（RAG）——让AI更可信三RAG的工作原理与优势（进阶）010203检索阶段将用户问题和知识库文档都转换为向量（通过嵌入模型）使用向量数据库（如Weaviate）计算相似度，召回Top-K个最相关片段生成阶段将检索到的片段作为“上下文”，与问题一同输入LLM。LLM基于提供的资料生成答案，可标注来源核心优势：请准确性高：减少幻觉，回答基于事实实时更新：只需更新知识库，无需重新训练模型可溯源：可提供答案的原文出处低成本：相比微调大模型，成本极低RAG两大阶段+核心优势1检索失败：问题表述与知识库文档语义不匹配，导致召不回相关片段三大局限2知识冲突：LLM的内部记忆与检索到的文档矛盾，模型可能忽略文档3长链依赖断裂：文档分段切断了跨段落的逻辑关系（如“申请条件”和“补充说明”分在两段）前沿优化方向：HyDE：让LLM先生成一个“假设答案”，再用假设答案去检索Reranking：初检后使用交叉编码器（如bge-reranker）重排序递归检索：对复杂问题进行多跳检索，先找主文档再找细节RAG系统的三大局限与优化方向RAG不是万能的——局限与前沿优化作用：存储文档片段的向量，支持快速相似度检索（近似最近邻ANN算法）主流向量数据库对比：数据库特点适用场景Weaviate开源，支持Graph结构，内置向量索引复杂知识图谱（如校园部门关系）Chroma轻量级，零配置，适合本地部署小规模知识库（<1万文档）Milvus分布式架构，支持百亿级向量小规模知识库（<1万文档）向量数据库——RAG的“索引引擎”向量数据库——RAG的“索引引擎”为什么需要智能问答系统？￭作为新生，你想知道“奖学金申请条件”“宿舍违规用电后

果”“请假一周需要哪些材料”……￭翻阅200页的《学生手册》？去教务处排队咨询？太慢了！场景引入￭构建一个“校园百事通”聊天机器人，7×24小时自动回答校规校纪问题。￭RAG（检索增强生成）——先检索知识库，再让AI基于资料回答AI解决方案￭使用Dify平台，基于《学生手册》PDF，搭建属于你自己的校园问答系统。本节课任务AI智能问答效果

认识Dify什么是Dify？核心功能访问方式开源LLM应用开发平台，可视化操作，无需编程。功能模块：知识库、应用工作室、模型供应商、提示词编排等。知识库管理（内置RAG引擎）模型调用（对接数百种LLM）提示词编排（可视化设计）应用类型多样（对话、工作流、智能体）官方网站：https://cloud.dify.ai/本地服务：http://IP地址/apps“简单、克制、迭代迅速”——DifyCEO路宇DifyvsLangChain&能做什么维度DifyLangChain技术定位无代码平台（完整方案）开发库（需编程）上手难度低（拖拽配置）高（需Python）RAG集成度内置优化引擎需手动组合组件适用人群非技术人员、快速原型算法工程师、深度定制创业：快速构建MVP，获得投资集成已有业务：通过RESTfulAPI解耦业务与Prompt企业级LLM网关：中心化监管个人探索：实践Prompt工程、Agent技术Dify能做什么：操作系统所需软件macOS10.14+DockerDesktop（分配≥2vCPU+8GB内存）Windows(WSL2)DockerDesktopLinuxDocker19.03++DockerCompose1.28+CPU≥2核RAM≥4GB磁盘空间≥20GB最低系统要求：Dify本地部署前的准备（任务一）任务实施——系统要求与准备前置检查：确保DockerDesktop已安装并运行Dify一Docker文件下载1、访问Dify官方网站https://dify.ai/zh2、单击其中的“Dify社区版”3、跳转到GitHub下载Dify的开源代码压缩包Dify一键部署+访问本地部署Dify：快速启动指南01克隆指定版本源码02进入目录并配置环境03启动所有容器服务04启动所有容器服务gitclone/langgenius/dify.git--branch0.15.3cddify/dockercp.env.example.envdocker-composeup-d•等待2min(状态Started)•访问:localhost/install常见问题：启动失败/端口被占用当提示80/443端口被占用时，请修改配置文件dify/docker/.env中的端口映射。例如将默认的80:80修改为8080:80，保存后重新执行启动命令即可。知识库上传-步骤截图

知识库上传步骤详解提示：若使用官网版请确保上传文件小于15M智能问答应用创建与基础测试步骤：工作室>创建空白应用>聊天助手>模型对话问答1、添加知识库进行问答

大模型问答加入知识库与不加入知识库回答效果有什么区别?2、知识库为什么会影响回答效果?3、加入提示词进行问答

思考提示词起到什么作用？实践及思考4、知识库是如何向量的，大模型是如何召回数据的？实践与交流知识库分段大小（ChunkSize）的初步理解1、调整分段大小（ChunkingSize）参数通常，Dify会提供默认值，可以尝试将其设置为不同的数值，例如200、500、1000（字或字符）。分段大小决定了文档被切割成小块（chunk）的粒度。较小的分段可能更精确地匹配短问题，但可能丢失上下文；较大的分段包含更多上下文，但可能引入噪声。2、调整分段大小后，可通过“精确率-召回率”框架评估效果。3、精确率：AI回答中与知识库匹配的内容占比（越高越好）4、召回率：知识库中相关内容被AI引用的比例（越高越好）。尝试对不同分段后的效果通过大模型进行问答；知识库背后的秘密——文档解析链路网络平台索引方式对比——经济vs高质量对比项经济模式高质量模式检索原理关键词匹配向量语义检索是否需要嵌入模型否是适用场景文档量少(<100页)复杂文档、近义词匹配计算成本零成本消耗GPU/CPU校园规章建议不推荐优先选择为什么“高质量模式”能识别“奖学金”和“资助政策”是相关的？基础测试——向“校园百事通”提问每位同学在实训报告中记录至少3个问题的AI回答及初步评价。

生成一个测试问题（请同学们逐一尝试）奖学金申请的条件是什么？情境一宿舍要求主要有哪些？情境二学生请假需要提交什么材料？情境三违规使用电器会有什么后果？情境四情境五AI场景境AI场景AI场景AI场景五1、AI的回答是否准确（与《学生手册》一致）？2、是否完整（覆盖关键步骤）？3、语言是否流畅自然？问答系统调优——目标与评估为什么要调优？初步测试发现：回答不完整、混入无关信息、近义词匹配差调优目标：提高精确率：回答中与知识库匹配的内容占比提高召回率：知识库中相关内容被引用的比例评估示例:知识库共有10段相关内容AI回答了8段相关+2段无关

→

精确率=8/10=80%，召回率=8/10=80%四大调优参数速查表设计意图一

核心调优参数一览参数作用校园场景推荐值调优逻辑分段大小(ChunkSize)控制文档切块粒度500~800字符过小丢失上下文；过大混入噪声Top-K检索最相关的K个片段3~5K太小召回低；K太大精确低重叠长度(Overlap)相邻分段共享字符，防止断裂100~200字符长文档需要较大重叠元数据过滤用标签限定检索范围按类别标记（如“奖学金”）提高检索效率，避免跨类干扰课堂活动：分组讨论——如果学生问“宿舍违规用电后果”，哪个参数影响最大？动手实践——扩展你的“校园百事通”添加《社团管理规定》《心理健康服务指南》等PDF到知识库,测试新文档的问答效果拓展任务（课后完成）二1、因病请假一周，需要办理哪些手续？请详细说明2、宿舍违规用电的处罚规定？情节严重会怎样？3、如何申请贫困助学金？需要哪些证明材料？时间线？4、考试违纪的处分及申诉流程？5、社团注册、年审及场地申请的具体要求？提交方式：截图+评价，写入实训报告。Q&A互动交流环节Q&A感谢聆听！欢迎大家提出疑问、分享想法，我们一起交流探讨项目4：宿舍小管家，智理报修Dify工作流自动化实训项目实训项目四人工智能应用实训实训目录04本次实训主要环节本项目将分为四个核心阶段逐步展开01.项目介绍|项目背景描述·核心学习目标·任务单解析与导入02.知识储备|工作流自动化原理·Dify节点认知·意图识别基础03.任务实施|智能应用创建·业务流程搭建·指令编写与测试优化04.拓展总结|复杂场景拓展·项目成果复盘·核心知识点总结阶段核心任务与产出目标▶基础认知：理解基于大模型的工作流自动化核心逻辑，掌握Dify平台基础操作。▶核心实践：独立完成“宿舍报修”应用的搭建与配置，实现用户意图的精准识别与流转。▶综合提升：学会分析业务痛点，优化模型指令，能够将本项目迁移至其他校园服务场景。行动目标：掌握核心技能，最终完成一个可用的“宿舍报修智能管家”AI应用！4.1项目描述🛠️传统报修的痛点与挑战大学宿舍生活中，电器故障、设施损坏等问题频发。但传统的报修流程往往繁琐低效：•流程复杂：学生需手动填写多字段表单、电话沟通，耗时费力。•响应滞后：人工分类故障类型慢，导致维修工单流转效率低。✨基于Dify的智能报修助手利用Dify的无代码工作流与LLM集成能力，搭建自动化服务系统：•自然语言交互：学生仅需用文字简单描述故障现象（如“台灯不亮”）。•AI自动处理：系统自动识别故障类型、优先级，并生成标准化的模拟维修工单。🚀项目核心价值：重构报修体验大幅简化报修流程，将学生的操作成本降至最低；同时提升后勤服务的响应速度与工单处理效率，最终实现“学生少跑腿，数据多跑路”，显著提升宿舍居住满意度。4.2学习目标知识目标理解工作流自动化的核心概念，掌握Dify工作流的基本搭建原理与逻辑结构。同时了解意图识别在自动化流程中所起到的关键承接作用。能力目标能够独立创建包含多步骤的自动化工作流，熟练利用LLM节点生成文本与代码节点处理逻辑。并掌握对工作流进行单元测试与效果优化的核心能力。素养目标沉浸式体验AI技术在服务自动化场景中的巨大潜力，培养利用AI工具解决实际业务问题的创新思维，从而持续激发对AI应用开发的探索兴趣。4.3工作任务单1任务一：工作流应用创建与基础流程设计在Dify中创建工作流应用，搭建故障描述输入、AI分类和工单生成的初始流程框架。2任务二：LLM指令编写与流程调试编写LLM节点指令实现故障智能分类，并对工作流逻辑进行初步的功能测试与参数调试。3任务三：流程优化与功能拓展优化工作流的健壮性与容错机制，尝试添加额外的模拟步骤，进一步提升用户交互体验。💡核心目标：通过三个阶段的迭代，构建一个完整可用的智能报修工单系统。4.4任务导入宿舍报修·智能升级从“繁琐流程”到“一句话报修”报修场景的痛点与期待01突发场景：设备故障“哎呀，我的台灯又坏了！”小张无奈地叹了口气。这是宿舍生活中非常常见的突发状况，电器故障往往来得很突然。02现有痛点：流程繁琐小张想起上次报修水龙头漏水的经历，填单、找宿管、等师傅上门，整个流程太麻烦了，既耗时又容易出现信息传达错误。03理想愿景：智能报修如果能有一个“智能管家”，只要简单说一句“我的台灯不亮了”，它就能自动理解问题、生成报修单并通知维修人员，那该多省事啊！4.5知识储备理论基础核心概念实践准备梳理后续实操的完整步骤流程，明确工具使用规范与环境配置的具体要求，为动手操作做好充分准备。深度掌握Dify平台的核心功能模块，理解知识库构建逻辑与大模型调用的底层机制，建立平台认知框架。深入理解工作流自动化的基本原理与运作逻辑，建立自动化思维模式，为复杂场景应用奠定理论基石。阶段目标：夯实理论基础，赋能平台实操工作流自动化：提升效率的“数字流水线”WORKFLOWAUTOMATIONINMAINTENANCESYSTEMDigitalPipeline▍核心定义利用软件工具自动执行一系列预定义任务或流程，将分散的操作步骤串联成标准化链路，减少人工干预，实现业务处理的自动化、标准化。▍核心价值就像工厂的高效流水线一样，它能显著降低重复劳动的时间成本，将人为操作失误率降至最低，大幅提升整体业务的流转效率与准确性。应用场景总结：在宿舍报修场景中，工作流自动化将“用户反馈问题→系统智能定级→自动生成工单→分配维修人员”的繁琐人工流转过程，转化为一条全自动运行的“数字流水线”，实现了服务响应速度与处理准确率的双重飞跃。工作流自动化vsRPA📋工作流自动化(WorkflowAutomation)聚焦于结构化流程的步骤串联（如“分类→工单生成→派单”）。核心依赖预定义的业务规则和系统间的数据自动传递，适用于逻辑固定、有明确上下游的业务场景。🤖机器人流程自动化(RPA)模拟人类在GUI的手动操作（如自动填写网页表单、复制粘贴数据）。不依赖底层系统集成，适用于非结构化、跨系统但有固定操作路径的“重复手工劳动”场景。💡宿舍报修场景定位：属于典型的“工作流自动化”应用工作流的核心要素核心要素构