版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
SpringAI智能对话系统完整项目方案技术栈:SpringBoot3.x+SpringAI+Ollama(本地大模型,Qwen3/GLM),可无缝切换DeepSeek/OpenAI/百炼;包含流式输出、历史对话、会话隔离、RAG知识库、函数调用、对话管理接口、前端对接,适合后端直接落地。适合场景:企业内部智能问答、客服对话、私有知识库问答、Agent工具调用。一、项目整体架构前端(Vue/React)↔SpringBootController↓SpringAIService├─ChatClient:基础对话、流式返回├─ChatMemory:会话记忆(Redis/内存)├─VectorStore:向量库(Milvus/PGVector/Chroma)→RAG├─FunctionCallback:工具函数调用└─ModelProvider:Ollama/DeepSeek/OpenAI/DashScope核心依赖(Mavenpom.xml)<!--SpringBootStarterWeb--><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-web</artifactId></dependency><!--SpringAI核心--><dependency><groupId>org.springframework.ai</groupId><artifactId>spring-ai-starter</artifactId><version>1.0.0-M1</version></dependency><!--Ollama适配器(本地Qwen/GLM)--><dependency><groupId>org.springframework.ai</groupId><artifactId>spring-ai-ollama-spring-boot-starter</artifactId><version>1.0.0-M1</version></dependency><!--向量库:PGVector(PostgreSQL向量扩展,推荐生产)--><dependency><groupId>org.springframework.ai</groupId><artifactId>spring-ai-pgvector-store-spring-boot-starter</artifactId><version>1.0.0-M1</version></dependency><!--Redis会话持久化(可选,多实例部署)--><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-data-redis</artifactId></dependency>二、application.yml配置(Ollama+Qwen3:8b)spring:ai:ollama:base-url:http://localhost:11434chat:model:qwen3:8boptions:temperature:0.7top-p:0.8num-ctx:8192vectorstore:pgvector:index-type:HNSWdistance-type:COSINE_DISTANCEdatasource:url:jdbc:postgresql://:5432/ai_ragusername:postgrespassword:123456切换DeepSeek:替换为spring-ai-deepseek-spring-boot-starter,填入api-key,base-url。三、基础实体类ChatRequest.java(前端入参)importlombok.Data;@DatapublicclassChatRequest{//会话ID,同一个sessionId保持对话上下文privateStringsessionId;privateStringprompt;//是否开启RAG检索知识库privateBooleanuseRag=false;//是否流式输出SSEprivateBooleanstream=true;}ChatResponse.javaimportlombok.Data;@DatapublicclassChatResponse{privateStringsessionId;privateStringcontent;privateBooleanfinish;}四、核心服务层1.会话记忆配置(ChatMemory,支持Redis持久化)importorg.springframework.ai.chat.memory.ChatMemory;importorg.springframework.ai.chat.memory.InMemoryChatMemory;importorg.springframework.context.annotation.Bean;importorg.springframework.context.annotation.Configuration;@ConfigurationpublicclassChatMemoryConfig{@BeanpublicChatMemorychatMemory(){//生产环境替换为RedisChatMemoryreturnnewInMemoryChatMemory();}}2.ChatService对话核心importlombok.RequiredArgsConstructor;importorg.springframework.ai.chat.client.ChatClient;importorg.springframework.ai.chat.memory.ChatMemory;importorg.springframework.ai.chat.messages.Message;importorg.springframework.ai.vectorstore.SearchRequest;importorg.springframework.ai.vectorstore.VectorStore;importorg.springframework.stereotype.Service;importreactor.core.publisher.Flux;importjava.util.List;@Service@RequiredArgsConstructorpublicclassChatService{privatefinalChatClientchatClient;privatefinalChatMemorychatMemory;privatefinalVectorStorevectorStore;/***流式对话SSE*/publicFlux<String>streamChat(StringsessionId,Stringprompt,booleanuseRag){//RAG检索上下文StringragContext="";if(useRag){List<String>docs=vectorStore.similaritySearch(SearchRequest.builder().query(prompt).topK(3).build()).stream().map(doc->doc.getContent()).toList();ragContext=String.join("\n---\n",docs);}StringfinalPrompt;if(useRag){finalPrompt="""参考下面知识库内容回答用户问题,不要编造内容。知识库:%s用户问题:%s""".formatted(ragContext,prompt);}else{finalPrompt=prompt;}//带上历史记忆,流式返回returnchatCmpt().user(finalPrompt).advisors(a->a.chatMemory(chatMemory,sessionId)).stream().content();}/***非流式一次性返回*/publicStringnormalChat(StringsessionId,Stringprompt,booleanuseRag){StringragContext="";if(useRag){List<String>docs=vectorStore.similaritySearch(SearchRequest.builder().query(prompt).topK(3).build()).stream().map(doc->doc.getContent()).toList();ragContext=String.join("\n",docs);}StringfinalPrompt=useRag?ragContext+"\n用户提问:"+prompt:prompt;returnchatCmpt().user(finalPrompt).advisors(a->a.chatMemory(chatMemory,sessionId)).call().content();}//清空会话历史publicvoidclearSession(StringsessionId){chatMemory.clear(sessionId);}}五、Controller接口(SSE流式,前端EventSource对接)importlombok.RequiredArgsConstructor;importorg.springframework.http.MediaType;importorg.springframework.web.bind.annotation.*;importreactor.core.publisher.Flux;@RestController@RequestMapping("/api/chat")@RequiredArgsConstructorpublicclassChatController{privatefinalChatServicechatService;@PostMapping(value="/stream",produces=MediaType.TEXT_EVENT_STREAM_VALUE)publicFlux<String>streamChat(@RequestBodyChatRequestreq){returnchatService.streamChat(req.getSessionId(),req.getPrompt(),req.getUseRag());}@PostMapping("/sync")publicStringsyncChat(@RequestBodyChatRequestreq){returnchatService.normalChat(req.getSessionId(),req.getPrompt(),req.getUseRag());}@DeleteMapping("/session/{sessionId}")publicvoidclear(@PathVariableStringsessionId){chatService.clearSession(sessionId);}}六、配套RAG文档入库接口(文档向量化)@RestController@RequestMapping("/api/rag")@RequiredArgsConstructorpublicclassRagController{privatefinalVectorStorevectorStore;@PostMapping("/upload")publicStringuploadDoc(@RequestParamStringcontent){Documentdoc=newDocument(content);vectorStore.add(List.of(doc));return"文档入库成功";}}七、扩展模块:Func
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 2026年技术合作意向书签署意向请求(3篇)
- 社区医院食品卫生安全管理手册
- 2026年度客户关系管理策略更新通知(3篇)范文
- 2026年医药行业报告:政策支持与市场潜力
- 2026年互联网保险行业服务费收入与广告费、佣金盈利报告
- 2026年教育行业政策解读报告及未来十年前景展望001
- 2026年清洗服务行业报告及环保技术应用趋势
- 2026年互联网医疗行业渠道建设与运营策略报告
- 2026年石油化工行业侵权与质量监管方案
- 2026年电脑周边行业设计与研发升级趋势报告
- 个人债务集中清理申请书范本
- 高温烫伤现场处置方案培训
- 2026河北体育学院选聘第一批工作人员12名备考题库有答案详解
- 高中化学必修2第一章《物质结构元素周期律》教材分析与教学建议
- 2026揭秘Palantir及其供应链解决方案:人工智能本体的胜利
- 男性性教育课件
- 实施指南(2025)《JB-T 12927-2016固体绝缘材料中空间电荷分布的电声脉冲测试方法》
- DZ/T 0075-1993地球化学勘查图图式、图例及用色标准
- 危大工程应急预案
- 高考文言文考试单选题100道及答案
- 美豪酒店室内及客房设计标准手册内容
评论
0/150
提交评论