Spring AI 智能对话系统完整项目方案_第1页
Spring AI 智能对话系统完整项目方案_第2页
Spring AI 智能对话系统完整项目方案_第3页
Spring AI 智能对话系统完整项目方案_第4页
Spring AI 智能对话系统完整项目方案_第5页
已阅读5页,还剩5页未读, 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

SpringAI智能对话系统完整项目方案技术栈:SpringBoot3.x+SpringAI+Ollama(本地大模型,Qwen3/GLM),可无缝切换DeepSeek/OpenAI/百炼;包含流式输出、历史对话、会话隔离、RAG知识库、函数调用、对话管理接口、前端对接,适合后端直接落地。适合场景:企业内部智能问答、客服对话、私有知识库问答、Agent工具调用。一、项目整体架构前端(Vue/React)↔SpringBootController↓SpringAIService├─ChatClient:基础对话、流式返回├─ChatMemory:会话记忆(Redis/内存)├─VectorStore:向量库(Milvus/PGVector/Chroma)→RAG├─FunctionCallback:工具函数调用└─ModelProvider:Ollama/DeepSeek/OpenAI/DashScope核心依赖(Mavenpom.xml)<!--SpringBootStarterWeb--><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-web</artifactId></dependency><!--SpringAI核心--><dependency><groupId>org.springframework.ai</groupId><artifactId>spring-ai-starter</artifactId><version>1.0.0-M1</version></dependency><!--Ollama适配器(本地Qwen/GLM)--><dependency><groupId>org.springframework.ai</groupId><artifactId>spring-ai-ollama-spring-boot-starter</artifactId><version>1.0.0-M1</version></dependency><!--向量库:PGVector(PostgreSQL向量扩展,推荐生产)--><dependency><groupId>org.springframework.ai</groupId><artifactId>spring-ai-pgvector-store-spring-boot-starter</artifactId><version>1.0.0-M1</version></dependency><!--Redis会话持久化(可选,多实例部署)--><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-data-redis</artifactId></dependency>二、application.yml配置(Ollama+Qwen3:8b)spring:ai:ollama:base-url:http://localhost:11434chat:model:qwen3:8boptions:temperature:0.7top-p:0.8num-ctx:8192vectorstore:pgvector:index-type:HNSWdistance-type:COSINE_DISTANCEdatasource:url:jdbc:postgresql://:5432/ai_ragusername:postgrespassword:123456切换DeepSeek:替换为spring-ai-deepseek-spring-boot-starter,填入api-key,base-url。三、基础实体类ChatRequest.java(前端入参)importlombok.Data;@DatapublicclassChatRequest{//会话ID,同一个sessionId保持对话上下文privateStringsessionId;privateStringprompt;//是否开启RAG检索知识库privateBooleanuseRag=false;//是否流式输出SSEprivateBooleanstream=true;}ChatResponse.javaimportlombok.Data;@DatapublicclassChatResponse{privateStringsessionId;privateStringcontent;privateBooleanfinish;}四、核心服务层1.会话记忆配置(ChatMemory,支持Redis持久化)importorg.springframework.ai.chat.memory.ChatMemory;importorg.springframework.ai.chat.memory.InMemoryChatMemory;importorg.springframework.context.annotation.Bean;importorg.springframework.context.annotation.Configuration;@ConfigurationpublicclassChatMemoryConfig{@BeanpublicChatMemorychatMemory(){//生产环境替换为RedisChatMemoryreturnnewInMemoryChatMemory();}}2.ChatService对话核心importlombok.RequiredArgsConstructor;importorg.springframework.ai.chat.client.ChatClient;importorg.springframework.ai.chat.memory.ChatMemory;importorg.springframework.ai.chat.messages.Message;importorg.springframework.ai.vectorstore.SearchRequest;importorg.springframework.ai.vectorstore.VectorStore;importorg.springframework.stereotype.Service;importreactor.core.publisher.Flux;importjava.util.List;@Service@RequiredArgsConstructorpublicclassChatService{privatefinalChatClientchatClient;privatefinalChatMemorychatMemory;privatefinalVectorStorevectorStore;/***流式对话SSE*/publicFlux<String>streamChat(StringsessionId,Stringprompt,booleanuseRag){//RAG检索上下文StringragContext="";if(useRag){List<String>docs=vectorStore.similaritySearch(SearchRequest.builder().query(prompt).topK(3).build()).stream().map(doc->doc.getContent()).toList();ragContext=String.join("\n---\n",docs);}StringfinalPrompt;if(useRag){finalPrompt="""参考下面知识库内容回答用户问题,不要编造内容。知识库:%s用户问题:%s""".formatted(ragContext,prompt);}else{finalPrompt=prompt;}//带上历史记忆,流式返回returnchatCmpt().user(finalPrompt).advisors(a->a.chatMemory(chatMemory,sessionId)).stream().content();}/***非流式一次性返回*/publicStringnormalChat(StringsessionId,Stringprompt,booleanuseRag){StringragContext="";if(useRag){List<String>docs=vectorStore.similaritySearch(SearchRequest.builder().query(prompt).topK(3).build()).stream().map(doc->doc.getContent()).toList();ragContext=String.join("\n",docs);}StringfinalPrompt=useRag?ragContext+"\n用户提问:"+prompt:prompt;returnchatCmpt().user(finalPrompt).advisors(a->a.chatMemory(chatMemory,sessionId)).call().content();}//清空会话历史publicvoidclearSession(StringsessionId){chatMemory.clear(sessionId);}}五、Controller接口(SSE流式,前端EventSource对接)importlombok.RequiredArgsConstructor;importorg.springframework.http.MediaType;importorg.springframework.web.bind.annotation.*;importreactor.core.publisher.Flux;@RestController@RequestMapping("/api/chat")@RequiredArgsConstructorpublicclassChatController{privatefinalChatServicechatService;@PostMapping(value="/stream",produces=MediaType.TEXT_EVENT_STREAM_VALUE)publicFlux<String>streamChat(@RequestBodyChatRequestreq){returnchatService.streamChat(req.getSessionId(),req.getPrompt(),req.getUseRag());}@PostMapping("/sync")publicStringsyncChat(@RequestBodyChatRequestreq){returnchatService.normalChat(req.getSessionId(),req.getPrompt(),req.getUseRag());}@DeleteMapping("/session/{sessionId}")publicvoidclear(@PathVariableStringsessionId){chatService.clearSession(sessionId);}}六、配套RAG文档入库接口(文档向量化)@RestController@RequestMapping("/api/rag")@RequiredArgsConstructorpublicclassRagController{privatefinalVectorStorevectorStore;@PostMapping("/upload")publicStringuploadDoc(@RequestParamStringcontent){Documentdoc=newDocument(content);vectorStore.add(List.of(doc));return"文档入库成功";}}七、扩展模块:Func

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论