CN118364088B 基于rag和llm技术的医学文献智能问答系统和方法 （金叶天成(北京)科技有限公司）_第1页
CN118364088B 基于rag和llm技术的医学文献智能问答系统和方法 （金叶天成(北京)科技有限公司）_第2页
CN118364088B 基于rag和llm技术的医学文献智能问答系统和方法 （金叶天成(北京)科技有限公司）_第3页
CN118364088B 基于rag和llm技术的医学文献智能问答系统和方法 （金叶天成(北京)科技有限公司）_第4页
CN118364088B 基于rag和llm技术的医学文献智能问答系统和方法 （金叶天成(北京)科技有限公司）_第5页
已阅读5页，还剩16页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

楼甲1号红庄国际文化保税创新园区基于RAG和LLM技术的医学文献智能问答系本发明公开了一种基于RAG和LLM技术的医学文献智能问答系统和方法。系统包括embedding模型和GPT大模型；embedding模型由索的方法筛选出k条与用户提问最接近的答案作的效率，实现大语言模型在医学领域的应用实2嵌入层：将所述ID序列映射为固定维度的词向量，所述词向量由单词向量表示、token在序列中的位置信息、成对句子区分词向量Eeesg;输出层的处理步骤为：提取最后一个编码层的输出向量输入一个词向量表示、token在序列中的位置信息通过训练学习得3步骤2：Embedding模型预训练数据准备：预训练数用户输入问题query，将问题query前拼接instruction，使用Embedding模型将将问题向量与知识库的知识向量计算余弦相似度，按照相似度由高到低排序知识向将用户满意的信息作为正例，不满意的信息作为反例，迭代优化embedding模型的检索效果。4[0001]本发明一种医学文献智能问答系统和方法，尤其涉及一种基于RAG(Retrieval_AugmentedGeneration)和LLM(LargeLanguageModel)技术的医学文献智能问答系统和[0003]在过去几年中，人工智能和自然语言处理技术取得了显著的进步。特别是，GPT[0009]嵌入层：将所述ID序列映射为固定维度的词向量，所述词向量由单词向量表示Eword_embedding、token在序列中的位置信息Eposition_embedding、成对句子区分词向量[0010]Eoutput＝Eword_embedd5[0027]一种用于技术方案一所述智能问答系统的embedding模型训练方法，包括以下步[0035]进一步，在微调模型时，为检索任务的查询添加了instruction指令，并使用了6[0044]用户输入问题query，将问题query前拼接instruction，使用Embedding模型将[0057]嵌入层：将所述ID序列映射为固定维度的词向量，所述词向量由单词向量表示Eword_embedding、token在序列中的位置信息Eposition_embedding、成对句子区分词向量outputword_embeddingposition_embeddingsegment_embeddingoutputword_embeddingposition_embeddingsegment_embedding78[0078]步骤4：Embedding模型微调数据准备：微调数据需要整理为文本对形式，例如提升语义向量在多任务场景下的通用能力，在微调中为检索任务的查询添加了instruction，对于英语，指令是”Representthissentenceforsearching模型在测试样本的准确率和MRR指标评估模型9[0099]步骤7：根据大模型结果调整prompt模板，

人人文库> 全部分类> 行业资料 > 信息产业

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论