AI大模型在医疗行业的应用方案

AI大模型在医疗行业的应用AI大语言模型CONTENTSAl建设实践一、医疗AI发展历程——效率指标 DEEPSEEK在医院的具体应用数据DEEPSEEK在医院的具体应用数据包括误诊率下降、检查合理性提升、手术室利用率提升以及深静“Deepseek在医院的具体应用数据” ·误诊率下降与检查合理性提升：在某三甲医院试点科室中，通误诊率下降了32%,同时检查合理性提升了45%。这一数据表明，DeepSeek能够显著提高医生的诊断准确性，并优化医疗检查流程1。26%。DeepSeek通过深度强化学习模型预测未来手术需求，优化手术室排程，从而提高了手术室的使用效率1。·深静脉血栓发生率降低：通过DeepSeek的患者风险预警功能，某科室深静脉血栓发生率从3.2%降至0.7%。DeepSeek能够整合患者数据，进行风险评估，并自动触发预防措施，从而有效降低深静脉血栓的发生率1。区第一人民医院等。这些医院通过引入DeepSeek技术，在智慧服务、智慧医疗和智慧管理等方面进行了深入探索，提高了医疗服务效率和患者就诊便捷度23。综上所述，DEEPSEEK在医院的具体应用中取得了显著成效，不仅提高了医疗服务的准确性和效可以问我任何问题在人工智能中，有三大核心要素：算力/算法/数据，目前在医疗行业内都具备了基础。人工智能的身体人工智能的身体人工智能需要不断在算法进行数据迭代算力决定了迭代的效率型的算力需求，是的部署成本降低，使得更多开源+政策算法数据算法数据人工智能的粮食，数据决定了效果的上限，算法逼近这个上限DeepSeek引领“国产高性能+开源生态+低成本“Al应用新路径，加速Al技术普惠和客户泛化，推动大模型应用生态走向繁荣DeepSeek将全行业原来聚焦以训练为中心的竞争拉到了以推理为中心的竞争格局，带来资本支出、芯片、基础设施架构到应用开发范式的巨大变化，在同等效果的基础上，本地模型部署后的推理成本降低一个数量级。√必须使用高端GPU卡，英伟达垄断，供货受限对芯片性能要求不高，可使用英伟达GPU或者国产卡算法层优化以提升推理性能和效果算力投入√训练算力增速慢，未来从70%降至推理算力增速快，未来占比从30%提升到70%自建算力中心或云上训练，成本极高，只有极少大厂能玩得起成本极低，广大中小企业能直接以极低价格享受到最领先的模型服务√持续高投入迭代模型千行百业投入开发各种AI应用现有相对现有相对成熟场景-持续更新面向患者报告解读指标解读档案生成面向医护面向管理辅助诊断知识查询病历生成麻醉评估报告生成科研探索诊后随访处方审核风险预测数据上报运营分析路径分析报表分析智能门诊分诊智能门诊分诊人工智翼智能智能辅全策生诊床疗智智能辅助智能辅助承想医承想医辅用能助药能智能预问智能预问诊医院管理后能辅智助能成历人工智后能辅智助能成历人工智询能理能质智量能理疗询能理能质智量能理疗控疗理务等陪诊随陪诊随访智能耗材智能二二人智能健康管理智能健康管理慢性病监传停智慢性病监传停智理院健智康能理医理能服心漏能补疫种苗评健智估康能风职设智管医理疗病智能康能病智能康能物流物流理年理年层公卫服层公卫服务长发育分析韶遗传疾痴查与测消毒机器人韶遗传疾痴查与测消毒机器人决经智策济能支管医持理院理勤能手术机器人配送机器人手术机器人配送机器人老学成源学虚教验能拟育能学评临智价床能评临智价床能辅综药斯临智生药掘能斯临智生药一、医疗AI发展历程——部署方式本地部署大模型云端模型API数据安全性数据不出内网，隐私保护强需上传数据至第三方，存在泄露风险初期投入成本需购置硬件及部署资源，成本较高按需付费，无硬件投入运维复杂度需专业团队维护升级供应商负责维护，开箱即用响应速度本地网络延迟低依赖网络稳定性模型定制化能力可针对医疗场景深度优化通用模型，定制受限合规适配性符合医疗数据本地化政策需审核供应商合规资质一、AI在医院应用——优势点精准诊断：AI快速分析影像、病理和患者病史，辅助医生发现早期病变或复杂病情，提高诊断准确性和效率。减少误诊和漏诊：通过Al的辅助，可以降低人为判断的误差，尤其是在影像识别、病理分析等领域。优化治疗方案：通过Al的辅助，可以降低人为判断的误差，尤其是在影像识别、病理分析等领域。2.优化医疗资源减轻医护人员负担：AI可自动化处理大量重复性工作，如病历整理、影像初筛、报告生成等。优化资源配置：AI实现智能分诊和资源调度，合理分配医疗资源，减少患者等待时间，提升医院运营效率。应对老龄化挑战：AI可以帮助医院更高效地服务老年患者，提供远程医疗和健康管理支持。3.降低医疗成本减少医疗错误：AI可以降低因人为疏忽导致的医疗事故，减少不必要的医疗支出。提高资源利用效率：通过A预测疾病发展趋势和患者需求，医院可以更合理地规划资源，避免浪费。推动预防医学：AI可以通过健康监测和疾病预测，帮助患者早期干预，降低治疗成本。4.改善患者体验智能导诊与分诊：AI可以根据患者的症状推荐合适的科室和医生，减少患者盲目就医的情况。全程伴诊服务：通过AI虚拟助手提供挂号、就医指引、报告解读等服务，提升患者就医便利性。个性化健康管理：AI可以根据患者的病情提供术后康复指导、用药提醒等，增强患者满意度。一、AI在医院应用——优势点5.推动医学研究与创新数据挖掘与分析：Al能够从海量医疗数据中提取有价值的信息，助力医学研究、药物开发和临床试验。加速科研进程：AI可以快速分析复杂数据，缩短科研周期，推动医学领域的创新。教学与培训：AI可以模拟复杂病例，为医学生和年轻医生提供实践培训，提升教学效率。6.慢病管理及防控慢性病管理：AI可以长期监测慢性病患者的健康状况，及时预警异常情况，降低并发症风险。疾病预测与防控：Al通过分析流行病学数据，预测疾病爆发趋势，帮助医院和公卫部门提前制定防控措施。7.国家发展趋势政策支持：许多国家和地区出台政策鼓励医疗Al的发展和应用，医院建设Al是顺应政策导向的必然选择。技术驱动：AI技术正在快速成熟，医院引入AI可以提升竞争力，吸引更多患者和优质资源。患者需求变化：AI技术可以帮助医院满足患者对高效、精准、个性化医疗的需求。8.提升医院管理效率智能化运营：AI可以帮助医院优化排班、库存管理、设备维护等运营环节，提高管理效率。数据驱动决策：通过AI分析医院运营数据，管理者可以更好地制定战略决策，提升医院整体绩效。AI大语言模型二、AI大语言模型——核心技术采用自注意力机制(Self-Attention),能够并行处理输入序列，捕捉上下文关系。预训练与微调预训练：在大规模无标注文本数据上训练模型，学习语言的基本规律。微调：在特定任务(如分类、问答)上对模型进行进一步训练，提升任务性能。训练数据通常包括书籍、网页、新闻、社交媒体文本等，覆盖多种语言和领域。二、AI大语言模型——典型产品美国AI基础大模型竞争已经收敛，呈现3+1+1格局2024年3月2024年7月2024年8月正在谈判微软聘用了InflectionAl大部分员工，并支付了6.5亿美元App日活破百万，估值285亿人民币amazon团队来自OpenAl和谷歌AI团队2023年筹集两轮总计4.15亿美元，估值超10亿美元character.ai团队来自谷歌，主要产品为虚拟聊天机器人，MAU超1000万，当前估值超10亿美元曾有10亿美元估值、创造出明星企业，资金链断裂美国Al基础大模型竞争格局：3+1+1GPT-4o/V闭源大模型：Gemini1.5多模态：变色龙ChameleonxAl二、AI大语言模型——典型产品中国没有百模大战，也没有十模大战ZHIPU·Al模型应用出的Transformer模型台零—-专注“模应一体”,优产品●●Source:ILeaderboardTop20(2025年1月)二、AI大语言模型——快慢思考大模型中的“快思考”与“慢思考”:理解AI的两种思维模式近年来，大型语言模型Q(LLMs)取得了惊人的进展，它们不仅能生成流畅的文本，还能进行简单的推理和对话。当我们惊叹于Al的智什么是“快思考”与“慢思考”?过程可以分为两个系统：。例子：解决复杂的数学问题、撰写详细的报告、学习新的技能等。二、AI大语言模型——快慢思考快思考VS.慢思考，从基础模型到推理模型长期训练后)无意识的思考代表性-基础模型人类思考的两种模式代表性-推理模型训练时间扩展(train-timescaling)数据/参数规模两种促进性能提升V.S.二、AI大语言模型——两大类别慢思考推理技术DeepSeekDeepSeek-R1-Zero··RL算法：GPRO·Rulereward:Accuracyreward+Formatreward·格式：简单提示+<think>+<answer>·训练持续了8000+steps·产生了较为明显的类人思考过程类比：给学生一本练习题书，没有求解过程和提示，但是有正确答案，让他反复自我尝试，从而提升做题能力AconversationbetweenUserandAssistant.Theuserasksaquestion,andtheAssistantsoTheassistantfirstthinksaboutthereasoningprocessinthemindandthenprovide<answer></answer>tags,respectively,i.e.,<think>reasoni<answer>answerhere</answer>.User:prompt.Assistant:Question:Ifa>1,thenthesumoftherealsolutionsof√a-va+x=xisequaltoResponse:<think>Tosolvetheequation√a-√a+x=x,let'sstartbysquaringboth…Rearrangetoisolatetheinnersquarerootterm:(a-x²)²=a+x=a²-2ax²+(x²)²=a+x=x⁴-2ax²-x+(a²-a)=0Wait,wait.Wait.That'sanahamomentIcanflaghere.Westartedwiththeequation:Va-√a+x=xstha-sthNext,Icouldsquarebothsidesagain,treatingtheequation:…不到600万美金意味着什么?DeepSeek-V3(671B)TrainingCostsTrainingCostsSFTDeepSeek-R1-Zero("coldstart")dataTable1|TrainingcostsofDeepSeek-V3,assumingtherentalpriceofH800is$2perGPUhour.Trainwith"coldstart"dataRLwithaccuracy,format,RLwithaccuracy,format,andconsistencyrewardsSFT(knowledge)dataSFTSFT(knowledge)dataSFT(CoT)dataRLwithrule-basedverification(math,code)andhumanpreferenceDeepSeek-V3costsonly2.788MGPUhoursforitsfulltraining.AssumingtherentalpriceoftheH800GPUisS2perGPUhour,ourtotaltrainingcostsamounttoonly$5.576MtheaforementionedcostsincludeonlytheofficialtrainingofDeepSeek-V3,excludingthecassociatedwithpriorresearchandablationexperimentsonarchitectures,algorithms,ordata.Llama3&QwenLlama3&Qwen2.5DeepSeek-R1DeepSeek-R1-Distill-Qwen(1.5B-32B)DeepSeek-R1-Distil-Llama(8B&70B)预训练：14.8*180=2664K(H800GPU小时)十上下文长度扩展：119K(H800GPU小时)十后训练：5K(H800GPU小时)2美元/H800GPU小时0训练回滚2788K*2=557.6万美金14.8万亿token训练数据每1万亿token训练耗费180KH800GPU小时隐隐性二、AI大语言模型——两大类别DeepSeek出圈带来的大模型心智突破，将加速算力需求爆发性行业/专有模型智能算力Agent应用需求爆发DeepSeek击穿全社会大模型心智促使工程创新及后训练需求涌现deepseekPostTraining为业务装上“大脑”为大模型装上“五官四肢”心智：效果好、开源、便宜MoE、MLA、MTPSFT、RL等智能算力大规模增长国产GPU需求被激活二、AI大语言模型——误区Al落地的常见误区既不是神话既不是神话企业/个人：认为大模型是通向未来的钥匙，可以解决所有问题碳基生命只是硅基生命的一段引导程序SpaceX&TeslaCEOElonMusk也不是笑话也不是笑话企业/个人：向基模咨询行业/特定领域问题，得到低质量答复后，便不再认可Al很像一个“盲人摸象”的故事，只是基于概率统计的“Guess题，得到低质量答复后，便不再认可Al很像一个“盲人摸象”的故事，只是基于概率统计的“GuessMachine”企业大模型场景高效益实现，有一系列的事情要着手高质量数据收集精细化数据标注多模态数据对齐数据向量化模型微调PromptAgent流程编排二、AI大语言模型——三大挑战大模型场景落地的三大挑战认知挑战场景挑战能力挑战大模型是万能的，任何事情都可以做?大模型跟过去的技术并没有太大革新?企业在大模型中主要着手哪些领域?不同行业有哪些适合大模型改造场景?大模型只适用于文档对话场景?大模型场景价值可以发挥到什么程度?如何选择基模?如何搭建智能体?智能体如何与企业应用适配?如何能构建匹配的组织与人才?二、AI大语言模型——建议大模型落地的行动建议适合的云平台、MaaS适合的云平台、MaaS工具、基模构建相应Agent智能体应用4.持续运营大模型应用与企业战略保持一致大模型应用与企业战略保持一致AII评估落地优先级与配套能力②配套解决方案三、AI建设实践-省中医院AI建设框架结合AICP平台搭建671BAICP管理面SKE容器服务群业务网络管理网络过程管理模型优化模型加密存储网络存储网络管控面和数据面支持单节点或多节点部署，形成高可用。理超融合集群和AI集群，为用户提供通算和智算·简单易用：提供简单易用的UI界面，提供向导化、低门槛、可视化的大模型开发和部署流程，使得不具备AI专业知识的人员，也能够进行大模型微成标准化容器，按照资源需求，实现一键式快速·平滑扩展：单节点GPU服务器起步，按需扩展，与超融合节点形成通算、智算、存储和网络全集成，一站满足AI应用需求安全安全GPT干流代码copilot病人助手虚拟医生AI应用开发平台AI应用开发平台共服务SCP共服务SCP云管服务群SKE容器服务异构算力资源管理模型仓库数据管理训练管理模型服务训练优化模型压缩推理优化资源管理过程管理模型优化AICP算力平台模型加密业务K8业务K8SClusterin裸金属(BM)SCP云管管SKE容器管控SCP云管管SKE容器管控VM控VM国际厂商GPUCPUNetwork国内厂商NPU国内厂商GPUCPUNetworkAICP:实现AI基础设施资源调度、训练/推理过程管理、模型优化、模型安全能力的算力平台，●提供模型运行态加密能力，使得加AICP:实现AI基础设施资源调度、训练/推理过程管理、模型优化、模型安全能力的算力平台，能力。私有化部署AI建设实践-算力统一管理通过深信服AICP平台对模型硬件配置使用情况，进行监控；实现算力资源的统一管理，医院只需关于业务效果一朵云全新上线!数据集管理模型仓库模型训练模型优化模型服务数据集管理模型仓库模型训练模型优化模型服务在线体验平台管理热热门调用榜调用失败榜江苏省中医院满血大模型异常快捷入口模型训练对大模型进行预训练、微调，使模型更加精确模型训练对大模型进行预训练、微调，使模型更加精确创建数据集创建训练任务算力池x86-x86-jsszyy显存使用已用8张已用1.01TB总共8张总共1.1TB邑邑存储使用已用1.66TB总共2.95TB模型优化对训练后的模型进行压缩或对训练后的模型进行压缩或加密，优化资源保障安全创建压缩任务创建加密任务模型部署模型部署对训练后的模型进行一键部署，投入业务使用创建模型服务NvidiaH200最新任务全部蹼型全部状态模型服务江苏省中医院满血大模型◎成功已完成模型服务的部署，可通过在线体验验证模型服务可用性操作日志查看更多◎admin提交创建云原生网关实例任务算力池：04-1014:20:16◎admin更新模型服务算力池：x86-jsszyy03-2120:05:32AI建设实践-大小模型混合部署三深信服云计算平台本地数据中心三深信服云计算平台本地数据中心AI算力平台模型仓库模型仓库>棱型仓库DeepSeek-Coder-V2-Lite-Instruct私有DeepSeek-Coder-V2-ite-Instrut⑧模型训练邱模型优化回模型服务@在线体验⊙平台管理>>描述是否压宿模型仓库V1导入应功DeepSeek-Co..否模型优化选填公共◎私有请选择Q搜索关键字Qwen2x-7BChatglm4-9BDeepseek-671BQwen2.5-32BQwen2x-72BYi1.5-34BBaichuan2-7BDeepseekCoderV2Lite-14BLLaMA3.1-70B川Baichuan2-13B私有百2-13BQwen2.5-32B私右通文千问QwQ-32B7B-Instruct私有适义千问25-7B-Instruct72B-Instruct私有通义千间2-728-IrtrutAI建设实践-向导化训练和微调基于业务场景需求，依赖AICP平台自身能力，实现向导化训练配置和一键化微调，降低模型开发难度，聚焦业务自身。深信服深信服Al算力平台山数据集管理2请填写任务名称BaichuanBaichuan2-13BV10×86-jsszyyQwen2.5-32B7B-Instruct×86-jsszyy查者建议取消数擺集数擺集比数据集uznen_oata比数据集闻、需要磺型将其多标签分类到可能的….Nvidia训练资源池张张AI建设实践-API安全加固AICP平台提供API服务接口，供ISV软件厂商进行调用。平台不仅提供API认证、鉴权的基础能力，而且叠加了平台自身的应用防护能力，保障API调用的安全性。深信服云计算平台本地数据中心深信服云计算平台AAI算力平台山数据集管理模型服务>服务详情(江苏省中医院满血大模型)状态：◎运行中①异步批推理优化中一朵云全新上线!白圆中文在线体验□编辑模型及版本：bf8_V1推理模式：高性能模式admin模型仓库⑧模型训练模型优⑧模型训练模型优化>基础信息自定义模型名：JSSZYY-DeepSeekR1-671B在线体验⊙平⊙平台管理实例数：1个网关实例数：1个异步批推理：已开启多机推理：未开启单实例算力NvidiaH2F数多机推理：未开启高级配置自定义系统prompt:·数据回流：未开启自定义系统prompt:·温度：0.6重复惩罚：1.2推理引摩置enableprefixcachingtrueenableprefixcachingtrueAI建设实践-模型服务应用监控模型服务三模型服务>服务详惰(江苏省中医院满血大模型)江苏省中医院满血大模型状志：运行中③异步批推理优化中模型及版本：6f8V1推理模式：高性能模式江苏省中医院满血大模型配置信息服务实例监控日志>近24小时业务监控调用量2025-04-0913:28:15-2025-04-1013:28:15曲QPSV⑤12:0014:00资源监控[实例名称1J20:0020:00:0022:0022:00:00首字符时延应用场景问答助手运营分析问答助手运营分析智控管理数据模块模型仓库异构算力资源管理nVIDIA国际厂商GPU提示工程容器引擎Ascend国内厂商NPU智能导诊ISV应用承载报表分析企业知识库workflow编排训练自动化推理优化高性能网络CPUCPU国内厂商GPU评估优化模型加密分布式高性能存储Network通过Aipaas工具，目前进行了初步智能体构建尝试，包含了智能RAG应用、简易对话和智能系统设置全部状态挂号员工工作流Agent智无介绍ID;cs40762d-5646-492c-94.9智能RAG暂无介绍ID;eb954a13-8591-4a约-b2.□·未发布疾病专家智能RAG皆无介绍ID:3a7d151:6a45-47e-91d.·未发布江苏省中医院问答简易对话全部智能RAG简易对话工作流Agent工作流AgentID:abeld6b4-3d20-4291-b1.9ID:a329ece1-003a-4f8a-920...0ID:a7ede912-24cf-49ae-a46..9ID:1d235079-585a-4169-9