版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
2026/07/292026年基于自监督学习的药物分子预训练模型汇报人:宁丽娜内容导览01困局与破局药物研发效率困境与自监督学习的破局逻辑02分子表征体系从1D序列到3D结构的六种模态全景03预训练核心范式四大自监督任务与三种训练策略深度解析04前沿模型架构KPGT、Uni-Mol、DrugLLM等2026年最新突破05应用与产业验证虚拟筛选、性质预测到临床验证的落地实践06挑战与未来方向数据瓶颈、可靠性争议与LLM协同新范式困局与破局01传统药物研发的效率困局26亿美元平均投入周期10-15年5000-10000个化合物中仅
1
个获批90%临床失败率效率天花板已现每十亿美元研发资金所能带来的新药获批数量每九年减半——"逆摩尔定律"核心瓶颈深度学习需要大规模标注数据,但药物发现领域有标注的分子数据极为稀缺——这是AI大规模应用的核心瓶颈自监督学习的破局逻辑10%
标注数据=监督学习
100%
标注性能监督学习困境依赖昂贵实验标注单条分子活性数据需
数月
实验验证数据获取瓶颈成本高、周期长,形成药物AI发展的核心瓶颈自监督破局路径自动构造监督信号在
百万级未标注分子
数据上自动构造,零人工标注预训练-微调范式通用结构规律学习+少量标注微调适配下游任务预训练百万级数据学习→编码化学语义向量表示→微调少量标注适配下游分子表征体系021D序列:分子的线性语言SMILES:化学信息学通用语言存储紧凑NLP模型天然兼容语法敏感无法编码空间关系示例苯甲酸C1=CC=C(C=C1)C(=O)OSELFIES:生成任务鲁棒性保障100%语法合法性随机生成即合法分子序列更长存储开销较大适用场景分子生成任务SMILES是化学信息学的通用语言,SELFIES为生成任务提供鲁棒性保障2D分子图:拓扑结构建模"
局限性:无法捕捉三维空间构象,而药物-靶点结合本质上是三维过程
"节点-边抽象原子→节点(类型、电荷),化学键→边(类型、键长)2D分子图显式编码连接关系与键型1D序列丢失拓扑信息适配架构GCN、GAT、MPNN等,分子性质预测表现突出局限性无法捕捉三维空间构象,而药物-靶点结合本质上是三维过程3D几何结构:空间信息革命药物分子的行为本质是三维空间动态过程30-45%水溶性预测误差降低22-37%蛋白结合亲和力准确率提升1.8倍血脑屏障穿透性误判率降低技术突破Uni-Mol等3D预训练模型直接以原子三维坐标为输入,跳过手工描述符设计现实挑战三维构象生成的计算成本仍较高,限制大规模预训练效率2D拓扑表征存在根本性信息缺失,三维空间动态构象决定药效、代谢与毒性VS多模态融合:走向通用表征1D序列2D分子图3D几何结构分子描述符分子相互作用网络文本描述小样本泛化:多模态联合训练有效提升小样本下游任务泛化能力LLM桥梁:分子描述符作为生物医学文本,是通用大语言模型在药物发现中落地的桥梁集成趋势:Transformer与GNN集成作为统一编码器,通过多自监督预训练捕获跨模态跨尺度表征单一模态存在信息盲区,多模态融合是通往通用分子表征的必经之路互补性不同模态各自捕捉分子不同层次的特征,融合后信息更完整一致性同一分子在不同模态中应具有语义一致性,跨模态对齐有助于学习更鲁棒的表征互补性与一致性的统一是多模态融合理论的基石VS预训练核心范式03对比学习与掩码预测对比学习:全局语义一致性原理机制最大化相似分子对表示一致性,最小化不相似分子对距离增强视图子图采样、键扰动构建正样本核心优势全局语义一致性,适用相似性搜索与聚类掩码预测:局部结构规律原理机制随机掩码原子、化学键或子结构片段BERT类比类似掩码语言模型策略核心优势捕捉局部化学环境特征,适用分子性质预测对比学习捕捉全局相似性,掩码预测学习局部结构规律,二者互补多模态匹配与自回归预测多任务集成预训练正成为提升表征通用性的主流策略多模态匹配预测跨模态对齐关系强制模型学习不同模态表示是否属同一分子,建立语义桥梁融合能力增强对多源异质信息的整合特异性权衡可能丢失各模态独有特征自回归预测序列生成分子序列化为token,从前文预测下一token,类似GPTSMILES/SELFIES适用支撑分子生成和逆合成分析任务支撑分子生成与逆合成分析当前趋势:越来越多研究集成多种预训练任务——在对比学习框架中嵌入掩码预测,或在自回归中融入匹配信号,以产生更通用、更鲁棒的分子表征三种训练策略与演进趋势联合训练预训练与下游任务协同优化,预训练任务作为正则化项;端到端学习,但灵活性差,换任务需重新训练无监督表征学习预训练模型作固定特征提取器,仅训练轻量级预测头;缓解灾难性遗忘,适合标注数据极少场景预训练-微调两阶段先大规模预训练获取通用表征,再全参数微调;当前最主流,但全参数微调计算成本高少量参数vs全参数微调性能新趋势:参数高效微调(PEFT)正被引入药物发现——仅更新少量参数即可达到全参数微调性能,大幅提升计算效率前沿模型架构04KPGT:知识引导的图Transformer清华大学曾坚阳团队
·
NatureCommunications
·
~200万
分子预训练规模01LiGhT架构以分子线形图为输入充分利用化学键固有特征弥补传统Transformer对键信息忽略的缺陷02双编码位置注入距离编码+路径编码
双模块协同将分子拓扑结构信息注入多头自注意力层增强几何感知能力03知识引导掩码预测分子指纹等化学知识作为监督标签显式纳入先验知识指导掩码节点预测突破纯数据驱动的局限显式化学知识引导显著优于纯数据驱动的掩码预测—在多项分子性质预测基准上取得
最优性能Uni-Mol:三维坐标驱动的预训练革命3D坐标直接建模是分子表征的下一个范式跃迁输入革新三维原子坐标完全摒弃1D序列和2D图结构,直接以三维原子坐标作为模型基础输入三大核心组件旋转平移不变编码机制原子间欧氏距离替代绝对坐标,高斯核函数处理连续空间信息双路信息传递网络原子级表征与原子对表征并行,动态注意力跨层连接SE(3)等变坐标预测头保证空间变换不变性,实现亚埃级精度DrugLLM:少样本分子优化新范式SichuanUniversity·HuaxiHospital·ChemicalScienceCoverPaperDrugLLM:药物化学家的迭代推理范式核心创新FGT序列压缩将分子表示为化学语义功能基团子单元,序列压缩
53.27%NMP范式定义分子优化建模为连续结构修改序列,模拟资深药物化学家迭代推理少样本能力8个示例3.4万分子训练同等优化效果模拟药物化学家迭代推理是少样本学习的有效路径"设计的
HCN2抑制剂候选分子膜片钳实验抑制活性优于已上市药物伊伐布雷定ClipMol与DreaMS:双视图对齐与质谱解析ClipMol双视图化学语言对齐基于SMILES-InChI,无需三维构象和外部语料双编码器对比学习LSTM-CNN混合编码器,METLIN-CCS上R²=0.911,ALLCCS上R²=0.995冻结编码器验证仅训练回归模型R²仍达0.876,预训练表示已包含丰富结构信息DreaMS自监督预训练1.16亿参数Transformer,在未注释串联质谱上预训练数据规模从7亿原始MS/MS谱图学习,构建含2.01亿谱图的DreaMSAtlas含氟分子预测精度达0.91,远超传统方法SIRIUS基准测试:模型规模≠预测能力"模型是否选对了分子表示,可能比参数量更重要"传统建模的三大挑战样本量有限ADMET、毒性数据稀疏高噪声干扰实验误差与混杂因素类别不平衡阳性样本稀缺经典ML10项领先分子指纹/描述符随机森林、ExtraTrees图神经网络9项领先GNNGCN、GAT、MPNN预训练序列模型3项领先ChemBERTaMoLFormer规模不是通用通行证——分子表示的选择比参数量更关键应用与产业验证05虚拟筛选:从百万库中精准捞针策略:固定预训练模型为特征提取器,仅训练分类头,最小化标注依赖上亿化合物库规模精准制导18个月筛选周期→9至10个月缩短近一半四步流水线01大规模预训练海量无标签分子数据学习深度表征02编码器提取指纹为虚拟库每个分子生成高维表示向量,远超传统ECFP的信息丰度03轻量分类器训练基于已知活性分子训练下游打分模型04全库打分排序输出候选优先级,锁定苗头化合物分子性质预测精度突破预训练模型生成的表示向量本身已携带丰富的化学信息——即使冻结编码器,仅训练预测头也能保持较高性能,证明了预训练表征的内在质量ADMET属性预测0.88F1-scoreDrugBank活性预测IC500.62μMRMSEDUD-E(从0.8μM降至)小样本场景30%+性能提升训练时间减少50%多任务泛化KPGT多项最优MoleculeNet先导化合物优化与药物重定位先导化合物优化预训练模型学习化学空间分布实现条件控制下的分子生成减少约90%的湿实验验证需求优化从"人工调参"转向"语言驱动"结合外部评估工具形成闭环对接评分→QSAR模型→ADMET预测实时反馈核心目标从被动预测走向主动设计药物重定位预训练表征快速评估已上市药物在新靶点的潜在活性已知药物编码为向量与疾病靶点配体进行相似性比对大幅缩短靶点到候选药物周期适用于罕见病与紧急公共卫生事件核心目标从被动预测走向主动设计临床验证与监管落地临床验证三期临床数据读出AI设计的先导药物密集进入三期临床,首次大规模检验能否打破约90%临床失败魔咒早期发现周期缩短AI赋能下已缩短30%至40%临床前开发压缩候选药物开发时间有望压缩至13至18个月审慎态度:有科学评论者指出AI发现的化合物在推进速度上与传统分子并无显著差异监管框架FDA草案指引有望2026年正式落地,要求高风险AI应用提交涵盖模型架构、训练数据及治理机制的详细文档欧盟AI法案生效高风险系统条款将于2026年8月2日生效2026年:AI制药从技术故事走向临床证据的转折之年2026年产业格局与资本趋势80-100亿美元2026年AI药物研发市场规模预测
↑50-70→80-100亿2800万美元BoltzPBC种子轮融资
A16z领投1:50首付款与总交易额比例
业界审慎产业落地深度BlankBioRNA大模型打造RNA基础大模型,被头部药企采用赛诺菲葛兰素史克挑战与未来方向06数据瓶颈与模型可靠性争议数据瓶颈标注数据稀缺每条数据需数月至数年实验验证,极度稀缺且昂贵分布差异显著训练集与真实化学空间分布差异,已知性能难泛化至全新骨架数据固有问题噪声高、类别不平衡等限制模型上限可靠性争议推进速度无显著差异AI发现化合物推进速度与传统分子无异,三期数据或仅证周期缩短规模≠能力基准测试表明模型规模不等于预测能力,规模非通用通行证评估方式被高估随机划分高估能力,业界呼吁骨架划分与结构隔离验证等更严格方式LLM协同与少样本优化LLM协同新范式文献解析LLM解析海量分子-靶点文献,提取语义关系语义增强预训练模型生成结构化分子数据,供LLM进行机制推理闭环构建构建"文献-分子-实验"闭环,向统一框架演进少样本优化突破10个示例即可触发有效分子优化NMP范式分子优化建模为连续结构修改序列,模拟药物化学家迭代推理,开辟少样本学习新方向未来技术演进方向自动化闭环实验"预测-合成-测试-反馈"全闭环迭代自监督预训练模型与自动化湿实验平台深度结合深度结合每次实验后自动更新模型,持续迭代优化预测精度持续优化将传统试错过程转
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 2025年贵阳市乌当区街道办人员招聘考试试题及答案详解
- 2026年阿克苏地区阿克苏市中小学教师招聘笔试参考试题及答案详解
- 2026年白城市洮北区中小学教师招聘笔试备考试题及答案详解
- 2026区块链供应链行业市场深度调查与发展前景与投资空间评估报告
- 个体工商户营业执照申请
- 2026能源巴西电力行业市场现状供需分析及投资评估规划分析研究报告
- 2026食品包装材料抗菌性能研究与市场趋势预测
- 2026及未来5年中国客户调查系统行业发展研究报告
- 2026中国新能源车企全球化布局与海外市场拓展报告
- 2025福建省金皇环保科技有限公司校园招聘22人笔试历年参考题库附带答案详解
- 劳务费发放表模板
- 石材翻新的合同书
- “BIM+无人机”技术在城市轨道交通工程监理中的应用
- 液化石油气安全技术说明书MSDS
- 教学课件 国际结算(第七版)苏宗祥
- 关于回转窑滑移量的技术知识
- 十八项安全管理制度版
- GB/T 2893.1-2013图形符号安全色和安全标志第1部分:安全标志和安全标记的设计原则
- GB/T 19362.1-2003龙门铣床检验条件精度检验第1部分:固定式龙门铣床
- 压槽机说明书
- 《电气工程及其自动化专业英语》课程教学大纲
评论
0/150
提交评论