CN115759205B 基于多模型协作对比学习的负样本采样方法 （华南理工大学）_第1页
CN115759205B 基于多模型协作对比学习的负样本采样方法 （华南理工大学）_第2页
CN115759205B 基于多模型协作对比学习的负样本采样方法 （华南理工大学）_第3页
CN115759205B 基于多模型协作对比学习的负样本采样方法 （华南理工大学）_第4页
CN115759205B 基于多模型协作对比学习的负样本采样方法 （华南理工大学）_第5页
已阅读5页，还剩15页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

US2018357501A1,2018.12.13基于多模型协作对比学习的负样本采样方法本发明公开了一种基于多模型协作对比学2)每个对比学习模型在自身特征空间使用潜在合挑选难负样本作为最终参与对比学习训练的负样本集合。本发明通过引入多个模型协作采22)每个对比学习模型在各自的特征空间内计算锚点样本与候选负样本集合的相似度，然后使用潜在正样本识别算法从候选负样本集合中3)结合不同模型挑选的潜在正样本集合得到最终正4)使用难负样本挖掘算法从初步的负样本集中挑选难负样本作为最终参与对比学习为了确保不同的对比学习模型最终能学习到数不同对比学习模型使用不同的数据增强变换，数据增强方不同对比学习模型在构建过程所使用的网络层参数和初始化方为了进一步确保不同对比学习模型提取出来的特型间的特征多样性约束，即计算不同对比学习模型的特征编码器提取的特征之间的相似similarity式中，min是指最小化右边等式的值，Loss是所有similarity2.1)给定锚点样本和候选负样本集合，每个模型32.2)通过借助潜在正样本识别算法，每个模型分别式中，K"Largest(s,n,k)是用来计算输入序列s.a中第k大的值，S,a表示第i个模型得到锚点样本与所有候选负样本的相似度序列：nc表示锚点样本与一个候选负样本的相似度。步骤4)中，难负样本挖掘算法是指从初步的负样本集合中挑选出跟锚点样本很相似的样4.2)将所有负样本的最终相似度分数从大到小进行降序排序，将排序占比前β的负样45[0007]2)每个对比学习模型在各自的特征空间内计算锚点样本与候选负样本集合的相[0009]4)使用难负样本挖掘算法从初步的负样本集中挑选难负样本作为最终参与对比6[0014]不同对比学习模型使用不同的数据增强变换，数据增强方法包括随机裁剪大小、similaritysimilarityji7[0027]式中，K"Larges(s,a,k)是用来计算输入序列s,a中第k大的值，S,q表示第i个模型得到锚点样本与所有候选负样本的相似度序列：为模型的总数量，将最终正样本集合从候选负样本集合中剔除便可得到初步的负样本集合之间的相似度均值作为锚点样本和每个负样本的最[0039]4.2)将所有负样本的最终相[0043]3、本发明每个模型在采样过程中通过与其它模型的合作过程中学习到其它模型8[0051]z;=H("((x),[0054]不同对比学习模型使用不同的数据增强变换，数据增强方法包括随机裁剪大小、similaritysimilarity9i[0067]式中，K"Largest(s,a,k)是用来计算输入序列s,a中第k大的值，S,a表示第i个模型得到锚点样本与所有候选负样本的相似度序列：样本集合的并集。将最终正样本集合从候选负样本集合中剔除便可得到初步的负样本集[0075]4)使用难负样本挖掘算法从初步的负样本集中挑选难负样本作为最终参与对比之间的相似度均值作为锚点样本和每个负样本的最[

人人文库> 全部分类> 行业资料 > 信息产业

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论