CN114444679B 二值化输入模型的量化方法及系统、计算机可读存储介质 （山东产研鲲云人工智能研究院有限公司）_第1页
CN114444679B 二值化输入模型的量化方法及系统、计算机可读存储介质 （山东产研鲲云人工智能研究院有限公司）_第2页
CN114444679B 二值化输入模型的量化方法及系统、计算机可读存储介质 （山东产研鲲云人工智能研究院有限公司）_第3页
CN114444679B 二值化输入模型的量化方法及系统、计算机可读存储介质 （山东产研鲲云人工智能研究院有限公司）_第4页
CN114444679B 二值化输入模型的量化方法及系统、计算机可读存储介质 （山东产研鲲云人工智能研究院有限公司）_第5页
已阅读5页，还剩20页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

本发明公开了一种二值化输入模型的量化将所述模型参数的相邻层进行等价放缩得到缩决了现有技术中二值化输入模型量化过程精度损失的问题，降低模型精度损失且提高运行速2获取各通道图像数据，计算各图像通道的均值并对对应通道中的行所述二值化输入模型的量化程序时实现权利要求1-5任一特征在于，该二值化输入模型的量化程序被处理器执行时实现权利要求1-5任一所述的方3实的场景中，但是随之而来的是模型巨大的参数量和计算量给模型部署带来了不小的挑[0003]目前训练好的神经模型大都是基于一种float32的浮点数据类型，为了让神经模4[0021]在一实施例中，所述在根据所述二值化权重和二值化激5网络模型输出分布不均衡导致量化精度损失严重的问题，实现了二值化网络模型均衡分[0039]图4为本发明二值化输入模型的量化方法的第一实施例步骤S111的一个细化流程[0040]图5为本发明二值化输入模型的量化方法的第一实施例步骤S120的一个细化流程[0041]图6为本发明二值化输入模型的量化方法的第一实施例步骤S130的一个细化流程[0046]本领域技术人员可以理解，图1所示的二值化输入模型系统的硬件结构并不构成对二值化输入模型系统的限定，二值化输入模型系统可以包括比图示更多或更少的部件，6[0049]可以理解，本发明实施例中的存储器1200可以是易失性存储器或非易失性存储器，或可包括易失性和非易失性存储器两者。其中，非易失性存储器可以是只读存储器读存储器(ErasablePROM，EPROM)、电可擦除可编程只读存储器(ElectricallyEPROM，连接动态随机存取存储器(SynchlinkDRAM，SLDRAM)和直接内存总线随机存取存储器[0052]参照图2，图2为本发明二值化输入模型的量化方法的第化为灰度图像，所述灰度图像也称为灰阶图像，灰度图像中每个像素可以由0(黑)到2557[0061]步骤S1112，对通道图像进行反色处理以及直方图均衡处理以增强图像整体对比[0067]在本实施例中，将均衡处理后的输入图像的二值化数据89w2乘以一个scale对角矩阵来恢复结果。程序时实现如上所述的二值化输入模型的量化方法的各个步骤，且能达到相同的技术效法所采用的计算机可读存储介质都属于本申请所欲保护现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定[0098]这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一

人人文库> 全部分类> 行业资料 > 信息产业

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论