CN113837375B 用于多尺度深度平衡模型的系统和方法 （罗伯特·博世有限公司）

US2020161005A1,2020.05.21ShaojieBai,etc.DeeModels.33rdConferenceonNeu种用于分类和训练神经网络的计算机实现的方利用针对变化分辨率的上采样或下采样来融合2在神经网络处接收输入，所述输入是图像，其中所述输入包括针对所述多个分辨率输入的每个对应分辨率2.根据权利要求1所述的计算机实现的方法，其中输出所述损失是响应于仅利用单个4.根据权利要求1所述的计算机实现的方法，其中所述分辨率输入包含不同大小的像6.根据权利要求1所述的计算机实现的方法，其中对应于所述多个分辨率输入的最高7.根据权利要求1所述的计算机实现的方法，其中对应于所述多个分辨率输入的最低8.根据权利要求1所述的计算机实现的方法，其中所述多个特征张量的融合在单个层9.根据权利要求1所述的计算机实现的方法，其中12.根据权利要求11所述的计算机实现的方法，其中所述方法包括通过下采样或上采13.根据权利要求11所述的计算机实现的方法，其中所述多个分辨率输入是所述图像15.根据权利要求11所述的计算机实现的方法，其中所述方法包括应用组标准化来对16.根据权利要求11所述的计算机实现的方法，其中所述方法包括响应于利用后向传317.根据权利要求11所述的计算机实现的方法，其中所述方法包括利用针对每个对应针对所述多个分辨率输入的每个对应分辨率利用平衡求解器来响应于所述多个特征张量4过程可以在前向传递中找到不动点z*。第三个挑战可能是定义后向传递来求解用雅可比[0003]过去用于计算机视觉任务的深度学习方法通过具有以特定分辨率组合特征并逐此DEQ模型可能具有在网络中的中间点进行下平衡求解器从所述多个特征张量标识一个或多个预测向量以将输入据的输入接口和与输入接口通信的处理器。处理器被编程为在神经网络处接收输入数据，率输出多个特征张量，利用对于变化分辨率的上采样或下采样来融合所述多个特征张量，5[0017]图11描绘了图1的控制系统的示意图，该控制系统被配置为控制成像系统，例如[0019]在先前的DEQ模型中，定义具有不动点的函数可以通过使用网络结构来启发性地于不动点存在的正式保证。对于寻根过程，DEQ可以使用非线性Broyden方法，该非线性Broyden方法也不保证找到根（即使存在根或不动点）。此外，后向传递可以使用类似的[0020]具有隐藏层z和激活层f的深度神经网络，使得对于i=0,1,2,…,L，zli*1]=6z*z*[0023]图1示出了用于训练神经网络的系统100。系统100可以包括用于访问神经网络的[0024]在一些实施例中，数据存储装置190可以进一步包括神经网络的未训练版本的数练数据192和数据表示194也可以各自例如经由数据存储接口180的不同子系统从不同的数器子系统160可以被配置为除了其他操作之外尤其通过以下各项来执行前向传播部分：定7[0025]图2示出了用于训练神经网络的计算机实现的方法200。方法200可以但是不需要网络，其中神经网络的提供包括提供迭代函数作为神经网络的层堆叠的替代物，其中被替代的层堆叠的相应层具有相互共享的权重，并且接收前一层的输出作为输入，或者对于层堆叠的第一层，接收初始激活和层堆叠的输入的一部分。方法200进一步被示出为在题为该训练230可以包括前向传播部分和后向传播部分。通过方法200执行前向传播部分可以在迭代函数收敛到不动点，其中确定平衡点包括使用数值寻根算法来找到迭代函数减去其输[0029]1.初始化内存zll。[0030]2.定义函数g:z⃞f(z,8,c)-z。[0031]3.调用子例程z'=RootFind(1z-g2),zl0)。8[0034]1.定义函数g:z⃞f(z,9,c(x))-z的前向传递序列和后向传递序列的基础上。MDEQ模型中的超参数可以包括n，分辨率的数序排列）和（隐藏状态具有与相同的大小）。对于每个分辨率9[0052]虽然原始的DEQ具有带有单个张量z的内部状态，但是MDEQ状态包括在n个分辨率[0054]不同的张量305中的每一个具有不同的维度和不同的分辨率。照此，平衡求解器部状态。因为系统正在执行寻根，所以系统不需要使多分辨率张量向量化。张量的集合Z=[z1,…,z1]可以维持为n个张量的集合，其相应的平衡状态可以被求解并同时后[0056]现有的隐式模型假设损失317是在具有统一输入和输出形状的隐式隐藏状态的单[0058]因为批量标准化可能不直接适合用于隐式模型，因为它用softplus替换残差块和多尺度融合二者中的最后一个ReLU。这些以后可能切换回到是批量标准化。下面，在分辨率i下的残差块可以形式上表述如下，其中对于每个分辨率图。变换的特征经历从当前尺度i到不等于i的每个其他尺度j的上采样或下采样。在[0068]图5描绘了在计算机控制的机器10和控制系统12之间的交互的示意图。计算机控制的机器10可以包括如在图1-4中所述的神经网络。计算机控制的机器10包括致动器14和感测计算机控制的机器10附近的环境的光学图命令20传输到计算机控制的机器10的致或多个处理器。存储器32可以包括一个或多个存储器设备。一个或多个实施例的分类器24和存储器32。[0075]非易失性存储装置26可以包括一个或多个持久数据存储设备，诸如硬盘驱动器、体现一个或多个实施例的一个或多个ML算法和/或方法的计算机可执行指令。非易失性存多种编程语言和/或技术创建的计算机程序编译和/或解译的数据，所述多种编程语言和/或技术在没有限制的情况下并且单独或组合地包括Java、C、C++、C#、ObjectiveC、统12实现如本文公开的一个或多个ML算法和/或方法。非易失性存储装置26还可以包括支[0078]体现本文描述的算法和/或方法的程序代码能够以多种不同的形式作为程序产品[0081]图6描绘了被配置为控制载具50的控制系统12的示意图，载具50可以是至少部分[0082]载具50的控制系统12的分类器24可以被配置为取决于输入信号x检测在载具50附[0083]在载具50是至少部分自主载具的实施例中，致动器14可以体现在载具50的制动[0084]在载具50是至少部分自主的机器人的其他实施例中，载具[0089]图8描绘了控制系统12的示意图，该控制系统12被配置为控制具有至少部分自主[0090]电动工具150的传感器16可以是光学传感器，该光学传感器被配置为捕获工作表置为根据一个或多个捕获的特性来确定工作表面152的和/或紧固件154相对于工作表面紧固件154相对于工作表面152的确定状态或工作表面152的一个或多个捕获特性来调整。[0092]传感器16可以是光学传感器和/或音频传感器。光学传感器可以被配置为接收用[0093]自动化个人助理900的控制系统12可以被配置为确定致动器控制命令20，该致动18来确定致动器控制命令20。自动化个人助理900被配置为将传感器信号18传输到控制系统12。控制系统12的分类器24可被配置为执行手势识别算法以标识用户902做出的手势被配置为物理地控制通过门252的访问。传感器16可以被配置为检测与决定是否准许访问[0095]监视系统250的控制系统12的分类器24可以被配置为通过匹配存储在非易失性存以被配置为响应于图像和/或视频数据的解释而生成致动器控制命令20。控制系统12被配器或计算机执行的数据和指令，包括但不限于永久存储在诸如ROM设备的不可写存储介质已经被描述为在一个或多个期望的特性方面提供了优于其他实施例或现有技术实现的优他实施例或现有技术实现相比不太合期望的程度上，这些实施例不在本公开的范围之外，