CN119404177A 用于内插基于寄存器的查找表的系统和方法 （超威半导体公司）

2024.12.06PCT/US2023/0679572023.06.06WO2023/240051EN2023.12.14用于内插基于寄存器的查找表的系统和方法所公开的用于内插基于寄存器的查找表的计算机实现的方法可以包括在一组寄存器内识别已经被编码以存储在该一组寄存器内的查找2通过从存储在所述一组寄存器中的所编码查找表内插请求值的表示来响2.根据权利要求1所述的计算机实现的方法，所述计算机实现的方法进一步包括通过减小所述查找表的大小以适合所述一组寄存器内可用相对于表示所述中间范围值的所述位的数量，分配更少4.根据权利要求1所述的计算机实现的方法，其中所述查找表包括具有机器学习函数5.根据权利要求1所述的计算机实现的方法，其中所述一组寄存器包括所述计算设备6.根据权利要求1所述的计算机实现的方法，其中内插所述请求值的所述表示包括在7.根据权利要求1所述的计算机实现的方法，其中内插所述请求值的所述表示包括在物理存储器，所述物理存储器包括计算机可执行指令，所述通过从存储在所述一组寄存器中的所编码查找表内插所述请求值的表示来响应所述9.根据权利要求8所述的系统，其中所述计算机可执行指令在由所述至少一个物理处减小所述查找表的大小以适合所述一组寄存器内可用相对于表示所述中间范围值的所述位的数量，分配更少315.一种非暂态计算机可读介质，所述非暂态计算机可读介质包括一个或多个计算机可执行指令，所述一个或多个计算机可执行指令在由计算设备的至少一个处理器执行时，通过从存储在所述一组寄存器中的所编码查找表内插所述请求值的表示来响应所述16.根据权利要求15所述的非暂态计算机可读介质，其中所述一个或多个计算机可执行指令被编程以使所述计算设备通过以下方式对所述查找表进减小所述查找表的大小以适合所述一组寄存器内可用17.根据权利要求15所述的非暂态计算机可读介质，其中所述查找表包括具有机器学18.根据权利要求15所述的非暂态计算机可读介质，其中所述一组寄存器包括所述计19.根据权利要求15所述的非暂态计算机可读介质，其中内插所述请求值的所述表示20.根据权利要求15所述的非暂态计算机可读介质，其中内插所述请求值的所述表示4[0006]图2是根据一个或多个具体实施的减小查找表的大小以适合有限寄存器空间的方[0007]图3是根据一个或多个具体实施的基于寄存器的查找表系统的示例框图，该基于[0008]图4是根据一个或多个具体实施的用于内插基于寄存器的查找表的示例系统的框[0009]图5是根据一个或多个具体实施的用于内插基于寄存器的查找表的示例方法的流存储大小精确地或近似地计算任意数值函数的5[0014]有助于加速这些操作的机制(如本公开的具体实施所提出的)可以提高训练和推本公开的具体实施可以以各种方式(包括利用例如的位的数量并且减小查找表的大小以适合该一组寄存器内可用的位的数量来编码查找表。[0018]在一个或多个具体实施中，查找表可以包括具有机器学习函数的代表性输出的组寄存器中的所编码查找表内插请求值的表示6通过从存储在该一组寄存器中的所编码查找表中内插请求值的表示来以结合内插单元106利用查找表104来生成复杂的基于机器学习的操作的查找表104的内容来计算或近似任意函数的结果(由于程序员可以用他们想要的任何东西[0024]因此，为了使查找表104适合传统硬件系统的位限制，基于寄存器的查找表系统个采样点来维持精确的内插/近似。这种具体实施对于机器学习中使用的许多数值函数来可以结合顶部区域204a和底部区域204b中表示的值使用三个最高有效指数位(除了符号位7[0027]在一个或多个具体实施中，基于寄存器的查找表系统102可以取决于寄存器索引206展示了基于寄存器的查找表系统102如何通过利用索引到那些查找表中的寄存器中不排列。[0029]概括地说，利用诸如沿着表206顶部列出的位排列的查找表是那些对感兴趣的值的典型范围使用较高精度的查找表，而利用诸如沿着表206左手侧列出的位排列的查找表在一个或多个具体实施中，小输入查找表302可以使用五个位用于查找表索引查找(例如，2个字节(对8如，分别对应于小输入查找表302和大输入查找表304的LUT1和LUT2)指定保存查找表的寄的查找表系统102可以通过使用x值计算XLO和XHI(例如，两个最接近的x值对应于查找表索[0039]在一个或多个具体实施中，基于寄存器的查找表系统102利用内插单元通过使用查找步骤未使用的尾数位中的一些尾数位来执行该内插。由于输入源寄存器(src)中有32[0040]在一些具体实施中，基于寄存器的查找表系统102可以基于指令操作数中编码的[0042]图4是用于内插基于寄存器的查找表的示例系统400的框图(例如，上述基于寄存9储器440通常表示能够存储数据和/或计算机可读指令的任何类型或形式的易失性或非易[0045]如图4所示，示例系统400还可以包括一个或多个物理处理器，诸如物理处理器430。物理处理器430通常表示能够解释和/或执行计算机可读指令的任何类型或形式的硬通过确定接收值之间的中间值来生成内插值。例如，内插模块408可以确定接收值的平均件不需要都存在来实践本文所述和/或所示的具体实施。上面提到的设备和子系统也可以[0052]图5是用于内插基于寄存器的查找表的示例计算机实现的方法500的流程图。图5所示的步骤可以由任何合适的计算机可执行代码和/或计算系统(包括图4中的系统400)来已经被编码以存储在一组寄存器内的查找表。识别模块404可以以任何合适的方式执行步加地或另选地，识别模块404可以响应于对任何其他合适类型的函数的输出的请求来识别组寄存器中的所编码查找表内插请求值的表示来响应请求。内插模块408可以以任何合适[0057]另选地，内插模块408可以通过在查找表内识别请求值的精确表示来内插请求值更高的吞吐量)比传统操作具有相对较低的硅成本和对机器学习精度的可接受的影响。直接从寄存器执行内插还可以降低功耗(例如，与加速[0061]本文所述和/或所示的工艺参数和步骤顺序仅作为示例给出，并且可以根据需要不一定需要以所示出或讨论的顺序执行。本文所述和/或所示的各种示例方法也可以省略[0062]尽管在此已经在全功能计算系统的上下文中描述和/或示出了