CN114647372B 存储器系统及其操作方法 （爱思开海力士有限公司）

US2019050648A1,2019.02.14本公开提供了一种存储器系统及其操作方为存储通过对嵌入表进行分区而获得的部分数的每一个获得部分数据条之中与查询相对应的嵌入数据的池化操作，并将嵌入数据提供到主2多个存储器装置，存储通过对嵌入表进行分区而存储器控制器，响应于从主机接收的查询，从所述多个存储器装其中所述查询包括对所述池化操作的请求、主机存储器接收其中所述嵌入表根据类别对所述项进行分类，并且包括其中所述部分数据条中的每一个是通过以所述向量信息条的维度为单位对所述嵌入读取操作控制组件，识别与所述查询相对应的物理地址，并控制所操作组件，通过压缩已经获得的数据条来执行用于生成所述嵌入数据的所述池化操3.根据权利要求2所述的存储器系统，其中所述操作组件对已经获得的数据条的向量4.根据权利要求1所述的存储器系统，其中所述嵌入数据是包括已经获得的数据条的其中所述多个存储器装置中的每一个存储与从所述嵌入表分区的至少一个维度相对多个存储器装置，存储通过对嵌入表进行分区而存储器控制器，响应于从主机接收的查询和嵌入数据，使用所述嵌其中所述嵌入表根据类别对所述项进行分类，并且包括其中所述部分数据条中的每一个是通过以所述向量信息条的维度为单位对所述嵌入权重更新组件，控制所述多个存储器装置更新与所述多个存储器装置的每一8.根据权利要求7所述的存储器系统，其中所述操作组件对所述嵌入数据的向量信息3所述嵌入数据相对应的主机存储器的地址以及与所述多个存储器装置之中的任意一个相其中所述多个存储器装置中的每一个存储与从所述嵌入表分区的至少一个维度相对多个子存储器系统，存储通过对嵌入表进行分区通过使用所述第一查询控制所述多个子存储器系统中的每一个获得所述部分数据条其中所述嵌入表根据类别对所述项进行分类，并且包括其中所述部分数据条中的每一个是通过以所述向量信息条的维度为单位对所述嵌入12.根据权利要求11所述的池化存储器系统，其中所述多个子存储器系统中的每一个多个存储器装置，存储通过对所述嵌入表进行分区读取操作控制组件，识别与所述第一查询相对应的物理地址，并操作组件，通过压缩已经获得的数据条来执行用于生成所述嵌入数据的所述池化操13.根据权利要求12所述的池化存储器系统，其中所述操作组件对已经获得的数据条14.根据权利要求12所述的池化存储器系统，其中所述主机装置通过使用所述第一查置接收所述嵌入数据的地址以及所述多个存储其中所述多个子存储器系统中的每一个存储与从所述嵌入表分区的至少一个维度相16.根据权利要求11所述的池化存储器系统，其中所述主机装置基于从所述多个子存储器系统中的每一个接收的嵌入数据来生成用于更新所述嵌入表4其中所述多个子存储器系统中的每一个响应于从所述主机装置接收的所述第二查询所述多个子存储器系统的每一个中存储的分区数据条相对应的部18.根据权利要求17所述的池化存储器系统，其中所述多个子存储器系统中的每一个19.根据权利要求17所述的池化存储器系统，其中所述主机装置通过使用所述第二查数据相对应的主机存储器装置的地址以及与所述多个子存储器系统之中的任意一个相对存储器装置，存储通过对嵌入表进行分区而获得的部分数据条，所存储器控制器，执行用于生成嵌入数据条的池化操作以及用主机装置，使用从所述多个子存储器系统接其中所述嵌入表根据类别对所述项进行分类，并且包括其中所述部分数据条中的每一个是通过以所述向量信息条的维度为单位对所述嵌入5[0002]本申请要求于2020年12月18日向韩国知识产权局提交的、申请号为10-2020-[0007]本公开的各个实施例涉及一种执行近数据处理(NDP)的多个改进的子存储器系统通过对嵌入(embedding)表进行分区而获得的部分数据条，该嵌入表包括关于已经获取的嵌入数据来执行用于生成分区数据条的去池化(unpooling)操作，并控制多个存储器装置更新与多个存储器装置的每一个中存储的分区数据条相对应的部6[0024]例示了根据本说明书中公开的概念的实施例的具体结构或功能描述仅用于描述[0028]参照图1，池化存储器系统10000可以包括多个子存储器系统1000和主机装置[0029]池化存储器系统10000可以是提供推荐系统服务的装置。推荐系统服务可以是指7通过过滤信息为用户提供个性化信息的服务。池化存储器系统10000可以通过查询用户的[0031]根据本公开的实施例，池化存储器系统10000可以提供具有足够存储器容量并且容量的池化存储器结构来确保足够的存储器容量，并且可以被实施为执行近数据处理另外，池化存储器系统10000可以控制多个子存储器系统1000执行与嵌入操作相关的简单[0032]池化存储器系统10000可以被实施为其中包括的多个子存储器系统1000和主机装过训练操作更新多个子存储器系统1000中[0036]根据本公开的实施例，可以根据主机装置2000的控制来执行与池化存储器系统8储器。主机处理器可以是诸如中央处理单元(CPU)、应用处理器(AP)或数字信号处理器者诸如神经处理单元(NPU)的AI专用处理器。主机存储器可以存储用于提供推荐系统服务2000可以控制多个子存储器系统1000从多个子存储器系统1000中的每一个获得部分数据[0038]主机装置2000可以基于从多个子存储器系统中的每一个接收的数据来生成用于主机装置2000被广播到子存储器系统中的每一个并且被子存储器系统中的每一个利用以可以控制多个子存储器系统1000通过对训练数据进行分区来执行用于生成分区数据条的[0041]子存储器系统1000a可以根据对应于与主机装置2000的通信方法的主机接口而被[0042]子存储器系统1000a可以被实施为各种封装类型中的一种。例如，子存储器系统1000a可以被实施为诸如以下的各种封装类型中的一种：堆叠封装(POP)、系统级封装9[0046]存储器装置100可以从存储器控制器200接收命令和地址。存储器装置100可以被选择的区域的操作。读取操作可以是指存储器装置100从地址所选择的区域读取数据的操[0047]根据本公开的实施例，存储器装置100可以包括存储嵌入表的嵌入表存储器件装置100可以存储通过对嵌入表进行分区而得到的部分数据条。部分数据条可以是通过以向量信息的维度为单位对嵌入表进行分区而获得的数据，并且存储器装置100可以存储与可以包括：主机接口层(HIL)，接收从主机装置2000输入的请求或向主机装置2000输出响[0050]存储器控制器200可以响应于来自主机装置2000的请求而控制存储器装置100执[0052]读取操作控制组件210可以从由主机装置2000广播的查询中识别与查询相对应的物理地址，并控制存储器装置100读取与该物理地址相对应的数据条。响应于从主机装置2000接收的查询，存储器控制器200的读取操作控制组件210可以从存储器装置100获得部装置100更新与通过对嵌入数据进行分区而获得的分区数据相对应的部分数据条。权重更新组件220可以是用于控制存储器装置100将分区数据存储在存储器装置1[0054]操作组件230可以执行用于生成嵌入数据的池化操作或用于生成分区数据条的去[0055]更具体地，响应于从主机装置2000接收的查询，操作组件230可以从存储器装置多个向量整合为单个向量的进程。池化存储器系统10000可以通过池化操作来减小数据的作组件230可以执行用于将嵌入数据分区为多个分区数类为类别而构建的学习模型的一组类别数据条以及类别数据的向量信息条。当向量值(诸可以存储对应于至少一个维度的部分数据。通过在池化存储器系统10000中尽可能并行地[0065]根据图5所示的实施例，多个子存储器系统1000各自存储通过相同数量的维度而[0068]如上面参照图5所描述的，子存储器系统中的每一个可以存储通过以维度为单位存储器装置MD1至MDn中的每一个可以存储对应于至少一个维[0072]参照图7，示出了用于在嵌入表中搜索向量信息条的查找操作以及用于压缩向量于多个存储器装置100并行执行查找操作，因此多个子存储器系统1000可以同时执行查找[0077]更具体地，存储器控制器200可以对向量信息条执行逐元素运算以生成单条向量信息。池化存储器系统10000可以在多个子存储器系统1000的每一个中执行池化操作并且减少从多个子存储器系统1000到主机装置200数据条存储在多个存储器装置100中。嵌入表可以是包括关于已经获取的学习模型的项的向量信息条的表。多个存储器装置100可以存储通过以向量信息条的维度为单位对嵌入表[0081]子存储器系统的每一个中包括的存储器控制器200可以通过使用所获得的数据条获得1至80条数据，并通过对所获得的数据条的向量信息条执行逐元素运算来生成嵌入数[0082]子存储器系统的每一个中包括的存储器控制器200可以将所生成的嵌入数据提供到主机装置2000。更具体地，存储器控制器200可以通过累积嵌入数据条来生成批次[0085]子存储器系统中的每一个可以将通过对嵌入表进行分区而获得的部分数据条存多个存储器装置100可以存储通过以向量信息条的维度为单位对嵌入表进行分区而获得的[0086]子存储器系统的每一个中包括的存储器控制器200可以从主机装置2000接收请求化操作可以用于对数据条的向量信息条彼此[0087]另外，子存储器系统的每一个中包括的存储器控制器200可以控制多个存储器装置100更新与多个存储器装置100的每一个中的分区数据条相[0088]池化存储器系统10000可以向多个子存储器系统1000广播请求更新的查询以及梯存储器系统10000可以使用查询和嵌入数据来训练子存储器系统的每一个中存储的学习模[0089]图10是示出根据本公开的实施例的主机装置2000和子存储器系统1000的通信包表包括关于已经在存储器装置100中获取的学习模型的项[0099]主机装置2000可以控制子存储器系统1000执行用于生成嵌入数据条的池化操上述池化操作可以用于对数据条的向量信息条彼此执行逐元素运算以生成单条向量信息。子存储器系统1000可以向主机装置2000提供所[0100]主机装置2000可以使用从子存储器系统1000接收的嵌入数据条来生成训练数执行用于对从主机装置2000接收的训练数据进行分区的去池化操作，并更新嵌入表的权装置100的数据执行ECC编码。可以通过存储器接口1380将已经执行ECC编码的数据传输到[0109]ROM1360可以用作存储用于存储器控制器1300的操作的各种类型信息的存储单[0110]主机接口1370可以包括用于在主机装置2000和存储器控制器1300之间交换数据[0111]存储器接口1380可以根据处理器1310的控制使用通信协议与存储器装置100通[0112]根据本公开的实施例，可以提供执行近数据处理(NDP)的多个改进的子存储器系