CN112052943B 电子装置和执行该电子装置的操作的方法 （三星电子株式会社）

US2018046903A1,2018.一种用于电子装置执行人工智能模型的操以及通过使用所获得的数据执行神经网络模型2在用于神经网络模型的操作的多个数据存储在电子装置的存储基于所述二进制数据的比特顺序重新对齐所述量子化的基于所获取的资源信息，在重新对齐的参数值当中选择性地获其中，所述用于电子装置的硬件的资源信息包括电子装置的进制数据的每个比特的顺序使用多个神经网络处理单元来执行矩通过参照其中定义多个调度模式的查找表获得将用于神经网络模型的操基于所述二进制数据的比特顺序重新对齐所述量子化的基于用于电子装置的硬件的资源信息，在重新对齐的参数值当中选择其中，所述用于电子装置的硬件的资源信息包括电子装置的34[0002]本申请是基于2019年6月5日在韩国知识产权局提交的韩国专利申请第10-2019-[0004]近来，通过使用硬件来实现人工智能模型(例如深度学习模型)的研究正在持在通过使用硬件来实现人工智能模型的情况下，可以极大地提高人工智能模型的操作速例如减少操作数据的量用以减少操作延迟和功耗用量或计算资源的消耗，因此在设备上人工智能(on-deviceartificialintelligence)[0007]本公开的实施例提供了减少人工智能模型的数据容量同时使人工智能模型的性存储器中的所述多个数据中的每个的重要程度获得所述多个数据之中的将用于神经网络5[0018]图4是示出根据一实施例的包括多个处理单元的用于神经网络操作的部件的框[0019]图5是示出根据一实施例的针对每个比特顺序将量子化的参数值存储在存储器中[0020]图6是示出根据一实施例的针对每个比特顺序将量子化的参数值存储在存储器中6彼此不同的重要程度的多个数据可以包括例如用于神经网络模型的操作的量子化的矩阵可以针对多个量子化的矩阵中的每个包括分别具有彼此不同的重络模型的操作的分别具有彼此不同的重要程度的[0031]在矩阵的参数值被量子化的情况下，全精度值的矩阵的参数值可以被转换成k个[0036]为了满足[公式1]的条件，作为示例，可以使用交替算法(例如交替多比特算法)7[0040]在通过使用贪婪算法将矩阵的参数值量子化为k个数量的比特的情况下，可以通过使用[公式2]来计算[公式1]中k个数量的比特的第一二进制数据种神经网络模型中的每个的重要程度来调整神经网络模型[0052]此外，在不必费力针对每个神经网络模型考虑量子化的比特的最佳数量的情况系统(SoC)(例如设备上人工智能(AI)芯片)、大规模集成(LSI)、或现场可编程门阵列理器120可以基于用于电子装置100的硬件的资源信息根据存储在存储器110中的所述多个8数据中的每个的重要程度来获得在所述多个数据之中的将用于神经网络模型的操作的一处理器120可以获得所述多个数据之中的将用于神经网络模型的操作的二进制数据的数[0055]当获得将用于神经网络模型的操作的一些数据时，处理器120可以通过使用所获个神经网络处理单元的情况下，处理器120可以基于二进制数据的每个比特的顺序使用多[0057]图2的框图被包括在其中的电子装置100可以包括例如通过使用硬件执行神经网[0058]用于通过使用硬件的神经网络推理的矩阵的参数值可以例如处于通过使用贪婪是第二处理器(其是处理器120的另一子处理器)的功能块。第一处理器是负责第二处理器于每个神经网络模型的操作的量子化的比特的数量。查找表可以存储在处理器120的只读[0063]调度器210可以首先确定用于根据请求指令以高于一定水平的准确程度执行推理[0064]将通过图3中的调度语法更详细地描述调度器210确定用于每个神经网络模型的9[0067]自适应控制器220可以控制处理单元240和直接存储器存取控制器230，从而执行化的参数值至第N比特的量子化的参数值通过自适应控制器220的控制被依次提供给处理[0069]处理单元240可以通过使用从存储器110接收的输入值和量子化的参数值来执行[0072]在图3中，调度语法的定义部分310可以预先定义：‘运行模式’(Execution[0074]在图3中，while条件句320可以考虑到硬件资源根据当前调度模式和最大操作成时，调度器210可以从查找表获取在当前硬件条件下将用于每个神经网络模型的量子化的[0076]图4是示出根据一实施例的用于包括多个处理单元的神经网络操作的部件的框[0077]在图4中，在处理器120的操作区域中有空闲空间的情况下，多个处理单元241至提供在处理器120中。在这种情况下，可以通过使用多个处理单元241至244来执行并行操对于输入值和第二量子化的比特执行操作，第三处理单元243可以相对于输入值和第三量[0080]在使用多个处理单元241至244的情况下，自适应控制器220可以控制多个处理单单元241至244的操作以及神经网络操作的延迟进一步考虑到处理器的功耗来确定调度模[0082]图5是示出根据一实施例的针对每个比特顺序将量子化的参数值存储在存储器被有效地读取并被发送到多个处理单元241至24[0088]可以已将用于神经网络模型的操作的具有彼此不同的重要程度的多个数据存储化的矩阵的参数值可以包括通过使用贪婪算法量如，电子装置100可以参照在其中定义了多个调度模式的查找表来获得用于神经网络模型的操作的一些数据。电子装置100可以获得所述多个数据之中的用于神经网络模型的二进[0091]在图7的操作705中，电子装置100可以通过使用所获得的一些数据来执行神经网经网络模型可以例如被实现为至少一个设备上芯片并被提供在电子装置100上，或者可以子装置100可以获取与硬件有关的资源信息，并基于所获取的资源信息来确定所述多个神络模型的推理的准确性或操作速度根据优先级来确定至少一个[0093]根据本公开的实施例，电子装置100可以从外部装置下载所述多个神经网络模型外部装置。当外部装置基于所获取的资源信息向电子装置100发送至少一个神经网络模型减少电子装置100的内部资源的消耗或与用于与服务器的通信的网络资源的消耗，并为推[0096]处理器120通过使用存储在存储器110中的各种程序来控制电子装置100的总体操[0099]第一接口125-1至第n接口125-n与上述各种部件连接。接口之一可以是通过网络[0100]主CPU123访问存储器110，并通过使用存储在存储器110中的操作系统(OS根据存储在ROM122中的指令将存储在存储器110中的OS复制到RAM来启动系统。当启动完成时，主CPU123将存储在存储器110中的各种应用程序复制到RAM[0102]图形处理器124通过使用操作部分和渲染部分来生成包括诸如图标、图像和文本的各种对象的屏幕。操作部分基于接收到的控制指令根据屏幕的布局来操作诸如坐标值、[0105]存储器110可以存储用于神经网络模型的操作的多个数据。所述多个数据可以包能模型、量子化的人工智能模型或用于量子化人工智能模型的量子化模块(例如贪婪算法[0107]通信器130是根据各种类型的通信方法与各种类型的外部装置执行通信的部件。处理器120通过使用通信器130与各种外部装用Wi-Fi芯片131或蓝牙芯片132的情况下，首先发送和接收诸如服务集标识符(SSID)或会合作伙伴计划(3GPP)和长期演进(LTE)的各种通信标准执行通信的芯片。NFC芯片134是指使用诸如135kHz、13.56MHz、433MHz、860～960MHz和2.45GHz的各种RF-ID频带之中的括的矩阵、或量子化的矩阵中的至少一个的参数值，并将接收到的数据存储在存储器中[0110]用户界面140接收各种用户交互。用户界面140可以根据电子装置100的实现示例[0114]本公开的实施例可以被实现为包括可由机器(例如计算机)读取的一个或更多个指可在销售者与购买者之间交易的产品。计算机程序产品可以作为机器可读的存储介质[0117]用于执行根据实施例的机器的处理操作的计算机指令可以被存储在非暂时性计可读介质是指半永久地存储数据并可由机器读取的介质，而不是指短暂