CN115640052B 用于图形处理器中多核多流水线并行执行优化方法 （金陵科技学院）

US2022075622A1,2022.03.10用于图形处理器中多核多流水线并行执行本发明提供用于图形处理器中多核多流水处理核单元同时发射多条指令进入流水线乱序括GPU处理内核部分多个内核的所执行的单指令多数据线程(SIMDthread)发射过来的多条无依Arithmeticlogicalunit)或执行单元一直处于忙碌工作的状态，从而达到乱序并行执行指2步骤3、根据不同流水线的执行粒度以及指令源数据通道数量要求拆分指令请求并读步骤5、响应于所述读取请求返回的数据携带有可执行粒度请求的最后一笔数据标记步骤1包括：并行流水线首先需要对从图形处理器的N个34进行周期计数。图中横向为执行的周期时长，纵向展示了执行4个流处理核(Stream5[0021]步骤1包括：并行流水线首先需要对从图形处理器的N个流处理核(通常为2或4个射过来的相同外部处理单元相关处理指令(为非处理核编号和优先级信息放入指令检索队列。[0023]步骤3包括：指令流水线内根据获取的指令索引信息，读取指令并在内部进行拆可执行标记分别发送给各个独立核中的数据存储器去获取相[0024]步骤4包括：指令流水线内的指令请求拆分单元主要用于将需要执行的读取源操6再与请求控制读取的源数据一起发送给请求执行子单计算所需的与流水线的特定功能相关算术逻辑运算器。如作为特殊数学功能函数进行计[0030]本发明的优点及显著效果为：(1)多核发射出来的多条指令分别进入不同流水线提高不同核间的并行性，达到乱序的目的。(4)不再依赖指令的小粒度请求发射粒度并执[0031]下面结合附图和具体实施方式对本发明做更进一步的具体说明，本发明的上述7[0032]图1为本发明设计的多核发射指令进入相同流水线示意图，采用轮询策略交替发[0033]图2为传统串行设计读取源操作数和执行流水线执行效果示意图，绿色区域为读[0041]本发明提出用于图形处理器GPU中的多核多流水线并行执行的乱序执行优化方处理核均发射纹理采样指令进入纹理处理单元(通单元)执行。所述纹理采样指令主要用于从应用程序给定的纹理图像中，根据像素点的坐令包括GPU处理内核部分多个内核的SIMDthread发射过来的多条无依赖关系的指令进入8索引和该执行粒度的executegranularitylast请求执行终止信号。对于sample和load/store指令还需要根据数据或地址通道channel不同，读取多个通道的源数据source度请求的最后一笔数据标记信号，则说明该可执行粒度请求executegranularity的所有行资源是由各种资源收到的顺序来保证顺序，因此指令内的请求request一定是按顺序执[0050]由于传统设计方法均为收集齐单条指令的所有数据才能执行，因此图8中上部分连续大块绿色部分区域为读取和收集齐整条指令发出去的操作数数据。当操作数准备就图8黑色矩形区域标识了第二条指令由核1上发射出来并完整执行的过程。依次执行下去，横向区域则最终使用的周期数为执行完当前连续多条指令使用的时长。图8中展示了交替[0051]需要注意的是每次执行10条指令的周期数并不一定相同，可能为图8中的90个周9指令的部分主要是前面小部分读取操作数部分会占用时间，当四个核同时读取操作数时，读取操作数的周期部分将会大量与执行流水线执行部分周期重叠，这就是隐藏延迟的效同数量的相同的指令执行的整个生命周期比传统送给各个独立核中的通用数据寄存器文件等数据存储器去获取相应的操作[0069]步骤4包括：指令请求拆分单元也会同时向数据缓冲区申请需要存放的返回数据行，此时在步骤3中根据可执行请求的粒度划分。多操作数将会在数据接收缓冲中完成[0076]如图9所示，本实施例的具体指令在拆分成各个小粒度处理请求的执行过程流程提供的用于图形处理器中多核多流水线并行执行优化方法的发明内容以及各实施例中的[0078]本领域的技术人员可以清楚地了解到本发明实施例中的技术方案可借助计算机方案本质上或者说对现有技术做出贡献的部分可以以计算机程序即软件产品的形式体现