片上多核处理器二级Cache结构及资源管理技术研究

1、片上多核处理器二级Cache 结构及资源管理技术研究处理器与内存之间访问速度差距日益增大，有效组织和利用片上Cache 资源以减少片外存储访问对于提升处理器性能至关重要。随着多核处理器的普及和半导体工艺的进步， 芯片将集成更多的核， 给二级 Cache结构设计带来更大的压力和挑战。当前主流多核处理器采用基于LRU替换策略的共享或者私有二级Cache结构设计。然而，单一的共享或者私有Cache 结构设计不能有效权衡容量与访问延迟。共享 Cache 结构能够有效利用资源，但是全局线延迟导致较慢的访问速度；私有 Cache 结构通过数据复制获得较快访问速度，但是容量限制导致较多的访问失效。此外，受组

2、相联度、应用等因素的影响，LRU替换策略与理论最优替换策略之间的性能差距日趋增大。针对上述问题，本文深入研究了多核处理器中二级Cache资源的组织与管理机制，提出一种基于全局替换策略的可变相联度混合Cache结构模型，研究基于存储访问需求变化的动态容量划分与组均衡管理机制，并提供低功耗与可扩展优化。论文的创新点如下： 1. 提出面向 CMP的可变相联度混合Cache结构 CMP-VH。CMP-VH将二级 Cache划分成一种优化的私有 / 共享结构， Tag 私有，数据部分私有部分共享。 CMP-VH基于数据块的重用信息进行全局替换，并支持核间容量划分以适应不同应用存储访问需求的变化。使用 S

3、imics 模拟器搭建 8 核片上多处理器平台， 对 SPLASH并行程序负载的模拟实验结果表明，在相同总容量前提下，CMP-VH结构下的平均二级Cache失效率与传统共享Cache结构接近，比传统私有Cache结构降低约 23.37%。 2. 提出基于数据项动态分配的容量划分技术VH-PAD。VH-PAD根据各个核的容量需求进行资源分配，包含初始化、重划分和回退三个阶段。初始化阶段赋予每个核相同数目资源；重划分阶段基于当前划分容量的饱和程度评估容量需求以指导容量划分；回退阶段基于当前占用容量判断是否撤销重划分阶段操作。VH-PAD通过控制共享数据项资源的动态分配实施核间容量调整。在Simic

4、s搭建的模拟平台上使用PARSEC基准程序进行实验，发现在相同总容量前提下，VH-PAD机制下的平均二级Cache失效率比传统私有Cache结构降低约 41.33%。3. 提出基于概率控制的容量划分技术 VH-PS。 VH-PS根据各个核的资源利用率进行资源分配， 使用概率控制各个核对共享资源的竞争能力， 从而实现核间容量划分。VH-PS提供一种性能监控机制评估各个核在增加一定容量后可以获得的失效率增益，并以此为基础赋予各个核不同等级的使用共享资源的概率。通过提升失效率增益大的核的概率等级，降低失效率增益小的核的概率等级，达到降低总失效率目的。VH-PS中的概率控制可以采用伪随机数或者PSR比

5、例实现。在 Simics 搭建的模拟平台上使用PARSEC基准程序进行实验，发现在相同总容量前提下，与传统私有 Cache结构相比，采用伪随机数实现的VH-PS下的平均二级 Cache 失效率降低约 46.78%；采用 PSR比例实现的 VH-PS下的平均二级 Cache失效率降低约43.05%。4. 提出基于 Tag 组饱和度的组均衡管理技术。由于 CMP-VH中私有 Tag 阵列限制最大组相联度与最大可用容量， 本文提出核内、 核间两种 Tag 组均衡管理机制。将 CMP-VH中的替换分成 Tag 项主导替换与 Data 项主导替换两类，并使用Tag 项主导替换数目评估每个组的饱和程度，允许饱和度高的组使用核内或者核间相应饱和度低的组中资源。 在 Simics 搭建的模拟平台上使用PARSEC基准程序进行实验，发现在相同总容量前提下，与基准CMP-VH结构相比，核内组均衡机制的平均二级 Cache 失效率降低约 11.04%，核间组均衡机制的平均二级Cache失效率降低约 18.94%。5. 提出异构可变相联度 Cache 结构 HV-Way Cache及异构可变相联度混合Cache结构模型 CMP-VHR。HV-Way Cache使用异构 Tag 阵列优化 V-WayCache结构，以降低面积、功耗等开销。同时，为了适应未来众核处理器对低功耗与可扩展性的要求，使用异构Ta