论文部分内容阅读
随着高性能处理器技术的发展,存储墙问题为影响处理器系统性能的主要因素之一。处理器速度通常会比存储器的访问速度快两个数量级,当代多核处理器广泛采用基于大容量最后一级共享高速缓存的结构来缩小这一差距。但是适用于小容量私有高速缓存的传统管理策略并不适用于管理大容量最后一级共享高速缓存,它可能引起高速缓存缺失数的增加,触发大量代价昂贵的片外存储器访问。其原因主要有以下两点:首先,小容量私有高速缓存主要强调访问速度,而最后一级高速缓存则强调尽可能多地将数据保留在片内,它更多地受制于片内可用晶体管数量而对访问速度的要求不高。其次,这两种不同类型的高速缓存可见的数据访问流局部性差别非常大。因此,一种能够有效管理大容量最后一级共享高速缓存的管理策略对于当今高性能微处理器而言,显得非常重要。本文重点分析了多核平台下大容量共享最后一级高速缓存管理过程中存在的一些热点研究问题,并提出相应代价较小但是收效较大的解决方案以提高系统性能。本文的主要研究内容与贡献包括:1.消除低重用块和预测访问间隔策略研究。传统的LRU策略严重制约了大容量共享最后一级高速缓存的性能,解决这一问题的方法之一就是优先淘汰低重用数据块以缩小工作集,使得使用频率较高的数据留在片内,以获得较高的命中率提高性能。本文设计了一种被称之为低重用块消除和重新访问间隔预测管理策略。根据最后一级高速缓存中低重用块占用资源时间较长这一特点,该策略通过感知最后一级高速缓存的上一级高速缓存的数据历史访问信息预测出低重用块并将其优先淘汰;并且通过改进的访问间隔预测技术预测出潜在的低重用块并将其优先淘汰。实验表明,对于4核多核处理器而言,TADELRRIP可以将加权加速比平均提高9.14%.2.分治感知管理策略研究。由于不同负载在不同执行时期存在不同访存行为,单一高速缓存管理策略已经无法满足不同局部特性负载的性能需求。当并发执行的线程间存在破坏性干扰时,最后一级高速缓存可能会产生大量的缺失,从而引起多核处理器系统整体性能的下降。本文提出了分治感知管理策略(TADC),该策略将高速缓存组内的资源均分给各个工作负载,各个负载在所分得的资源内管理自己的数据块。在不同的执行时期内,TADC能感知不同负载的不同访存行为,并对它们采取不同的管理策略。实验表明,TADC可以将2核处理器和4核处理器的性能可以分别平均提高7.48%和3.00%。