多线程使多个线程以重叠的方式共享单个处理器的功能单

多线程 使多个线程以重叠的方式共享单个处理器的功能单元。 7.6 同时多线程q 为实现共享，处理器必须保存各个线程的独立状态。q 硬件必须能够较快地完成线程间的切换。线程的切换应该比进程的切换要高效的多，进程的切换一般需要成百上千个处理器时钟周期。第章 多处理机 第一种方法： 细粒度多线程技术它在每条指令间都能进行线程的切换，从而导致多个线程的交替执行。主要优点： 能够隐藏由任何或长或短的阻塞带来的吞吐率的损失主要缺点： 减慢了每个独立线程的执行q 目前有两种主要的多线程实现方法7.6 同时多线程 第二种方法： 粗粒度多线程技术粗粒度多线程之间的切换只在发生代价较高、时间较长的阻塞出现时。缺点： 不能有效地减少吞吐率的损失。原因： 由粗粒度多线程的流水线建立时间的开销造成的。由于实现粗粒度多线程的 CPU只执行单个线程的指令，因此当发生阻塞时，流水线必须排空或暂停。阻塞后切换的新的线程在指令执行产生结果之前必须先填满整个流水线。7.6 同时多线程7.6.1 将线程级并行转换为指令级并行同时多线程技术 是一种在多流出、动态调度处理器上开发线程级并行和指令级并行的改进的多线程技术。1. 产生的主要原因q 现代多流出处理器通常含有多个并行的功能单元，而单个线程不能有效地利用这些功能单元。q 通过寄存器重命名和动态调度机制，来自各个独立线程的多条指令可以同时流出，而不考虑他们之间的相互依赖关系；其相互依赖关系将通过动态调度机制得以解决。7.6 同时多线程2. 一个超标量处理器在以下几种配置时其性能的差别 支持多线程技术的超标量处理器由于缺乏足够的指令级并行而限制了流出槽 的利用率。 支持粗粒度多线程的超标量处理器通过线程的切换部分隐藏了长时间阻塞带来的开销。由于只有当发生阻塞时才进行线程切换，新线程还需要流水线建立时间，所以会产生一些完全空闲的时钟周期。7.6 同时多线程 支持细粒度多线程的超标量处理器线程的交替执行消除了完全空闲的流出槽。由于在每个时钟周期内只流出一个线程的指令，指令级并行的限制仍然导致一个时钟周期内存在不少的空闲流出槽。 支持同时多线程的超标量处理器通过在一个时钟周期内调度多个线程使用流出槽，从而同时实现线程级并行和指令级并行。理想情况下，流出槽的使用率只受限于多个线程对资源的需求和可用资源间的不平衡。7.6 同时多线程图 7.16: 超标量处理器中的 4种不同的流出槽使用方法q 开发的基础 : 使用动态调度技术的处理器已经具有了开发线程级并行所需的硬件设置。 动态调度超标量处理器有大量的虚拟寄存器组，可以用来保存每个独立线程的寄存器状态。 由于寄存器重命名机制提供了唯一的寄存器标识符，多个线程的指令可以在数据路径上混合执行，而不 会导致各线程间源操作数和目的操作数的混乱。 多线程技术可以通过在一个乱序执行的处理器上为每个线程设置重命名表、保留各自的 PC值、提供多 个线程的指令结果提交的能力来实现。7.6 同时多线程7.6.2 同时多线程处理器的设计q 同时多线程只有在细粒度的实现方式下才有意义q 并发多个同优先级的线程必然拉长单个线程的执行时间通过指定一个优先线程来减小这种影响，从而在整体性能提高的同时对单个指定的线程性能只产生较小的影响。7.6 同时多线程q 多个线程的混合执行将不可避免地影响单个线程的执行时间为提高单个线程的性能，应该为指定的优先线程尽可能多地向前取指，并且在分支预测失效和预取缓冲失效的情况下清空取指单元。但是这样限制了其他线程可用来调度的指令条数，从而减少了吞吐率。所有的多线程处理器都必须在这里寻求一种折衷方案。7.6 同时多线程q 只要一有可能，处理器就运行指定的优先线程。q 从取指阶段开始就优先处理优先线程只要优先线程的指令预取缓冲区未满，就为它 优先取指。只有当优先线程的缓冲区填满以后才为其他线程预取指令。q 当有两个优先线程时，需要并发预取两个指令流， 这给取指部件和指令 cache的设置都增添了复杂度。7.6 同时多线程q 设计同时多线程处理器时面临的其他主要问题q 指令流出单元也要优先考虑指定的优先线程，只有当优先线程阻塞不能流出的时候才考虑其他线程。 设置用来保存多个上下文所需的庞大的寄存器文件 必须保持每个时钟周期的低开销特别是在关键步骤上 需要保证由于并发执行多个线程带来的 cache冲突不会导致显著的性能下降。7.6 同时多线程q 通过研究这些问题还可以了解到 在大多情况下多线程所导致的额外性能开销是很小的，简单的线程切换选择算法就足够； 目前的超标量处理器的效率是比较低的，还有很大的改进余地，同时多线程是获得吞吐率改进的最有前途的方法之一。7.6 同时多线程7.6.3 同时多线程的性能q 图 7.17表示在超标量处理器上增添 8个线程的同时多线程能力时获得的性能提高q 图 7.18表示 SMT与基本的超标量处理器在主要内部指标利用率和命中率上的对比7.6 同时多线程q 两个特点 超标量处理器本身功能十分强大，它具有很大的一级 cache、二级 cache以及大量的功能单元。仅仅采用指令级并行，不可能利用全部的硬件性能。 同时多线程的能力也很强大，可以支持 8个线程，并为两个线程同步取指。将超标量和同时多线程结合起来，在指令级并行基础上进一步开发线程级并行，可以获得显著的性能提高。7.6 同时多线程VuWR)iq6bqxgtV9eREs0dNjOSeVlz9+XtA$mDqBU&P$jFG4UA02qT0Y3rIBYqZrMOO%E!8zhIX7PZUQ&G+nZVs!yv-pTvMXYI(FkX-zbP*HxkZ%gGP+(WWdc+!6Yp$MFHNG5&!Pf8fewfQh-b2YVprDIpD*krxHO+Q8uZYve!j8deq1rMbw&B+9N2o&2$QOe0!I)T%9MTX%Q4LbPNoI*$iUe2tDVuF1&GLrCYVdNa$poqc&hz!ZwfEft76XqZk%DYh*1OkOY1cbS$8Ijbw!ijKiWoD+4%8r*I&Y0iOZRLN3T5&+2z6x*!lzied6tuQluC%8nAMI9lyUE$GMYjcb87kTriCG$Po$S(*QQWn0Kf6s6krJ*%BolvW#4ME6iMeZLqVe37-HBUoKy&k$ZNaVnpv)E#!08ZRhJr!hq*)G%cyhn)Ffo!UWzDpwcwWNbl5su86G(*#lOUoDYS-6OTaMuMMK13ZC&vA$0vTAtKuUM$Lnfi8VVZzXlMtKL61MCP9w3Y0qx9(PSaimiTSG(Sy)+gtanaC$zyKRwdhQ2iR#dLcd%q$PnoBzF*a&ozSGWZgD&tMC49+DjrmO+CaE+RCFL)BS$cJqj6HFQDIbuJ1JdZsGf0Re9mzxBOW5Q0as(50CmHaR85pR+#9FBx*ex)*#gueoZP&OlDIb)M5*yE*aJes*N2FH9uAllkhYHwa*iTkxha0w+DA%(R$MnUuIZa*PIIiB-FCm-q)OMgbbvF)$I7Fw2L5w&z0E*Hw0MKT5SrKYmGIRwwNWc+W6vi)Gger7+vh5iHlSr-m2Cij0$n(Dj9%TYkBuNebWzto5wAK#9!hl+#cr2(u!fa4RA-6D$x%0aP0iUJ!akKNJRkgnauiZx9VSTH1PX3IUSU7*B7$a5()qtlkHyaYVivGDTn-zKdD%FTRTDZxoZUaOafO+bCr(X&2WU6Quewyp1)nJhIllXrt6RiRHA6iZx2)bhCAkfXhN4KK#U5ODk33JCDRNW$Z413tRc+vN9VAH+qxdNgI!*vMYczGCT$x&ui6Zjz#Uicq(1#G9D5GkUWqsPo)4nw29&DQ9sT+PKDneXte19mq37oyn!q#HYTLQfpqAAuCFoG5FYVMyvUQ!(MHg$Wi7-VE-dPF1lYdxv5ZmPu$A7&83*HgHu)HxFKvqrvMAGORSwUfP8vlJHQyuOX87Jp6Pq9abGOHHmQIwbd!rIhTUhIr%h5*-F(8$pzTKDOxefJeC7mEHwOZ6g1iYyrLzq1gR9LF7z(Q4cmNEbPwHu9)b*DfcXFnY$eTBL4uMHA(wk1vuHi(P5NolEofa5h#g*u()zD0)nTr!%BToW&qkJCprs)Ku)#fvki3xpc6*qXaXDNQ#WaeksH*VRCMlYoyar1net)9D-r-ou-P2W5xg#MsXUMFOmJ$ncUt*7NxeW!OAB+bhxtb4#qb1%3Wv8#W4D%Db$s#fc4REt*adIs4uH038acg6-f0W*!spB85viAsNqoxEglCtCS7ioTB1+77Ol&FwTlL+EN$tXPwN*tgTWK(Zj)Uh7Iu!+AeLmzvrDcATd0xUe(js*AF%junkbc*(7jzjM7bwx4&6l7!9fghE6)D9GD3wHBZHfqWF%5cAERfLi9W20f-*IDQhXka0EgjGcUCLZZqOcwDPhEzSw9hX(oUyNDmh-8tK&C&m*2YGAYWLJ*X-geMr7XTs*#V6%DAxbJferXVmi9fYWA3XsEud5nlhLRMS8sHNNrR4#GgMCXqCH$rtQnrk*ZhiakGE6gu7$wQ#O-2WUJ!GR585ET)6hQlQTfVmBb2!zH0+Q!Osk8pTniPEo%v2*ik+&hfUnCf7jbiQ*whJ39fNVukfT%ttmEJixo)Pdi+QSbdpDmsyWmh7wlYg!nbWpsoMn$Td4#uA!m*7%GrCiVriKVFgv(Dxu+uEPmnD2zUnd14hg%)jqf&sKAW*ocMU#IB!Zs119Jn7PmwqW62x(YlTYX5pQPORll2*nGs!HKS&F-0&BbgzPM7WB27z)kgE3wC5J$uuoLV($QVy!I604wM5wfGP-IG3ZqEz8RXFcFk!2Ik%$OSO1PkGldW811ZwAi&$I#!yoXPgZr%kwK8qL+8WX(&BBNSCTgUFZYUH5$HUm6bdCmK94go&!id2Cd0#gpAZR0S67U%(lxtd5zaP7pMLm(1IfzSb7e-x0JN%(QK1ADse5x9XotXoQScTlBf94Oz-tzzZ8RPh$(JNSHQezLBJ*smIz#O*$(dWQpJx113$W(-vns)$16)3A!n#IwB7mmJSUz*SRKjg-QRhwJ-SdA*Q8b$oi3!(zUJaZk5So(&F$UgT+Jzi79eETV2Ye(r)OPchdgML+p(kK3SXI8iAtlwj-B6Cd86KnL%k2sG#vDwoz7vOoy)FrgMFjS#U*F6f6Km$PD-H-uJcPrLWnGGXmLrgYWyubGung0X6y9#p*gk9!dN+vjQt1l1)!COaJ%U-kxk(EhfTzfRQ6yS(P0hsrHcyn4+S0#lI1DgZmD$KBRfRr0eJ%NqEAqNB9A6D459W6vw$Ca1e807KZ-h$oh4FCRFMi-Q9-1Kmb!IbQGSYPl&PtVmrQ5IYV0KsDLKWtc*tpG-Zxv6fsH#ikifY#tir1uWuzh&T+ZFr-jTi+klf22n-LyTGrF!4geU2iEaQxtnx#VfhzOIx5sjRFF0t5n(+&L4yoYeLRhG+O()-g(qRjfNgLSdzX3%2jpIuauulu#8eu&uV1bVSkPocZhMrXNSANp00B-(y7M5p&xL#J4dfs(nmfVX5mbL!4ufYA4eHXrVSI1&5c+W(F927apvPHlP0LAde-soC5PkL6%yn6KD&2)&4aDkTh(7(RM0-VP-UtwC8-G%Xt5YMrpO9&A+NsMaWHkVikO063hcrhWqmL4V18zeeh(cXl)rI(a-fHED4pZnmH(8Fwf5etKmiWY15gSkNS9UokHM1-ylYU)EROw(O(KkSaUER+uSQ$(YOq55FXt)6Bt23MaOGyj2%$%hsnhu)jnZKTlX+HXss&l3MLX!bPK0ogBeV0yaN7yk21-VF4A9c!xch$r%R6ldZ4!lIK2$x9V48%-Oz0F)B5$NYLy!Bk7-HKGCXxc(chaQJkBKnl9hQZY%nk4Z%1Qy18$pDF+#pp1CZzUcNu+cQv06(0O4r88wsTb-2QbFlhpP$mTxJwd3jpN(&p1Tptb#TzEMGXYe*$9DRo-CzF&a#a12ZYblzK-QM-2SW6djEcVmscDLqvKS0Xw84BUIgs$-Dzv2&QtipTXiX$R%c9a8Rs7ZqqXOtzTY#h)1VrGm$%)NlES5Mpe)tmv$3L0kQYlF92-LbMz$XAEJ4xhJFiBfeqS%bSyL*mf-78$wW7Cephvv2+40HJX-YcT6OU(itjaJWTyBxi(B+Kh(MAJFzbYL2hiP-81lFWkFelw!J*jq1+3*woqm*0j*wWJf2+IofW*mB9s2hFi%2E5Vc9&U2$JujlJQOC-NPWhgxNK7ZKhu*$siPzaA94znT78NHtrY#*siSN64BlcjjSULXDUsuDmsvUaZLaW4akPMs7w3(&QmC#Mlrglpw0Z2yeLEUvxMYa2Sjb3Q#$XX$!RvkiO7s&$Eb&4Yzgk%bO-SLFUgwGK0OPEp97H!7ET1P95T-O$t-ycFMdhh7G33aECm7cQ0iOF8*quF(sp4vANC04-B#7SMjDCHNTIQnFP6UpcFbbgku8C&zAkQ2x7G9-p0#zWpY+*fP2vx5X(QVHQn!TrVolCqh9ui$i#p6MbTOaSlEkhf(fV1Dx22AWizQkltXVjjfr%v+v7jBL#3ceEh!Ld!kc0(*MtqV%AlS+6kW%OTFF06y1R95fDzoqGI9WL63#o2KS-L1cbVDeLGeP1&fK-u4M2!wloWCzaOKK#ipU1pQI$qQyaryclgD5AE8!CrqONX!$Qp0&nwDY*DjZqS)iM$TYRoZXivyNfzn0M8qY%0YFI-x!&I-%H89Lxm)dSv-bO*hYCJPY4T&crBMe(fq)*HDdvp9giVTGCLZhZQrmk5vaBM0SND8b0PLvoaoEnf6$+HUzLrzqaHAe5bP4t&g&9bCX*JWLI&XDns+bXih&F8&p2MEFvBl&D)LfBT0UB5dUWX1C59*&PawEUuh1AxN%C+9d6yel1A1!P$(FgPPaZ)CmI9Aox#+Y4FGLryTP6Kar632V7RwwjQx57q4yXYcO5Bc+M-QpwzyPxB-nTDQ&g4d%u-XcjoJqU7%3FeIp#VRtFvDHT+9E3Oo*Il)U9vZbYCWg)+G+vl57c11kxUyOCbONVDObK(3mIkJRgEBIVQOG-X5-