體系結構第4章 第4講

第四章指令級并行主要內容4.1 指令級并行的概念4.2 指令的動態調度4.3 控制相關的動態解決技術4.4 多指令流出技術4.3 控制相關的動態解決技術4.3.1 分支預測緩沖4.3.2 分支目標緩沖動態分支預測動態分支預測的兩個理由n流出的處理器加速上限為n倍Amdahl定律提示：在較低CPI機器上，控制相關導致的空轉對機器性能影響大前面解決控制相關的靜態策略需要編譯器將一條或多條指令移動到流水線產生的分支延遲槽中關于分支預測策略的兩部分工作預測的分支是否成功執行分支目標指令分支預測的效率預測的準確率分支的開銷預測正確的開銷預測錯誤的開銷分支預測緩沖(BPB):原理最簡單的分支預測策略分支預測緩沖是一個小的存儲器陣列每個單元只有1位，記錄最近一次分支是否成功的信息預測位為1則預測分支成功，并從目標位置開始取指令單元由分支指令地址的低位索引進行尋址BPB的預測位會被具有相同低位地址的分支設置BPB也被稱為BHP（branchhistorybuffer分支歷史緩沖）1位BPB狀態圖這種單位預測策略有大約80%左右的準確率當分支不成功時，單位預測會失敗兩次2位預測策略能夠改善這種情況2位BPB工作原理在2位預測策略中，一個預測必須錯誤兩次才會改變。對于一個4096條記錄的BPB，利用2位預測策略，用SPEC89測試，命中率為82%到99%準確率最高的測試程序一般包含大量循環線性代碼一般準確率最差2位BPB狀態轉換圖2位BPB另一種狀態轉換圖預測成功預測不成功預測不成功預測成功成功成功不成功成功不成功不成功不成功成功4096單元2位BPB的預測準確率測試程序為SPEC89整數測試程序:平均11%gcc,espresso,eqntott,li浮點測試程序:平均4%nasa7,matrix300,tomcatv為什么?4096單元2位BPB:預測錯誤率n位BPB1位或2位BPB是n位BPB的特殊情況n位策略使用計數器，表示0~2n的值與2位策略類似，對于n位BPB，每次分支成功，計數器+1，反之則-1如果計數器值大于其最大值的一半，則做成功預測，反之則做失敗預測2位BPB:4Kvs.無窮多BPB實現BPB的實現方案實現一個小而特殊的“cache”，利用指令地址進行索引，在IF流水段訪問。或者，為指令cache中每一塊增加附加位，與指令一起取出若一個指令在ID段被譯碼為分支指令，且對應的BPB標志位預測其成功，則一旦PC已知，立刻從分支目標位置開始取指或者，繼續順序取指分支目標緩沖(BTB)另一個動態分支預測方法：分支目標緩沖BranchTargetBuffer,BTB為了減小或消除流水線的分支開銷，我們需要在IF段結束前知道從哪個地址開始取下一條指令換句話說，我們在IF段就需要知道這條未譯碼的指令是否為分支指令，并且如果它是分支指令，要盡快知道NPC值應當為多少BTB實現分支目標緩存BTB每個單元應該包括分支指令的地址分支目標的地址分支預測標識取指階段，所有指令地址都與BTB中保存的分支指令的地址做比較，一旦相同，就認為本指令是分支指令，并且分支成功它的目標地址就是保存在緩沖區中的分支目標地址取出后直接送入NPCBTB結構BTB執行過程BTBVs.BPB分支預測技術受限于預測精度，以及預測失效后產生的開銷根據不同程序特點以及緩沖區的大小，典型的BTB可以實現80%到95%的預測精度降低失效開銷技術：在一個時鐘周期內同時取出不同分支路徑的指令會引入其他開銷，比如存儲系統的端口加倍降低失效開銷的唯一方法，比如AS/400PowerPC處理器分支預測局限性預測