控制冒险与分支预测¶
分支还没算完,下一条指令从哪取?¶
设程序反复执行「只要还有元素就回到循环开头」。这种由条件决定下一条指令位置的操作叫分支。前九次都跳回,第十次退出。预测器可以先按历史取下一条指令,让流水线保持工作。若第十次仍预测跳回,硬件在条件确定后丢弃错误路径的临时结果,从真正的下一地址重新取指。只有确认指令确实属于程序执行路径后,才允许保留它对程序可见状态的改变,这一步叫提交。
预测失误后,程序结果为什么仍然正确?
错误路径的普通指令不能作为正确路径提交。代价主要是浪费已做的工作,重新填充流水线也需要时间;某些硬件状态还可能受执行影响。
动机:前端不能等答案¶
分支结果往往要到流水线的执行阶段才能确定,但负责取指的部件每拍都需要下一条指令的地址,也就是要交给程序计数器(PC)的值。流水线越长,或每拍能启动的指令越多,等待时闲置的部件通常越多。分支预测用历史猜测方向与目标,让前端继续工作。
预测不是改变程序语义。猜对节省时间;猜错必须丢弃错误路径并恢复正确状态。
静态预测¶
最简单策略是不记录历史:总预测不跳、后向跳转预测跳转、由编译器提供提示等。硬件小、启动立即可用,但无法适应数据相关行为。
循环回边“多数跳转、最后一次不跳”,后向跳转预测通常有效;输入校验等分支则可能完全不同。
一位与两位饱和计数器¶
一位预测器记住上次结果。循环最后一次不跳会改写状态,下一次进入循环又错一次。
两位计数器有四个状态:强不跳、弱不跳、弱跳、强跳。实际跳转就向“跳”方向移动一格,否则反向移动一格;只有连续两次反常行为才翻转强倾向。它对循环边界更稳定。
可把状态更新写成饱和加减:
表示一次跳转,未跳转则使用饱和减法。最高位可作为预测方向。
方向之外还要预测目标¶
知道“会跳”还不够,必须知道跳到哪里。处理器可以为曾见过的跳转保存「从哪来、往哪跳」的记录,下次按当前指令地址查。这张小表叫分支目标缓冲区(BTB)。同一函数可能由不同位置调用,返回位置随调用而变。返回地址栈(RAS)按预测的调用顺序记下返回点,遇到返回就优先取最近的一项。
间接跳转从寄存器等运行中的数据读取目标地址。同一条指令在不同输入下可能跳向不同位置,因此比把目标写在指令里的直接跳转更难猜。
利用局部与全局历史¶
- 局部历史记录某个分支自己的模式,适合周期行为;
- 全局历史记录最近多个分支结果,捕捉不同分支之间的相关;
- 混合预测器让选择器决定哪类预测器更可靠。
历史越长、表越大,潜在准确率越高,但访问延迟、能耗和不同分支碰巧要使用同一表项时,也会互相干扰。预测器必须足够快,晚到的准确答案可能不如早到的近似答案。
预测错误的成本¶
若分支频率为 \(f_b\),预测错误率为 \(p_m\),每次错误惩罚 \(P\) 拍,则平均每条普通指令因猜错分支而多花的周期数(额外 CPI)约为
当 \(f_b=0.2\)、\(p_m=0.05\)、\(P=15\) 时:
对于基础 CPI 接近 1 的核心,这已是显著损失。流水越深,\(P\) 往往越大,预测准确率就越重要。
投机执行与恢复¶
在条件还没确定时先执行预测路径上的指令,叫投机执行。简单流水线可以清掉错误指令的控制信号。允许后到指令先算的处理器,可以把未提交工作按程序顺序记在重排序缓冲区里,再按原来的顺序确认结果。猜错时要撤销对应的临时记录,并恢复正确的取指地址。
“算过但没提交”与数据库事务的回滚非常相似。
限制与安全代价¶
预测状态依赖历史,性能会随输入变化。更重要的是,错误路径虽然不提交架构结果,却可能改变 cache 等微体系结构状态。攻击者可通过时间差推测秘密,Spectre 类漏洞正利用了这种侧信道。
缓解措施会限制投机、隔离预测状态或插入屏障,通常以性能和复杂度为代价。功能正确不等于信息流安全。
历史联系与改进空间¶
短流水早期处理器可简单等待;深流水、宽发射让每次停顿损失更多,推动预测器从静态规则发展到相关预测和神经预测。未来改进仍需在准确率、延迟、面积、功耗和安全间平衡。
自测¶
- 两位计数器为何比一位预测器更适合普通循环?
- BTB、方向预测器和 RAS 分别回答什么问题?
- 为什么错误路径不改变架构状态,仍可能形成安全泄漏?