虚拟存储的硬件支持¶
第一次读,先跟下面两次读取,分清机器什么时候在找地址、什么时候在找数据,再做 13000 的三条路径练习。想先用较小数字练习,可以读操作系统里的 16 字节分页例子。
动机:让每个进程拥有自己的地址世界¶
两个正在运行的程序都可以读自己看到的地址 13000,但通常应该读到各自的数据。程序用的编号叫虚拟地址,内存系统用来找到实际数据位置的编号叫物理地址。操作系统把地址按固定大小分成片,每片叫一页。它可以让两个程序的同一页号对应不同的内存位置,处理器根据这份对应关系找到数据。为程序提供虚拟地址、再按页映射到实际内存,就是这里说的虚拟存储。
- 可以规定每个进程能读写哪些页,避免访问另一个程序的数据。
- 运行同一程序的两个进程可以共享一份只读的指令页。
- 不常访问的页可以暂时移出主存,等再用时读回来。
- 程序看到的编号可以是连续的。数据实际放到哪些位置,由操作系统安排。
操作系统决定映射策略,硬件负责在每次访存的关键路径上快速翻译并检查权限。
连读两个整数,为什么可以复用翻译¶
这里按每 4096 字节分一块。程序地址中的块叫虚拟页,物理内存中同样大小的槽位叫物理页框。把地址除以 4096,商是页号,余数是块里的距离,也叫页内偏移。13000 和 13004 的商都是 3,余数分别为 712 和 716。假设记录对应关系的页表给出「虚拟页 3 → 物理页框 20」,第二次读取就能沿用相同对应关系。
假如硬件在每一次数据读取前都去读页表,即使两次读取只隔 4 个字节,也要重复走一遍翻译。于是处理器把刚用过的映射放在 地址翻译缓存(TLB,也叫快表)。它回答「这个进程的这页在哪个页框,可以怎样访问」。数据 Cache 则保存数据块的副本,回答「所需字节附近有没有更快拿到的一份」。把这两个问题先分开,后面就能判断一次读取卡在哪一步。
如果相邻两次读取落在同一页,翻译可能复用;如果还落在同一块,数据也可能复用。两者的单位不同。以这里的 4096 字节页与 64 字节块为例,13000 和 13064 仍在同一虚拟页,映射到的 82632 和 82696 却落在不同的数据块。复用的前提是映射和权限仍然有效;操作系统修改它们时,要处理旧的缓存项。教学图按顺序画出依赖,具体硬件可以重叠部分操作。
页与页表¶
如前面的除法所示,虚拟地址由虚拟页号(VPN)和页内偏移组成。下面用这两个字段画出它的结构。
页表中的一条记录叫页表项(PTE),写下虚拟页号(VPN)对应的物理页框号(PPN),以及是否能读、写或执行。它还可能记录页面有没有被用过,或内容是否被修改过(脏位)。页内偏移在翻译前后不变:
若页大小为 4 KiB,页内偏移为 12 位。
原因是 4 KiB 等于 \(2^{12}\) 字节,12 个二进制位刚好可以表示页内位置 0 到 4095。把地址除以 4096 时,余数就是这 12 位,其余高位形成页号。这样硬件可以直接拆位,不必为每条指令真的做一次通用除法。
为什么需要多级页表¶
若为巨大虚拟地址空间的每个页都预留 PTE,页表本身会很大。多级页表把虚拟页号切成多段,先看较高的一段去找对应的下级表,再在下级表里继续找。若整个范围都没有映射,就可以省掉那份下级表。
代价是一次 TLB 查不到翻译(也就是 TLB miss)可能需要多次内存访问才能走完页表。页表深度越大,地址空间扩展越容易,遍历代价也越高。
TLB:翻译的 cache¶
TLB 缓存近期 VPN 到 PPN 的映射与权限。命中时可很快形成物理地址;miss 时由硬件页表遍历器或操作系统查页表,成功后回填 TLB。
如果每次查 TLB 都要花 \(T_{TLB}\),有比例 \(h\) 的查询能直接找到。剩下占比 \(1-h\) 的查询还要查页表,每次额外花 \(P\)。在两步依次进行的简化模型里,平均翻译耗时为:
真实机器会让 TLB 查询与 cache 索引部分重叠,以缩短关键路径。
TLB miss 不等于缺页¶
TLB miss¶
翻译不在小型 TLB,但对应 PTE 可能就在内存中且有效。遍历页表、回填后即可重试,通常不需从磁盘读数据。
page fault¶
如果页表里没有可用映射,或本次访问违反权限,处理器会暂停指令并把原因报告给操作系统。这种异常叫缺页异常(page fault)。例如,若所需页面尚未从文件载入,系统可以腾出一个页框,从固态硬盘(SSD)读入数据,修改页表后重新执行原指令。若腾出的页面之前被修改过,可能还要先把修改保存起来。如果程序访问的是非法地址,则不能靠读盘修复。
最小路径:一次 load¶
lw x5, 8(x10) 的意思是从 x10 中记录的地址再往后 8 字节,读入一个 32 位数并写到 x5。算出这次读取的虚拟地址后,可以沿下面的路径走。
- VPN 查询 TLB;
- 命中则得到 PPN 并检查读权限;
- PPN 与原页内偏移组成物理地址;
- 用物理地址查询离处理器最近的一级数据缓存(L1 data cache);
- cache 命中返回数据,最终写
x5。
如果 TLB 没找到地址翻译,就要查页表。如果数据副本没在一级缓存,就到下一级缓存或主存去取。这两种查找可以各自命中或未命中。
同一个地址,推演三种结果¶
沿用操作系统的分页算例。页大小为 4096 字节,虚拟地址 13000 位于虚拟页 3,页内偏移 712。若页表把它映射到页框 20,物理地址就是 \(20\times4096+712=82632\)。
| 当前状态 | 接下来发生什么 | 去哪找证据 |
|---|---|---|
| TLB 没有页 3 的翻译,页表已映射且可读 | 查页表,缓存这个翻译,再继续访问数据 | TLB 未命中、页表遍历 |
| 地址合法,但该页尚未进入主存 | 硬件把问题报告给内核,内核可能从文件读回内容,或分配一页并填入初始值,再重试 | 缺页次数、磁盘读写记录 |
| 翻译已得到 82632,对应的数据块不在 L1 | 往下级缓存或内存取数据,适当时填入缓存 | 数据 Cache 未命中 |
这里用串行概念模型解释路径。部分处理器可以并行做 TLB 查询和 Cache 索引。一个缓存项存翻译,另一个缓存项存数据;页面是否存在、是否允许读取又是独立问题。
动手算:只改变一个条件,哪个环节会变化?
采用 64 字节的数据块,82632 所在块从 82624 开始。映射不变时,虚拟地址 13004 翻译到 82636,仍用页 3 的翻译,且还在同一个数据块。如果只让该数据块被替换出去,TLB 仍可能命中,但要从下级取数据。如果只清掉这条 TLB 项,数据块也可能仍然在,查完页表便可命中它。如果改成对只读页执行写入,即使翻译命中,也需要由异常处理检查这次写入是否可修复。
大页与覆盖范围¶
同样数量的 TLB 项,页越大,能覆盖的内存越多,适合大数据和数据库;也能减少页表层级。但如果程序占用不足一页,余下空间也不能单独分给别处,这叫内部碎片。页变大还可能更难找到足够大的连续物理空间,一次换入换出的单位也变大。
这个小缓存的所有表项一共能映射多少内存,叫 TLB 覆盖范围(TLB reach)。假设有 \(N_{entries}\) 条表项、每条对应同样大小的页,覆盖范围可按下式估算。例如 32 条记录各管 4 KiB,一共能管 128 KiB。
提升 reach 可以增加项数、增大页或混合页大小,各有面积、延迟和管理成本。
cache 与翻译的先后¶
回想缓存怎样查组和标记。用物理地址挑组和对标记,需要等翻译结束。若拿虚拟地址先挑组,就可以一边挑组,一边查 TLB。但两个虚拟地址可能指向同一份物理数据,不同程序也可能用同一个虚拟地址指向不同数据。有些一级缓存只用翻译前后都一样的页内偏移来挑组,再用翻译后的物理标记比较。
权限、上下文与安全¶
PTE 的用户/内核、可写、可执行位是硬件隔离基础。切换进程后,旧 TLB 项不能被错误复用,系统可以清掉旧缓存项,或用地址空间标识符给缓存项加上所属地址空间的编号,防止两个进程读到彼此的翻译。
有的处理器会在检查尚未结束时先算临时结果,称为投机执行。即使结果最后被撤销,缓存状态也可能已经改变。由耗时等间接现象推断本应隔离的信息,称为侧信道。因此翻译与权限不只是性能机制,也是安全边界。
自测¶
- 4 KiB 页为何对应 12 位页内偏移?
- TLB miss、page fault 和 cache miss 各自缺少什么?
- 大页提高 TLB reach 的同时会带来哪些代价?
参考 OSTEP 的 TLB 章节和 Berkeley CS 61C 的虚拟内存讲义继续练习翻译与访问路径。