相关笔记

概览

本节研究离线缓存问题(Offline Caching),在已知完整请求序列的前提下,利用贪心策略最小化缓存未命中次数。

  • 缓存命中(cache hit):请求的块已在缓存中,无需额外操作
  • 缓存未命中(cache miss):请求的块不在缓存中,需要将其调入缓存
  • 强制未命中(compulsory miss):缓存未满时的未命中,不可避免
  • furthest-in-future 策略:驱逐下次使用最远的块,贪心选择性质保证其最优性
  • 最优子结构:子问题 的最优解包含子问题 的最优解
  • Theorem 15.5:furthest-in-future 策略产生最小缓存未命中次数

知识结构总览

flowchart TD
    A["缓存系统"] --> B["缓存命中 hit"]
    A --> C["缓存未命中 miss"]
    C --> D["强制未命中<br/>缓存未满"]
    C --> E["容量未命中<br/>缓存已满,需驱逐"]

    E --> F["离线问题<br/>已知完整请求序列"]
    F --> G["furthest-in-future<br/>驱逐最远未来使用的块"]

    G --> H["最优子结构<br/>子问题 (C, i)"]
    G --> I["贪心选择性质<br/>Theorem 15.5"]

    H --> J["furthest-in-future<br/>是最优策略"]
    I --> J

    J --> K["对比:LRU 策略<br/>不保证最优"]
    J --> L["应用:虚拟内存<br/>磁盘缓存"]

核心思想

核心思路

离线缓存问题的核心是:在已知完整请求序列 和缓存容量 的前提下,决定每次缓存未命中时驱逐哪个块,以最小化缓存未命中总次数。最优策略是 furthest-in-future(最远未来使用):当缓存已满且发生未命中时,驱逐缓存中下次使用最远的块。直觉上,如果一个块在很远的将来才会被用到,不如把它腾出来给当前需要的块。

缓存系统模型

计算机系统通过缓存(cache)——一种小而快的存储器——来加速数据访问。缓存将数据组织为缓存块(cache block),通常为 32、64 或 128 字节。在虚拟内存系统中,主存也可以视为磁盘数据的缓存,此时块称为(page),典型大小为 4096 字节。

程序执行时产生一系列内存请求,依次访问块 。缓存最多容纳 个块,初始为空。每次请求时,可能出现三种情况:

  1. 缓存命中(cache hit) 已在缓存中,缓存不变
  2. 缓存未命中(cache miss) 不在缓存中
    • 若缓存未满():直接将 放入缓存(强制未命中,compulsory miss)
    • 若缓存已满():必须先驱逐一个块,再将 放入缓存

目标:最小化整个请求序列中的缓存未命中次数。

示例:缓存容量 ,请求序列为 (共 4 个不同块 )。

离线问题与 furthest-in-future 策略

通常缓存是一个在线问题(online problem):计算机在做出驱逐决策时不知道未来的请求。本节考虑离线版本(offline version):已知完整的请求序列和缓存容量。

furthest-in-future 策略

当缓存已满且发生未命中时,选择驱逐缓存中下次访问在请求序列中最远的块。如果某个块在将来不再被访问,则优先驱逐该块。

直觉:如果某个块在很远的将来才会被用到(或永远不再被用到),不如现在把它腾出来,因为短期内不会需要它。

最优子结构

子问题定义

定义子问题 :在处理请求 时,缓存配置为 是块的子集,)。子问题 的解是从 的驱逐决策序列,最优解使缓存未命中次数最少。

是子问题 的最优解, 是处理 后的缓存配置, 对子问题 的子解。则 也是子问题 的最优解。

【反证法(若子问题解非最优则组合后得到更优解,矛盾)】 证明:反证法。若 不是 的最优解,则存在另一个解 使得未命中次数更少。将 处的决策组合,得到一个比 未命中次数更少的解,与 是最优解矛盾。

递推公式

为处理请求 后缓存配置 可能转变为的所有配置集合:

  • (命中):
  • (未满未命中):
  • (满未命中):

【递推公式(命中时代价不变,未命中时取所有可能配置的最小值加1)】 为子问题 的最小缓存未命中次数,递推公式为:

furthest-in-future 算法伪代码

算法执行流程

  1. 对请求序列中的每个请求 b[i] 依次处理
  2. 若 b[i] 已在缓存中(命中),跳过
  3. 若缓存未满(|C| < k),直接将 b[i] 放入缓存
  4. 若缓存已满(|C| = k):
    • 找出缓存中下次使用最远的块 z(或不再使用的块)
    • 驱逐 z,将 b[i] 放入缓存
  5. 返回更新后的缓存 C
flowchart TD
    A["输入: C, k, b[1..n], i"] --> B{"b[i] ∈ C?"}
    B -- 是 --> C["缓存命中, 跳过"]
    B -- 否 --> D["缓存未命中"]
    D --> E{"|C| < k?"}
    E -- 是 --> F["C = C ∪ {b[i]}, 无需驱逐"]
    E -- 否 --> G["找到缓存中下次使用最远的块 z"]
    G --> H["C = (C - {z}) ∪ {b[i]}, 驱逐 z"]
    F --> I["返回 C"]
    H --> I
    C --> I
FURTHEST-IN-FUTURE(C, k, b[1..n], i)
1  if b[i] ∈ C
2     print "cache hit"
3  else
4     print "cache miss"
5     if |C| < k
6        C = C ∪ {b[i]}          // 缓存未满,直接放入
7        print "evicted: none"
8     else
9        // 在缓存中找到下次使用最远的块 z
10       z = block in C whose next access is furthest in the future
11       C = (C - {z}) ∪ {b[i]}  // 驱逐 z,放入 b[i]
12       print "evicted: z"
13 return C

正确性证明

Theorem 15.5(贪心选择性质)

Theorem 15.5(最优离线缓存具有贪心选择性质)

考虑子问题 ,其中缓存 已满(),且发生缓存未命中。当请求块 时,设 是缓存 中下次访问最远的块(若某块不再被访问,则视为在 处被访问)。则在子问题 的某个最优解中,驱逐块

【归纳构造法(构造 S’ 驱逐 z 而非 x,证明四个性质保证 S’ 等价最优)】 证明(归纳构造法):

是子问题 的一个最优解。

情况 1 在请求 时驱逐 。则定理已成立。

情况 2【S 驱逐 x 而非 z,需构造等价最优解 S’】 在请求 时驱逐某个其他块 )。我们需要构造另一个最优解 ,它在请求 时驱逐 而非 ,且未命中次数不超过

【定义缓存配置 C_{S,j} 和 C_{S’,j},证明四个性质】 为解 在请求 之前的缓存配置, 为解 在请求 之前的缓存配置。我们证明 满足以下四个性质:

性质 1:对于 ,令 。则 ,即两个缓存配置最多相差一个块。若相差,则 )。

性质 2:对于请求 ,若 命中则 也命中。

性质 3:对于所有 (两个解完全一致)。

性质 4:在请求 上, 的未命中次数不超过

性质 1 的归纳证明

【数学归纳法(基础步:j=i+1 时两个缓存仅差一个块)】

  • 基础):(初始缓存相同)。 驱逐 驱逐 。因此 。性质 1 成立。

  • 归纳步骤):【关键:b_j != z,因为 z=b_m 是下次访问最远的】 归纳假设性质 1 在请求 时成立。由于 中下次访问最远的块,。分情况讨论:

    • 情况 A)。 做与 相同的决策,

    • 情况 B。两个缓存都包含 ,都是命中,缓存不变。

    • 情况 C。由于 未命中。

      • C.1 驱逐
        • 命中,
        • 未命中,驱逐
      • C.2 驱逐某个
        • 命中,,所以 。性质 1 成立( 取代了 的角色)。
        • 未命中,驱逐 。性质 1 成立。

性质 2:在上述讨论中, 仅在情况 A 和 B 中命中,而 在这些情况中当且仅当 命中时也命中。

【缓存配置收敛论证(b_m 处 S’ 驱逐 y 放入 z 后与 S 一致)】 性质 3:若 ,则 处做与 相同的决策,。若 ,由性质 1, 命中(因为 ), 未命中,驱逐 放入 。无论哪种情况,从 开始 完全一致。

性质 4【S 命中时 S’ 也命中,只需考虑 b_m 处的差异】 由性质 2,在 上, 命中时 也命中。只需考虑

  • 处未命中: 无论命中与否,未命中次数都不超过

  • 处命中而 未命中:【反证:不存在 S 未命中而 S’ 命中的请求】 我们需要证明在 中存在某个请求,使得 未命中而 命中,从而补偿 处的差异。

    反证:假设不存在这样的请求。一旦 ),此后两者保持一致。由于 (否则 也命中),。因此 中从未驱逐 (否则两者会变得相同)。

    在每次请求中,), 驱逐某个 。由于没有 未命中而 命中的情况, 的情况从未发生。因此 ,差异不变。

    【导出矛盾:x 在 b_{i+1}..b_{m-1} 中被请求,S’ 命中而 S 未命中】 回到 处理后:。由于此后差异不变,)。由定义, 之后被请求,因此 中至少有一个是 。但 驱逐了),所以至少有一个请求 命中而 未命中,矛盾。

因此 的未命中次数不超过 。由于 是最优的, 也是最优的。


补充理解与拓展

Belady 最优置换算法的历史与影响

Furthest-in-future 策略由 László A. Belády1966 年 在 IBM 研究中心提出,因此也称为 Belady’s AlgorithmMIN 算法。Belády 的原始论文是虚拟内存管理理论的奠基性工作:

  • Belady, L. A. (1966). “A Study of Replacement Algorithms for Virtual Storage Computers”, IBM Systems Journal, 5(2), pp. 78-101

Belády 证明了在已知完整请求序列的离线设定下,furthest-in-future 策略产生最少的缓存未命中次数。这一结果的意义不仅在于算法本身,更在于它为在线缓存算法提供了一个理论最优基准(optimal baseline)——所有实际可用的在线算法(LRU、LFU、ARC 等)的性能都以此为参照来评估。

LRU vs Furthest-in-Future——在线 vs 离线的性能差距

比较维度LRU(Least Recently Used)Furthest-in-Future
类型在线策略(无需未来信息)离线策略(需要完整请求序列)
驱逐规则驱逐最近最久未使用的块驱逐下次使用最远的块
可实现性✅ 广泛用于实际系统❌ 仅作为理论基准
最优性❌ 不保证最优✅ 离线最优
Belady 异常❌ 不存在❌ 不存在

经典对比示例:请求序列 ,缓存容量

  • Furthest-in-Future:9 次未命中
  • LRU:10 次未命中
  • FIFO:9 次未命中(但 FIFO 存在 Belady 异常)

LRU 在循环扫描模式(sequential scanning)下表现尤其差——每次扫描都会驱逐即将需要的块,导致缓存命中率趋近于 0。但 LRU 的优势在于它利用了时间局部性(temporal locality),在大多数实际工作负载中表现良好。

竞争分析——在线算法性能的理论框架

由于在线算法无法预知未来请求,其性能用竞争比(competitive ratio)来衡量:算法 的竞争比为 ,如果对任何请求序列 ,都有

缓存置换算法的竞争比结果(Sleator & Tarjan, 1985):

  • 确定性在线算法:最优竞争比为 为缓存容量)。LRU 和 FIFO 的竞争比都是 ,且这是紧的
  • 随机化在线算法:最优竞争比为 (第 个调和数)。Marking 算法达到了这个下界

这意味着即使最优的确定性在线算法,在最坏情况下也可能比离线最优算法多产生 倍的未命中。但实际中 LRU 的平均性能通常远好于竞争比所暗示的——竞争比衡量的是最坏情况,而实际工作负载往往具有局部性特征。

Sleator & Tarjan 的这篇论文开创了竞争分析(competitive analysis)这一领域,对在线算法的理论研究产生了深远影响:

  • Sleator, D. D. & Tarjan, R. E. (1985). “Amortized Efficiency of List Update and Paging Rules”, Communications of the ACM, 28(2), pp. 202-208

后续重要进展包括 Fiat et al. (1991) 证明了随机化缓存算法的紧竞争比为

  • Fiat, A., Karp, R. M., Luby, M., McGeoch, L. A., Sleator, D. D. & Tarjan, R. E. (1991). “Randomized Competitive Algorithms for the List Update Problem”, Algorithmica, 6(1), pp. 516-538

Belady 异常——增加缓存反而降低性能

一个违反直觉的现象是:对于某些缓存置换策略(如 FIFO),增加缓存容量反而可能增加未命中次数。这被称为 Belady 异常(Belady’s Anomaly)。

FIFO 的 Belady 异常示例

  • 请求序列:
  • 缓存容量 :FIFO 产生 9 次未命中
  • 缓存容量 :FIFO 产生 10 次未命中!

这说明 FIFO 的性能不可预测——更多的资源反而导致更差的结果。Furthest-in-Future 和 LRU 不存在 Belady 异常,这是它们优于 FIFO 的重要理论保证。

来源:Belady, L. A., Nelson, R. A. & Shedler, G. S. (1969). “An Anomaly in Space-Time Characteristics of Certain Programs Running in Paging Machines”, Communications of the ACM, 12(6), pp. 349-353


易混淆点与辨析

误区辨析

误区 1:furthest-in-future 可以直接用于实际系统

❌ 错误。furthest-in-future 是离线算法,需要预先知道完整的请求序列,实际系统无法满足这一条件。它的主要价值是作为理论最优基准,用于评估在线策略(如 LRU)的性能。

误区 2:LRU 策略总是最优的

❌ 错误。LRU 在某些请求序列下会产生比 furthest-in-future 更多的未命中。例如循环扫描模式(sequential scanning)中,LRU 会反复驱逐即将需要的块。

误区 3:缓存容量越大,任何策略的未命中次数都越少

❌ 错误。虽然更大的缓存容量通常减少未命中,但对于某些策略(如 FIFO),存在 Belady 异常(Belady’s Anomaly):增加缓存容量反而可能增加未命中次数。Furthest-in-future 和 LRU 不存在此异常。

误区 4:强制未命中可以通过策略优化避免

❌ 错误。强制未命中(缓存未满时的未命中)是不可避免的,因为缓存初始为空,第一次访问每个块必然未命中。任何策略都无法消除强制未命中。


习题精选

题号题目描述难度
15.4-1编写 furthest-in-future 缓存管理器的伪代码⭐⭐
15.4-2给出一个 LRU 策略不是最优的请求序列示例
15.4-3分析 Theorem 15.5 证明中若要求性质 1 的 始终为 ,证明在哪里失效⭐⭐⭐
15.4-4证明允许每次请求调入多个块的策略不会优于每次只调入一个块的策略⭐⭐

视频学习指南

资源链接说明
MIT 6.006 Lecture 13https://www.youtube.com/watch?v=3Ux0DzWP4yMErik Demaine 讲解缓存算法
Abdul Bari Cachinghttps://www.youtube.com/watch?v=ZoGjb1d3UeYBelady 算法与 LRU 对比
算法导论原书配套CLRS 4th Edition Chapter 15.4教材原文

教材原文

CLRS 第4版 15.4节原文(中文翻译)

离线缓存问题考虑一个容量为 的缓存和一个请求序列 ,其中每个 是一个内存块。初始时缓存为空。当处理请求 时:

  • 如果 已在缓存中,则发生缓存命中(cache hit),无需额外操作
  • 如果 不在缓存中,则发生缓存未命中(cache miss),必须将 调入缓存。如果缓存已满,则必须驱逐某个块

目标是最小化缓存未命中次数。furthest-in-future 策略在每次未命中时驱逐缓存中下次使用最远的块(如果某块不再被请求,则驱逐它)。

Theorem 15.5 证明了 furthest-in-future 策略是最优的:对于任何缓存容量 和任何请求序列,furthest-in-future 策略产生的未命中次数最少。


参见Wiki


第15章-贪心算法 离线缓存