递推关系

概述

递推关系(Recurrence Relation)是将序列 的第 项表示为前面若干项的函数的等式,配合初始条件唯一确定整个序列。递推关系通过将问题分解为规模更小的子问题来建立数学模型,是解决许多基本计数技术难以直接处理的计数问题的强大工具,也是动态规划算法的理论基础。

定义

递推关系(Recurrence Relation)

一个递推关系是将序列 的第 项表示为前面若干项的函数的等式。如果一个序列的项满足某个递推关系,则称该序列为该递推关系的一个(solution)。

一般形式为:

其中 称为递推关系的(degree)。要唯一确定一个序列,除了递推关系外,还需要 初始条件(initial conditions):

递推关系是第5章递归定义的自然延伸——递归定义是更一般的概念,递推关系是递归定义的一种特殊形式,专门用于定义序列。第二数学归纳原理保证了递推关系加上初始条件能唯一确定一个序列。

初始条件(Initial Conditions)

初始条件是递推关系所需的起始值,用于唯一确定序列。阶为 的递推关系需要恰好 个初始条件。不同的初始条件会导致完全不同的解,即使递推关系相同。

动态规划(Dynamic Programming)

动态规划是一种算法范式,通过将问题递归地分解为更简单的重叠子问题,并利用子问题的解来构造原问题的解。递推关系通常用于从子问题的解推导出整体解。

关键技术——记忆化(memoization):在计算过程中存储每个子问题的解,避免重复计算,将指数级复杂度降低为多项式级。

核心性质

性质描述说明
阶(degree)递推关系中 依赖的最远前项距离阶为 的递推关系需要 个初始条件
初始条件的必要性仅有递推关系不能唯一确定序列同一递推关系 + 不同初始条件 = 不同序列
解的唯一性递推关系 + 足够初始条件唯一确定序列由第二数学归纳原理保证
与归纳法的天然联系递推关系提供归纳步,初始条件提供基础步求出显式公式后常用归纳法严格证明
建模核心:递归结构将第 步的解分解为互不重叠的若干情况必须确保分类不重不漏
动态规划基础递推关系 + 记忆化 = 动态规划将重叠子问题的指数级复杂度降为多项式级
求解方法多样迭代法、特征方程法、生成函数法等8.2节系统介绍特征方程法

关系网络

graph LR
    A["递推关系"] --> B["线性递推关系"]
    A --> C["特征方程"]
    A --> D["数学归纳法"]
    A --> E["递归定义"]
    A --> F["递归算法"]
    A --> G["分治算法"]
    A --> H["生成函数"]
    A --> I["序列与求和"]

    B --> B1["齐次 / 非齐次"]
    B --> B2["常系数 / 变系数"]
    C --> C1["特征根 → 通解"]

    D --> D1["验证递推解的正确性"]
    E --> E1["递推关系是递归定义的特例"]
    F --> F1["递归算法的复杂度分析"]
    G --> G1["分治递推 T(n) = aT(n/b) + f(n)"]
    H --> H1["生成函数是递推关系的另一求解工具"]

    A -.->|"建模工具"| J["动态规划"]
    J --> J1["记忆化 Memoization"]
    J --> J2["重叠子问题"]

    style A fill:#5cb85c,color:#fff
    style B fill:#4a90d9,color:#fff
    style C fill:#e8a838,color:#fff
    style J fill:#d9534f,color:#fff
  • 线性递推关系 是递推关系中最重要的一类,可用特征方程法系统求解
  • 特征方程 将线性齐次递推关系转化为代数方程,是求解的核心工具
  • 数学归纳法 用于验证递推关系求得的显式公式的正确性
  • 递归定义 是更一般的概念,递推关系是其在序列上的特化
  • 递归算法 的正确性和时间复杂度分析依赖递推关系
  • 分治算法 的复杂度分析产生特殊形式的递推关系
  • 生成函数 是求解递推关系的另一强大工具(8.4节)
  • 序列与求和 是递推关系的研究对象

章节扩展

第5章:归纳与递归 — 递归定义的自然延伸

递推关系是第5章递归定义在序列上的自然延伸。递归定义(5.3节)可以定义集合、字符串、树等结构,而递推关系专门用于定义序列。递归定义的基础情形对应初始条件,递归规则对应递推关系。递推关系与数学归纳法(5.1节)一体两面:递推关系提供归纳步,初始条件提供基础步。

第8章:高级计数技术 — 8.1节核心内容

递推关系是8.1节的核心主题。经典实例包括:

  • 斐波那契数列,初始条件 。源于兔子繁殖问题,在自然界中广泛出现(花瓣数、松果螺旋、向日葵种子排列等)。
  • 汉诺塔,初始条件 。显式解 。传说中64个金盘需要 步,超过5000亿年。
  • 位串计数:不含两个连续0的长度为 的位串数 ,与斐波那契数列满足相同递推关系。
  • 有效码字:含偶数个0的 位十进制串数 ,这是一个非齐次递推关系。
  • Catalan 数列,初始条件 。闭式公式

第8章:高级计数技术 — 动态规划

动态规划是递推关系在算法领域的直接应用。以讲座调度问题为例:设 为前 个讲座的最优调度方案的最大总参加人数,则 ,其中 是与讲座 兼容的最近讲座。通过记忆化存储中间结果,算法复杂度为

补充

建立递推关系的常见策略

建立递推关系的关键是找到问题的递归结构,常用策略包括:

  1. 分类讨论法:将第 步的所有可能情况按某种标准分类(如按最后一个元素分类),分别计算各类的数量后求和
  2. 分解法:将问题分解为若干独立的子问题,利用乘法原理
  3. 增删法:考虑从长度为 的解如何构造长度为 的解(如追加元素、插入元素等)
  4. 逆向分析法:从最终状态倒推,分析最后一步操作的可能情况

注意:必须确保分类不重不漏,且每类的计数可以表示为前面项的函数。

递推关系与数学归纳法的天然联系

递推关系和数学归纳法是一体两面:

  • 递推关系提供了归纳步骤: 如何从 等前项得到
  • 初始条件提供了基础步骤: 的值
  • 用迭代法求出显式公式后,通常需要用数学归纳法来严格证明公式的正确性

例如,汉诺塔的公式 可以通过数学归纳法验证:

  • 基础: 成立
  • 归纳:假设 ,则 成立

动态规划的命名趣闻

Richard Bellman 在1950年代于 RAND 公司为美国军方项目工作时发明了”动态规划”一词。当时美国国防部长对数学研究持敌对态度,Bellman 认为需要一个不含”数学”一词的名字来确保经费。他选择了”dynamic”(动态的),因为他认为”没有人会对动态这个词有负面看法”,而”动态规划”是”连国会议员都无法反对的东西”。

参见