方差

Abstract

方差(Variance)是度量随机变量取值离散程度的核心数字特征。对于随机变量 ,方差定义为 ,即 与其期望值之差的平方的期望。方差越大,说明 的取值越分散;方差越小,说明 的取值越集中在期望附近。方差的平方根 称为标准差,与 具有相同的量纲。

定义

方差(Variance)

随机变量,其期望值,则 方差定义为:

推导过程

其中最后一步利用了

标准差(Standard Deviation)

方差的平方根称为标准差

意义:标准差与随机变量 具有相同的量纲(单位),因此比方差更直观。例如,若 的单位为”米”,则 的单位为”平方米”,而 的单位仍为”米”。

方差的线性变换性质

对任意常数

推导:设 ,则

注意:平移(加常数 )不改变方差,只有缩放(乘常数 )才影响方差,且影响是平方级的。

Bienayme公式(独立随机变量方差的可加性)

相互独立随机变量,则:

推导

由于 独立,,故最后一项为零。

注意:与期望的线性性质不同,方差的可加性要求独立性

伯努利随机变量的方差

服从参数为 的伯努利分布(),则:

时,,达到最大值。

核心性质

编号性质公式/说明
P1非负性,且 当且仅当 几乎必然为常数
P2定义等价形式,计算时通常比定义式更方便
P3平移不变性,加常数不改变离散程度
P4缩放性质,缩放对方差的影响是平方级的
P5独立可加性(要求 独立,Bienayme公式)
P6标准差量纲一致 具有相同量纲
P7切比雪夫不等式的桥梁方差是切比雪夫不等式的核心参数,刻画了偏离期望的概率上界

关系网络

graph LR
    A[方差]
    B[期望值]
    C[随机变量]
    D[切比雪夫不等式]
    E[标准差]

    C -- "离散程度" --> A
    B -- "E(X²)-[E(X)]²" --> A
    A -- "σ² 参数" --> D
    A -- "平方根" --> E
    E -- "量纲一致" --> C

章节扩展

补充

生活类比

想象两个射手射击靶心。射手A每次都打在靶心附近,弹着点很集中;射手B有时打中靶心,有时偏离很远,弹着点很分散。虽然两人的”平均”命中位置可能都是靶心(期望值相同),但射手B的”方差”明显更大——他的表现更不稳定。方差就是用来量化这种”波动大小”的指标。

为什么方差要用平方?

直接计算 会得到零(正负偏差相互抵消),所以需要先平方再求期望。平方确保了所有偏差都贡献正值。当然也可以用绝对值 来度量离散程度(称为平均绝对偏差),但方差在数学上有更好的性质(如可加性),因此更常用。

Bienayme公式的重要性

Bienayme公式(独立随机变量方差的可加性)在统计学中有广泛应用。例如,若 个独立的同分布随机变量,每个方差为 ,则它们的和 的方差为 ,标准差为 。这一结论是切比雪夫不等式证明大数定律的关键。

参见