知识点

方差

方差与标准差描述随机变量取值围绕期望的分散程度。本页默认所讨论的随机变量二阶矩有限,即 E(X2)<+∞E(X^2)<+\infty;这时 E(X)E(X) 也一定存在。

定义

设 XX 满足 E(X2)<+∞E(X^2)<+\infty,记 μ=E(X)\mu=E(X)。称

D(X)=E[(X−μ)2]D(X)=E\bigl[(X-\mu)^2\bigr]

为 XX 的方差,也记作 Var⁡(X)\operatorname{Var}(X);称 D(X)\sqrt{D(X)} 为标准差,它与 XX 取相同的单位。方差是平方的量,标准差才与原始数据同量纲,比较波动时常用标准差。

方差常用下面的公式计算:

D(X)=E(X2)−[E(X)]2.D(X)=E(X^2)-[E(X)]^2.
证明

把平方展开,再用期望的线性性质:

D(X)=E(X2−2μX+μ2)=E(X2)−2μE(X)+μ2=E(X2)−[E(X)]2.D(X)=E(X^2-2\mu X+\mu^2)=E(X^2)-2\mu E(X)+\mu^2=E(X^2)-[E(X)]^2.

性质

常数与仿射变换

D(C)=0,D(aX+b)=a2D(X).D(C)=0,\qquad D(aX+b)=a^2D(X).
证明

常数的取值不波动,所以 D(C)=0D(C)=0。对仿射变换,均值为 aE(X)+baE(X)+b,于是

D(aX+b)=E[(aX+b−aE(X)−b)2]=a2E[(X−E(X))2]=a2D(X).D(aX+b)=E\bigl[(aX+b-aE(X)-b)^2\bigr] =a^2E\bigl[(X-E(X))^2\bigr]=a^2D(X).

平移不改变波动,乘以 aa 则把偏差放大 ∣a∣|a| 倍,方差相应放大 a2a^2 倍。

两个变量与线性组合

D(X±Y)=D(X)+D(Y)±2Cov⁡(X,Y).D(X\pm Y)=D(X)+D(Y)\pm2\operatorname{Cov}(X,Y).

协方差的定义与性质见协方差。若 XX 与 YY 不相关,即 Cov⁡(X,Y)=0\operatorname{Cov}(X,Y)=0(独立是充分条件),则

D(X+Y)=D(X−Y)=D(X)+D(Y).D(X+Y)=D(X-Y)=D(X)+D(Y).

对有限线性组合,

D(∑iaiXi)=∑iai2D(Xi)+2∑i<jaiajCov⁡(Xi,Xj).D\left(\sum_i a_iX_i\right) =\sum_i a_i^2D(X_i)+2\sum_{i<j}a_ia_j\operatorname{Cov}(X_i,X_j).

若各变量两两不相关,所有协方差项为零,方差只剩 ∑iai2D(Xi)\sum_i a_i^2D(X_i)。

样本和与样本均值

设 X1,…,XnX_1,\ldots,X_n 独立同分布,E(Xi)=μE(X_i)=\mu,D(Xi)=σ2D(X_i)=\sigma^2。独立性使各协方差为零,于是

E(∑i=1nXi)=nμ,D(∑i=1nXi)=nσ2,E\left(\sum_{i=1}^nX_i\right)=n\mu,\qquad D\left(\sum_{i=1}^nX_i\right)=n\sigma^2,

样本均值 Xˉ=1n∑iXi\bar X=\frac1n\sum_iX_i 满足

E(Xˉ)=μ,D(Xˉ)=σ2n.E(\bar X)=\mu,\qquad D(\bar X)=\frac{\sigma^2}{n}.

最后一条由 D(Xˉ)=1n2D(∑iXi)=nσ2n2D(\bar X)=\frac{1}{n^2}D\left(\sum_iX_i\right)=\frac{n\sigma^2}{n^2} 得到。平均值的标准差为 σ/n\sigma/\sqrt n:若希望它减半,样本量要增为原来的四倍。

零方差

方差非负,且

D(X)=0D(X)=0

当且仅当 X=E(X)X=E(X) 几乎必然成立。也就是说,方差为零的随机变量几乎必然是常数;这一点在讨论相关系数的分母时要用到。

例子

B(1,p)B(1,p) 的方差

设 P{X=1}=pP\{X=1\}=p,P{X=0}=1−pP\{X=0\}=1-p。此时 E(X)=pE(X)=p,且 X2=XX^2=X,所以 E(X2)=pE(X^2)=p。按计算公式,

D(X)=p−p2=p(1−p).D(X)=p-p^2=p(1-p).

若直接用定义,X−E(X)X-E(X) 以概率 pp 取 1−p1-p、以概率 1−p1-p 取 −p-p,平方后加权同样得到 p(1−p)2+(1−p)p2=p(1−p)p(1-p)^2+(1-p)p^2=p(1-p)。

交互探索

比较对称两点分布的中心位置与偏离距离对方差的影响。

平移和拉伸怎样影响方差?

比较对称两点分布的中心、偏离距离和方差。

正在准备演示…

题集

练习

  1. 设 P{X=0}=0.2P\{X=0\}=0.2,P{X=1}=0.5P\{X=1\}=0.5,P{X=2}=0.3P\{X=2\}=0.3,则 D(X)=D(X)= 。

    参考解答

    先算 E(X)=0×0.2+1×0.5+2×0.3=1.1E(X)=0\times0.2+1\times0.5+2\times0.3=1.1,再算 E(X2)=0+1×0.5+4×0.3=1.7E(X^2)=0+1\times0.5+4\times0.3=1.7,所以 D(X)=1.7−1.12=1.7−1.21=0.49D(X)=1.7-1.1^2=1.7-1.21=0.49。

  2. 已知 D(X)=4D(X)=4,则 D(3X−2)=D(3X-2)= 。

    参考解答

    仿射变换中常数项不影响方差,系数平方后乘到方差上:D(3X−2)=32D(X)=9×4=36D(3X-2)=3^2D(X)=9\times4=36。

  3. 设 X1,…,X16X_1,\ldots,X_{16} 独立同分布,D(Xi)=9D(X_i)=9,则 D(Xˉ)=D(\bar X)= 。

    参考解答

    样本均值的方差为 σ2n=916=0.5625\dfrac{\sigma^2}{n}=\dfrac{9}{16}=0.5625。计算时先把和的方差 nσ2n\sigma^2 除以 n2n^2,约分后得到 σ2/n\sigma^2/n。

  4. 设 D(X)=4D(X)=4,D(Y)=9D(Y)=9,且 XX 与 YY 不相关,则 D(X−Y)=D(X-Y)= 。

    参考解答

    协方差为零时 D(X−Y)=D(X)+D(Y)=4+9=13D(X-Y)=D(X)+D(Y)=4+9=13。负号不会让方差相减。

  5. 关于方差,下列叙述正确的是

    选择答案
    参考解答

    不相关时协方差为零,D(X−Y)=D(X)+D(Y)D(X-Y)=D(X)+D(Y)。其余三项分别错在:方差不能相减;系数要平方,D(2X)=4D(X)D(2X)=4D(X);乘积的方差一般不能拆成方差之积。