5.2中心极限定理 · Learning Notes

阅读入口

独立同分布中心极限定理

设 $X_1,X_2,\ldots$ 独立同分布， $E(X_i)=\mu$ ， $D(X_i)=\sigma^2\in(0,\infty)$ 。记 $S_n=\sum_{i=1}^nX_i$ ， $\bar X_n=S_n/n$ ，则

Z_n=\frac{S_n-n\mu}{\sigma\sqrt n} =\frac{\bar X_n-\mu}{\sigma/\sqrt n} \xrightarrow{d}N(0,1).

也就是对任意实数 $x$ ， $P\{Z_n\le x\}\to\Phi(x)$ 。样本量较大时，可以把和与均值近似为正态变量：

S_n\approx N(n\mu,n\sigma^2),\qquad \bar X_n\approx N\left(\mu,\frac{\sigma^2}{n}\right).

若总体本身就是正态分布 $N(\mu,\sigma^2)$ ，则对任意 $n$ ， $S_n$ 与 $\bar X_n$ 的上述正态分布精确成立，不需要“样本量较大”这个前提。

与大数定律的分工

大数定律说明样本均值靠近哪里： $\bar X_n\xrightarrow{P}\mu$ 。中心极限定理说明这个误差在适当缩放下服从什么分布： $\dfrac{\bar X_n-\mu}{\sigma/\sqrt n}$ 近似服从 $N(0,1)$ 。前者给出位置，后者给出波动的形状，两者不能互相替代。大数定律的完整陈述见大数定律。

来源：中心极限定理

这一段末尾的“与大数定律的分工”是5.1与5.2的接缝，把两侧的结论并排写一次，可以避免把 $\xrightarrow{P}$ 与 $\xrightarrow{d}$ 混用。

二项分布的正态近似

若 $X\sim B(n,p)$ （二项分布，见二项分布），其中 $0<p<1$ 固定，则二项变量是 $n$ 个独立同分布的两点变量之和，每个两点变量的均值为 $p$ 、方差为 $p(1-p)$ 。由独立同分布中心极限定理，

\frac{X-np}{\sqrt{np(1-p)}}\xrightarrow{d}N(0,1),

即 $X$ 近似服从 $N\bigl(np,np(1-p)\bigr)$ 。

由于 $X$ 只取整数，计算 $P\{a\le X\le b\}$ （ $a,b$ 为整数）时要做连续性修正：把区间端点各向外扩 $0.5$ ，再标准化。于是

P\{a\le X\le b\}\approx \Phi\left(\frac{b+0.5-np}{\sqrt{np(1-p)}}\right) -\Phi\left(\frac{a-0.5-np}{\sqrt{np(1-p)}}\right).

检查近似条件： $np$ 与 $n(1-p)$ 都应足够大；不满足时改用二项分布直接求和或泊松近似。
做连续性修正：双侧区间 $P\{a\le X\le b\}$ 的上下界分别改为 $b+0.5$ 与 $a-0.5$ 。单侧概率按同一原则处理： $P\{X\le k\}$ 的上界用 $k+0.5$ ； $P\{X\ge k\}$ 的下界用 $k-0.5$ ； $P\{X>k\}$ 先改成 $P\{X\ge k+1\}$ ，下界再用 $k+0.5$ 。
标准化：用 $z=\dfrac{x-np}{\sqrt{np(1-p)}}$ 把修正后的端点换成标准正态分位数。
查表作差：计算 $\Phi(z_{\text{上}})-\Phi(z_{\text{下}})$ ；单侧概率用 $1-\Phi(z)$ 或 $\Phi(z)$ 。

近似条件只看 $np$ 与 $n(1-p)$ 的大小。常见的“不小于 $5$ 或 $10$ ”只是经验筛查：尾部概率、强偏斜（ $p$ 接近 $0$ 或 $1$ ）时近似仍可能不准，不存在对所有总体都有效的固定样本量门槛。

来源：中心极限定理

例题紧跟近似式，先判断“ $np$ 与 $n(1-p)$ 是否够大”；条件成立时才能使用这段的二项近似。

学习安排

本节先给出独立同分布情形，再把它用到二项分布，最后补充不同分布时的李雅普诺夫条件。二项近似的计算步骤是先做连续性修正，再标准化查 $\Phi$ 。

阅读时把两个极限定理的分工记清楚：大数定律回答“样本均值靠近哪个值”，中心极限定理回答“样本均值的误差在缩放后服从什么分布”。教材在给出近似式后立即比较两者，是为了避免把依概率收敛与依分布收敛混为一谈。

课程约定

标准正态分布函数记 $\Phi$ ，标准化变量记 $Z_n$ 。写成 $X\sim N(np,np(1-p))$ 时只表示近似，不表示二项分布变成了正态分布。
二项分布的均值是 $np$ ，标准差是 $\sqrt{np(1-p)}$ ；本章计算次数概率时一律使用连续性修正，不省略 $\pm0.5$ 。
近似条件按 $np$ 与 $n(1-p)$ 判断。常见的“不小于5或10”只是经验门槛，正式作答时要说明它只是筛查而不是定理条件。
一般独立变量使用李雅普诺夫条件，其中 $s_n^2=\sum_iD(X_i)$ 。

重点

独立同分布中心极限定理的结论是标准化和的依分布收敛，不是 $X_i$ 本身服从正态分布。
总体本身为正态时，样本均值的正态性对任意 $n$ 精确成立，这是本章少见的精确结论。
二项近似的主要操作是连续性修正与标准化；分母用标准差，不用方差。

易错点

把中心极限定理的结论写成 $\bar X_n$ 依概率收敛于 $\mu$ ，或把它的结论写成每个 $X_i$ 近似正态。
标准化时把分母写成方差 $np(1-p)$ ，正确做法是除以标准差。
连续性修正的端点方向搞反： $P\{X\ge k\}$ 的下界用 $k-0.5$ ， $P\{X>k\}$ 要先改成 $P\{X\ge k+1\}$ 再修正。
在 $np$ 很小时仍使用正态近似；此时尾部概率误差明显，应改用二项分布直接计算或泊松近似。
对方差无穷的重尾分布套用独立同分布版本，或把渐近结论当成有限样本的精度保证。