# 6.2抽样分布

## 阅读入口

* [抽样分布](/knowledge/maths/statistics/sampling-distributions/)
* [简单随机样本](/knowledge/maths/statistics/sample-statistic/)
* [正态分布](/knowledge/maths/probability/normal-distribution/)

## 上侧分位点

设 $0<\alpha<1$。对随机变量 $W$，若 $w_\alpha$ 满足

$$
P\{W>w_\alpha\}=\alpha,
$$

则称 $w_\alpha$ 为 $W$ 的**上 $\alpha$ 分位点**：它右侧的尾概率恰为 $\alpha$。本页用到的四个记号是

$$
P\{Z>z_\alpha\}=\alpha,\qquad
P\{T>t_\alpha(\nu)\}=\alpha,
$$

$$
P\{U>\chi^2_\alpha(\nu)\}=\alpha,\qquad
P\{V>F_\alpha(\nu_1,\nu_2)\}=\alpha,
$$

其中 $Z\sim N(0,1)$，$T\sim t(\nu)$，$U\sim\chi^2(\nu)$，$V\sim F(\nu_1,\nu_2)$。$\alpha$ 越小，上侧分位点越大，因为要让右侧只剩更小的概率，分位点必须往右移。

双侧区间估计通常把显著性水平分到两侧，各占 $\alpha/2$ 的尾概率，于是用到 $z_{\alpha/2}$ 与 $z_{1-\alpha/2}$ 这样的两个点。

对关于零对称的分布，上侧分位点可以直接换成负号：

$$
z_{1-\alpha}=-z_\alpha,\qquad
t_{1-\alpha}(\nu)=-t_\alpha(\nu).
$$

例如 $z_{0.975}=-z_{0.025}$，因为标准正态的密度关于零对称。

> [!WARNING]
> **卡方与F不能靠对称性换算**
>
> 卡方分布只在非负半轴取值，$F$ 分布也不对称，都没有 $z_{1-\alpha}=-z_\alpha$ 这样的等式。$\chi^2_{1-\alpha}(\nu)$ 由 $P\{U>\chi^2_{1-\alpha}(\nu)\}=1-\alpha$ 定义，等价于 $P\{U\le\chi^2_{1-\alpha}(\nu)\}=\alpha$，它是分布的左侧分位点，只能另外查表或在表中按累积概率定位。$F$ 分布可以借助倒数关系换算：
>
> $$
> F_\alpha(\nu_1,\nu_2)=\frac{1}{F_{1-\alpha}(\nu_2,\nu_1)},
> $$
>
> 但两个自由度必须同时交换位置。

[来源：上侧分位点](/knowledge/maths/statistics/upper-tail-quantile/#definition)

这一段的记号贯穿6.2到9.3的查表，跨章引用时不必重新定义；答题时先把用到的分位点写下来再读数。

## 三种抽样分布

设 $Z_1,Z_2,\ldots,Z_\nu$ 相互独立，且都服从 $N(0,1)$，则

$$
U=\sum_{i=1}^{\nu}Z_i^2\sim\chi^2(\nu),
$$

其中 $\nu$ 称为**自由度**。它的数字特征为

$$
E(U)=\nu,\qquad D(U)=2\nu.
$$

这两个式子来自单个标准正态变量：$E(Z_i^2)=D(Z_i)=1$，而

$$
D(Z_i^2)=E(Z_i^4)-\bigl[E(Z_i^2)\bigr]^2=3-1=2,
$$

再由独立性把 $\nu$ 项相加。

卡方分布只在 $[0,+\infty)$ 上取值，通常不对称，右尾较长。相互独立的卡方变量可以相加，**自由度也相加**：若 $U_1\sim\chi^2(\nu_1)$ 与 $U_2\sim\chi^2(\nu_2)$ 独立，则 $U_1+U_2\sim\chi^2(\nu_1+\nu_2)$。这里独立性不能省。

[来源：卡方分布](/knowledge/maths/statistics/chi-square-distribution/#definition)

设 $Z\sim N(0,1)$，$U\sim\chi^2(\nu)$，且 $Z$ 与 $U$ 相互独立，则

$$
T=\frac{Z}{\sqrt{U/\nu}}\sim t(\nu).
$$

$t$ 分布的密度关于零对称，所以 $t_{1-\alpha}(\nu)=-t_\alpha(\nu)$；自由度增大时它趋近于标准正态，通常 $\nu>30$ 就可用正态近似。

它的矩要按自由度分别讨论：

* $\nu>1$ 时 $E(T)=0$；
* $\nu>2$ 时 $D(T)=\dfrac{\nu}{\nu-2}$；
* $\nu\le1$ 时期望不存在，$\nu=1$ 的 $t$ 分布就是柯西分布；
* $1<\nu\le2$ 时期望存在但方差不存在。

所以小自由度时不能套用不存在的矩，写 $D(T)=\nu/(\nu-2)$ 之前先确认 $\nu>2$。

[来源：$t$ 分布](/knowledge/maths/statistics/t-distribution/#definition)

设 $U\sim\chi^2(\nu_1)$，$V\sim\chi^2(\nu_2)$，其中 $\chi^2(\nu)$ 表示自由度为 $\nu$ 的[卡方分布](/knowledge/maths/statistics/chi-square-distribution/)，且两者相互独立，则

$$
F=\frac{U/\nu_1}{V/\nu_2}\sim F(\nu_1,\nu_2).
$$

$F$ 分布只在非负半轴取值，一般不对称。

[来源：$F$ 分布](/knowledge/maths/statistics/f-distribution/#definition)

它有以下两条常用性质：

$$
\frac1F\sim F(\nu_2,\nu_1),\qquad
F_\alpha(\nu_1,\nu_2)=\frac{1}{F_{1-\alpha}(\nu_2,\nu_1)}.
$$

这里 $F_\alpha(\nu_1,\nu_2)$ 表示右侧尾概率为 $\alpha$ 的上侧分位点，一般约定见[上侧分位点](/knowledge/maths/statistics/upper-tail-quantile/)。交换自由度时，原分布的 $(1-\alpha)$ 分位点要对应交换后的 $\alpha$ 分位点。

分子与分母的自由度顺序不能交换：$F(\nu_1,\nu_2)$ 与 $F(\nu_2,\nu_1)$ 是两个不同的分布。

还有一个与 [$t$ 分布](/knowledge/maths/statistics/t-distribution/)的联系：若 $T\sim t(\nu)$，则

$$
T^2\sim F(1,\nu).
$$

[来源：$F$ 分布](/knowledge/maths/statistics/f-distribution/#properties)

三种分布在这一段先建立“由什么构造”，再整理最常用的互换关系与尾部定位。更完整的密度和数字特征见[常用分布与统计公式速查](/knowledge/maths/statistics/distribution-reference/)；做题时先按构造和自由度顺序辨认分布。

## 单个正态总体的精确结论

### 单个正态总体

设 $X_1,\ldots,X_n$ 是来自 $N(\mu,\sigma^2)$ 的简单随机样本（样本与统计量的记号见[简单随机样本](/knowledge/maths/statistics/sample-statistic/)与[统计量](/knowledge/maths/statistics/statistics/)），$n\ge2$，则

$$
\bar X\sim N\left(\mu,\frac{\sigma^2}{n}\right),\qquad
\frac{(n-1)S^2}{\sigma^2}\sim\chi^2(n-1),
$$

并且 $\bar X$ 与 $S^2$ 相互独立，于是

$$
\frac{\bar X-\mu}{S/\sqrt n}\sim t(n-1).
$$

**证明**

令 $Z_i=\dfrac{X_i-\mu}{\sigma}$，则 $Z_1,\ldots,Z_n$ 相互独立，都服从 $N(0,1)$。取一个 $n$ 阶正交矩阵 $A$，使其第一行为 $\left(\frac1{\sqrt n},\ldots,\frac1{\sqrt n}\right)$，并令 $Y=AZ$。

正交变换保持平方和，也把独立标准正态变量变成独立标准正态变量，所以 $Y_1,\ldots,Y_n$ 仍相互独立且都服从 $N(0,1)$。其中

$$
Y_1=\frac1{\sqrt n}\sum_{i=1}^nZ_i=\sqrt n\,\bar Z,
$$

而平方和满足

$$
\sum_{i=1}^nY_i^2=\sum_{i=1}^nZ_i^2
=\sum_{i=1}^n\frac{(X_i-\mu)^2}{\sigma^2}.
$$

于是

$$
\sum_{i=2}^nY_i^2=\sum_{i=1}^nZ_i^2-n\bar Z^2
=\sum_{i=1}^n(Z_i-\bar Z)^2
=\frac{(n-1)S^2}{\sigma^2}.
$$

右端是 $n-1$ 个独立标准正态变量的平方和，故服从 $\chi^2(n-1)$。又因 $Y_1$ 与 $Y_2,\ldots,Y_n$ 独立，$\bar X$（只由 $Y_1$ 决定）与 $S^2$（只由 $Y_2,\ldots,Y_n$ 决定）也相互独立。

最后把 $t$ 分布的定义套用上去。记

$$
Z=\frac{\bar X-\mu}{\sigma/\sqrt n},\qquad
U=\frac{(n-1)S^2}{\sigma^2},
$$

则 $Z\sim N(0,1)$，$U\sim\chi^2(n-1)$，且两者独立，而

$$
\frac{\bar X-\mu}{S/\sqrt n}=\frac{Z}{\sqrt{U/(n-1)}}.
$$

按 $t$ 分布的定义，这个比值服从 $t(n-1)$。

自由度为 $n-1$，是因为 $n$ 个离差 $X_i-\bar X$ 受约束 $\sum_i(X_i-\bar X)=0$ 的限制，只有 $n-1$ 个可以自由变动。若把中心改为**已知**的 $\mu$，就没有这个约束，结论变为

$$
\frac{\sum_{i=1}^n(X_i-\mu)^2}{\sigma^2}\sim\chi^2(n).
$$

> [!IMPORTANT]
> **正态性是这些结论的前提**
>
> $\bar X\sim N(\mu,\sigma^2/n)$、$(n-1)S^2/\sigma^2\sim\chi^2(n-1)$、$\bar X$ 与 $S^2$ 独立，都要求总体服从正态分布。它们不是大样本近似：总体非正态时，$\bar X$ 只在 $n$ 很大时才近似正态，而 $S^2$ 的卡方结论对非正态性较敏感，不能直接沿用。均值与方差的无偏性 $E(\bar X)=\mu$、$E(S^2)=\sigma^2$ 则不需要正态性。

### 两个独立正态样本

设 $X_1,\ldots,X_{n_1}$ 来自 $N(\mu_1,\sigma_1^2)$，$Y_1,\ldots,Y_{n_2}$ 来自 $N(\mu_2,\sigma_2^2)$，两个样本相互独立。由单个正态总体的结论，两组样本方差各自给出一个卡方变量，二者独立，相除并按自由度归一后得

$$
\frac{S_1^2/\sigma_1^2}{S_2^2/\sigma_2^2}\sim F(n_1-1,n_2-1).
$$

若进一步假定两个总体的方差相等，记公共方差为 $\sigma^2$，则可把两组信息合成**合并方差**

$$
S_p^2=\frac{(n_1-1)S_1^2+(n_2-1)S_2^2}{n_1+n_2-2},
$$

它是一个以 $\sigma^2$ 为期望的加权平均，权重是各自的自由度。此时

$$
\frac{\bar X-\bar Y-(\mu_1-\mu_2)}{S_p\sqrt{\dfrac1{n_1}+\dfrac1{n_2}}}\sim t(n_1+n_2-2).
$$

自由度是两个样本自由度之和 $(n_1-1)+(n_2-1)=n_1+n_2-2$。

> [!CAUTION]
> **合并 $t$ 的适用条件**
>
> 上式同时要求：两个样本相互独立、两个总体都服从正态分布、两个总体方差相等。方差不等时不能用 $S_p^2$，应改用不假定方差相等的近似方法。非正态总体下的大样本近似也不能当作这里的精确结论。

[来源：正态总体的抽样分布](/knowledge/maths/statistics/sampling-distributions/#properties)

这一段的三条分布结论加上 $\bar X$ 与 $S^2$ 的独立性，就是7.3与8.2直接引用的全部依据；两样本的 $F$ 在下一段才出现，引用时要分开。

## 学习安排

教材在本节先给上侧分位点，再依次引入卡方、t、F三种分布，最后才给出正态总体下的精确结论。这个顺序就是查表顺序：分位点提供查表的语言，三种分布只回答“统计量服从什么”，四条精确结论才是后面区间估计与假设检验直接引用的公式。

复习时把四条精确结论单独抄成一页，每条后面注明三个条件：总体是否正态、$\sigma$ 已知还是未知、涉及一个样本还是两个样本。三种分布的定义与性质当作查表工具，不必逐条背。

本节与下一章的分工也要清楚：这里只建立分布，具体在哪种情形下查哪一列、单侧还是双侧，要等区间估计与假设检验的步骤确定之后才知道。

## 课程约定

* 教材用“上 $\alpha$ 分位点”，即右侧尾概率为 $\alpha$。部分教材用下侧分位点，查表前先确认表头写的是 $P\{W>w_\alpha\}=\alpha$。
* 卡方表、t表、F表只列上侧分位点。$\chi^2_{1-\alpha}$ 要靠累积概率在表中另一侧定位，$F_{1-\alpha}$ 用倒数关系换算，换算时两个自由度同时交换位置。
* 自由度统一用 $\nu$ 表示；$F$ 分布写作 $F(\nu_1,\nu_2)$，分子自由度在前。
* 正态样本的 $t$ 统计量为 $\dfrac{\bar X-\mu}{S/\sqrt n}$，分母使用样本标准差 $S$，因此自由度是 $n-1$。
* 两个样本的均值差用 $S_p^2$ 表示合并方差，自由度是 $n_1+n_2-2$。
* 每条公式都连同适用条件一起记录。

## 重点

* 三种分布的定义都是“标准正态或卡方的组合”，记住构造方式比记密度函数有用：卡方是标准正态平方和，t是标准正态除以卡方根号，F是两个卡方各自除以自由度后的比值。
* 只有 $t$ 分布关于零对称，所以 $z_{1-\alpha}=-z_\alpha$ 与 $t_{1-\alpha}(\nu)=-t_\alpha(\nu)$ 可以用；卡方与F都没有这个等式。
* 正态总体下 $\bar X$ 与 $S^2$ 独立，这是能把 $z$ 统计量换成 $t$ 统计量的关键一步，也是本节唯一需要“正交变换”的论证。
* 单个正态总体的四条结论对任意 $n\ge2$ 精确成立，前提是总体正态；大样本近似不等于这里的精确结论。

> [!IMPORTANT]
> **自由度从哪里来**
>
> $(n-1)S^2/\sigma^2$ 的自由度是 $n-1$，因为中心 $\bar X$ 占掉一个约束 $\sum_i(X_i-\bar X)=0$。若中心改用已知的 $\mu$，约束消失，自由度变回 $n$。合并 $t$ 的自由度是两个样本自由度之和，即 $(n_1-1)+(n_2-1)$。

## 易错点

* 交换 $F$ 的两个自由度，把 $F(5,10)$ 写成 $F(10,5)$；这两个是不同的分布。
* 总体方差未知时仍用 $\sigma/\sqrt n$ 查标准正态表，得到偏窄的区间；这时应查 $t(n-1)$。
* 在 $\nu\le2$ 时使用 $D(T)=\nu/(\nu-2)$；$\nu=2$ 时分母为零，方差根本不存在。
* 双侧区间把整个 $\alpha$ 放在一侧，忘记两侧各占 $\alpha/2$。
* 把非正态总体下的大样本近似结果当成精确结论，尤其对方差的卡方检验，它对非正态性比较敏感。
* 认为合并 $t$ 只看样本量够大就行；它要求两个样本独立、两个总体正态且方差相等。

## 复习要点

做题前先问三个问题：总体是否假定正态、$\sigma$ 是否已知、只有一个样本还是两个样本。三个答案确定之后，统计量和分布才唯一确定，这一步比背公式更值得花时间。

曾经把 $(n-1)S^2/\sigma^2$ 的自由度写成 $n$，原因是习惯性地把它当成 $n$ 个平方和。现在先写出 $n$，再减掉被均值占用的那一个自由度。

查表时先在表的标题上确认是上侧分位点，再动手找数；遇到 $\alpha>0.5$ 的 $z$ 或 $t$ 分位点，直接用对称关系换成负号，不要在表外自己插值。