# 7.3区间估计

## 置信区间与枢轴量

设总体分布含未知参数 $\theta\in\Theta$，$X=(X_1,\ldots,X_n)$ 是来自该分布的简单随机样本（独立同分布），$L(X)$ 与 $U(X)$ 是统计量且 $L(X)\le U(X)$。若对每个 $\theta\in\Theta$ 都有

$$
P_\theta\{L(X)\le\theta\le U(X)\}=1-\alpha,
$$

则称随机区间 $[L(X),U(X)]$ 为 $\theta$ 的**置信水平** $1-\alpha$（也称置信度）的**置信区间**，$1-\alpha$ 称为覆盖概率。若只能保证覆盖概率近似等于 $1-\alpha$，则称为**近似置信区间**。

这里 $\theta$ 固定，随机的是抽样产生的区间。置信水平的含义是：反复使用同一抽样与构造过程，约有 $100(1-\alpha)\%$ 的区间覆盖真参数。观测到具体区间 $[l,u]$ 之后，不能再说“$\theta$ 以 $1-\alpha$ 的概率落入 $[l,u]$”：此时 $\theta$ 与端点都已确定，区间要么覆盖它，要么不覆盖。

构造区间通常借助**枢轴量**：样本与参数的函数 $G(X,\theta)$，它的分布完全已知，且不依赖任何未知参数（包括 $\theta$ 本身）。若

$$
P\{a\le G(X,\theta)\le b\}=1-\alpha,
$$

就把 $a\le G(X,\theta)\le b$ 当作关于 $\theta$ 的不等式解出，得到 $\theta$ 的置信区间。$a,b$ 常按两侧各留 $\alpha/2$ 的尾概率选取；同一置信水平下的区间不唯一，等尾取法只是常用选择。统计量与枢轴量的区别见[简单随机样本](/knowledge/maths/statistics/sample-statistic/)与[统计量](/knowledge/maths/statistics/statistics/)。

1. **确定参数与模型**

   写清总体分布、样本结构、待估参数，以及哪些量已知。

2. **选枢轴量**

   找分布已知且不含未知参数的 $G(X,\theta)$，常见的是 $z$、$t$、$\chi^2$、$F$ 型统计量。

3. **取概率为 $1-\alpha$ 的区间**

   双侧按各 $\alpha/2$ 的尾概率取两个分位点；单侧只在一侧留 $\alpha$。

4. **解出参数范围**

   把不等式变形为 $L(X)\le\theta\le U(X)$，并检查端点顺序。

5. **说明前提与近似**

   正态样本的结论是精确的；Welch近似与大样本区间要写明“近似”。

[来源：置信区间](/knowledge/maths/statistics/interval-estimation/#definition)

本节的区间公式采用[上侧分位点](/knowledge/maths/statistics/upper-tail-quantile/)记号；双侧区间通常在每侧各留 $\alpha/2$ 的尾概率。

## 总体均值

以下区间以 $1-\alpha$ 为置信水平，分位点采用[上侧分位点约定](/knowledge/maths/statistics/upper-tail-quantile/)。

设 $X_1,\ldots,X_n$ 是来自均值为 $\mu$、方差为 $\sigma^2$ 的总体的简单随机样本，$n\ge2$，记

$$
\bar X=\frac1n\sum_{i=1}^nX_i,\qquad
S^2=\frac1{n-1}\sum_{i=1}^n(X_i-\bar X)^2,\qquad
S=\sqrt{S^2}.
$$

除单侧界一节外，以下使用等尾双侧区间。

### 正态总体均值

本段假设总体服从 $N(\mu,\sigma^2)$。

方差 $\sigma^2$ 已知时，$Z=\dfrac{\bar X-\mu}{\sigma/\sqrt n}\sim N(0,1)$，由 $P\{-z_{\alpha/2}\le Z\le z_{\alpha/2}\}=1-\alpha$ 解出

$$
\mu\in\left[\bar X-z_{\alpha/2}\frac{\sigma}{\sqrt n},\ \bar X+z_{\alpha/2}\frac{\sigma}{\sqrt n}\right].
$$

方差未知时，用 $S$ 代替 $\sigma$，统计量 $T=\dfrac{\bar X-\mu}{S/\sqrt n}\sim t(n-1)$，于是

$$
\mu\in\left[\bar X-t_{\alpha/2}(n-1)\frac{S}{\sqrt n},\ \bar X+t_{\alpha/2}(n-1)\frac{S}{\sqrt n}\right].
$$

两式的推导相同：先写出枢轴量落在两个分位点之间的概率，再对 $\mu$ 解不等式。

### 大样本近似

对一般总体，只要方差有限、样本量足够大，就可由中心极限定理用

$$
\mu\in \bar X\pm z_{\alpha/2}\frac{S}{\sqrt n}
$$

近似，$S$ 为样本标准差。样本量多大算“足够大”取决于总体的偏斜程度与尾部；总体严重偏斜或样本很小时，这个近似不可靠。

### 单侧界

单侧问题只需要一个界限。正态总体、方差未知时，由 $P\{T\le t_\alpha(n-1)\}=1-\alpha$ 得置信水平 $1-\alpha$ 的置信下限

$$
\mu_L=\bar X-t_\alpha(n-1)\frac{S}{\sqrt n},
$$

即 $\mu\in[\mu_L,+\infty)$；同理置信上限为

$$
\mu_U=\bar X+t_\alpha(n-1)\frac{S}{\sqrt n},
$$

对应 $\mu\in(-\infty,\mu_U]$。方差已知时把 $t_\alpha(n-1)$ 换成 $z_\alpha$。单侧界使用上 $\alpha$ 分位点，双侧区间使用上 $\alpha/2$ 分位点：$1-\alpha$ 的把握全部放在一侧，尾概率就是 $\alpha$，不需要再平分。

### 样本量

方差已知，要求双侧均值区间的半宽不超过 $d$ 时，需要

$$
z_{\alpha/2}\frac{\sigma}{\sqrt n}\le d
\quad\Longrightarrow\quad
n\ge\left(\frac{z_{\alpha/2}\sigma}{d}\right)^2.
$$

计算结果向上取整：样本量是整数，而条件是“至少”。$\sigma$ 未知时只能先用估计值或预调查的 $S$ 代替，得到的是近似样本量。

[来源：总体均值的置信区间](/knowledge/maths/statistics/mean-confidence-interval/#definition)

## 正态总体方差

以下区间以 $1-\alpha$ 为置信水平，分位点采用[上侧分位点约定](/knowledge/maths/statistics/upper-tail-quantile/)。

设 $X_1,\ldots,X_n$ 是来自 $N(\mu,\sigma^2)$ 的简单随机样本，$n\ge2$，记

$$
\bar X=\frac1n\sum_{i=1}^nX_i,\qquad
S^2=\frac1{n-1}\sum_{i=1}^n(X_i-\bar X)^2,\qquad
S=\sqrt{S^2}.
$$

以下都是置信水平 $1-\alpha$ 的等尾双侧区间。

均值 $\mu$ 未知时，$\dfrac{(n-1)S^2}{\sigma^2}\sim\chi^2(n-1)$。按两侧各留 $\alpha/2$ 得

$$
P\left\{\chi^2_{1-\alpha/2}(n-1)\le\frac{(n-1)S^2}{\sigma^2}\le\chi^2_{\alpha/2}(n-1)\right\}=1-\alpha,
$$

解出

$$
\sigma^2\in\left[\frac{(n-1)S^2}{\chi^2_{\alpha/2}(n-1)},\ \frac{(n-1)S^2}{\chi^2_{1-\alpha/2}(n-1)}\right].
$$

端点都为正，所以标准差 $\sigma$ 的区间是对两个端点开平方：

$$
\sigma\in\left[\sqrt{\frac{(n-1)S^2}{\chi^2_{\alpha/2}(n-1)}},\ \sqrt{\frac{(n-1)S^2}{\chi^2_{1-\alpha/2}(n-1)}}\right].
$$

若均值 $\mu$ 已知，则用 $\sum_{i=1}^n(X_i-\mu)^2$ 代替 $(n-1)S^2$，自由度换成 $n$：

$$
\sigma^2\in\left[\frac{\sum_i(X_i-\mu)^2}{\chi^2_{\alpha/2}(n)},\ \frac{\sum_i(X_i-\mu)^2}{\chi^2_{1-\alpha/2}(n)}\right].
$$

> [!TIP]
> **端点顺序的记忆**
>
> $\chi^2_{\alpha/2}$ 在右尾，数值较大；$\chi^2_{1-\alpha/2}$ 在左尾，数值较小。较大的分位点作下界的分母，较小的作上界的分母，所以“分母越大，端点越小”。写完先检查下界是否小于上界。

> [!WARNING]
> **不要交换两个分位点**
>
> 把 $\chi^2_{\alpha/2}$ 与 $\chi^2_{1-\alpha/2}$ 的位置写反，会得到下界大于上界的空区间。$\chi^2$ 与 $F$ 都不对称，不能沿用 $z_{1-\alpha}=-z_\alpha$ 的写法。

[来源：正态总体方差的置信区间](/knowledge/maths/statistics/variance-confidence-interval/#definition)

## 两个独立总体的均值差

以下区间以 $1-\alpha$ 为置信水平，分位点采用[上侧分位点约定](/knowledge/maths/statistics/upper-tail-quantile/)。

设 $X_1,\ldots,X_{n_1}$ 与 $Y_1,\ldots,Y_{n_2}$ 分别来自 $N(\mu_1,\sigma_1^2)$ 与 $N(\mu_2,\sigma_2^2)$，两个样本相互独立，$n_1,n_2\ge2$，样本均值与样本方差记为

$$
\bar X,\ \bar Y,\ S_1^2,\ S_2^2,
$$

其中 $S_i^2$ 的分母是 $n_i-1$。下面把区间写成“中心 $\pm$ 半宽”，$\pm$ 表示闭区间的两个端点。

### 方差已知

$$
\mu_1-\mu_2\in(\bar X-\bar Y)\pm z_{\alpha/2}\sqrt{\frac{\sigma_1^2}{n_1}+\frac{\sigma_2^2}{n_2}}.
$$

### 均值差：方差未知但相等

令合并方差

$$
S_p^2=\frac{(n_1-1)S_1^2+(n_2-1)S_2^2}{n_1+n_2-2},
$$

则

$$
\mu_1-\mu_2\in(\bar X-\bar Y)\pm t_{\alpha/2}(n_1+n_2-2)\,S_p\sqrt{\frac1{n_1}+\frac1{n_2}}.
$$

合并方差以两组的自由度为权重，自由度相加得 $n_1+n_2-2$。

### 均值差：方差不假定相等

用Welch近似，标准误为 $\sqrt{\dfrac{S_1^2}{n_1}+\dfrac{S_2^2}{n_2}}$，近似自由度为

$$
\nu=\frac{\left(\dfrac{S_1^2}{n_1}+\dfrac{S_2^2}{n_2}\right)^2}{\dfrac{(S_1^2/n_1)^2}{n_1-1}+\dfrac{(S_2^2/n_2)^2}{n_2-1}},
$$

$\mu_1-\mu_2$ 的近似区间为

$$
(\bar X-\bar Y)\pm t_{\alpha/2}(\nu)\sqrt{\frac{S_1^2}{n_1}+\frac{S_2^2}{n_2}}.
$$

$\nu$ 由样本估计，通常不是整数。方差不相等时仍套用合并方差公式，会错误地估计标准误，区间不再具有所声称的置信水平。

[来源：独立样本均值差的置信区间](/knowledge/maths/statistics/independent-mean-confidence-interval/#definition)

## 配对样本

以下区间以 $1-\alpha$ 为置信水平，分位点采用[上侧分位点约定](/knowledge/maths/statistics/upper-tail-quantile/)。

同一对象上的两次测量 $X_i$ 与 $Y_i$ 可能相关；将它们化成差值

$$
D_i=X_i-Y_i,\qquad i=1,\ldots,n.
$$

若各对之间相互独立，且差值服从正态分布，则对 $\mu_D=E(D)$ 使用单样本 $t$ 区间：

$$
\mu_D\in \bar D\pm t_{\alpha/2}(n-1)\frac{S_D}{\sqrt n},
$$

其中 $\bar D$ 与 $S_D$ 是差值的样本均值与样本标准差。配对把比较化成单样本差值问题。两次测量相关时，把它们当成两个独立样本会忽略这种相关性，错误估计标准误。

[来源：配对样本均值差的置信区间](/knowledge/maths/statistics/paired-mean-confidence-interval/#definition)

## 两个正态总体的方差比

以下区间以 $1-\alpha$ 为置信水平，分位点采用[上侧分位点约定](/knowledge/maths/statistics/upper-tail-quantile/)。

设 $X_1,\ldots,X_{n_1}$ 与 $Y_1,\ldots,Y_{n_2}$ 分别来自 $N(\mu_1,\sigma_1^2)$ 与 $N(\mu_2,\sigma_2^2)$，两个样本相互独立，$n_1,n_2\ge2$，样本均值与样本方差记为

$$
\bar X,\ \bar Y,\ S_1^2,\ S_2^2,
$$

其中 $S_i^2$ 的分母是 $n_i-1$。下面把区间写成“中心 $\pm$ 半宽”，$\pm$ 表示闭区间的两个端点。

由 $\dfrac{S_1^2/\sigma_1^2}{S_2^2/\sigma_2^2}\sim F(n_1-1,n_2-1)$ 得

$$
\frac{\sigma_1^2}{\sigma_2^2}\in\left[\frac{S_1^2/S_2^2}{F_{\alpha/2}(n_1-1,n_2-1)},\ \frac{S_1^2/S_2^2}{F_{1-\alpha/2}(n_1-1,n_2-1)}\right].
$$

这个区间不要求两个总体方差相等，只要求样本独立且都来自正态总体。$F$ 分布不对称，两个分位点不能交换；$F_{1-\alpha/2}$ 可用 $\dfrac{1}{F_{\alpha/2}(n_2-1,n_1-1)}$ 换算，但两个自由度要同时交换位置。

[来源：正态总体方差比的置信区间](/knowledge/maths/statistics/variance-ratio-confidence-interval/#definition)

## 伯努利比例

以下区间以 $1-\alpha$ 为置信水平，分位点采用[上侧分位点约定](/knowledge/maths/statistics/upper-tail-quantile/)。

设每次独立伯努利试验的成功概率为 $p$，$N$ 为 $n$ 次试验中的成功次数，$\hat p=N/n$。常见的大样本Wald区间为

$$
p\in\hat p\pm z_{\alpha/2}\sqrt{\frac{\hat p(1-\hat p)}{n}}.
$$

它在小样本或 $p$ 接近 $0,1$ 时覆盖率可能明显低于名义水平，端点还可能越出 $[0,1]$。此时应采用Wilson区间或精确二项区间；只把越界端点截断到 $[0,1]$，并不能恢复覆盖率。

[来源：伯努利比例的Wald区间](/knowledge/maths/statistics/wald-confidence-interval/#definition)

## 选择方法

先确定目标参数，再区分已知和未知方差、独立样本和配对样本。正态模型下的精确区间要核对自由度；Welch与大样本区间应注明近似。单侧界和双侧区间使用的尾概率不同，方差与方差比的两个分位点也不能交换。