# 单因素方差分析

## 模型与假设

设有 $k$ 个总体，分别对应因素的 $k$ 个水平。从第 $i$ 个总体抽取 $n_i$ 个观测，单因素固定效应模型写作

$$
X_{ij}=\mu_i+\varepsilon_{ij},\qquad i=1,\ldots,k,\quad j=1,\ldots,n_i,
$$

其中 $\mu_i$ 是第 $i$ 组的总体均值，$\varepsilon_{ij}$ 是随机误差。总样本量 $N=\sum_{i=1}^kn_i$，并要求 $k\ge2$、$N>k$。

经典精确 $F$ 检验要求：

* 各组误差相互独立；
* $\varepsilon_{ij}\sim N(0,\sigma^2)$，即各组都服从正态分布；
* 各组方差相等，共用同一个 $\sigma^2$。

要检验的假设是

$$
H_0:\mu_1=\cdots=\mu_k,\qquad
H_1:\text{至少有两个总体均值不同}.
$$

也可以把组均值写成

$$
\mu_i=\mu+\alpha_i,\qquad \sum_{i=1}^kn_i\alpha_i=0,
$$

其中 $\mu$ 是加权总均值，$\alpha_i$ 是第 $i$ 组的效应，原假设等价于所有 $\alpha_i=0$。后文记组均值和总均值分别为

$$
\bar X_{i\cdot}=\frac1{n_i}\sum_{j=1}^{n_i}X_{ij},\qquad
\bar X_{\cdot\cdot}=\frac1N\sum_{i=1}^k\sum_{j=1}^{n_i}X_{ij}.
$$

> [!IMPORTANT]
> **三个条件缺一不可**
>
> 独立性由试验设计保证，正态性与等方差需要用残差检查。方差不齐或严重偏态时，经典 $F$ 检验只是近似，应改用相应稳健方法或变换。

## 性质

### 平方和分解

总平方和、组间平方和与组内平方和分别定义为

$$
S_T=\sum_{i=1}^k\sum_{j=1}^{n_i}(X_{ij}-\bar X_{\cdot\cdot})^2,
$$

$$
S_A=\sum_{i=1}^kn_i(\bar X_{i\cdot}-\bar X_{\cdot\cdot})^2,
\qquad
S_E=\sum_{i=1}^k\sum_{j=1}^{n_i}(X_{ij}-\bar X_{i\cdot})^2.
$$

三者满足平方和分解

$$
S_T=S_A+S_E.
$$

**证明**

把每个观测相对总均值的离差拆成“相对组均值”与“组均值相对总均值”两部分：

$$
X_{ij}-\bar X_{\cdot\cdot}
=(X_{ij}-\bar X_{i\cdot})+(\bar X_{i\cdot}-\bar X_{\cdot\cdot}).
$$

平方后对 $j$ 求和，交叉项为

$$
2(\bar X_{i\cdot}-\bar X_{\cdot\cdot})
\sum_{j=1}^{n_i}(X_{ij}-\bar X_{i\cdot})=0,
$$

因为组内离差之和为零。于是对 $i$ 求和得到

$$
\sum_{i,j}(X_{ij}-\bar X_{\cdot\cdot})^2
=\sum_{i,j}(X_{ij}-\bar X_{i\cdot})^2
+\sum_i n_i(\bar X_{i\cdot}-\bar X_{\cdot\cdot})^2,
$$

即 $S_T=S_A+S_E$。

实际计算可用

$$
S_T=\sum_{i,j}X_{ij}^2-N\bar X_{\cdot\cdot}^2,
\qquad
S_A=\sum_i n_i\bar X_{i\cdot}^2-N\bar X_{\cdot\cdot}^2.
$$

若已经算出各组样本方差 $S_i^2$，则

$$
S_E=\sum_{i=1}^k(n_i-1)S_i^2.
$$

各组样本量不等时，总均值要按 $n_i$ 加权，不能把组均值简单平均。自由度也同样分解：

$$
N-1=(k-1)+(N-k).
$$

### 方差分析表与F检验

把平方和除以对应自由度得到均方，列成方差分析表：

| 变异来源   | 平方和   | 自由度   | 均方               | $F$ 统计量       |
| :----- | :---- | :---- | :--------------- | :------------ |
| 组间（因素） | $S_A$ | $k-1$ | $MS_A=S_A/(k-1)$ | $F=MS_A/MS_E$ |
| 组内（误差） | $S_E$ | $N-k$ | $MS_E=S_E/(N-k)$ |               |
| 总计     | $S_T$ | $N-1$ |                  |               |

在 $H_0$ 下，

$$
F=\frac{MS_A}{MS_E}\sim F(k-1,N-k).
$$

若

$$
F>F_\alpha(k-1,N-k),
$$

则拒绝各组均值相等。$F_\alpha(\nu_1,\nu_2)$ 是上 $\alpha$ 分位点，记号与[上侧分位点](/knowledge/maths/statistics/upper-tail-quantile/)一致。

尽管均值差异可正可负，方差分析始终用右尾：差异被平方后反映为组间均方增大，$F$ 过大才说明组间变异相对组内误差过大。

$MS_E=S_E/(N-k)$ 是共同误差方差 $\sigma^2$ 的无偏估计；$S_E/N$ 不是。$F$ 接近 $1$ 表示组间均方与组内均方相近；是否拒绝原假设仍要结合自由度与显著性水平判断。

> [!IMPORTANT]
> **拒绝之后**
>
> 拒绝 $H_0$ 只说明至少有两个组的均值不同，不能直接断言所有组两两都不同。要确定哪些组不同，需要带多重比较控制的后续分析。

### 使用与判断

* 多次做两样本 $t$ 检验可能使整体误拒绝风险增加，不能替代整体 $F$ 检验。
* 方差分析的目标是比较均值，名称来自用方差比检验均值差异。
* $MS_E$ 是共同误差方差 $\sigma^2$ 的无偏估计，不是 $S_E/N$。
* 残差图可辅助检查方差不齐与异常值；独立性还依赖试验设计，不能只凭正态概率图判断。
* 两组时，经典等方差单因素 $F$ 检验与合并方差双侧 $t$ 检验满足 $F=T^2$。

## 例子

**三组各 $5$ 个观测的方差分析**

设 $k=3$，每组 $n_i=5$，总样本量 $N=15$，并已算得

$$
S_A=48,\qquad S_E=24.
$$

自由度为 $k-1=2$ 与 $N-k=12$，均方为

$$
MS_A=\frac{48}{2}=24,\qquad
MS_E=\frac{24}{12}=2,
$$

所以

$$
F=\frac{24}{2}=12.
$$

取 $\alpha=0.05$，查表得 $F_{0.05}(2,12)\approx3.885$。因为

$$
F=12>3.885,
$$

拒绝各组均值相等的原假设。

> [!NOTE]
> **结论的范围**
>
> 这个结果说明至少有两个组的均值不同，不能直接说所有组两两不同；具体比较需进行带有多重比较控制的后续分析。

## 探索

交互演示：组间差异如何改变方差比？。移动三组数据的中心，比较组间与组内变异。 请在站点操作演示。

## 练习

1. 四组数据，每组 $6$ 个观测，已算得 $S_A=90$，$S_E=120$。

   1. 组内均方 $MS_E=$ \_\_\_\_\_\_（ms-e-value）。

      答案：6

      $N=24$，组内自由度为 $24-4=20$，所以 $MS_E=120/20=6$。

   2. $F$ 统计量 $F=$ \_\_\_\_\_\_（f-value-value）。

      答案：5

      组间自由度为 $4-1=3$，$MS_A=90/3=30$，于是 $F=30/6=5$。

2. 方差分析拒绝 $H_0:\mu_1=\cdots=\mu_k$ 后，下列解释正确的是

   * A.  所有组均值两两都不相等
   * B.  至少有两个组的均值不同
   * C.  具体哪些组不同，还需多重比较
   * D.  各组方差都不相等

   答案：B、C

   整体检验只回答“各组均值是否不全相等”；两两差异需要控制多重比较；方差分析比较的是均值，不检验方差是否相等。

3. 关于组内均方 $MS_E$，下列说法正确的是

   * A.  $MS_E=S_E/N$，是误差方差的有偏估计
   * B.  $MS_E=S_E/(N-k)$，是共同误差方差 $\sigma^2$ 的无偏估计
   * C.  $MS_E=S_T/(N-1)$，即总均方
   * D.  $MS_E$ 只用于检验各组方差是否相等

   答案：B

   组内平方和除以组内自由度 $N-k$ 才是均方；在等方差模型下它无偏估计共同的 $\sigma^2$。