# 9.1单因素方差分析

## 模型与假设

设有 $k$ 个总体，分别对应因素的 $k$ 个水平。从第 $i$ 个总体抽取 $n_i$ 个观测，单因素固定效应模型写作

$$
X_{ij}=\mu_i+\varepsilon_{ij},\qquad i=1,\ldots,k,\quad j=1,\ldots,n_i,
$$

其中 $\mu_i$ 是第 $i$ 组的总体均值，$\varepsilon_{ij}$ 是随机误差。总样本量 $N=\sum_{i=1}^kn_i$，并要求 $k\ge2$、$N>k$。

经典精确 $F$ 检验要求：

* 各组误差相互独立；
* $\varepsilon_{ij}\sim N(0,\sigma^2)$，即各组都服从正态分布；
* 各组方差相等，共用同一个 $\sigma^2$。

要检验的假设是

$$
H_0:\mu_1=\cdots=\mu_k,\qquad
H_1:\text{至少有两个总体均值不同}.
$$

也可以把组均值写成

$$
\mu_i=\mu+\alpha_i,\qquad \sum_{i=1}^kn_i\alpha_i=0,
$$

其中 $\mu$ 是加权总均值，$\alpha_i$ 是第 $i$ 组的效应，原假设等价于所有 $\alpha_i=0$。后文记组均值和总均值分别为

$$
\bar X_{i\cdot}=\frac1{n_i}\sum_{j=1}^{n_i}X_{ij},\qquad
\bar X_{\cdot\cdot}=\frac1N\sum_{i=1}^k\sum_{j=1}^{n_i}X_{ij}.
$$

> [!IMPORTANT]
> **三个条件缺一不可**
>
> 独立性由试验设计保证，正态性与等方差需要用残差检查。方差不齐或严重偏态时，经典 $F$ 检验只是近似，应改用相应稳健方法或变换。

[来源：单因素方差分析](/knowledge/maths/statistics/anova/#model)

## 平方和分解与检验

### 平方和分解

总平方和、组间平方和与组内平方和分别定义为

$$
S_T=\sum_{i=1}^k\sum_{j=1}^{n_i}(X_{ij}-\bar X_{\cdot\cdot})^2,
$$

$$
S_A=\sum_{i=1}^kn_i(\bar X_{i\cdot}-\bar X_{\cdot\cdot})^2,
\qquad
S_E=\sum_{i=1}^k\sum_{j=1}^{n_i}(X_{ij}-\bar X_{i\cdot})^2.
$$

三者满足平方和分解

$$
S_T=S_A+S_E.
$$

**证明**

把每个观测相对总均值的离差拆成“相对组均值”与“组均值相对总均值”两部分：

$$
X_{ij}-\bar X_{\cdot\cdot}
=(X_{ij}-\bar X_{i\cdot})+(\bar X_{i\cdot}-\bar X_{\cdot\cdot}).
$$

平方后对 $j$ 求和，交叉项为

$$
2(\bar X_{i\cdot}-\bar X_{\cdot\cdot})
\sum_{j=1}^{n_i}(X_{ij}-\bar X_{i\cdot})=0,
$$

因为组内离差之和为零。于是对 $i$ 求和得到

$$
\sum_{i,j}(X_{ij}-\bar X_{\cdot\cdot})^2
=\sum_{i,j}(X_{ij}-\bar X_{i\cdot})^2
+\sum_i n_i(\bar X_{i\cdot}-\bar X_{\cdot\cdot})^2,
$$

即 $S_T=S_A+S_E$。

实际计算可用

$$
S_T=\sum_{i,j}X_{ij}^2-N\bar X_{\cdot\cdot}^2,
\qquad
S_A=\sum_i n_i\bar X_{i\cdot}^2-N\bar X_{\cdot\cdot}^2.
$$

若已经算出各组样本方差 $S_i^2$，则

$$
S_E=\sum_{i=1}^k(n_i-1)S_i^2.
$$

各组样本量不等时，总均值要按 $n_i$ 加权，不能把组均值简单平均。自由度也同样分解：

$$
N-1=(k-1)+(N-k).
$$

### 方差分析表与F检验

把平方和除以对应自由度得到均方，列成方差分析表：

| 变异来源   | 平方和   | 自由度   | 均方               | $F$ 统计量       |
| :----- | :---- | :---- | :--------------- | :------------ |
| 组间（因素） | $S_A$ | $k-1$ | $MS_A=S_A/(k-1)$ | $F=MS_A/MS_E$ |
| 组内（误差） | $S_E$ | $N-k$ | $MS_E=S_E/(N-k)$ |               |
| 总计     | $S_T$ | $N-1$ |                  |               |

在 $H_0$ 下，

$$
F=\frac{MS_A}{MS_E}\sim F(k-1,N-k).
$$

若

$$
F>F_\alpha(k-1,N-k),
$$

则拒绝各组均值相等。$F_\alpha(\nu_1,\nu_2)$ 是上 $\alpha$ 分位点，记号与[上侧分位点](/knowledge/maths/statistics/upper-tail-quantile/)一致。

尽管均值差异可正可负，方差分析始终用右尾：差异被平方后反映为组间均方增大，$F$ 过大才说明组间变异相对组内误差过大。

$MS_E=S_E/(N-k)$ 是共同误差方差 $\sigma^2$ 的无偏估计；$S_E/N$ 不是。$F$ 接近 $1$ 表示组间均方与组内均方相近；是否拒绝原假设仍要结合自由度与显著性水平判断。

> [!IMPORTANT]
> **拒绝之后**
>
> 拒绝 $H_0$ 只说明至少有两个组的均值不同，不能直接断言所有组两两都不同。要确定哪些组不同，需要带多重比较控制的后续分析。

### 使用与判断

* 多次做两样本 $t$ 检验可能使整体误拒绝风险增加，不能替代整体 $F$ 检验。
* 方差分析的目标是比较均值，名称来自用方差比检验均值差异。
* $MS_E$ 是共同误差方差 $\sigma^2$ 的无偏估计，不是 $S_E/N$。
* 残差图可辅助检查方差不齐与异常值；独立性还依赖试验设计，不能只凭正态概率图判断。
* 两组时，经典等方差单因素 $F$ 检验与合并方差双侧 $t$ 检验满足 $F=T^2$。

[来源：单因素方差分析](/knowledge/maths/statistics/anova/#decomposition)

组间和组内平方和的自由度分别为 $k-1$ 和 $N-k$。先将平方和除以自由度，再比较两个均方；与[两个总体的方差比检验](/knowledge/maths/statistics/variance-ratio-test/)使用相同的分布族，但自由度来自不同的模型。

拒绝总体均值都相等的假设，只能说明至少有两个总体均值不同。确定具体哪些组有差异需要进一步比较，并控制多重比较带来的误拒绝风险。