知识点

多元回归的整体显著性检验

定义

考虑含截距的多元线性回归:有 nn 个观测与 pp 个斜率,设计矩阵满列秩,n>p+1n>p+1。假定误差相互独立且服从 N(0,σ2)N(0,\sigma^2),记误差方差估计为 s2=SSE/(n−p−1)s^2=SSE/(n-p-1),并采用上侧分位点。

整体检验的原假设是所有斜率同时为零:

H0:β1=⋯=βp=0.H_0:\beta_1=\cdots=\beta_p=0.

含截距时仍有平方和分解

SST=∑i=1n(Yi−Yˉ)2=SSR+SSE,SST=\sum_{i=1}^n(Y_i-\bar Y)^2=SSR+SSE,

其中 SSRSSR 是回归平方和。在 H0H_0 与正态误差下,

F=SSR/pSSE/(n−p−1)∼F(p,n−p−1).F=\frac{SSR/p}{SSE/(n-p-1)}\sim F(p,n-p-1).

当 F>Fα(p,n−p−1)F>F_\alpha(p,n-p-1) 时拒绝 H0H_0,认为至少有一个斜率不为零。这里 FαF_\alpha 是上侧 α\alpha 分位点,检验只用右尾。

整体显著只说明 pp 个斜率中至少有一个不为零,并不保证每个解释变量都显著,也不指出是哪一个变量在起作用。要定位具体变量,还要逐个检查单个系数,或者比较嵌套模型。

探索

整体显著是否意味着每个系数都显著?

在同一组构造数据中比较整体F与单个系数的t检验。

正在准备演示…

题集

练习

  1. 某多元回归的整体 FF 检验显著,但每个系数的 tt 检验都不显著。下列解释最合理的是

    选择答案
    参考解答

    整体检验与单个检验回答不同问题;多重共线性会使系数标准误变大,从而出现整体显著而单个不显著的情形。