多元正态分布 · Learning Notes

定义

若 $\boldsymbol X$ 的任意线性组合 $\sum_i a_iX_i$ 都是正态变量或常数，则称 $\boldsymbol X$ 服从多元正态分布，记作

\boldsymbol X\sim N_n(\boldsymbol\mu,\Sigma),

其中 $\boldsymbol\mu=(E X_1,\ldots,E X_n)^{\mathsf T}$ 是均值向量， $\Sigma=\bigl(\operatorname{Cov}(X_i,X_j)\bigr)_{n\times n}$ 是协方差矩阵。

对二维非退化情形，设 $\sigma_1,\sigma_2>0$ 、 $|\rho|<1$ ，联合密度为

\frac{1}{2\pi\sigma_1\sigma_2\sqrt{1-\rho^2}} \exp\left(-\frac{1}{2(1-\rho^2)} \left[ \frac{(x-\mu_1)^2}{\sigma_1^2} -2\rho\frac{(x-\mu_1)(y-\mu_2)}{\sigma_1\sigma_2} +\frac{(y-\mu_2)^2}{\sigma_2^2} \right]\right).

此时两个边缘分布都是正态分布，条件分布也是正态分布：

X\mid Y=y\sim N\left(\mu_1+\rho\frac{\sigma_1}{\sigma_2}(y-\mu_2),\ \sigma_1^2(1-\rho^2)\right).

条件均值关于 $y$ 是线性的，条件方差与 $y$ 无关，只与 $\rho$ 和 $\sigma_1^2$ 有关。

二维正态的条件分布

设 $(X,Y)$ 服从二维正态分布， $\mu_1=\mu_2=0$ ， $\sigma_1=2$ ， $\sigma_2=1$ ， $\rho=0.5$ 。给定 $Y=y$ 时，

X\mid Y=y\sim N\left(0.5\times\frac{2}{1}(y-0),\ 2^2(1-0.5^2)\right)=N(y,\ 3).

条件均值随 $y$ 线性变化，条件方差恒为 $3$ 。 $y$ 每增大 $1$ ， $X$ 的条件均值也增大 $1$ ，这是 $\rho$ 接近 $1$ 时的正向联动。

两个分量均为标准正态时，调整相关系数与已知的 $Y$ 值，比较 $X$ 的条件均值和条件方差。

调整相关系数和条件值，查看二维标准正态的条件分布。

正在准备演示…

题集