条件期望 · Learning Notes

定义

给定 $Y$ 的某个取值时， $X$ 的条件期望是在条件分布下算出的期望。若 $X$ 与 $Y$ 都是离散型， $P\{Y=y_j\}>0$ ，则

E(X\mid Y=y_j)=\sum_i x_iP\{X=x_i\mid Y=y_j\};

若 $X$ 为连续型， $Y$ 的密度 $f_Y$ 在 $y$ 处为正，则

E(X\mid Y=y)=\int_{-\infty}^{+\infty}xf_{X\mid Y}(x\mid y)\,\mathrm dx,

其中 $f_{X\mid Y}$ 是条件密度，它由联合密度除以边缘密度 $f_Y(y)$ 得到，具体写法见条件分布。

把 $E(X\mid Y)$ 整体看作 $Y$ 的函数，它就是一个随机变量：当 $Y=y_j$ 时取 $E(X\mid Y=y_j)$ ，当 $Y=y$ 时取 $E(X\mid Y=y)$ 。全期望公式把它再取一次期望，得到 $X$ 的无条件期望：

E(X)=E\bigl[E(X\mid Y)\bigr].

按 $Y$ 的取值展开，就是

E(X)=\sum_jE(X\mid Y=y_j)P\{Y=y_j\}\qquad(Y\text{ 离散}),

或

E(X)=\int_{-\infty}^{+\infty}E(X\mid Y=y)f_Y(y)\,\mathrm dy\qquad(Y\text{ 连续}).

证明

离散情形。把 $P\{X=x_i\}$ 按 $Y$ 的取值分组（对 $P\{Y=y_j\}>0$ 的 $j$ ），

\begin{aligned} E(X) &=\sum_i x_iP\{X=x_i\} =\sum_i x_i\sum_jP\{X=x_i,\ Y=y_j\}\\ &=\sum_jP\{Y=y_j\}\sum_i x_i\frac{P\{X=x_i,\ Y=y_j\}}{P\{Y=y_j\}} =\sum_jP\{Y=y_j\}E(X\mid Y=y_j). \end{aligned}

第一步是分布律的加法公式，第二步交换求和次序，第三步用条件分布律的定义，最后一步是条件期望的定义。连续情形把求和换成积分、分布律换成密度，论证相同。

改变组别比例与条件均值，比较组内平均数和总体平均数。

改变两组的条件均值和比例，计算总体期望。

正在准备演示…

题集

设 $P\{Y=1\}=0.4$ ， $P\{Y=2\}=0.6$ ，且 $E(X\mid Y=1)=3$ ， $E(X\mid Y=2)=5$ ，则 $E(X)=$ 。
参考解答
由全期望公式， $E(X)=0.4\times3+0.6\times5=1.2+3=4.2$ 。