知识点

条件分布

定义

设 (X,Y)(X,Y) 是二维随机变量。已知 YY 的取值后 XX 的分布,称为在 Y=yY=y 条件下 XX 的条件分布。它把参照范围从 (X,Y)(X,Y) 的全部可能取值缩小到 Y=yY=y 这条截面上,思想上与事件的条件概率 P(A∣B)P(A\mid B) 相同,只是条件换成了另一个随机变量的取值。

离散型

设联合分布律为

pij=P{X=xi,  Y=yj},i,j=1,2,…,p_{ij}=P\{X=x_i,\;Y=y_j\},\qquad i,j=1,2,\dots,

记行和 pi⋅=∑jpijp_{i\cdot}=\sum_j p_{ij}、列和 p⋅j=∑ipijp_{\cdot j}=\sum_i p_{ij}。若 p⋅j>0p_{\cdot j}>0,则对每个 ii,

P{X=xi∣Y=yj}=pijp⋅j.P\{X=x_i\mid Y=y_j\}=\frac{p_{ij}}{p_{\cdot j}}.

固定 yjy_j 相当于选定联合表的一列,再用这一列的总概率 p⋅jp_{\cdot j} 归一化。反方向,若 pi⋅>0p_{i\cdot}>0,则

P{Y=yj∣X=xi}=pijpi⋅.P\{Y=y_j\mid X=x_i\}=\frac{p_{ij}}{p_{i\cdot}}.

连续型

设联合密度为 f(x,y)f(x,y),边缘密度为 fXf_X、fYf_Y,它们的求法见边缘分布。对满足 fY(y)>0f_Y(y)>0 的 yy,定义条件密度与条件分布函数

fX∣Y(x∣y)=f(x,y)fY(y),FX∣Y(x∣y)=∫−∞xfX∣Y(u∣y) du.f_{X\mid Y}(x\mid y)=\frac{f(x,y)}{f_Y(y)},\qquad F_{X\mid Y}(x\mid y)=\int_{-\infty}^{x}f_{X\mid Y}(u\mid y)\,\mathrm du.

反方向,对满足 fX(x)>0f_X(x)>0 的 xx,

fY∣X(y∣x)=f(x,y)fX(x).f_{Y\mid X}(y\mid x)=\frac{f(x,y)}{f_X(x)}.

连续型不能把条件密度解释成除以点概率:P{Y=y}=0P\{Y=y\}=0,P{X≤x,  Y=y}/P{Y=y}P\{X\le x,\;Y=y\}/P\{Y=y\} 没有意义。条件密度是通过密度之比构造的,只需在 fY(y)>0f_Y(y)>0 处几乎处处确定,个别点的取值不影响积分结果。

性质

固定条件后仍是分布

固定 yjy_j 后,条件分布律非负且总和为 11:

∑iP{X=xi∣Y=yj}=1p⋅j∑ipij=p⋅jp⋅j=1.\sum_i P\{X=x_i\mid Y=y_j\} =\frac{1}{p_{\cdot j}}\sum_i p_{ij} =\frac{p_{\cdot j}}{p_{\cdot j}}=1.

固定 yy(fY(y)>0f_Y(y)>0)后,条件密度对 xx 的积分同样为 11:

∫−∞+∞fX∣Y(x∣y) dx=1fY(y)∫−∞+∞f(x,y) dx=fY(y)fY(y)=1.\int_{-\infty}^{+\infty}f_{X\mid Y}(x\mid y)\,\mathrm dx =\frac{1}{f_Y(y)}\int_{-\infty}^{+\infty}f(x,y)\,\mathrm dx =\frac{f_Y(y)}{f_Y(y)}=1.

因此条件密度仍是密度,条件分布律仍是分布律,可以直接用来算条件概率:

P{X∈A∣Y=y}=∫AfX∣Y(x∣y) dx.P\{X\in A\mid Y=y\}=\int_A f_{X\mid Y}(x\mid y)\,\mathrm dx.

支持区域随条件改变

固定 yy 后,条件密度只在联合密度非零的截面上取正值,其余位置为零。这个截面就是条件分布的支持集。

若联合密度的支持集是矩形(例如 a<x<ba<x<b,c<y<dc<y<d),那么给定 yy 后 xx 的范围不随 yy 改变。若支持集由不等式给出(例如 0<x<y<10<x<y<1),给定 yy 后 xx 的范围会随 yy 变化,写条件密度时必须同时写出这个范围。

用条件分布还原联合分布

条件密度与边缘密度的乘积就是联合密度:

f(x,y)=fX∣Y(x∣y)fY(y)=fY∣X(y∣x)fX(x).f(x,y)=f_{X\mid Y}(x\mid y)f_Y(y)=f_{Y\mid X}(y\mid x)f_X(x).

也就是说,边缘分布加上条件分布可以唯一确定联合分布;只有边缘分布则不行。把上式对 yy 积分,得到密度形式的全概率公式

fX(x)=∫−∞+∞fX∣Y(x∣y)fY(y) dy,f_X(x)=\int_{-\infty}^{+\infty}f_{X\mid Y}(x\mid y)f_Y(y)\,\mathrm dy,

离散型的对应形式是

P{X=xi}=∑jP{X=xi∣Y=yj}P{Y=yj}.P\{X=x_i\}=\sum_j P\{X=x_i\mid Y=y_j\}P\{Y=y_j\}.

条件期望(积分绝对收敛时)为

E(X∣Y=y)=∫−∞+∞xfX∣Y(x∣y) dx.E(X\mid Y=y)=\int_{-\infty}^{+\infty}x f_{X\mid Y}(x\mid y)\,\mathrm dx.

它可以先固定条件算出关于 yy 的函数,再对条件变量求平均;在混合模型中,这条路径通常比直接求边缘分布更省事。

例子

由联合分布律求条件分布律

设联合分布律为 P{X=0,Y=0}=0.2P\{X=0,Y=0\}=0.2,P{X=0,Y=1}=0.3P\{X=0,Y=1\}=0.3,P{X=1,Y=0}=0.1P\{X=1,Y=0\}=0.1,P{X=1,Y=1}=0.4P\{X=1,Y=1\}=0.4。列和分别为 P{Y=0}=0.3P\{Y=0\}=0.3、P{Y=1}=0.7P\{Y=1\}=0.7。

在 Y=1Y=1 的条件下取第二列,除以列和:

P{X=0∣Y=1}=0.30.7=37,P{X=1∣Y=1}=0.40.7=47.P\{X=0\mid Y=1\}=\frac{0.3}{0.7}=\frac37,\qquad P\{X=1\mid Y=1\}=\frac{0.4}{0.7}=\frac47.

两者之和为 11。同理,在 Y=0Y=0 的条件下 P{X=0∣Y=0}=0.20.3=23P\{X=0\mid Y=0\}=\frac{0.2}{0.3}=\frac23,P{X=1∣Y=0}=13P\{X=1\mid Y=0\}=\frac13。条件分布与边缘分布 P{X=0}=0.5P\{X=0\}=0.5 不同,说明两个变量不独立。

三角形区域上的条件密度与条件期望

设联合密度为

f(x,y)={2,0<x<y<1,0,其他.f(x,y)=\begin{cases}2,&0<x<y<1,\\0,&\text{其他}.\end{cases}

关于 YY 的边缘密度为 fY(y)=2yf_Y(y)=2y(0<y<10<y<1)。对 0<y<10<y<1,条件密度为

fX∣Y(x∣y)=f(x,y)fY(y)={1y,0<x<y,0,其他.f_{X\mid Y}(x\mid y)=\frac{f(x,y)}{f_Y(y)} =\begin{cases}\dfrac{1}{y},&0<x<y,\\0,&\text{其他}.\end{cases}

固定 yy 后,这是区间 (0,y)(0,y) 上的均匀分布,即 X∣Y=y∼U[0,y]X\mid Y=y\sim U[0,y]。条件期望为

E(X∣Y=y)=∫0yx⋅1y dx=y2.E(X\mid Y=y)=\int_0^y x\cdot\frac1y\,\mathrm dx=\frac{y}{2}.

用全概率公式核对边缘密度:

fX(x)=∫x11y⋅2y dy=∫x12 dy=2(1−x),0<x<1,f_X(x)=\int_x^1 \frac1y\cdot 2y\,\mathrm dy=\int_x^1 2\,\mathrm dy=2(1-x),\qquad 0<x<1,

与直接对 yy 积分得到的边缘密度一致。

交互探索

选择条件变量的取值,观察另一个零一变量在该条件下的分布。

固定不同的条件值,分布怎样变化?

对两个零一变量,比较给定不同条件时的条件分布。

正在准备演示…

题集

练习

  1. 设 (X,Y)(X,Y) 的联合分布律为 P{X=0,Y=0}=0.1P\{X=0,Y=0\}=0.1,P{X=0,Y=1}=0.15P\{X=0,Y=1\}=0.15,P{X=1,Y=0}=0.3P\{X=1,Y=0\}=0.3,P{X=1,Y=1}=0.45P\{X=1,Y=1\}=0.45。

    1. P{X=0∣Y=1}=P\{X=0\mid Y=1\}= 。

      参考解答

      列和 P{Y=1}=0.15+0.45=0.6P\{Y=1\}=0.15+0.45=0.6,所以 P{X=0∣Y=1}=0.15/0.6=0.25P\{X=0\mid Y=1\}=0.15/0.6=0.25。

    2. P{Y=0∣X=1}=P\{Y=0\mid X=1\}= 。

      参考解答

      行和 P{X=1}=0.3+0.45=0.75P\{X=1\}=0.3+0.45=0.75,所以 P{Y=0∣X=1}=0.3/0.75=0.4P\{Y=0\mid X=1\}=0.3/0.75=0.4。

  2. 设 f(x,y)=2f(x,y)=2(0<x<y<10<x<y<1),其他位置 f(x,y)=0f(x,y)=0。

    1. fX∣Y(14∣12)=f_{X\mid Y}\left(\frac14\mid\frac12\right)= 。

      参考解答

      fY(12)=2⋅12=1f_Y\left(\frac12\right)=2\cdot\frac12=1,所以条件密度在 0<x<120<x<\frac12 上等于 21=2\dfrac{2}{1}=2。

    2. 给定 Y=12Y=\frac12 后,XX 服从

      选择答案
      参考解答

      条件密度在 0<x<120<x<\frac12 上恒为 22,恰是长度 12\frac12 的区间上的均匀密度。

  3. 设 f(x,y)=2f(x,y)=2(0<x<y<10<x<y<1),其他位置 f(x,y)=0f(x,y)=0。E(X∣Y=45)=E\left(X\mid Y=\frac45\right)= 。

    参考解答

    条件期望为 E(X∣Y=y)=y2E(X\mid Y=y)=\dfrac{y}{2},代入 y=45y=\frac45 得 25=0.4\dfrac25=0.4。

  4. 关于条件分布,下列说法正确的有

    题 properties · conditional-claims
    参考解答

    条件密度是密度之比,对 xx 积分为 11;它与边缘密度相乘还原联合密度;支持集不是矩形时条件范围随条件改变。连续型的 P{Y=y}=0P\{Y=y\}=0,B中的比值没有意义。