课程笔记

3.3条件分布

阅读入口

条件分布的定义

设 (X,Y)(X,Y) 是二维随机变量。已知 YY 的取值后 XX 的分布,称为在 Y=yY=y 条件下 XX 的条件分布。它把参照范围从 (X,Y)(X,Y) 的全部可能取值缩小到 Y=yY=y 这条截面上,思想上与事件的条件概率 P(A∣B)P(A\mid B) 相同,只是条件换成了另一个随机变量的取值。

离散型

设联合分布律为

pij=P{X=xi,  Y=yj},i,j=1,2,…,p_{ij}=P\{X=x_i,\;Y=y_j\},\qquad i,j=1,2,\dots,

记行和 pi⋅=∑jpijp_{i\cdot}=\sum_j p_{ij}、列和 p⋅j=∑ipijp_{\cdot j}=\sum_i p_{ij}。若 p⋅j>0p_{\cdot j}>0,则对每个 ii,

P{X=xi∣Y=yj}=pijp⋅j.P\{X=x_i\mid Y=y_j\}=\frac{p_{ij}}{p_{\cdot j}}.

固定 yjy_j 相当于选定联合表的一列,再用这一列的总概率 p⋅jp_{\cdot j} 归一化。反方向,若 pi⋅>0p_{i\cdot}>0,则

P{Y=yj∣X=xi}=pijpi⋅.P\{Y=y_j\mid X=x_i\}=\frac{p_{ij}}{p_{i\cdot}}.

连续型

设联合密度为 f(x,y)f(x,y),边缘密度为 fXf_X、fYf_Y,它们的求法见边缘分布。对满足 fY(y)>0f_Y(y)>0 的 yy,定义条件密度与条件分布函数

fX∣Y(x∣y)=f(x,y)fY(y),FX∣Y(x∣y)=∫−∞xfX∣Y(u∣y) du.f_{X\mid Y}(x\mid y)=\frac{f(x,y)}{f_Y(y)},\qquad F_{X\mid Y}(x\mid y)=\int_{-\infty}^{x}f_{X\mid Y}(u\mid y)\,\mathrm du.

反方向,对满足 fX(x)>0f_X(x)>0 的 xx,

fY∣X(y∣x)=f(x,y)fX(x).f_{Y\mid X}(y\mid x)=\frac{f(x,y)}{f_X(x)}.

连续型不能把条件密度解释成除以点概率:P{Y=y}=0P\{Y=y\}=0,P{X≤x,  Y=y}/P{Y=y}P\{X\le x,\;Y=y\}/P\{Y=y\} 没有意义。条件密度是通过密度之比构造的,只需在 fY(y)>0f_Y(y)>0 处几乎处处确定,个别点的取值不影响积分结果。

条件分布按离散、连续分开处理:离散型取联合表的一列或一行再归一化,连续型用密度之比。两种情形都以“缩小参照范围”为共同思路。

条件分布的性质

固定条件后仍是分布

固定 yjy_j 后,条件分布律非负且总和为 11:

∑iP{X=xi∣Y=yj}=1p⋅j∑ipij=p⋅jp⋅j=1.\sum_i P\{X=x_i\mid Y=y_j\} =\frac{1}{p_{\cdot j}}\sum_i p_{ij} =\frac{p_{\cdot j}}{p_{\cdot j}}=1.

固定 yy(fY(y)>0f_Y(y)>0)后,条件密度对 xx 的积分同样为 11:

∫−∞+∞fX∣Y(x∣y) dx=1fY(y)∫−∞+∞f(x,y) dx=fY(y)fY(y)=1.\int_{-\infty}^{+\infty}f_{X\mid Y}(x\mid y)\,\mathrm dx =\frac{1}{f_Y(y)}\int_{-\infty}^{+\infty}f(x,y)\,\mathrm dx =\frac{f_Y(y)}{f_Y(y)}=1.

因此条件密度仍是密度,条件分布律仍是分布律,可以直接用来算条件概率:

P{X∈A∣Y=y}=∫AfX∣Y(x∣y) dx.P\{X\in A\mid Y=y\}=\int_A f_{X\mid Y}(x\mid y)\,\mathrm dx.

支持区域随条件改变

固定 yy 后,条件密度只在联合密度非零的截面上取正值,其余位置为零。这个截面就是条件分布的支持集。

若联合密度的支持集是矩形(例如 a<x<ba<x<b,c<y<dc<y<d),那么给定 yy 后 xx 的范围不随 yy 改变。若支持集由不等式给出(例如 0<x<y<10<x<y<1),给定 yy 后 xx 的范围会随 yy 变化,写条件密度时必须同时写出这个范围。

用条件分布还原联合分布

条件密度与边缘密度的乘积就是联合密度:

f(x,y)=fX∣Y(x∣y)fY(y)=fY∣X(y∣x)fX(x).f(x,y)=f_{X\mid Y}(x\mid y)f_Y(y)=f_{Y\mid X}(y\mid x)f_X(x).

也就是说,边缘分布加上条件分布可以唯一确定联合分布;只有边缘分布则不行。把上式对 yy 积分,得到密度形式的全概率公式

fX(x)=∫−∞+∞fX∣Y(x∣y)fY(y) dy,f_X(x)=\int_{-\infty}^{+\infty}f_{X\mid Y}(x\mid y)f_Y(y)\,\mathrm dy,

离散型的对应形式是

P{X=xi}=∑jP{X=xi∣Y=yj}P{Y=yj}.P\{X=x_i\}=\sum_j P\{X=x_i\mid Y=y_j\}P\{Y=y_j\}.

条件期望(积分绝对收敛时)为

E(X∣Y=y)=∫−∞+∞xfX∣Y(x∣y) dx.E(X\mid Y=y)=\int_{-\infty}^{+\infty}x f_{X\mid Y}(x\mid y)\,\mathrm dx.

它可以先固定条件算出关于 yy 的函数,再对条件变量求平均;在混合模型中,这条路径通常比直接求边缘分布更省事。

这一组性质里,归一化与支持区域可以直接用来检查答案;还原联合分布则把3.2的边缘密度重新接了回来。

学习安排

教材按“离散型条件分布 → 连续型条件密度 → 支持区域随条件改变 → 用条件分布还原联合分布”展开。条件分布的分母就是边缘分布里的行和或列和,所以3.2的求和与积分要先练熟。教材随后用条件分布与边缘分布是否相同来讨论独立性,条件期望则在数字特征一章继续使用。

课程约定

  • 离散型:给定 Y=yjY=y_j 时取联合表的一列,除以该列总概率;给定 X=xiX=x_i 时取一行,除以该行总概率。
  • 连续型的条件密度记作 fX∣Y(x∣y)f_{X\mid Y}(x\mid y),由密度之比定义。
  • 条件密度只需在 fY(y)>0f_Y(y)>0 的 yy 上按几乎处处意义确定,个别点的取值不影响结果。
  • 结论要连同范围一起写:条件密度的表达式和它取正值的 xx 区间缺一不可。

重点

  • 先写联合密度和边缘密度,再固定条件变量,最后从支持集截出另一个变量的范围。
  • 条件密度对固定条件下的自变量积分为 11,可以用这一点检查结果。
  • 条件分布、边缘分布、联合分布三者的换算关系是本节的枢纽,做题时常用来核对结果。

易错点

复习要点

拿到条件分布题先画支持区域,再固定条件写范围,最后归一化检查。条件期望可以按“先固定条件算,再对条件变量平均”理解,这种分两步的算法在混合模型里比直接求边缘分布更省事。