课程笔记

1.3条件概率

阅读入口

条件概率

设 AA 与 BB 是样本空间 Ω\Omega 中的事件,且 P(B)>0P(B)>0。在已知 BB 发生的条件下,AA 发生的条件概率定义为

P(A∣B)=P(AB)P(B),P(A\mid B)=\frac{P(AB)}{P(B)},

其中 ABAB 表示交事件 A∩BA\cap B。

条件概率把参照范围从 Ω\Omega 缩小到 BB:与 BB 不相交的部分不再参与计算,BB 内的样本点按 P(B)P(B) 重新归一化。因此条件概率仍是概率,只是样本空间换成了 BB,它满足的公理与运算规律见概率公理。

定义要求 P(B)>0P(B)>0。P(B)=0P(B)=0 时分式没有意义,不能直接对零概率事件取条件。

P(AB)P(AB) 与 P(A∣B)P(A\mid B) 不是同一个量:前者是 AA 与 BB 同时发生的概率,后者是已知 BB 发生后 AA 发生的概率。两者的联系由乘法公式给出。同样,P(A∣B)P(A\mid B) 与 P(B∣A)P(B\mid A) 一般也不相等:它们分别以 BB 和 AA 为参照范围。

条件概率把参照范围从 Ω\Omega 缩到条件事件上;把定义式移项就得到乘法公式。

完备事件组

若事件 B1,B2,…,BnB_1,B_2,\ldots,B_n 两两互斥,并且 ⋃i=1nBi=Ω\bigcup_{i=1}^{n}B_i=\Omega,则称它们构成一个完备事件组。当各 BiB_i 非空时,它们也构成样本空间的一个划分。样本空间与事件的记号见随机事件。

在使用 P(A∣Bi)P(A\mid B_i) 的公式时,还必须要求 P(Bi)>0P(B_i)>0;非空事件的概率不一定为正。这里单独说明这一附加条件,避免把集合划分与概率条件混为一谈。

全概率公式

设 B1,…,BnB_1,\ldots,B_n 是完备事件组,且 P(Bi)>0P(B_i)>0。对任意事件 AA,

P(A)=∑i=1nP(Bi)P(A∣Bi).P(A)=\sum_{i=1}^{n}P(B_i)P(A\mid B_i).

每一项是交事件 ABiAB_i 的概率;这些交事件互斥且合起来是 AA,因此可以相加。公式从不同来源的比例和各来源内的发生率求总概率。若某个来源概率为零,其交事件概率也为零,可以去掉该项;不能在分母为零时直接使用条件概率。

贝叶斯公式

设 B1,…,BnB_1,\ldots,B_n 是完备事件组,且 P(Bi)>0P(B_i)>0,AA 为满足 P(A)>0P(A)>0 的事件,则对每个 j=1,…,nj=1,\ldots,n,

P(Bj∣A)=P(Bj)P(A∣Bj)∑i=1nP(Bi)P(A∣Bi).P(B_j\mid A)=\frac{P(B_j)P(A\mid B_j)}{\sum_{i=1}^{n}P(B_i)P(A\mid B_i)}.

分子是交事件的概率 P(ABj)P(AB_j),分母是 P(A)P(A) 的全概率展开。因此公式就是把

P(Bj∣A)=P(ABj)P(A)P(B_j\mid A)=\frac{P(AB_j)}{P(A)}

写成只用各来源概率和来源内条件概率表示的形式。

教材用 P(Bj∣A)P(B_j\mid A) 表示“结果已知后反推来源”,竖线右侧固定是已经观察到的结果;先验写作 P(Bj)P(B_j),后验写作 P(Bj∣A)P(B_j\mid A),注意与 P(A∣Bj)P(A\mid B_j) 区分。

学习安排

教材按“条件概率、乘法公式、完备事件组、全概率公式、贝叶斯公式”的顺序展开:先缩小样本空间定义条件概率,再把定义式改写成乘法公式,然后用完备事件组把结果按来源分解,最后在结果已知时反推来源。

一组典型问题会先求抽到次品的总概率,再反推次品来源,正好对应两条公式的分工。作答前先把完备事件组写清楚。

“已知条件不改变概率”是独立性所描述的特殊情形,见事件的独立性。乘法公式对所有满足条件的事件成立。

判断顺序

判断顺序可以概括为:全概率由原因求结果,贝叶斯由结果推原因。

  1. 分清已知与所求

    弄清题目给出的是条件还是已经观察到的结果,要求的是结果本身的概率,还是某个来源在结果已发生后的概率。

  2. 求结果概率时用全概率公式

    列出构成完备事件组的来源,按来源分别求“来源概率与该来源下结果出现概率的乘积”,再相加。

  3. 反推来源时用贝叶斯公式

    把第2步的和式放进分母,分子只保留目标来源对应的那一项。

课程约定

  • 交事件统一记作 ABAB,即 A∩BA\cap B。
  • 条件概率写成 P(A∣B)P(A\mid B),竖线右侧是已知条件;条件事件的概率必须为正。
  • 条件概率要求完备事件组中每个事件的概率为正;作为集合划分,还要求每个事件非空。
  • 全概率公式要求各 P(Bi)>0P(B_i)>0,贝叶斯公式还额外要求 P(A)>0P(A)>0。

易错点

  • P(A∣B)P(A\mid B) 与 P(B∣A)P(B\mid A) 一般不同:前者以 BB 为参照范围,后者以 AA 为参照范围。
  • 贝叶斯公式的分母必须包含所有可能来源,不能只写目标来源的概率。
  • 全概率公式要求所列事件真的覆盖 Ω\Omega;漏掉一个来源,和式只算了一部分概率,由此算出的比值一般会偏大,不再是真正的后验概率。