知识点

贝叶斯公式

公式

设 B1,…,BnB_1,\ldots,B_n 是完备事件组,且 P(Bi)>0P(B_i)>0,AA 为满足 P(A)>0P(A)>0 的事件,则对每个 j=1,…,nj=1,\ldots,n,

P(Bj∣A)=P(Bj)P(A∣Bj)∑i=1nP(Bi)P(A∣Bi).P(B_j\mid A)=\frac{P(B_j)P(A\mid B_j)}{\sum_{i=1}^{n}P(B_i)P(A\mid B_i)}.

分子是交事件的概率 P(ABj)P(AB_j),分母是 P(A)P(A) 的全概率展开。因此公式就是把

P(Bj∣A)=P(ABj)P(A)P(B_j\mid A)=\frac{P(AB_j)}{P(A)}

写成只用各来源概率和来源内条件概率表示的形式。

性质

先验概率与后验概率

  • P(Bj)P(B_j):先验概率,观察结果之前对各来源的判断。
  • P(A∣Bj)P(A\mid B_j):来源确定为 BjB_j 时结果 AA 出现的概率,它衡量该来源产生这个结果的难易。
  • P(Bj∣A)P(B_j\mid A):后验概率,观察到结果 AA 之后对来源的重新判断。

贝叶斯公式用各来源产生结果的相对难易重新分配先验概率,分母 P(A)P(A) 起归一化作用。后验概率一般不等于先验概率:若某个来源比别的来源更容易产生结果 AA,它的后验概率就高于先验概率。

例子

甲乙两厂供货中的次品

甲厂供货占 60%60\%,次品率 1%1\%;乙厂供货占 40%40\%,次品率 3%3\%。记 DD 为抽到次品,B1B_1 为产品来自甲厂,B2B_2 为产品来自乙厂,则 B1,B2B_1,B_2 构成完备事件组。

由全概率公式,

P(D)=0.6×0.01+0.4×0.03=0.006+0.012=0.018.P(D)=0.6\times 0.01+0.4\times 0.03=0.006+0.012=0.018.

已知抽到次品,它来自乙厂的概率由贝叶斯公式得到:

P(B2∣D)=0.4×0.030.018=0.0120.018=23.P(B_2\mid D)=\frac{0.4\times 0.03}{0.018}=\frac{0.012}{0.018}=\frac23.

乙厂供货的先验概率为 0.40.4,观察到次品后上升为 23\dfrac23:乙厂次品率更高,出现次品这一结果使“产品来自乙厂”的判断变得更可能。

题集

练习

  1. 某车间有 AA、BB 两条生产线:AA 线产量占 70%70\%,次品率 2%2\%;BB 线产量占 30%30\%,次品率 6%6\%。已知取到的产品是次品,它来自 AA 线的概率为 。

    参考解答

    由贝叶斯公式,P(A∣D)=0.7×0.020.032=0.0140.032=0.4375P(A\mid D)=\dfrac{0.7\times 0.02}{0.032}=\dfrac{0.014}{0.032}=0.4375。

  2. 在贝叶斯公式中,分母应当是什么?

    选择答案
    参考解答

    分母是 P(A)P(A),由全概率公式展开为 ∑iP(Bi)P(A∣Bi)\sum_i P(B_i)P(A\mid B_i)。只写目标来源的那一项,通常会把分母算小,比值偏大,不再等于真正的后验概率。

交互探索

筛选之后,样本组成怎样改变?

用面积展示先验比例、条件筛选与后验概率。

正在准备演示…