切比雪夫不等式 · Learning Notes

定理

只要 $D(X)$ 有限，对任意 $\varepsilon>0$ ，

P\{|X-E(X)|\ge\varepsilon\}\le\frac{D(X)}{\varepsilon^2}.

等价地，

P\{|X-E(X)|<\varepsilon\}\ge1-\frac{D(X)}{\varepsilon^2}.

若右端为负，只能说概率不小于 $0$ ，此时得到的是平凡下界。

证明

记 $A=\{|X-E(X)|\ge\varepsilon\}$ ， $I_A$ 是 $A$ 的指示变量， $\mu=E(X)$ 。在 $A$ 上 $\frac{(X-\mu)^2}{\varepsilon^2}\ge1$ ，在 $A$ 外这个比值非负，所以处处有

I_A\le\frac{(X-\mu)^2}{\varepsilon^2}.

两边取期望，左边是 $P(A)$ ，右边是 $\frac{D(X)}{\varepsilon^2}$ ，即得结论。

掷一枚均匀骰子：切比雪夫界有多宽

设 $X$ 为骰子点数， $E(X)=\dfrac{7}{2}$ ，且

E(X^2)=\frac{1+4+9+16+25+36}{6}=\frac{91}{6},

所以

D(X)=\frac{91}{6}-\frac{49}{4}=\frac{35}{12}.

取 $\varepsilon=2$ ，切比雪夫不等式给出

P\{|X-3.5|\ge2\}\le\frac{35/12}{4}=\frac{35}{48}\approx0.729.

实际满足 $|X-3.5|\ge2$ 的只有 $X=1$ 与 $X=6$ ，概率为 $\dfrac13$ 。界确实成立，但比真实概率宽得多。

对均匀取 $0$ 或 $1$ 的随机变量，改变偏离阈值，比较真实概率与上界。为便于比较，演示将超过 $1$ 的上界截为 $1$ 。

在对称两点分布上比较偏离概率和切比雪夫上界。

正在准备演示…

题集

设 $D(X)=2$ ，用切比雪夫不等式估计 $P\{|X-E(X)|\ge2\}$ ，得到的上界是。
参考解答
代入 $P\{|X-E(X)|\ge\varepsilon\}\le\dfrac{D(X)}{\varepsilon^2}$ ，得 $\dfrac{2}{2^2}=0.5$ 。