大数定律

切比雪夫不等式

对某个变量 $X$ 和 任意正数 $\epsilon$ 有

$$P\{ |X-E(X)|\geq \epsilon \}\leq\frac{D(X)}{\epsilon^2}$$

这个式子叫做切比雪夫不等式，它说明如果 $D(X)$ 越小，$X$ 的取值就越集中于 $E(X)$ 附近

它还等价于

$$P\{ |X-E(X)|< \epsilon \}\geq 1-\frac{D(X)}{\epsilon^2}$$

因为是对立事件

切比雪夫大数定律

如果说有 $X_1,X_2,\cdots,X_n,\cdots$ 好多个独立的随机变量，对于任意正数 $\epsilon$：

$$\lim_{n\to \infty} P\{ \overline{X} - E(\overline{X})<\epsilon \}=1$$

也就是 $\overline{X}$ 依概率收敛到 $E(\overline{X})$

伯努利大数定律

$n_A$ 是 $n$ 次独立试验中 $A$ 发生的次数，$P(A)=p$，对于任意 $\epsilon>0$ 有

$$\lim_{n\to \infty} P\{ \frac{n_A}{n}-p<\epsilon \}=1$$

也就是 $\frac{n_A}{n}$ 依概率收敛到 $p$

辛钦大数定律

我也不知道怎么说，但是它要求服从同一分布，$E(X_i)$ 存在

$$\lim_{n\to \infty}P\{ \overline{X} - E(\overline{X})<\epsilon \}=1$$