09-Borel—Cantelli 引理与强大数定律

Borel—Cantelli 引理

• 第一 Borel—Cantelli 引理： 若

  则

• 第二 Borel—Cantelli 引理： 若 相互独立，且

  则

依概率收敛 子列的几乎必然收敛

• 定理： 依概率收敛到 ，当且仅当 的每一个子列都存在一个进一步的子列，使其几乎必然收敛到 。

• 证明的主要思路： 考虑事件 ： 与 相差 。事件 是否会无穷多次发生？使用 Borel—Cantelli 引理。

两两独立的例子

• 定理： 假设

  两两独立，并且

  记

  则比值

  几乎必然收敛到 。

• 证明的主要思路： 首先，两两独立意味着方差可以相加。逐项检查可得

  随后，切比雪夫不等式给出

  从而得到依概率收敛。

• 其次，巧妙地选取一个子列。令

  利用 Borel—Cantelli 引理，得到沿该子列的几乎必然收敛。再验证：沿这个子列的收敛，可以用确定性的方式推出不取子列时的收敛。

提纲

• 大数定律：Borel—Cantelli 引理的应用

• 强大数定律

一般形式的强大数定律

• 定理（强大数定律）： 若

  是一列期望为 的实值独立同分布随机变量，并且经验均值定义为

  那么

  几乎必然成立。

在 假设下证明强大数定律

• 假设

  这一假设不是必需的，但能简化证明。

• 注意

  因而

• 对 的独立同分布副本，强大数定律成立，当且仅当它对 的独立同分布副本成立；这里 是一个常数。

• 所以，不妨假设

• 证明的关键是控制 的四阶矩。

• 有

• 展开 。其中有五类项：

• 前三类项的期望全为零。第四类有 组，最后一类有 项；每一项的期望至多为 。因此

• 所以

  因而，以概率 ，

  从而 。

强大数定律的一般证明

• 假设 独立同分布且具有有限均值。令

  断言： 几乎必然地，除有限多个 外都有 ，所以只需证明

  （使用 Borel—Cantelli 引理；正随机变量的期望等于其累积分布函数与直线 之间的面积。）

• 断言：

  如何证明？

• 观察：

  使用富比尼定理（由于所有项都是非负的，可以交换求和与积分的次序）：

  $$ \begin{aligned} \sum_{k=1}^{\infty}\frac{\mathbb E(Y_k^2)}{k^2} &\leq \sum_{k=1}^{\infty}k^{-2} \int_0^{\infty} \mathbf 1_{\{yy)\,dy \ &= \int_0^{\infty} \left(\sum_{k=1}^{\infty}k^{-2}\mathbf 1_{\{y<k\}}\right) 2yP(|X_1|>y)\,dy. \end{aligned} $$

• 由于

  要完成上述断言的证明，只需证明：若 ，则

强大数定律的一般证明

• 断言：

  如何使用这一断言？

• 对任意 ，考虑子列

• 对级数求和：

• 合并上述计算（注意下面的不等式右端有限）：

• 由于 是任意的，可得