回顾 Borel—Cantelli 引理
第一 Borel—Cantelli 引理： 若
则
第二 Borel—Cantelli 引理： 若
相互独立，且 则
Kolmogorov 零一律
考虑某个概率空间上的一列随机变量
。记 称为尾 -代数。它包含仅通过观察任意遥远未来的信息所能得到的事件。直观上说，改变有限多个 ，并不会改变一个尾事件是否发生。 “
收敛到某个极限”就是一个尾事件。还有哪些例子？ 定理： 若
相互独立，且
，则
Kolmogorov 极大不等式
那么
- 证明的主要思路： 考虑最大值第一次超过阈值的时刻。在该事件上，对和的平方的期望给出下界。
Kolmogorov 三级数定理
定理： 令
相互独立，并固定
。记 则级数
几乎必然收敛，当且仅当下列条件全部成立： 级数
收敛；
证明背后的主要思路： Kolmogorov 零一律蕴含，级数
以某个概率 收敛。我们只需证明：当全部条件成立时
（条件的充分性）；而当其中任一条件不成立时 （必要性）。 为证明充分性，应用 Borel—Cantelli 引理可知，
无穷多次发生的概率为零。从 中减去各自的均值，把问题化归到每个 均值都为零的情形。然后应用 Kolmogorov 极大不等式。
提纲
回顾
大偏差
回顾：矩母函数
令
为随机变量。 的矩母函数定义为 当
是离散型随机变量时，可以写成 因此，
是可数多个指数函数的加权平均。 当
是连续型随机变量时，可以写成 因此，
是连续统多个指数函数的加权平均。 总有
若
且 ，则 如果
以正概率取到正值，也以正概率取到负值，那么当 时， 至少会以关于 的指数速度增长。
回顾：独立同分布随机变量之和的矩母函数
我们已经证明：如果
且
相互独立，那么 如果
是 的独立同分布副本，并且 那么
是什么？ 答案是
这是反复应用上面的公式所得。
这是研究矩母函数的一个重要原因。矩母函数有助于我们理解：将同一个随机变量的许多独立副本相加时，会发生什么。
大偏差
考虑独立同分布随机变量
。我们希望证明：如果对某个 ， 那么当
时， 且收敛速度是指数级的。
这可视为弱大数定律的一种定量形式。经验均值
偏离其期望值达到 的可能性非常小；这里的“非常”是指，该概率小于某个关于 指数衰减的函数。 记
它给出了指数衰减关于
的“速率”。
