回顾期望的定义
给定概率空间
和随机变量 （即从 到 的可测函数 ），记 如果
几乎处处成立，或者 与 的积分各自有限，那么期望总是有定义的。
强大数定律
定理（强大数定律）： 如果
是期望为 的独立同分布实值随机变量，并且 是经验均值，那么
几乎必然成立。
上次课我们定义了独立性。我们说明了如何利用 Kolmogorov 定理，在一个带有自然
-代数的测度空间上构造无穷多个独立同分布随机变量；在该 -代数中， 的极限存在是一个可测事件。因此，到目前为止，我们已经做了足够多的工作，可以说上述陈述是有意义的。
回顾若干定义
若
则事件
与 相互独立。 若对所有
，都有 则随机变量
与 相互独立；也就是说，事件 与 相互独立。 若每当
且 时， 与 都相互独立，则两个 -域 与 相互独立。（当 和 是任意代数、半代数或其他可测集族时，这一定义也有意义。）
回顾若干定义
称事件
相互独立，如果对每个 ，都有 称随机变量
相互独立，如果对任意可测集 ，事件 相互独立。 称
-代数 相互独立，如果任意一组事件——从每个 -代数中各取一个——都相互独立。（当 是代数、半代数或其他可测集族时，这一定义也有意义。）
回顾 Kolmogorov 定理
Kolmogorov 扩张定理： 如果我们在
上有一族相容的概率测度，那么可以把它们唯一地扩张为 上的一个概率测度。 该结果使用 Carathéodory 扩张定理的半代数版本证明。
推广 Kolmogorov 定理
如果把
换成任意测度空间，Kolmogorov 扩张定理一般并不成立。 但如果使用标准 Borel 空间，结论仍然成立。Durrett 把这样的空间称为“良好空间”：如果存在从
到 的一一映射 ，使得 与 都可测，就称 是良好的。 是否存在有趣的良好测度空间？
定理： 有，而且很多。事实上，如果
是一个完备可分度量空间 （或者这种空间的一个 Borel 子集），并且 是 的 Borel 子集族，那么 是良好的。 可分是指包含一个可数稠密集。
标准 Borel 空间
证明的主要思想： 先化归到直径小于 1 的情形，例如把
换成 然后取一个可数稠密集
，并通过映射 将
连续地映入 。再利用二进制展开，给出从 到 的可测一一映射；也就是把一个由 0 和 1 组成、以 为指标的矩阵，送到一个由 0 和 1 组成、以 为指标的序列。 在实践中，假设我想让
成为圆盘的闭子集族、平面曲线族、从一个集合到另一个集合的函数族等。若要构造自然的 -代数 ，我只需给出一个使 完备且可分的度量；如果为了使它完备而不得不扩大 ，或许也没有问题。然后，我再检查自己关心的事件是否属于这个 -代数。
Fubini 定理
考虑
-有限测度空间 和 。 令
，并令 为乘积 -代数。 检查：
上存在唯一测度 ，使得 Fubini 定理： 如果
，或者 那么
证明的主要思想： 检查定义确实有意义。若
可测，证明 在切片 上的限制作为
的函数是可测的，并且切片上的积分作为 的函数是可测的。先对矩形集合的示性函数验证 Fubini 定理，再利用 - 方法扩张到可测示性函数，继而扩张到简单函数、有界函数、 函数（或非负函数）。
不可测情形下 Fubini 定理的反例
- 如果我们在
中的实数上取一个全序 ，使得对每个 ，集合
都是可数的，并考虑集合
的示性函数，会发生什么？
更多观察
如果
相互独立，且其分布为 ，那么 的分布为 如果
相互独立，并且或者对所有 都有 ，或者对所有 都有 ，那么
提纲
- 定义
- 随机变量之和
两个随机变量求和
假设有相互独立的随机变量
和 ，其密度函数分别为 和 。 现在来求
它等于函数
在集合
上的积分。因此， 两边求导可得
后一个公式在直观上也说得通：我们是在对所有和为
的 对进行积分。 也可以写成
独立同分布均匀随机变量求和
假设
与 独立同分布，并且都在 上服从均匀分布。因此，在 上 的概率密度函数是什么？ 它等于
的长度。 当
时，该长度为 ；当 时为 ；其他情形为 0。
两个正态随机变量求和
服从均值为 0、方差为 的正态分布； 服从均值为 0、方差为 的正态分布。 我们只需计算
我们可以直接计算这个积分。
或者，可以借助多维钟形曲线图像来论证：如果
和 的方差都是 1，那么 是某个正态随机变量的密度（并注意，方差和期望具有可加性）。 还可以利用如下事实：如果
是独立同分布的抛硬币结果，那么当 很大时， 近似服从方差为
的正态分布。 一般而言，如果相互独立的随机变量
服从正态分布 ，那么 服从正态分布
