02-条件方差与鞅

第 2 讲

条件方差定义为

其中 是随机变量， 是一个 -代数。

性质

1. 若 关于 可测，则

2. 若 与 独立，则

3. “把已知的随机变量提到外面”：设 为随机变量；若 是已知的，即它们关于 可测，则

4. 若 关于 可测，则

5. 条件方差的加法公式为

   $$
   \operatorname{Var}(R+S\mid\mathcal F)

   \operatorname{Var}(R\mid\mathcal F)

   \operatorname{Var}(S\mid\mathcal F)
   +
   2\operatorname{Cov}(R,S\mid\mathcal F).
   $$

笔记中的箭头图表示：以条件期望

为基础，可以定义或讨论条件相关系数、条件方差、条件概率和条件协方差。

条件协方差的定义为

一个重要结论是全方差公式：

旁注：它就是勾股定理

在随机变量空间中的对应形式。

若 关于 可测，则

这里第一步来自定义。

令

条件期望可以理解为：把 正交投影到“所有关于 可测的随机变量”所组成的空间中。图中， 是 在该空间上的投影，竖直残差是 。

这个投影满足：

1. 关于 可测；

2. ；

3. 对任意 ，

因此

图中的橙色标记分别指出：第一项对应
，第二项对应
，协方差项为 。

继续计算残差的方差：

第一行是方差的定义；第二行使用

这里还使用了条件期望的塔式性质：

笔记补充指出，前页展开中省略了

进一步展开：

鞅

定义。 称过程 是鞅。

直观上：对下一个值的最佳预测就是当前值，即

例 1

设 独立同分布，而且

令

问题：

1. 求 、、；
2. 哪一个过程是鞅？

首先，

并且

旁注解释：“某物是常数”意味着它不随时间变化；“某物是非随机的”意味着它不是随机变量。

由于 与过去独立，

这一般不等于 ，所以 不是鞅。

另一方面，

所以 是鞅。

页首左图表示：在时刻 已知过去的整段轨迹后，对下一时刻的预测值是

右图表示随机游走在时刻 可能向上或向下分叉，而两种可能值的条件平均仍落在当前值 上：

简化记号：

验证 ：

其中 已知，而 与 独立。因此 也是鞅。

滤过

定义。 称为一个滤过，如果

且每个 都是一个 -代数。

定义。 若

则称过程 关于滤过 是鞅。

停时背后的直觉

令 表示一个停时。考虑例子

定义

这是一个停时，即随机游走第一次到达高度 的时刻。

再令

它不是停时，因为要判断当前点是否为局部极大值，必须查看下一时刻的值。

图中还给出

并画出随机游走首次到达 的轨迹；横轴为时间，纵轴为 ，到达点下方标为 。

页首图画出一条一直上升的轨迹，并在一个候选时刻处标注“这是 吗？”，用来强调：仅凭当时及以前的信息无法确认该点是不是第一次局部极大值。

例

是停时；而

不是停时。

标准课第 2 讲

定义。 若对每个 ，

则称 是关于滤过 的停时。

记号

并且

定理：停止后的鞅

若 是关于滤过 的鞅，且 是停时，则

关于同一滤过 也是鞅。

图中黑线表示原过程 ，蓝线表示停止过程 ：在 之前二者重合，在 之后 固定为 。例如，在图示的 情形，

下方的小图再次表示：不论 在 之后怎样变化，停止过程都保持在 。

定理：可选停止定理／杜布定理

若 是停时， 是关于滤过 的鞅，并且下一页所列条件中至少有一个成立，则

可选停止定理中列出的条件如下。

条件 A

并且停止过程 有界，即存在常数 ，使得

条件 B

而且笔记写出的量

有界。

条件 C

原笔记这里只写了省略号，没有给出可辨认的具体条件。

例：赌徒破产

数轴上的两个吸收边界为 和 ，初始位置为

设

其中 独立同分布，且

令

问题：

1. 若

   求 ；

2. 求 。

我们已经知道

图中画出一条先在 与 之间波动、最后首次到达 的样本路径；到达后停止过程保持在 。

取

由可选停止，

而

因此

于是

条件 A 确实满足：停止过程有界。还需说明

笔记的示意图把时间分成长度为 的区段。只要某个区段内连续 次都向同一方向走，过程必会离开区间 。因此“永远不退出”的概率可估计为

这里最后一项表示无穷乘积的极限。

继续用鞅

可选停止给出

因此

从而

图示对应

不能使用杜布定理的例子

仍设 独立同分布，且

令

并取

新规则是：第一次亏掉一卢布时就退出游戏。因此

而

这里不能套用可选停止定理。停止过程 虽有下界 ，却没有上界，所以并不有界。

再问 是多少。令 表示从 到 所需的随机时间，则

令 表示从 回到 所需的随机时间， 表示从 回到 所需的随机时间。由平移对称性，

对第一次移动分类：

所以

即

图中折线表示：若第一步向上，就必须先从 回到 ，再重新等待从 到 ；类似的“回程”可不断重复。

由于

而上一页又得到

有限期望不可能满足这两个等式。因此

所以可选停止定理的条件遭到破坏。

第 2 讲复习

定义。 若对所有 ，

则称 是鞅。

定义。 若对所有 ，

则称 关于滤过 是鞅。

滤过也可以包含比 的历史更多的信息，例如

2021 年考试第 2 题（第 64 页）

给定

以及

这里，在给定过去信息后， 是取值 的伯努利随机变量。问题：

1. 是鞅吗？
2. 的分布是什么？

第一步中

且

给定 后，

页底开始计算连续出现 的概率：

继续把联合概率分解为

若 ，则

所以第二个因子是 。若随后 ，则

它就是第三个因子。

（a）验证鞅性质

因此 是鞅。

图中的概率树给出：

从 出发， 又分别取

相应条件概率为 与 。图中列出的四个第二层取值为

只是按两条第一层分支分别写出。

若

则

由于 ，整个过程始终留在 内。

笔记在这里提出猜测：

若这个猜测成立，则应有

对于 ，例如

继续检验上述猜测。若极限服从 上的均匀分布，应当有

利用指示函数和塔式性质，

页顶旁注说明：在

中，内部的条件期望容易计算，而外部的无条件期望较难计算。

内部条件期望为

例如，当

若 ，则

若 ，则

图中以 为横轴、 为纵轴，画出两条可能的更新直线：

水平线 与上方直线的交点满足

当 时，

因此

旁注：“回家试试。”

笔记随后仍把

标为“猜测”，并写下

同时写道：当 很大时，例如

其分布被猜测为近似 上的均匀分布。原笔记在本页没有进一步证明或修正这一猜测。

2017 年考试第 1 题（第 50 页）

把一枚标准骰子独立掷 次。令

定义

要求计算

本页只列出问题；计算在下一页继续。

先计算

因为 与条件信息独立，并且

令

由条件下的对称性，

其余各项也相同。

笔记用两个变量说明这个结论：

因此一般可写为

同理，

于是

即

交换 与 可得同样的形式：

笔记强调：在计算

时， 是条件信息中未知的那一项。

最后给出一个具体的对称性例子：

一般地，

原扫描页到此结束；虽然上一页列出了
，本页没有写出该项的后续计算。