03-第3讲-条件概率独立性与贝叶斯定理

1. 本讲内容

• 条件概率；
• 乘法公式；
• 全概率公式；
• 贝叶斯定理；
• 基准率谬误。

第 1 次计算实践的要点是：模拟往往是估计概率的一种简单方法。在生日匹配问题中，当人数 时，至少两人生日相同的精确概率略大于 。

2. 样本空间的常见误区

样本空间是试验所有可能结果构成的集合，而不是集合的大小。结果本身也可以是数列。

例如，掷 5 枚六面骰子：

其中

只是样本空间的大小，不是样本空间。

若记录 10 个人的生日，并忽略闰年，则

一般地，记录 个人生日的样本空间大小为 。

3. 条件概率

在已知事件 发生的条件下，事件 的概率定义为

条件 把原样本空间缩小为 ，其中对 有利的部分是 。

四次抛硬币

公平硬币抛 4 次。令

已知第一次为反面后，要使总正面数至少为 3，余下三次必须全为正面，因此

另一方面，

在 的 5 个等可能结果中，只有 属于 ，所以

这说明一般而言

4. 乘法公式

由条件概率定义可得

也可以交换 ：

多阶段试验可继续展开。例如，

这正是概率树中沿一条路径相乘的依据。

5. 全概率公式

若 构成样本空间 的一个划分，即它们两两互斥且并集为 ，则

全概率公式把事件 分解到若干互斥情形中计算。

6. 概率树：换色球问题

袋中有 5 个橙球和 2 个蓝球。随机抽出一个球，然后放入一个相反颜色的球，再抽第二个球。

记 分别表示第 次抽到橙球、蓝球。

第一层：

若第一次抽到橙球，袋中变为 4 橙、3 蓝：

若第一次抽到蓝球，袋中变为 6 橙、1 蓝：

由全概率公式，

已知第二次抽到橙球，第一次也是橙球的概率为

如何阅读概率树

• 第一层分支上的数是 ；
• 从 通向 的分支是 ；
• 再通向 的分支是 ；
• 该叶节点表示事件 ；
• 叶节点的概率等于沿路径各分支概率的乘积。

7. Monty Hall 三门问题

三扇门后有一辆汽车和两只山羊：

1. 参赛者先选一扇门；
2. 主持人知道汽车位置，并且总会在其余两扇门中打开一扇有山羊的门；
3. 参赛者可以坚持原选择，也可以换到唯一剩下的门。

第一次就选中汽车的概率为 ，选中山羊的概率为 。

• 若最初选中汽车，换门会输；
• 若最初选中山羊，主持人必须打开另一扇有山羊的门，换门会赢。

因此，始终换门的获胜概率是

而不换门的获胜概率为

主持人的行为包含信息，所以不能把剩下两门简单视为各有 概率。

8. 独立性

如果得知一个事件发生不会改变另一个事件的概率，则事件 相互独立。

当相关条件概率有定义时，下列说法等价：

最后一个等式对任意事件都可使用，包括零概率情形，因此常被作为独立性的定义。

两枚骰子的例子

掷两枚公平六面骰子，令

有

事件 只有结果 ，所以

因此 与 不独立。

事件 只有结果 ，故

因此 与 独立。概念题答案为“仅与 独立”。

9. 贝叶斯定理

贝叶斯定理也称贝叶斯法则或贝叶斯公式。它可以把 “反转”为 ：

分母通常用全概率公式计算。若 构成划分，则

10. 恶松鼠警报器与基准率谬误

校园里有 100 万只松鼠，其中只有 100 只是恶松鼠。令

已知

警报响起后，松鼠确实为恶的概率为

也就是说，阳性警报只有约 的概率指向真正的恶松鼠。

用 100 万只松鼠的频数表看得更直观：

	恶	温和	合计
警报	99	9,999	10,098
不警报	1	989,901	989,902
合计	100	999,900	1,000,000

警报器对随机个体的判断正确率约为 ，但一次阳性警报正确的概率仅约为 。两者完全不同。忽略极低的恶松鼠基准率，便会犯基准率谬误。

11. 六面骰与八面骰的后验概率

随机者两只手分别握一枚公平六面骰和一枚公平八面骰。掷骰者随机选一只手，暗中掷骰并报告点数 。设

先验概率为

若 ，则

由贝叶斯公式，

若报告 或 ，六面骰不可能产生该结果，所以

汇总如下：

报告点数

本讲要点

1. 条件概率是在缩小后的样本空间中重新归一化；
2. 概率树沿路径相乘、跨互斥路径相加；
3. 全概率公式按情形分解事件；
4. 独立与互斥是不同概念；
5. 贝叶斯定理把先验概率和似然结合为后验概率；
6. 判断检测结果时不能忽略总体中的基准率。