07-第6a讲-连续型期望分位数与大数定律


1. 本讲内容

  • 连续随机变量的期望;
  • 方差与标准差;
  • 分位数和中位数;
  • 直方图;
  • 大数定律。

2. 连续型期望

期望是随机变量位置或集中趋势的度量。若连续随机变量 的取值范围为 ,密度为 ,则

若范围无界,则相应地使用广义积分。

离散情形的公式为

两者本质相同:都是“数值 × 概率权重”的总和;连续情形用密度和积分代替概率质量与求和。

更一般地,

3. 连续型方差与标准差

对任意随机变量,

连续情形为

离散情形为

离散变量和连续变量具有相同的代数性质:

独立,则

4. 综合例题:密度

的取值范围为 ,密度为

(a) 求归一化常数

所以

CDF 为

(b) 均值、方差和标准差

因此

(c) 中位数

中位数 满足 ,所以

(d) 16 个独立副本的平均

独立同分布,并令

(e) 的期望

(f) 的密度

。由于变换单调递增,

因此

5. 分位数

分位数 是使左尾概率为 的数值:

若 CDF 可逆,则

其中:

  • 是中位数;
  • 是第一四分位数;
  • 是第三四分位数。

分位数是位置度量,但不只由密度曲线某一点的高度决定,而由该点左侧的总面积决定。比较多个分布的中位数时,应寻找每条曲线左侧累计面积达到 的位置。

在 R 中,qnormqbinomqexp 等函数分别返回正态、二项和指数分布的分位数。

6. 直方图复习

频数直方图中,组上方柱高等于该组数据个数。

密度直方图中,柱子的面积等于该组数据占总数据的比例:

因此总面积为 1。

等宽组

数据

按宽度 0.5、右端闭合的组划分:

区间 频数 密度
1 0.2
2 0.4
3 0.6
4 0.8

边界值放入左侧的右闭区间。由于所有组宽相同,频数和密度直方图形状相同,仅纵轴比例不同。

不等宽组

为边界:

区间 宽度 频数 密度
0.5 1 0.2
1.0 5 0.5
0.5 4 0.8

不等宽时,频数柱高会产生误导;密度直方图通过面积保持概率比例,应始终优先使用。

原讲义随后重复上一讲的 15 个数据点直方图练习;完整分组表和解答见第 5b 讲

7. 大数定律

直观上,多次测量的平均值比单次测量更准确。

为独立同分布随机变量,均值为 ,标准差为 。样本均值为

大数定律表明,对任意

也就是说,只要 足够大,样本均值就能以任意接近 1 的概率靠近总体均值。

仍是随机变量;对每个有限 ,它仍有小概率偏离 很远。大数定律不是说有限样本一定准确,也不是说误差会单调缩小。

8. 绝境赌博策略

你有 100 美元,必须在次日早晨前达到 1000 美元。每次下注 美元:

  • 以概率 赢得
  • 以概率 输掉

两种策略:

  • 最大下注策略:每次押上尽可能多、但不超过达到目标所需金额;
  • 最小下注策略:每次只下注少量,例如 5 美元。

,游戏对玩家不利。延长游戏会让负漂移持续累积,因此应采用最大下注策略,尽量以较少次数获得达到目标的机会。

,每次下注具有正优势。大量小额下注能让平均收益率依大数定律趋近其正期望,从而降低短期波动导致破产的风险,因此最小下注策略更好。

这一例子说明,大数定律只有在重复试验的平均趋势对你有利时才值得利用。

9. 大数定律与直方图

从同一分布抽取大量独立样本时,固定分组的相对频率会趋近各组的真实概率。随着样本量增大并适当缩小组宽,密度直方图会越来越接近总体的概率密度函数。

原讲义展示了 100,000 个标准正态样本、组宽为 0.1 的密度直方图,并在其上叠加标准正态密度曲线。两者已经非常接近。

本讲要点

  1. 连续型期望和方差用积分定义;
  2. 离散与连续情形遵循相同的期望、方差代数规则;
  3. 分位数是 CDF 的反函数值;
  4. 不等宽分组应使用密度直方图;
  5. 大数定律保证独立同分布样本的平均趋近总体均值;
  6. 大样本降低随机波动,但不消除有限样本中的极端偏差。

文章作者: Gustavo
版权声明: 本博客所有文章除特別声明外,均采用 CC BY-NC 4.0 许可协议。转载请注明来源 Gustavo !
评论
  目录