07-时间序列分析

Dr. Kempthorne
2013 年秋

时间序列分析

1. 平稳性与 Wold 表示定理；
2. 自回归和移动平均（ARMA）模型；
3. 处理非平稳性：ARIMA 模型；
4. 平稳 ARMA 模型的估计；
5. 平稳性与非平稳性检验。

由时间指标 索引的一族随机变量

称为时间序列。

的随机行为由所有有限维联合概率密度或质量函数

确定，其中

取遍所有有限时间指标集合。

定义：严格平稳
若对任意时间平移 、任意有限维数 和任意时间指标 ，均有

则称 严格平稳。也就是说，所有有限维分布在时间平移下保持不变。

定义：协方差平稳或弱平稳
若

且这些量不依赖绝对时间 ，则称 协方差平稳。

其自相关函数为

严格平稳且二阶矩有限通常蕴含协方差平稳；反过来一般不成立。

Wold 表示定理
任意零均值、协方差平稳时间序列 均可分解为

其中：

• 是线性确定性过程，即 可由其过去值的常系数线性组合精确表示；
• 是误差项的无限移动平均过程：
  且
  
• 是线性不可预测白噪声：

• 创新项与确定性部分不相关：
  

设要用协方差平稳过程 建模真实数据

可采用以下策略：

1. 初始化参数 ，表示 Wold 分解的线性确定性部分使用多少个滞后观测；
2. 估计 在
   上的线性投影；
3. 取终点为 、大小为 的估计样本；
4. 令
   索引相应子序列，并定义
   

接下来构造响应向量 与滞后设计矩阵 。

定义

用 OLS 指定投影：

等价地，

投影残差为

原 PDF 文本层在帽子矩阵公式中漏掉了一个 ；这里按 OLS 投影矩阵恢复。

对残差时间序列

使用时间序列方法，建立移动平均模型：

由此估计 与创新 。

然后进行诊断：

1. 检查 是否与更早的 、 正交；
2. 若仍有相关性，增大 并重新估计；
3. 检查 是否符合白噪声假设；
4. 若不符合，可：
   • 改变移动平均模型；
   • 向投影模型加入其他确定性变量；
   • 修订整体模型。

理论上，

若确实需要 ，则样本量也必须满足

实用的协方差平稳模型通常：

• 只需要较小的有限 ；
• 或使用由少量参数控制的移动平均结构。

定义
滞后算子 把时间序列向后移动一期：

递归应用：

逆算子表示向前移动：

Wold 表示可写成

其中

定义：脉冲响应函数

长期累积响应为

假设算子 可逆，即存在

使

若 ，或已用

移除确定性部分，则

等价于

当 存在时，称 可逆，并具有无限阶自回归表示。若

则

原幻灯片把求和从 开始且直接使用 ，容易与当期 项混淆；这里写成常用的标准形式。

本节进入自回归和移动平均（ARMA）模型。

定义
若时间序列 满足

则称它服从 ARMA 模型，其中自回归阶数为 ，移动平均阶数为 。

是 白噪声：

定义

则模型可写成

Wold 表示为

原 PDF 文本层把第二个自回归滞后误识别成 ；这里恢复为 。

阶自回归模型为

其中

该模型表明 对解释变量

服从线性回归：

其中截距

把当期与滞后项组合后，

是白噪声。

用复变量 替换滞后算子：

设特征方程

的根为 。则

协方差平稳，当且仅当所有根都位于单位圆外：

若 ，则

该级数绝对收敛。于是

具有收敛的无限移动平均展开。

设

特征方程为

根为

AR(1) 协方差平稳，当且仅当

等价于 。

一阶与二阶矩为

原幻灯片把方差分母写成 ；由平稳方差方程 ，正确分母为 。

当 时，AR(1) 的 Wold 分解为

不同 产生不同动态：

• ：以指数速度、同方向均值回复到 ；
• ：围绕 振荡并以指数速度均值回复；
• ：Wold 平稳分解不存在，过程成为非平稳的简单随机游走；
• ：过程具有爆炸性。

常用正向均值回复 AR(1) 建模的例子：

• 利率，例如离散时间版本的 Ornstein–Uhlenbeck 过程或 Vasicek 模型；
• 利率利差；
• 实际汇率；
• 估值比率，如股息收益率和市盈率倒数。

AR 模型为

两边乘以 并取期望：

其中 为 Kronecker delta。

当 时，得到关于 的 个线性方程。

原 PDF 文本层再次把第二个滞后识别成 ；这里恢复为 。

利用

把样本自协方差估计 代入并求解，即得到 Yule–Walker 参数估计 。

再利用 的方程：

得到创新方差估计

若 和各 无偏，则这种方法体现了矩估计原则。

阶移动平均模型为

其中

若 的所有根均位于复单位圆外，则 可逆。

其矩为

令 ，则自协方差可简洁写成

因此 MA 的自相关函数在滞后 之后截尾。

本节进入非平稳性处理与 ARIMA 模型。

许多经济时间序列表现出与随机游走一致的非平稳行为。Box 和 Jenkins 建议用差分算子移除非平稳趋势：

• 若 含线性时间趋势，则 不再含该线性趋势；
• 若 含二次趋势，则 不再含该二次趋势。

设

其中确定性趋势为

而

则

一阶差分为

差分移除了线性确定性趋势，但引入了平稳的 ARMA 型误差结构。

原幻灯片再次把 AR(1) 方差写为 ；这里修正为 。

若

则

给定 ，

其中随机趋势

满足

随机趋势不能被完美预测。该过程是具有白噪声步长的简单随机游走，非平稳，因为

对 $0

其方差随时间增长，协方差取决于绝对时间而不仅是滞后，因此不满足协方差平稳。

若

是平稳过程，而更低阶差分仍非平稳，并且 服从 ARMA，则称 服从 ARIMA 模型，即“单整 ARMA”模型。

主要问题：

• 确定需要多少阶差分才能移除确定性或随机趋势；
• 估计 ARIMA 的未知参数；
• 在不同 模型之间选择。

本节进入平稳 ARMA 模型的估计。

假设创新满足

估计步骤：

1. 把 ARMA 写成状态空间形式；
2. 使用对数似然的预测误差分解；
3. 采用以下一种或两种最大似然方法。

有限信息最大似然（LIML）

• 以最初 个 为条件；
• 假设最初 个创新 为零。

完全信息最大似然（FIML）

使用最初 个观测的平稳分布构造精确似然。

为选择 ARMA 的阶数 ，可在预先设定的范围内拟合所有模型：

令

为正态创新方差的最大似然估计。选择使下列准则之一最小的 。

Akaike 信息准则

Bayesian 信息准则

Hannan–Quinn 准则

若均值、截距或其他参数也参与估计，惩罚项中的参数数量应相应增加。AIC 较偏向预测，BIC 对复杂度惩罚更强。

本节进入平稳性与非平稳性检验。

设 服从 AR(1)：

检验：

用最小二乘拟合 AR(1)，统计量为

若 ，则

若 ，则 以 速度超一致收敛；但 不服从普通 Student 分布，而服从非标准 Dickey–Fuller 极限分布，因此必须使用 DF 临界值。

原幻灯片文本层把 DF 分布前拼接了 ；标准 DF 检验使用上述 统计量本身。

单位根检验

原假设 ：非平稳。

• Dickey 与 Fuller（1979）：DF 检验；
• Said 与 Dickey（1984）：增广 Dickey–Fuller（ADF）检验；
• Phillips 与 Perron（1988）：PP 单位根检验；
• Elliott、Rothenberg 与 Stock（2001）：高效单位根检验统计量。

平稳性检验

原假设 ：平稳。

• Kwiatkowski、Phillips、Schmidt 与 Shin（1992）：KPSS 检验。

原幻灯片把 KPSS 文献年份误写成 1922；正确年份为 1992。