Statistical Forecasting: Qualitative Methods, Quantitative Methods, and Error Evaluation

统计决策概述

统计预测的概念

从工作来看 统计预测是指利用统计学方法 对未来不确定或者未知的事物作出判断 也就是从曾经的已知分析未来的未知 从结果来看 表现为统计预测值 从学科来看 他是一门科学的学科 揭示了事物发展的客观规律 目前 统计预测的应用非常广泛 突破了自然科学和社会科学的界限 理论研究不断进步 从其他学科中大量的吸收营养来完善自己

统计预测方法分类

定性预测方法以人的主观判断为主 往往依赖于专家的经验 他更加强调

• 对事物的发展性质作出描述性预测 对于那些非常复杂的问题 我们往往无法给出定量的模型
• 强调事物发展的趋势 方向 重大转折 （原因同上） 定性预测方法依赖于历史与现状的数据 建立数学模型 计算出精确的预测值
• 强调对数量值的精确性预测
• 强调历史资料和数学模型的作用 当预测对象的系统结构发生质的变化 统计数据发生巨大波动的时候 定量预测法无法给出好的结果

统计预测原则与步骤

原则

• 连贯性原则：统计预测对象的规律性适用于过去 现在 和一段时间的未来
• 相关类推原则：可以根据统计预测对象与其他相关量的变化来研究统计预测对象的变化
• 概率性原则统：统计预测对象的变化有偶然性也存在必然性 我们要研究的就是其中的必然
• 系统性原则：从全局的角度来考察问题 不仅要考察自然也要研究系统中的其他量与其他有关的系统

步骤

• 确定预测目标
• 收集历史与现实信息
• 建立合适的统计预测模型
• 预测并评价模型

统计预测发展现状

在已有的几十年发展历史中 统计预测已经发展出来了上百种预测方法 能够处理非常多种类的问题 但是现实世界中 预测对象可能是非常复杂的系统 寻找适应性强且效果好的预测模型任重而道远 目前比较新颖的预测发展方向有

• 不确定性预测中的模糊预测
• 不确定性预测中的灰色预测
• 组合预测 我们在这一笔记中只会研究那些比较传统且成熟的统计预测方法和统计预测这个概念 那些值得单独研究的内容将会单独研究 如时间序列分析 回归预测 神经网络预测等

统计预测与决策的关系

• 精准的统计预测指导着决策的进行
• 决策将会对预测的结果发生反作用
• 两者相互影响 相互作用 不能抛开其中的任何一个

定性预测方法

概述

定性预测方法的概念我们在前面已经介绍过了；他的核心点就是依靠人的主观来实现预测，最大的优点就是灵活；我们会在后面介绍比较常用的定性预测方法，但是数量并不多，其原因在于定性预测方法的灵活性，基本上所有一句主观给出的预测都属于定性预测 没有非常严格的方法

德菲尔法

概述

德菲尔法是一种经典的依靠专家的观点进行预测的方法，他给出了一套晚上的咨询方式 专家的意见会在多轮循环中达到一致，是定性预测方法中最常用的一个

过程

• 成立课题规划小组（包含专业人士和统计学家）
• 选择评估专家 10-50人为最适宜 可以适当扩大
• 采用信函法征询专家意见
• 第一轮征询中只给出预测目标和相关资料不进行限制
• 次轮征询不断范围前一轮的统计结果给专家 修改预测
• 直到预测结果基本收敛

特点

• 匿名性：所有的专家之间互相匿名
• 反馈性：多轮反馈后给出预测结果
• 权威性：选取权威的专家
• 收敛性：最后的预测结果应在多轮反馈后收敛
• 定量性：不能忽视少部分专家的意见，要有一半的专家预测结果在两个四分位点外 保证专家不会过于单一

统计处理

习惯性上 德菲尔法回报预测的两个四分位点和中位数 中位数作为预测结果 四分位数用来衡量预测的离散程度

趋势外推法

趋势外推法概述

概念

趋势外推法是对时间序列数据的一种分析方法，他原本应该属于时间序列分析但是因为过于简单而被单独列出；趋势外推法可以说是多项式拟合这一应用数学拟合手法的一种推广和收缩，收缩在于只能处理时间序列数据，推广在不再拘泥于多项式函数，而是引入了多种新的拟合曲线 其基本原理是：

• 决定事物过去发展的因素也决定了未来的发展
• 事物的发展往往是渐进性的而不是跳跃性的 因此 计算时间序列随着时间$t$ 变换的函数$f(t)$ 因此得到未来的时刻$t$ 的函数值 是有一定科学原理的

分类

• 多项式曲线预测模型
• 指数曲线预测模型
• 对数曲线预测模型
• 生长型曲线预测模型

模型选择

图形识别

直接绘制时间序列数据的散点图 比较图形特征和常用趋势外推模型的图形特征 选取适合的模型

差分计算法

我们可以定义一阶差分为 xxx 同理 对一阶差分继续进行差分可以得到高阶差分为

通过比较要研究的的时间序列数据的差分特征和趋势外推法常见模型的差分特征 就可以选择出我们想要使用的模型 常见的有

• 二阶差分为0 选取一元的线性模型
• 某阶各期差分相等 选取对应阶数的多项式模型
• 相邻两阶差分的比值相等 选择指数模型

多项式曲线外推法

多项式曲线模型的基本形态为

$$y_{t}=\beta_{0}+\beta_{1}t+\beta_{2}t^{2}+\cdots+\beta_{n}t^{n}$$

一次多项式没有必要单独研究 我们在线性统计模型中介绍的一元线性回归和最小二乘法直接使用就可以了 下面我们分别介绍二次和三次多项式

二次多项式曲线预测

问题的基本形式为

$$y_{t}=\beta_{0}+\beta_{1}t+\beta_{2}t^{2}$$

比较常用的处理方法有最小二乘法和三点法 对于最小二乘法 我们只需要对二次项进行换元 构造二元线性回归模型就可以了 着重介绍三点法 三点法的基本思想是：选取远 中 近 三点作为预测模型确定参数的点（三个点才能刚好确定三个参数）
三点法的具体操作为

• 将时间序列的总观察数为奇数（偶数时删除首次观察）
• 根据$n$的大小选取远中近各$k$ 组
• 使用权重$w_i=i$ 从远到近进行赋权 得到二次曲线上的三个点
• 一般$n>15$时 $k=5$ 否则$k=3$ 一般时间序列数据小于8个不分析 下面是一个$n>15$的三点法计算例子 假设一共有$n$ 项观测 中间项$d=\frac{n+1}{2}$ 则远期五个有

$$\bar{y}_{1}=\frac{y_{1}+2y_{2}+3y_{3}+4y_{4}+5y_{5}}{1+2+3+4+5}.$$ $$\overline{t}_{1}=\frac{1\times1+2\times2+3\times3+4\times4+5\times5}{1+2+3+4+5}=\frac{11}3$$

中期五个有

$$\bar{y}_{2}=\frac{y_{d-2}+2y_{d-1}+3y_{d}+4y_{d+1}+5y_{d+2}}{1+2+3+4+5}.$$

时间同理计算 近期五个有

$$\bar{y}_{3}=\frac{y_{n-4}+2y_{n-3}+3y_{n-2}+4y_{n-1}+5y_{n}}{1+2+3+4+5}.$$

时间同理计算 代入三点 拟合多项式 就可以用于预测了

三次多项式曲线

使用换元分析最小二乘法当然可以 此时我们可以引入四点法 选取左段 中间偏左 中间偏右 右段 四个点确定多项式函数 然后用于分析 此时 一般$n>20$时 $k=5$ 否则$k=3$ 适当删除一期或者两期数据 让我们能构造出等距离的四段 权重依旧是从远到近进行赋权 使用换元最小二乘法的分析往往更准确

指数曲线外推法

指数曲线预测

函数的一般形式为

$$\hat{y}_{t}=\beta_{0}\beta_{1}^{t}\left(\beta_{0},\beta_{1}>0\right)$$

对数化处理有

$$\ln y_{t}=\ln\beta_{0}+t\ln\beta_{1}.$$

现在就可以使用换元法转化为线性模型 使用最小二乘法处理 只需要最后将数据恢复就好了

修正指数曲线预测

函数的一般形式为

$$\hat{y}_{t}=\beta_{0}+\beta_{1}\beta_{2}^{t},$$

首先计算$\beta_0$ 然后移项使用最小二乘法确定系数

对数曲线外推法

函数的一般形式为

$$\hat{y}_{t}=\frac{L}{1+\beta_{0}e^{-\beta_{1}t}},$$ $L$ 是增长的极限值

一般进行指数或者对数变形后 使用最小二乘法求解

生长曲线外推法

生长曲线是事物发展一般规律的曲线 经历发生 发展 成熟 三个阶段的曲线都称为生长曲线

Gompertz曲线

曲线的函数形式为

$$y_{t}=ka^{b^{t}}\left(a,b\in\left(0,1\right),k>0\right),$$

计算方式为两边取自然对数 转化为修正指数模型

Logistic曲线模型

logistic模型的函数形式是一个微分方程的解 形式为

$$y_{t}=\frac{k}{1+ae^{-bt}},$$

通过两边取倒数的方式 我们可以把问题转化为修正指数模型 使用最小二乘法进行计算

曲线拟合优度分析

简单介绍一些用来衡量曲线拟合优度的指标 事实上 我们在回归分析中引入了很多用来衡量曲线拟合优度的指标 包括 残差平方和RSS 均方误差MSE 此时我们再来介绍几个适用于时间序列的

$$STE=\sqrt{\frac{\sum_{t=1}^{T}\left(y_{t}-\hat{y}_{t}\right)^{2}}{T}}$$ $$R_{\mathrm{NL}}=\sqrt{\frac{\sum_{t=1}^{T}(y_{t}-\hat{y}_{t})^{2}}{\sum_{t=1}^{T}y_{t}^{2}}},$$ $$FR=\frac{\sum_{t=1}^{T}y_{t}\hat{y}_{t}}{\sqrt{\sum_{t=1}^{T}y_{t}^{2}\sqrt{\sum_{t=1}^{T}\hat{y}_{t}^{2}}}}.$$

Markov预测法

概述

马尔可夫链与马尔可夫过程是无后效性的随机过程中最基础的两个，我们在随机过程中已经介绍了他们的基本理论；在现实世界中，无后效性是非常常见的一种性质，这也标志着马氏链在统计预测领域将会有着重要的作用 在大多数研究中 我们往往认为模型符合一个齐次马氏链

预测方法

划分状态空间

我们首先需要确定目前要预测的目标有多少中状态；可以根据预测对象的明显状态界线来区分，也可以通过实际情况认为判断；划分状态空间一定要考虑预测目的，保证状态的全面性

确定资料中的状态

根据前面划分的状态 确定资料序列中各个时段的状态

统计分析

我们要统计分析已有的资料 计算一步转移概率矩阵 用频率代替概率 给出状态概率向量 位于每个状态的概率为

$$p_i=P\{X=i\}=\frac{n_i}M,$$

用频率代替概率 计算一步转移概率

$$p_{ij}=\frac{n_{ij}}{n_{i}}$$

进一步的分析

确定初始分布 计算绝对分布 讨论遍历性 确定平稳分布 这些我们在随机过程中都研究过了

组合预测方法

概述

组合预测与集成学习的思想很像，我们需要集结多种单项预测方法的优点，通过组合多种单项预测手法实现更好的预测效果 组合预测方法可以进行以下的大致分类

• 根据组合预测与单项预测的函数关系，分为线性组合预测与非线性组合预测（很常见的分类方式，线性使用的更多）
• 根据加权系数的计算方式的不同，分为最优组合预测与非最优组合预测，区别在于是否极小话或者极大化了某目标函数来计算权值
• 可变权组合预测与不可变权组合预测，我们的权值是否会根据时间或者某种变量发生变化，目前可变权组合预测由于过于复杂结果还不多
• 根据是否比各个单项预测好分为了非劣性组合预测和优性组合预测

非最优组合预测模型的确定方法

算数平均法

将每个模型同等看待 给予他们相同的权值 采用线性模型

误差平方和倒数法

预测误差的平方和是常用的用来衡量模型误差的量 我们可以使用它来改进权重 记$E_{ii}$ 是预测误差平方和 权重为

$$l_{i}=\frac{E_{ii}^{-1}}{\sum_{i=1}^{m}E_{ii}^{-1}},$$

均方误差倒数法

记$E_{ii}$ 是预测误差平方和 权重为

$$l_{i}=\frac{E_{ii}^{-\frac{1}{2}}}{\sum_{i=1}^{m}E_{ii}^{-\frac{1}{2}}},$$

简单加权平均法

我们对不同误差的模型的误差进行排序 让误差最小的模型有最大的权重 自然给出改进的权值有

$$l_{i}=\frac{i}{\sum_{i=1}^{m}i}=\frac{2i}{m(m+1)}$$

预测误差平方和达到最小的线性组合预测模型

就是处理以下线性规划问题

$$\begin{aligned} &\min J_{1}=\sum_{t=1}^{N}\sum_{i=1}^{m}\sum_{j=1}^{m}l_{i}l_{j}e_{it}e_{jt}, \\ &s.t.\sum_{i=1}^{m}l_{i}=1. \end{aligned}$$

使用软件求解即可

基于相关系数的最优组合预测模型

约定符号

$$\left.A^\mathrm{T}A=\left[\begin{array}{c}e_1^\mathrm{T}\\e_2^\mathrm{T}\\\vdots\\e_m^\mathrm{T}\end{array}\right.\right][e_1,e_2,\cdots,e_m]=\left[\begin{array}{cccc}e_1^\mathrm{T}e_1&e_1^\mathrm{T}e_2&\cdots&e_1^\mathrm{T}e_m\\e_2^\mathrm{T}e_1&e_2^\mathrm{T}e_2&\cdots&e_2^\mathrm{T}e_m\\\vdots&\vdots&&\vdots\\e_m^\mathrm{T}e_1&e_m^\mathrm{T}e_2&\cdots&e_m^\mathrm{T}e_m\end{array}\right]=E.$$ $$\begin{aligned} J_{1}& =\sum_{t=1}^{N}\sum_{i=1}^{m}\sum_{j=1}^{m}l_{i}l_{j}e_{it}e_{jt}=\sum_{i=1}^{m}\sum_{j=1}^{m}\left[l_{i}l_{j}\left(\sum_{t=1}^{N}e_{it}e_{jt}\right)\right] \\ &=\sum_{i=1}^{m}\sum_{j=1}^{m}\left[l_{i}l_{j}E_{ij}\right]=L^{T}EL. \end{aligned}$$

那么机遇相关系数的最优线性组合预测模型为以下规划问题

$$\max R(l_1,l_2,\cdots,l_m)=\frac{\sum_{i=1}^ml_i\sum_{t=1}^Ne_te_{it}}{\sqrt{\sum_{t=1}^Ne_t^2\sqrt{L^\mathrm{T}EL}}},$$ $$\left.\mathrm{s.t.}\left\{\begin{array}{l}\sum_{i=1}^{m}l_i=1,\\i=1\\l_i\geqslant0,i=1,2,\cdots,m.\end{array}\right.\right.$$

基于IOWA算子的组合预测方法

OWA算子与IOWA算子

美国学者提出了来有序加权平均算子（ordered weighted averaging operator）和诱导有序加权平均算子（included ordered weighted averaging operator） 常规的加权算术平均算子是他们的特例，他们已经被广泛的应用于诸多领域； 定义： 设$\mathrm{OWA}_W:\mathbb{R}^n\to\mathbb{R}$ 是$n$维函数$W=\left[w_{1},w_{2},\cdots,w_{n}\right]^{\mathrm{T}}$ 是加权向量 满足$\sum_{i=1}^{n}w_{i}=1$ 如果

$$\mathrm{OWA}_W[a_1,a_2,\cdots,a_n]=\sum_{i=1}^nw_ib_i,$$

其中$b_i$ 是从大到小的第$i$个量 则称这是一个OWA算子 能看出 OWA算子无关于$a_i$的具体值 只和他们的位置相关 定义 设$\left[\left\langle v_1,a_1\right\rangle,\left\langle v_2,a_2\right\rangle,\cdots,\left\langle v_n,a_n\right\rangle\right]$ 是$n$个二维数组 则

$$\mathrm{IOWA}_W\left[\left\langle v_1,a_1\right\rangle,\left\langle v_2,a_2\right\rangle,\cdots,\left\langle v_n,a_n\right\rangle\right]=\sum_{i=1}^nw_ia_{v-\mathrm{lindex}(i)},$$

是IWOA算子 其中$v-index\left(i\right)$ 是根据$v_i$ 从大到小排序的第$i$个下标

基于IOWA算子的组合预测

传统的组合预测中 每一个单项预测方法的权值是不发生变化的；但是这个预测方法在不同时刻的表现肯定是不同的 这是传统加权组合预测的缺陷；但是如果根据算子在各个时刻的预测效果诱导有序加权平均算子 就可以建立新的效果更好的模型 如下 是$t$时刻的传统加权算术平均模型

$$\hat{x}_t=\sum_{i=1}^ml_ix_{it},$$

令

$$\left.a_{it}=\left\{\begin{array}{ll}1-\left|\dfrac{x_t-x_{it}}{x_t}\right|,&\left|\dfrac{x_t-x_{it}}{x_t}\right|<1,\\\\0,&\left|\dfrac{x_t-x_{it}}{x_t}\right|\geqslant1,\end{array}\right.\right.$$

则 $a_{it}$ 表示第$i$种预测方法在第$t$时刻的预测精度 我们可以把它看作预测值$x_{it}$ 的诱导值 现在我们就可以使用IOWA模型了 如下

$$\text{ IOWA}_{L}\left[\left\langle a_{1t},x_{1t}\right\rangle,\left\langle a_{2t},x_{2t}\right\rangle,\cdots,\left\langle a_{mt},x_{mt}\right\rangle\right]=\sum_{i=1}^{m}l_{ii}x_{a-\mathrm{index}(it)},$$