【数理統計】時系列解析Vol.07：予測 - 「大人の教養・知識・気付き」を伸ばすブログ

　前回はARMA過程の詳細を述べた。今回はARMAモデルでの予測について述べる。

zeitgeist.hatenablog.com

引き続き、以下の書籍を基に学んだことを整理していく。

経済・ファイナンスデータの計量時系列分析 (統計ライブラリー)

作者:竜義, 沖本
発売日: 2010/02/01
メディア: 単行本

基礎からわかる時系列分析 ―Rで実践するカルマンフィルタ・MCMC・粒子フィルター (Data Science Library)

作者:萩原淳一郎,瓜生真也,牧山幸史
発売日: 2018/03/23
メディア: 大型本

今日のポイント

5.予測

(1) 予測の基本的な考え方

(2) より厳密な考え方

まとめ

今日のポイント

時系列解析においては「良い予測」には様々な考え方がある
予測誤差 $\hat{e}_{t+1|t}=y_{t+1}-y_{t+1|t}$ を最小化する予測を「良い」とするものがある
予測誤差自体も確率変数であるため、どのような意味で最小化すべきなのかも定めるべきである
数学的に扱いやすい平均二乗誤差の意味で予測誤差を最小化すると、条件付き期待値が最適なものである

5.予測

(1) 予測の基本的な考え方

　これまでで時系列モデルを構築してきたが、それを用いて予測を立てることが今回の課題である。

　推定方法が様々あるように予測の考え方も様々なものがある。そのために如何なる予測が適切なものかを判断するのは難しく、その判断のための尺度が必要となる。
　一つには最小二乗法との考え方を敷衍し、予測誤差 $\hat{e}_{t+1|t}=y_{t+1}-y_{t+1|t}$ を最小化するような予測を良い予測であると見なす考え方がある。とはいえ予測誤差は確率変数の差であるからそれ自身も確率変数であり、どのような意味で最小化するものが適当なのかを定めなければ十分とは言えない。これにも様々な考え方があるが、もっとも頻用されるのは平均二乗誤差

$\begin{aligned} MSE =E[{\hat{e}_{t+1|t}}^2]=E[(y_{t+1}-y_{t+1|t})^2] \end{aligned}$

を最小化していくことである。このような平均二乗誤差を最小化することで得られる予測を最適予測（optimal forecast）と呼ぶ。

(2) より厳密な考え方

　時点 $t$ において利用可能な観測値からなる情報集合 $\Omega_{t}=\{y_t,y_{t-1},\cdots,y_{1}\}$ を用いて、 $h>0$ 期先の値 $y_{t+h}$ を予測したいとする。 $\Omega_{t}$ を用いて得られる予測量を $\hat{y}_{t+h|t}$ とする。
　このとき前述の考えに従うとしよう。すると

$\begin{aligned} MSE(\hat{e}_{t+h|t})=E[\hat{e}_{t+h|t}^2|\Omega_{t}] =E[(y_{t+h}-\hat{y}_{t+h|t})^2|\Omega_{t}] \end{aligned}$

を考えることとなる。
　これを展開すると、

$\begin{aligned} MSE(\hat{e}_{t+h|t})&=E[\hat{e}_{t+h|t}^2|\Omega_{t}],\\ 　　　　　　　　 &=E[(y_{t+h}-\hat{y}_{t+h|t})^2|\Omega_{t}]. \end{aligned}$

　 $\mu_{t+h|t}=E[\hat{y}_{t+h}|\Omega_{t}]$ とおくと

$\begin{aligned} MSE(\hat{e}_{t+h|t})&=E[(y_{t+h}-\hat{y}_{t+h|t})^2|\Omega_{t}]\\ 　　　　　　　　 &=E[(y_{t+h}-\mu_{t+h|t}+\mu_{t+h|t}+\hat{y}_{t+h|t})^2|\Omega_{t}]\\ 　　　　　　　　 &=(E[y_{t+h}-\mu_{t+h|t}|\Omega_{t}])^2-\\ 　　　　　　　　 &\ \ \ \ \ 2E[(y_{t+h}-\mu_{t+h|t})(\hat{y}_{t+h|t}-\mu_{t+h|t})|\Omega_{t}]+\\ 　　　　　　　　 &\ \ \ \ \ (E[\hat{y}_{t+h|t}-\mu_{t+h|t}|\Omega_{t}])^2]\\ 　　　　　　　　 &=(E[y_{t+h}-\mu_{t+h|t}|\Omega_{t}])^2+(E[\hat{y}_{t+h|t}-\mu_{t+h|t}|\Omega_{t}])^2 \end{aligned}$

　右辺第2項は非負であるため、 $MSE(\hat{e}_{t+h|t})$ は $\hat{y}_{t+h|t}=\mu_{t+h|t}$ で最小化できる。以上の考察から、分布に特定の仮定を与えることで計算を可能（ないし容易）にした条件付き期待値を利用するのが妥当であると結論付けることができた。

まとめ

　以上、良い予測を行うための考え方を整理してきた：

時系列解析においては「良い予測」には様々な考え方がある
1つには予測誤差 $\hat{e}_{t+1|t}=y_{t+1}-y_{t+1|t}$ を最小化する予測を「良い」とするものがある
予測誤差自体も確率変数であるため、どのような意味で最小化すべきなのかも定めるべきである
数学的に扱いやすい平均二乗誤差の意味で予測誤差を最小化すると、条件付き期待値が最適なものである

次回はこれらの考え方をAR過程に当てはめて、具体的な予測を考えることとする。