「大人の教養・知識・気付き」を伸ばすブログ

一流の大人(ビジネスマン、政治家、リーダー…)として知っておきたい、教養・社会動向を意外なところから取り上げ学ぶことで“気付く力”を伸ばすブログです。目下、データ分析・語学に力点を置いています。今月(2022年10月)からは多忙につき、日々の投稿数を減らします。

MENU

時系列解析の基礎(19/XX)

 以下の書籍

を中心に時系列解析を勉強していきます。

11. 状態空間モデルにおける状態の推定

 状態空間モデルにおける状態\boldsymbol{x}_tの推定は、現時点tまでの観測値y_1,\cdots,y_t*1を基にして行うことになる。すなわち推定対象が従う分布は


\begin{aligned}
f\left(状態\left|\right.y_{1:t}\right)
\end{aligned}

という形の条件付き分布(確率密度関数)として書くことができる。基本となるのは全時点分を考慮した


\begin{aligned}
f\left(\boldsymbol{x}_{1},\cdots,\boldsymbol{x}_{s},\cdots\left|\right.y_{1:t}\right)
\end{aligned}

である。検討の主眼である時点以外の時点における状態を外して考えるならば、周辺分布を考えればよい、すなわち


\begin{aligned}
f\left(\boldsymbol{x}_{t^{\prime}}\left|\right.y_{1:t}\right)=\displaystyle{\int f\left(\boldsymbol{x}_0,\boldsymbol{x}_1,\cdots,\boldsymbol{x}_{t^{\prime}},\cdots\left|\right.y_{1:t}\right)}d\boldsymbol{x}_1\cdots d\boldsymbol{x}_{t^{\prime}-1}d\boldsymbol{x}_{t^{\prime}+1}\cdots
\end{aligned}

とする。ここで予測対象の時間に応じて推定は

  s\lt t 平滑化(\mathrm{smoothing})
  s=t フィルタリング(\mathrm{filtering})
  s\gt t 予測(\mathrm{forecast})

と名前を変える。

11.1 状態の逐次的求解法

11.1.1 簡単な例

 逐次的な状態は、状態遷移とベイズ更新(事後分布∝事前分布×尤度)を繰り返すことで求める。



\begin{aligned}
x_t&=x_{t-1}+\nu+w_t,&w_t\sim N(0,\sigma_w^2)\\
y_t&=x_t+v_t,&v_t\sim N(0,\sigma^2)
\end{aligned}

を考える。初期時点t=1においてy_1=m_0=\hat{m}_1とし、その確信度合いを分散C_0で表すものとする。
 まずt=1における\mathrm{Bayes}更新は、


\begin{aligned}
f\left(x_1\left|\right.y_1\right)&\propto f\left(x_1\right)f\left(y_1\left|\right.x_1\right)\\
&=\displaystyle{\frac{1}{\sqrt{2\pi C_0}}\exp\left\{-\frac{(x_1-m_0)^2}{2C_0}\right\}}\displaystyle{\frac{1}{\sqrt{2\pi\sigma^2}}\exp\left\{-\frac{(y_1-x_1)^2}{2\sigma^2}\right\}}\\
&\propto \displaystyle{\exp\left\{-\frac{(x_1-m_0)^2}{2C_0}-\frac{(y_1-x_1)^2}{2\sigma^2}\right\}}\\
&=\displaystyle{\exp\left\{-\left(\frac{1}{2C_0}+\frac{1}{2\sigma^2}\right)x_1^2+\left(\frac{m_0}{C_0}+\frac{y_1}{\sigma^2}\right)x_1\right\}}\\
&=\displaystyle{\exp\left\{-\frac{1}{2}\left(\frac{1}{C_0}+\frac{1}{\sigma^2}\right)x_1^2+\left(\frac{m_0}{C_0}+\frac{y_1}{\sigma^2}\right)x_1\right\}}
\end{aligned}

である。一方でt=1における事後分布の観点より、


\begin{aligned}
f\left(x_1\left|\right.y_1\right)&=\displaystyle{\frac{1}{\sqrt{2\pi C_1}}\exp\left\{-\frac{(x_1-m_1)^2}{2C_1}\right\}}\\
&\propto\displaystyle{\exp\left\{-\frac{x_1^2-2m_1x_1}{2C_1}\right\}}\\
&=\displaystyle{\exp\left\{-\frac{1}{2}\frac{1}{C_1}x_1^2+\frac{m_1}{C_1}x_1\right\}}
\end{aligned}

が得られる。これらを比較することで、


\begin{aligned}
\displaystyle{\frac{1}{C_1}}&=\displaystyle{\frac{1}{C_0}}+\displaystyle{\frac{1}{\sigma^2}},\\
\displaystyle{\frac{m_1}{C_1}}&=\displaystyle{\frac{m_0}{C_0}}+\displaystyle{\frac{y_1}{\sigma^2}}\\
\end{aligned}

を得、これを変形することで


\begin{aligned}
\displaystyle{\frac{1}{C_1}}&=\displaystyle{\frac{1}{C_0}}+\displaystyle{\frac{1}{\sigma^2}},\\
m_1&=\left(\displaystyle{\frac{1}{C_0}}+\displaystyle{\frac{1}{\sigma^2}}\right)^{-1}\displaystyle{\frac{m_0}{C_0}}+\displaystyle{\frac{y_1}{\sigma^2}}\\
&=\displaystyle{\frac{C_0\sigma^2}{C_0+\sigma^2}}\displaystyle{\frac{m_0}{C_0}}+\displaystyle{\frac{y_1}{\sigma^2}}\\
&=\displaystyle{\frac{\sigma^2}{C_0+\sigma^2}}m_0+\displaystyle{\frac{C_0}{C_0+\sigma^2}y_1}\\
&=m_0+\displaystyle{\frac{C_0}{C_0+\sigma^2}}(y_1-m_0)
\end{aligned}

を得る。

11.1.2 フィルタリング分布の定式化

 フィルタリング分布の定式化を考える。


\begin{aligned}
f\left(\boldsymbol{x}_t\left|\right.y_{1:t}\right)&=f\left(\boldsymbol{x}_t\left|\right.y_t,y_{1:t-1}\right)\\
&=\displaystyle{\frac{f\left(y_t,\boldsymbol{x}_t\left|\right.y_{1:t-1}\right)}{f\left(y_t\left|\right.y_{1:t-1}\right)}}\\
&=\displaystyle{\frac{f\left(y_t\left|\right.\boldsymbol{x}_t,y_{1:t-1}\right)f\left(\boldsymbol{x}_t\left|\right.y_{1:t-1}\right)}{f\left(y_t\left|\right.y_{1:t-1}\right)}}\\
&=\displaystyle{\frac{f\left(y_t\left|\right.\boldsymbol{x}_t\right)f\left(\boldsymbol{x}_t\left|\right.y_{1:t-1}\right)}{f\left(y_t\left|\right.y_{1:t-1}\right)}}
\end{aligned}

である。分子のf\left(\boldsymbol{x}_t\left|\right.y_{1:t-1}\right)は一期先予測分布、分母のf\left(y_t\left|\right.y_{1:t-1}\right)は一期先予測尤度という。
 まず一期先予測分布f\left(\boldsymbol{x}_t\left|\right.y_{1:t-1}\right)は、状態\boldsymbol{x}_tの分布であり、


\begin{aligned}
f\left(\boldsymbol{x}_t\left|\right. y_{1:t-1}\right)&=\displaystyle{\int f\left(\boldsymbol{x}_t,\boldsymbol{x}_{t-1}\left|\right.y_{1:t-1}\right)}d\boldsymbol{x}_{t-1}\\
&=\displaystyle{\int f\left(\boldsymbol{x}_t\left|\right.\boldsymbol{x}_{t-1},y_{1:t-1}\right)f\left(\boldsymbol{x}_{t-1}\left|\right.y_{1:t-1}\right)}d\boldsymbol{x}_{t-1}\\
&=\displaystyle{\int f\left(\boldsymbol{x}_t\left|\right.\boldsymbol{x}_{t-1}\right)f\left(\boldsymbol{x}_{t-1}\left|\right.y_{1:t-1}\right)}d\boldsymbol{x}_{t-1}
\end{aligned}

と1期前の状態\boldsymbol{x}_{t-1}を表現できた。
 次に1期先予測尤度は、観測値y_tの分布であり、


\begin{aligned}
f\left(y_{t}\left|\right.y_{1:t-1}\right)&=\displaystyle{\int f\left(y_t,\boldsymbol{x}_t\left|\right.y_{1:t-1}\right)}d\boldsymbol{x}_{t}\\
&=\displaystyle{\int f\left(y_t\left|\right.\boldsymbol{x}_t,y_{1:t-1}\right)f\left(\boldsymbol{x}_t\left|\right.y_{1:t-1}\right)}d\boldsymbol{x}_{t}\\
&=\displaystyle{\int f\left(y_t\left|\right.\boldsymbol{x}_t\right)f\left(\boldsymbol{x}_t\left|\right.y_{1:t-1}\right)}d\boldsymbol{x}_{t}
\end{aligned}

が成り立つ。したがって

  • フィルタリング分布:1期先予測を、尤度f\left(y_t\left|\right.\boldsymbol{x}_t\right)で補正したもの
    \begin{aligned}f\left(\boldsymbol{x}_t\left|\right.y_{1:t}\right)&=f\left(\boldsymbol{x}_t\left|\right.y_{1:t-1}\right)\displaystyle{\frac{f\left(y_t\left|\right.\boldsymbol{x}_t\right)}{f\left(y_t\left|\right.y_{1:t-1}\right)}}\end{aligned}

  • 一期先予測分布:1期前のフィルタリング分布を、状態方程式に基づいて時間順方向に遷移させたもの
    \begin{aligned}f\left(\boldsymbol{x}_t\left|\right. y_{1:t-1}\right)=\displaystyle{\int f\left(\boldsymbol{x}_t\left|\right.\boldsymbol{x}_{t-1}\right)f\left(\boldsymbol{x}_{t-1}\left|\right.y_{1:t-1}\right)}d\boldsymbol{x}_{t-1}\end{aligned}

  • 一期先予測尤度:1期先予測分布を観測方程式に基づいて観測値の定義域に変換したもの
    \begin{aligned}f\left(y_{t}\left|\right.y_{1:t-1}\right)&=\displaystyle{\int f\left(y_t\left|\right.\boldsymbol{x}_t\right)f\left(\boldsymbol{x}_t\left|\right.y_{1:t-1}\right)}d\boldsymbol{x}_{t}\end{aligned}

である。

*1:上で既に用いたが、これらをまとめてy_{1:t}と書く。

プライバシーポリシー お問い合わせ