前回はARMA過程を導入した。
zeitgeist.hatenablog.com
引き続き、以下の書籍を基に学んだことを整理していく。

経済・ファイナンスデータの計量時系列分析 (統計ライブラリー)
- 作者:竜義, 沖本
- 発売日: 2010/02/01
- メディア: 単行本
4.ARMA過程(4)
AR過程の推定
AR過程の母数推定には、(1)最小二乗法、(2)最尤法が一般的である。次
過程
最小二乗法では通常の回帰モデルと同様に残差平方和
最小二乗推定量は3つの特徴がある*1:
- (一致性) 最小二乗推定量は一致推定量である
- (漸近正規性) 最小二乗推定量を基準化したものは漸近的に正規分布に従う
- (正規性の下での漸近有効性)
のとき、最小二乗推定量は一致推定量の中で漸近的に最小の分散共分散行列をもつ
なお過程は過去の誤差項と相関を有するため、最小二乗推定量は不偏性を持たない点に留意されたい。
過程はシンプルなモデルであるために最小二乗法が可能であった一方で、
過程などより複雑なモデルであれば最尤法を用いる。簡単のため
モデルについて、確率変数
(およびその確率密度関数
)に関するベイズの定理
まとめ
以上、AR(MA)過程における推定を導入した。次回はモデル選択を考える。