計量経済学を学んでいく。
まずは
を中心に参照して基礎を学んでいく。
10. 最尤法
最尤法は観測されたデータの組み合わせが生じる確率を最大にするような母数を母数の推定値と見なす方法である。最尤法による推定量を最尤推定量(MLE: Maximum Likelihood Estimator)という。
確率変数の確率密度関数をは母数空間)とし、母数(ベクトル)は未知だとする。このとき標本が与えられたときに確率密度関数を母数(ベクトルのみ)の関数としてみたを尤度関数という。これを最大化するような母数(ベクトル)を推定量とするのが最尤法である。
実際には計算上の都合から、標本が無作為に得られたと仮定し、尤度関数の対数を取った対数尤度関数
を最大にするようなを求める。
例:正規分布の最尤推定量
標本に対して母数ベクトルの最尤推定量を求める。
このとき対数尤度関数はである。
は対数尤度関数が母数に関して上に凸であるから、これを各母数に関して偏微分してとおいた方程式を解けばよい。すなわちをについて解けばよい。したがって
を得る。