内容

ガンマ分布の尤度方程式を求める。ガンマ分布のパラメータの最尤推定量の漸近分布を求める

ガンマ分布について

密度関数

$\displaystyle f(x | \alpha , \beta) = \frac{1}{ \Gamma ( \alpha ) \beta ^{ \alpha}} x^{ \alpha -1} \exp \left( - \frac{x}{ \beta} \right)$

対数尤度

$\displaystyle l = \log f(x | \alpha , \beta) = - \Gamma ( \alpha ) - \alpha \log \beta + ( \alpha -1) \log x -\frac{x}{ \beta}$

ポリガンマ関数

$\displaystyle \varphi^{(n)} = \frac{ \partial ^{n}}{ \partial x^{n}} \log \Gamma (x)$

尤度方程式

サンプル全体の対数尤度は以下

$\displaystyle \sum_{i} \log f( x_{i} | \alpha , \beta)$

対数尤度を代入して変形する

$\displaystyle L = - n \Gamma ( \alpha ) - n \alpha \log \beta + ( \alpha -1) \sum \log x - \frac{1}{ \beta} \sum x$

これをパラメータ毎に微分して=0とすると尤度方程式に。

$\displaystyle \frac{ \partial }{ \partial \alpha} = - n \varphi ^{(1)} ( \alpha) -n \log \beta + \sum \log x = 0$

$\displaystyle \frac{ \partial }{ \partial \beta} = - n \frac{ \alpha }{ \beta } + \frac{1}{ \beta ^{2}} \sum x = 0$

漸近分布

情報行列を計算する。例によって要素ごとに書くことにする。

二回微分行列 $\Phi$

$\displaystyle \Phi _{1,1} = \frac{ \partial ^{2}}{ \partial \alpha ^{2}} l = - \varphi ^{(2)}$

$\displaystyle \Phi _{1,2} = \frac{ \partial ^{2}}{ \partial \alpha \partial \beta } l = - \frac{1}{ \beta}$

$\displaystyle \Phi _{2,2} = \frac{ \partial ^{2}}{ \partial \beta ^{2}} l = \frac{ \alpha}{ \beta ^{2}} - \frac{2}{ \beta ^{3}} \sum x$

二回微分の期待値 $\mathscr{I}$

$\displaystyle \int_{ 0 }^{ \infty } - \Phi _{1,1} f(x) dx = \varphi ^{(2)}$

$\displaystyle \int_{ 0 }^{ \infty } - \Phi _{1,2} f(x) dx = \frac{1}{ \beta}$

$\displaystyle \int_{ 0 }^{ \infty } - \Phi _{2,2} f(x)dx = \int_{ - \infty }^{ \infty } \left( - \frac{ \alpha }{ \beta ^{2}} + \frac{2}{ \beta ^{3}} x \right) f(x) dx = - \frac{ \alpha }{ \beta ^{2}} + \frac{2 \alpha \beta}{ \beta ^{3}} = \frac{ \alpha }{ \beta ^{2}}$