べんきのにっき

いろいろと垂れ流します。

ガンマ分布で分散の下限

内容

ガンマ分布 \mathscr{G} ( \alpha , \beta ) のパラメータ \beta の推定量の分散の下限について。

ガンマ分布の密度関数

 \displaystyle
f(x | \alpha , \beta) = \frac{1}{ \Gamma ( \alpha ) \beta ^{ \alpha}} x^{
\alpha -1} \exp \left( - \frac{x}{ \beta} \right)

 \betaの推定量の分散の下限

以下では、 \alphaを既知とし、 \beta の推定について考える。

 \hat{ \beta } の分散の下限は  \displaystyle \frac{\beta ^{2}}{ \alpha}

これ自体は ガンマ分布の推定量の漸近分布 - べんきのにっき で計算したのでそちらを参照。

大きさnの標本であれば \displaystyle \frac{\beta ^{2}}{ n \alpha}

ここで、次の統計量を考える。

 \displaystyle
S _{n} = \sum X _{i}

このとき、 \displaystyle
S _{n} \in \mathscr{G} ( n \alpha , \beta )
であるため、平均と分散は次のようになる。

 \displaystyle
E (S _{n} ) = n \alpha \beta

 \displaystyle
V( S _{n} ) = n \alpha \beta ^{2}

つまり、 \beta の推定量として \displaystyle
 \hat{ \beta } = \frac{ S _{n} }{ n \alpha}
が考えられる。この推定量の期待値と分散は次のようになる。

 \displaystyle
E \left( \hat{ \beta } \right) = \beta

 \displaystyle
V \left( \hat{ \beta } \right) = \frac{ V( S _{n} ) }{  n ^{2} \alpha ^{2}} = \frac{ \beta ^{2}}{ n \alpha}

分散の下限を達成しており、有効推定量であることがわかる。

 \frac{1}{ \beta }の推定量の分散

クラメルラオの不等式より、パラメータ \thetaの関数 g ( \cdot )の不偏推定量 T(X)の分散の下限が次の式で与えられる。

 \displaystyle
V _{ \theta } ( T(X) ) \geq \frac{  \left\{ g' ( \theta ) \right\} ^{2} }{ n I( \theta)}

 g ( \theta ) = \frac{1}{ \beta }であると考えると、分散の下限は次のように計算できる。

 \displaystyle
V \left( g ( \hat{ \theta} ) \right) \geq \left( - \frac{1}{ \beta ^{2}} \right) ^{2} \frac{ \beta ^{2}}{ n \alpha } = \frac{ 1}{ n \alpha  \beta ^{2} }

ここで、 \frac{1}{ S _{n}}の期待値と分散は次のようになる。

 \displaystyle
E \left(  \frac{1}{ S _{n}} \right) = \frac{1}{(n \alpha -1) \beta}

 \displaystyle
V \left(  \frac{1}{ S _{n}} \right) = \frac{1}{(n \alpha -1) ^{2} (n \alpha -2) \beta ^{2}}

つまり、  \hat{ \theta } = \frac{ n \alpha -1 }{  S _{n}} とすれば、これは \frac{1}{ \beta}の不偏推定量である。 この期待値と分散*1は次の通り。

 \displaystyle
E \left( \hat{ \theta } \right) =\frac{1}{ \beta}

 \displaystyle
V \left( \hat{ \theta } \right) =\frac{1}{ (n \alpha -2) \beta ^{2}} \geq  \frac{ 1}{ n \alpha  \beta ^{2} }

つまり、これは有効推定量ではない。

続き

後半の推定量は有効推定量ではなかった。

では、 \hat{ \theta } = \frac{n \alpha -1}{  S _{n}}が推定量として性質がよくないかというと、そうでもない。

と言うのも、 S _{n}が完備十分統計量であることから、Lehmann-Scheffeの定理が使えるからである。

Lehmann-Scheffeの定理は、「完備十分統計量の関数から作った不偏推定量はUMVUE(一様最小分散不偏推定量)である」というもの。

つまり \hat{ \theta } = \frac{n \alpha -1}{  S _{n}}はUMVUEであるから、不偏推定量の中では標準誤差が最小である。

*1:ガンマ関数の性質を用いる。式変形だけでほぼ計算不要