べんきのにっき

いろいろと垂れ流します。

ガンマ分布で分散の下限

担当分

内容

ガンマ分布 \mathscr{G} ( \alpha , \beta ) のパラメータ \beta の推定量の分散の下限について。

ガンマ分布の密度関数

\displaystyle f(x | \alpha , \beta) = \frac{1}{ \Gamma ( \alpha ) \beta ^{ \alpha}} x^{ \alpha -1} \exp \left( - \frac{x}{ \beta} \right)

\betaの推定量の分散の下限

以下では、 \alphaを既知とし、 \beta の推定について考える。

\hat{ \beta } の分散の下限は \displaystyle \frac{\beta ^{2}}{ \alpha}

これ自体は ガンマ分布の推定量の漸近分布 - べんきのにっき で計算したのでそちらを参照。

大きさnの標本であれば \displaystyle \frac{\beta ^{2}}{ n \alpha}

ここで、次の統計量を考える。

\displaystyle S _{n} = \sum X _{i}

このとき、 \displaystyle S _{n} \in \mathscr{G} ( n \alpha , \beta ) であるため、平均と分散は次のようになる。

\displaystyle E (S _{n} ) = n \alpha \beta

\displaystyle V( S _{n} ) = n \alpha \beta ^{2}

つまり、 \beta の推定量として \displaystyle \hat{ \beta } = \frac{ S _{n} }{ n \alpha} が考えられる。この推定量の期待値と分散は次のようになる。

\displaystyle E \left( \hat{ \beta } \right) = \beta

\displaystyle V \left( \hat{ \beta } \right) = \frac{ V( S _{n} ) }{ n ^{2} \alpha ^{2}} = \frac{ \beta ^{2}}{ n \alpha}

分散の下限を達成しており、有効推定量であることがわかる。

\frac{1}{ \beta }の推定量の分散

クラメルラオの不等式より、パラメータ \thetaの関数 g ( \cdot )の不偏推定量 T(X)の分散の下限が次の式で与えられる。

\displaystyle V _{ \theta } ( T(X) ) \geq \frac{ \left\{ g' ( \theta ) \right\} ^{2} }{ n I( \theta)}

g ( \theta ) = \frac{1}{ \beta }であると考えると、分散の下限は次のように計算できる。

\displaystyle V \left( g ( \hat{ \theta} ) \right) \geq \left( - \frac{1}{ \beta ^{2}} \right) ^{2} \frac{ \beta ^{2}}{ n \alpha } = \frac{ 1}{ n \alpha \beta ^{2} }

ここで、 \frac{1}{ S _{n}}の期待値と分散は次のようになる。

\displaystyle E \left( \frac{1}{ S _{n}} \right) = \frac{1}{(n \alpha -1) \beta}

\displaystyle V \left( \frac{1}{ S _{n}} \right) = \frac{1}{(n \alpha -1) ^{2} (n \alpha -2) \beta ^{2}}

つまり、 \hat{ \theta } = \frac{ n \alpha -1 }{ S _{n}} とすれば、これは \frac{1}{ \beta}の不偏推定量である。 この期待値と分散*1は次の通り。

\displaystyle E \left( \hat{ \theta } \right) =\frac{1}{ \beta}

\displaystyle V \left( \hat{ \theta } \right) =\frac{1}{ (n \alpha -2) \beta ^{2}} \geq \frac{ 1}{ n \alpha \beta ^{2} }

つまり、これは有効推定量ではない。

続き

後半の推定量は有効推定量ではなかった。

では、 \hat{ \theta } = \frac{n \alpha -1}{ S _{n}}が推定量として性質がよくないかというと、そうでもない。

と言うのも、 S _{n}が完備十分統計量であることから、Lehmann-Scheffeの定理が使えるからである。

Lehmann-Scheffeの定理は、「完備十分統計量の関数から作った不偏推定量はUMVUE（一様最小分散不偏推定量）である」というもの。

つまり \hat{ \theta } = \frac{n \alpha -1}{ S _{n}}はUMVUEであるから、不偏推定量の中では標準誤差が最小である。

*1:ガンマ関数の性質を用いる。式変形だけでほぼ計算不要