べんきのにっき

いろいろと垂れ流します。

２つのガンマ分布の混合比率

担当分

次の分布から、大きさnの標本を取ってくる

\displaystyle f(x | \theta ) = ( 1- \theta ) \exp (-x) I(x \gt 0) + \theta x \exp (-x) I(x \gt 0)

やりたいこと

\thetaを推定したい。

最初に、モーメント法で推定する。 次に、ニュートン法で推定値を改善する。

モーメント法で推定量を計算

EXを求める。

\displaystyle \int ( 1- \theta ) \exp (-x) I(x \gt 0) dx + \int \theta x \exp (-x) I(x \gt 0) dx

\displaystyle =1- \theta + 2 \theta = 1+ \theta

なので、次のような推定量が考えられる。

\displaystyle \hat{ \theta } = 1- \bar{X _{n}}

改善

これを、ニュートン法で改善する。

対数尤度

\displaystyle l _{n} (\theta) = \prod \log f(x _{i} | \theta ) = \sum \log (1+ \theta (x _{i} -1) ) - \sum x _{i}

対数尤度の一階微分

\displaystyle \frac{ \partial}{ \partial \theta} l _{n} ( \theta ) = \sum \frac{x _{i} -1 }{ 1+ \theta (x _{i} -1) }

対数尤度の二階微分

\displaystyle \frac{ \partial ^{2}}{ \partial \theta ^{2} } l _{n} ( \theta ) = - \sum \frac{(x _{i} -1 ) ^{2}}{ ( 1+ \theta (x _{i} -1) ) ^{2} }

これらから、ニュートン法による改善は次のように行うことができる。

\displaystyle \hat{ \theta} ^{(2)} = \hat{ \theta} ^{(1)} + \frac{ \sum \frac{x _{i} -1 }{ 1+ \hat{ \theta} ^{(1)} (x _{i} -1) } }{\sum \frac{(x _{i} -1 ) ^{2}}{ ( 1+ \hat{ \theta} ^{(1)} (x _{i} -1) ) ^{2} }}

あまり綺麗な形ではないけど、残念ながらこれ以上変形できなかった。