べんきのにっき

いろいろと垂れ流します。

2次元正規分布のパラメータの関数の分散の下限

問題

2変量正規分布について、パラメータの関数の分散の下限を計算する。

確率密度関数

 \displaystyle
f(x,y | \mu _{1} , \mu _{2} , \sigma _{1} , \sigma _{2} , \rho ) = \frac{1}{ 2 \pi \sqrt{1- \rho ^{2}} \sigma _{1} \sigma _{2}}
\exp \left( - \frac{1}{2(1- \rho ^2)} \left(
\left( \frac{x- \mu _{1}}{ \sigma _{1}} \right) ^{2}  -2 \rho \left( \frac{x- \mu _{1}}{ \sigma _{1}} \right) \left( \frac{x- \mu _{2}}{ \sigma _{2}} \right)+ \left( \frac{x- \mu _{2}}{ \sigma _{2}} \right) ^{2}
\right)
\right)

猛烈にながい

計算したいもの

大きさnの標本が得られた際、次の推定量の分散の下限を求める。

(a)母平均の差

 \displaystyle
\mu _{1} - \mu _{2}

(b)変動係数の逆数?

 \displaystyle
\frac{ \mu _{1} }{ \sigma _{1}}

(c)共分散

 \displaystyle
\sigma _{12} = \rho \sigma _{1} \sigma _{2}

使ってよいもの

次のようにパラメータベクトルをおく。

 \theta = ( \mu _{1} , \mu _{2} , \sigma _{1} , \sigma _{2} , \rho) ^{T}

なんか行列に \sigma おくとうまく描画されないので、 \sigma  sと置き換える。

 \theta = ( \mu _{1} , \mu _{2} , s _{1} , s _{2} , \rho) ^{T}

2変量正規分布のフィッシャー情報行列の逆行列 \mathscr{I} (\theta) ^{-1}

$$ \mathscr{I} ( \theta ) ^{-1} = \begin{pmatrix} s _{1} ^{2} & - \rho s _{1} s _{2} & 0 & 0 & 0 \\ - \rho s _{1} s _{2} & s _{2} ^2 & 0 & 0 & 0 \\ 0 & 0 & \frac{ s _{1} ^{2} }{2} & \frac{ \rho ^{2} s _{1} s _{2} }{2} & \frac{ \rho s _{1} (1- \rho ^2) }{2} \\ 0 & 0 & \frac{ \rho ^2 s _{1} s _{2} }{2} & \frac{ s _{2} ^{2} }{2} & \frac{ \rho s _{2} (1- \rho ^2) }{2} \\ 0 & 0 & \frac{ \rho s _{1} (1- \rho ^2) }{2} & \frac{ \rho s _{2} (1- \rho ^2) }{2} & (1- \rho ^{2}) ^{2} \end{pmatrix} $$

(a)母平均の差

この推定量 T _{1} とおく。 \thetaの関数として考えられるので、これを f _{1} (\cdot) : \mathbb{R} ^{5} \to \mathbb{R}とおく。

 \displaystyle
T _{1}  = f _{1} ( \theta ) = \mu _{1} \mu - _{2}

偏微分したものを D _{1}とおく

 \displaystyle
D _{1} = \frac{ \partial }{ \partial \theta } f _{1} ( \theta ) = ( 1,-1,0,0,0) ^{T}

連続だろうし厳密なことは考えずに進める。

 T _{1} の分散は次のように計算できる。

 \displaystyle
V(T _{1} ) = D _{1} ^{T}  \mathscr{I} ( \theta ) ^{-1} D _{1}

 \displaystyle
= ( \sigma _{1} ^{2} - \rho \sigma _{1} \sigma _{2} ,\rho \sigma _{1} \sigma _{2} - \sigma _{2} ^{2} ,0,0,0) D _{1}

 \displaystyle
= \sigma _{1} ^{2} - 2 \rho \sigma _{1} \sigma _{2} + \sigma _{2} ^{2}

フィッシャー情報量の加法性を考えると、nで割ればよい。答えは以下

 \displaystyle
 \frac {V(T _{1} )}{n} =  \frac{1}{n} \left( \sigma _{1} ^{2} - 2 \rho \sigma _{1} \sigma _{2} + \sigma _{2} ^{2} \right)

(b)変動係数の逆数?

この推定量 T _{2} とおく。 \thetaの関数として考えられるので、これを f _{2} (\cdot) : \mathbb{R} ^{5} \to \mathbb{R}とおく。

 \displaystyle
T _{2}  = f _{2} ( \theta ) = \frac{ \mu _{1}}{ \sigma _{1}}

偏微分したものを D _{2}とおく

 \displaystyle
D _{2} = \frac{ \partial }{ \partial \theta } f _{2} ( \theta ) = \left(  \frac{1}{ \sigma _{1}} ,0, - \frac{ \mu _{1}}{ \sigma _{1} ^{2}} ,0,0 \right) ^{T}

連続だろうし厳密なことは考えずに進める。

 T _{2} の分散は次のように計算できる。

 \displaystyle
V(T _{2} ) = D _{2} ^{T}  \mathscr{I} ( \theta ) ^{-1} D _{2}

 \displaystyle
= \left(  \sigma _{1} , \rho \sigma _{2} , - \frac{ \mu _{1} }{2} , - \frac{ \rho ^{2} \mu _{1} \sigma _{2}}{ 2 \sigma _{1}} , \frac{ \rho (1- \rho ^{2} ) \mu _{1} }{2 \sigma _{1}} \right) D _{2}

 \displaystyle
=1+ \frac{ \mu _{1} ^{2}}{ 2 \sigma _{1} ^{2}}

aと同様にnで割る。答えは以下

 \displaystyle
 \frac {V(T _{2} )}{n} =  \frac{1}{n} \left( 1+ \frac{ \mu _{1} ^{2}}{ 2 \sigma _{1} ^{2}} \right)

(c)共分散

この推定量 T _{3} とおく。 \thetaの関数として考えられるので、これを f _{3} (\cdot) : \mathbb{R} ^{5} \to \mathbb{R}とおく。

 \displaystyle
T _{3}  = f _{3} ( \theta ) = \rho \sigma _{1} \sigma _{2}

偏微分したものを D _{3}とおく

 \displaystyle
D _{3} = \frac{ \partial }{ \partial \theta } f _{3} ( \theta ) = \left(  0,0, \rho  \sigma _{2} , \rho \sigma _{1} , \sigma _{1} \sigma _{2} \right) ^{T}

連続だろうし厳密なことは考えずに進める。

 T _{3} の分散は次のように計算できる。

 \displaystyle
V(T _{3} ) = D _{3} ^{T}  \mathscr{I} ( \theta ) ^{-1} D _{3}

 \displaystyle
= \left( 0,0, \rho \sigma _{1} ^{2} \sigma _{2} , \rho \sigma _{1} \sigma _{2} ^{2} , (1 -\rho ^{2} ) \sigma _{1} \sigma _{2} \right) D _{3}

 \displaystyle
= (1+ \rho ^{2} ) \sigma _{1} ^{2} \sigma _{2} ^{2}

aと同様にnで割る。答えは以下

 \displaystyle
 \frac {V(T _{3} )}{n} =  \frac{1}{n} \left( (1+ \rho ^{2} ) \sigma _{1} ^{2} \sigma _{2} ^{2} \right)