わちにんこ

数学科の大学4年生で数学以外にギターの練習を頑張っています.

最尤推定量の漸近正規性から一致性を導く方法

この記事の内容

漸近正規性を持つ最尤推定量は一致性を持つという記述を渡辺澄夫さんのサイト http://watanabe-www.math.dis.titech.ac.jp/users/swatanab/ML_cons2.pdf で見て、なぜ成り立つのかピンとこなかったのでその証明を書いてみました .

本題を示す前に , まず補題を示します .

補題の主張

実数列 (a_n) が a_n \xrightarrow{n} a で , X_n \xrightarrow{L} Xであるとき ,

a_nX_n \xrightarrow{L} aX

補題の証明

分布収束と特性関数の収束は連続定理より , 同値であるため特性関数の収束を示す .  \varphi(t),\varphi_{n}(t) をそれぞれX,X_n の特性関数とする.


\varphi_{a_n X_n}(t)\\\\
= E[exp(ita_n X_n)] \\\\
= exp(a_n)E[exp(itX_n)] \\\\
= exp(a_n)\varphi \_{n}(t) \\\\
\xrightarrow{n} exp(a)\varphi(t)\\\\
= \varphi\_{aX}(t)\\\\

ここから本題を示していきます.\

主張


\sqrt{n}(\hat{\theta_{n}}-\theta) \xrightarrow{L} N(0,1) \Rightarrow (\hat{\theta_{n}}-\theta) \xrightarrow{L} 0

証明

 X_n=\sqrt{n}(\hat{\theta_{n}}-\theta)とおく . このとき仮定より , X_n \xrightarrow{L} N(0,1)が成立. また,nを無限大に飛ばすと, \frac{1}{\sqrt{n}} \xrightarrow{} 0が成立 .

よって補題より \frac{1}{\sqrt{n}}X_n \xrightarrow{L} N(0,1) つまり ,  (\hat{\theta_{n}}-\theta) \xrightarrow{L} 0が成立 .

補足 

補題の定理は確率収束や概収束の場合も成り立つ . 平均r次収束の場合は確認していない .