統計② モーメント母関数(積率母関数)
モーメント母関数でなにができるか?
モーメント母関数というものがあります。深堀するときりがないので簡単な応用先となる期待値や分散への応用だけ紹介することにします。モーメント母関数の定義と性質
モーメント母関数(積率母関数)$M(\theta)$
$X$を確率変数として、
\begin{align*}
M(\theta)=E[e^{\theta X}]
\end{align*}
期待値
\begin{align*}
E[X^n]=\dfrac{d^nM}{d\theta^n}(0)
\end{align*}
モーメント母関数から期待値の導出
連続型確率変数を考える
先ほどの式は離散型でも成り立ちますが、今は連続型で導出しようと思います。確率密度関数を$f(x)$とすると、その確率変数$e^{\theta X}$の期待値、つまりモーメント母関数は、\begin{align*}
M(\theta)=E[e^{\theta X}]=\int_{-\infty}^\infty e^{\theta x}f(x)dx
\end{align*}
さて、この辺々を$\theta$で微分しましょう。このとき、$x$は定数として考えることができます。
\begin{align*}
\dfrac{dM}{d\theta}(\theta)=\int_{-\infty}^\infty xe^{\theta x}f(x)dx
\end{align*}
ここで、$\theta=0$とすれば、$e^{0\cdot x}=1$で
\begin{align*}
\dfrac{dM}{d\theta}(0)=\int_{-\infty}^\infty xf(x)dx=E[X]
\end{align*}
となります。ここから以下のことが推測できます。
\begin{align*}
\dfrac{d^nM}{d\theta^n}(\theta)=\int_{-\infty}^\infty x^n e^{x\theta} f(x)
\end{align*}
この式をさらにもう一回$\theta$で微分すると、
\begin{align*}
\dfrac{d^{n+1}M}{d\theta^{n+1}}(\theta)
&=\dfrac{d}{d\theta}\left(\dfrac{d^nM}{d\theta^n}\right) \\
&=\dfrac{d}{d\theta}\left\{\int_{-\infty}^\infty x^n e^{x\theta}f(x) dx\right\} \\
&=\int_{-\infty}^\infty x^{n+1}e^{x\theta}f(x)dx
\end{align*}
よって、ここで、$\theta=0$として、
\begin{align*}
\dfrac{d^{n+1}M}{d\theta}(0)=\int_{-\infty}^\infty x^{n+1}f(x)dx=E[X^{n+1}]
\end{align*}
以上より、帰納的にすべての$n$について$\dfrac{d^nM}{d\theta}(0)=E[X^n]$が言えることになります。
離散型のモーメント母関数
確率変数$X$の取りうる値を$x_i$とします。($i$$=$1,2,...$n$)また、$X=x_i$となる確率を$p_i$とします。このとき、$X$の期待値は、\begin{align*}
E[X]=\sum_{i=1}^n x_i p_i
\end{align*}
と表せます。というわけでモーメント母関数は
\begin{align*}
M(\theta)=E[e^{\theta X}]=\sum_{i=1}^n e^{\theta x_i}p_i
\end{align*}
となります。$\theta$は連続で動く変数なので微分することができて、
\begin{align*}
\dfrac{dM}{d\theta}(\theta)=\sum_{i=1}^n x_i e^{\theta x_i}p_i
\end{align*}
ここで、$\theta=0$とすれば、$E[X]$となるでしょう。
モーメントの定義・母関数といわれる由来
モーメント
$x=x_0$まわりの$n$次のモーメント$\mu^{(x_0)}_n$は、
\begin{align*}
\mu^{(x_0)}_n=\int_{-\infty}^\infty (x-x_0)^nf(x)dx
\end{align*}
と表されます。
\begin{align*}
\mu^{(0)}_n=\int_{-\infty}^\infty x^nf(x)dx=E[X^n]
\end{align*}
となります。(こちらをモーメントの定義としている場合もあります。)
なぜかというと、
\begin{align*}
E[X^n]=\left.\dfrac{d^nM(\theta)}{d\theta^n}\right|_{\theta=0}
\end{align*}
という関係があるため、モーメント母関数から簡単にモーメントが求められるということになります。そのため、母関数という名前がついている、と考えればよいでしょう。
また、モーメントの定義はどうやら物理由来だそうで、力学での慣性モーメントの定義とも通じるところがあります。(参考:慣性モーメント)