統計②補足① キュムラント母関数
キュムラント母関数とは?
前回定義したモーメント母関数をもとにしてキュムラント母関数を定義します。※連続型確率変数を前提として、書いていますが、離散型に対しても同様にできます。
キュムラント母関数の定義
キュムラント母関数
モーメント母関数$M(\theta)$に対して、キュムラント母関数$C(\theta)$を、
\begin{align*}
C(\theta)\stackrel{def}{=}\ln{M(\theta)}
\end{align*}
と定義します。
\begin{align*}
M(\theta)\stackrel{def}{=}\int_{-\infty}^\infty e^{\theta x}f(x)dx
\end{align*}
と定義されていました。(もちろん離散型の確率変数に対しても定義できますが、今回は連続型の確率変数を前提として扱っています。)
キュムラント母関数の性質とその証明
キュムラント母関数の性質一覧
キュムラント母関数には以下のような性質があります。キュムラント母関数の性質
確率変数$X$の期待値を$E[X]$,分散を$V[X]$で表すと、
\begin{align}
E[X]&=\left. \dfrac{d C(\theta)}{d\theta}\right|_{\theta=0} \label{eq:1}\\
V[X]&=\left.\dfrac{d^2 C(\theta)}{d\theta^2}\right|_{\theta=0} \label{eq:2}
\end{align}
期待値とキュムラント母関数の関係の証明
\eqref{eq:1}の右辺を計算します。まずは普通に導関数を計算すると、\begin{align*}
(\eqref{eq:1}\text{の右辺})
&=\left.\dfrac{d}{d\theta}\left(\ln{M(\theta)}\right)\right|_{\theta=0} \\
&=\left.\dfrac{M^\prime(\theta)}{M(\theta)}\right|_{\theta=0} \\
&=\dfrac{M^\prime(0)}{M(0)}
\end{align*}
\begin{align*}
M(\theta)=\int_{-\infty}^\infty e^{\theta x}f(x)dx
\end{align*}
と定義されていたので、$\theta$$=0$とすれば、
\begin{align*}
M(0)=\int_{-\infty}^\infty f(x)dx=1
\end{align*}
となります。また、モーメント母関数$M(\theta)$の性質(参考:モーメント母関数(積率母関数))
\begin{align*}
E[X^n]=\left. \dfrac{d^nM(\theta)}{d\theta^n} \right|_{\theta=0}
\end{align*}
で、$n=1$として、$M^\prime(0)$$=0$となります。よって、
\begin{align*}
(\eqref{eq:1}\text{の右辺})=\dfrac{M^\prime(0)}{M(0)}=E[X]
\end{align*}
となります。
分散とキュムラント母関数の関係の証明
\eqref{eq:2}の右辺を計算してみます。\begin{align*}
\left.\dfrac{d^2C(\theta)}{d\theta^2}\right|_{\theta=0}
&=\left.\dfrac{d}{d\theta}\left(\dfrac{M^\prime(\theta)}{M(\theta)}\right)\right|_{\theta=0} \\
&=\left.\dfrac{M^{\prime\prime}(\theta)M(\theta)-\{M^\prime(\theta)\}^2}{\{M(\theta)\}^2}\right|_{\theta=0} \\
&=\dfrac{M^{\prime\prime}(0)M(0)-\{M^\prime(0)\}^2}{\{M(0)\}}
\end{align*}
ここで、期待値との関係の証明で用いたように、
\begin{align*}
E[X^n]=\left.\dfrac{d^nM(\theta)}{d\theta^n}\right|_{\theta=0}
\end{align*}
より、
\begin{align*}
E[X]&=M^\prime(0) \\
E[X^2]&=M^{\prime\prime}(0)
\end{align*}
となります。また、$M(0)=1$なので、
\begin{align*}
(\eqref{eq:2}\text{の右辺})
&=\left.\dfrac{d^2C(\theta)}{d\theta^2}\right|_{\theta=0} \\
&=\dfrac{M^{\prime\prime}(0)M(0)-\{M^\prime(0)\}^2}{\{M(0)\}} \\
&=E[X^2]-\{E[X]\}^2
\end{align*}
この右辺は、分散と等しくなります。(参考:期待値・分散と密度関数・分布関数)
以上で、\eqref{eq:2}が示せました。
キュムラントの定義
キュムラント
キュムラント母関数$C(\theta)$を以下のようにマクローリン展開します。
\begin{align*}
C(\theta)=\sum_{n=0}^\infty \dfrac{c_n}{n!}\theta^n
\end{align*}
このときの係数$c_n$をキュムラントといいます。
\begin{align*}
f(\theta)
=f(0)
+\dfrac{1}{1!}\left.\dfrac{dC(\theta)}{d\theta}\right|_{\theta=0}\theta
+\dfrac{1}{2!}\left.\dfrac{d^2C(\theta)}{d\theta^2}\right|_{\theta=0}\theta^2
+\dfrac{1}{3!}\left.\dfrac{d^3C(\theta)}{d\theta^3}\right|_{\theta=0}\theta^3+\cdots
\end{align*}
と見比べれば、$n$次のキュムラント$c_n$は、
\begin{align*}
c_n
=\left.\dfrac{d^nC(\theta)}{d\theta^n}\right|_{\theta=0}
\end{align*}
と表せます。$C(\theta)$は、キュムラントを求めるための関数だから、キュムラント母関数という、と考えればよいでしょう。