確率母関数、積率母関数、特性関数


確率母関数、積率母関数、特性関数は各確率分布に対して一対一対応する。
各関数は大まかに以下の特色を持っている。

関数名特色確率変数の定義域
確率母関数
$$ G_X(t)=E[t^X] $$
\( k \) 次階乗モーメントを容易に求められる非負の整数全体
積率母関数
$$ M_X(t)=E[e^{tX}] $$
\( k \) 次モーメントを容易に求められる任意の実数
特性関数
$$ \phi(t)=E[e^{itX}] $$
\( k \) 次モーメントを容易に求められる任意の実数

特性関数はどの確率分布でも存在するが、積率母関数については確率分布によって存在しない場合があるので、特性関数を使う方が好ましい。

確率母関数

確率母関数は以下で定義される。
$$ G_X(t) = E[t^X] = \sum^{\infty}_{k=0}t^k \cdot P(X=k) $$
以下、 \( P(X=k) \) を \( p(k) \) と略記する。

\( k \) 次階乗モーメント

\begin{eqnarray}
G_X(t) &=& \sum^{\infty}_{k=0}t^k \cdot p(k) \\
&=& p(0) + t p(1) + t^2 p(2) + t^3 p(3) + \cdots
\end{eqnarray}

上式をもとに、1階微分( \( d/dt \) )、2階微分( \( d^2/{dt}^2 \) )を求めてみると以下となる。

\begin{eqnarray}
G_X^{(1)}(t) &=& p(1) + 2t p(2) + \cdots = \sum^{\infty}_{k=1}kt^{k-1} \cdot p(k) = E[Xt^{X-1}] \\
G_X^{(2)}(t) &=& 2 \cdot 1 p(2) + 3 \cdot 2 tp(3) + \cdots = \sum^{\infty}_{k=2}k(k-1)t^{k-2} \cdot p(k) = E[X(X-1)t^{X-2}]
\end{eqnarray}

これより、 \( k \)階微分( \( d^k/{dt}^k \) )は以下となる。

$$ G_X^{(k)}(t) = E[X(X-1) \cdots (X-k+1)t^{X-k}] $$

期待値と分散

確率母関数を利用して、期待値 \( E[X] \) 、分散 \( V[X] \) を求める。
まず期待値は確率母関数より以下で求められる。
$$ E[X] = G_X^{(1)}(1) $$
次に分散を確率母関数で求めやすいように式変形する。

\begin{eqnarray}
V[X] &=& E[X^2] – (E[X])^2 \\
&=& E[X(X-1)+X] – (E[X])^2 \\
&=& E[X(X-1)] +E[X] – (E[X])^2
\end{eqnarray}

\( E[X^2] = G_X^{(2)}(1) \) なので、分散は以下となる。
$$ V[X] = G_X^{(2)}(1) + G_X^{(1)}(1) – (G_X^{(1)}(1))^2 $$

積率母関数

確率母関数は以下で定義される。
$$ M_X(t) = E[e^{tX}] $$

\( k \) 次モーメント

\begin{eqnarray}
M_X(t) &=& E[e^{tX}] \\
&=& E[1 + tX + \frac{(tX)^2}{2!}] + \frac{(tX)^3}{3!}] + \cdots \\
\end{eqnarray}

上式をもとに、1階微分( \( d/dt \) )、2階微分( \( d^2/{dt}^2 \) )を求めてみると以下となる。

\begin{eqnarray}
M_X^{(1)}(t) &=& E[X + tX^2 + \frac{t^2X^3}{2!} + \cdots ] \\
M_X^{(2)}(t) &=& E[X^2 + tX^3 + \cdots ] \\
\end{eqnarray}

これより、 \( k \)階微分( \( d^k/{dt}^k \) )は以下となる。( \( k \) 次モーメントとなるように \( t=0 \) としている。)
$$ M_X^{(k)}(0) = E[X^k] $$

期待値と分散

積率母関数を利用して、期待値 \( E[X] \) 、分散 \( V[X] \) を求める。
まず期待値は積率母関数より以下で求められる。
$$ E[X] = M_X^{(1)}(0) $$
また、 \( E[X^2] = M_X^{(2)}(0) \) なので分散は確率母関数で以下のように求められる。

\begin{eqnarray}
V[X] &=& E[X^2] – (E[X])^2 \\
&=& M_X^{(2)}(0) – (M_X^{(1)}(0))^2
\end{eqnarray}