すうがくぶんか統計検定1級対策講座第二回

前回はこちら。

モーメント母関数

前回は

モーメント母関数の定義
モーメント母関数をk回微分してt=0を代入すると、k次モーメントになることの証明

を行なったのでした。今回は標準正規分布を例にして、実際にモーメント母関数を計算し、k次モーメントも計算しました。

1次や2次(をちょっといじった)のモーメントである平均や分散はよく計算するけど、一般のk次モーメントを出せ、と言われるとちょっと面喰ってしまう。こういう場合はモーメント母関数をテイラー展開するとよい。モーメント母関数の一般のテイラー展開をしたものと、標準正規分布のモーメント母関数のテイラー展開したものを見比べて、k次に付いている項の係数を見比べてやるとよい。

微分して0を代入すると、定数以外の項は0の何とか乗となって消えてくれるため、割とすっきりとした式になる。

再生性とモーメント母関数を利用した証明

確率分布族が再生性を持つことの定義を行ないました。確率変数X_1が確率分布D_1に、確率変数X_2が確率分布D_2に独立に従っているとして、X_1 + X_2も元の確率分布族に所属するとき、その確率分布族は再生性を持つ、というものだった。例としては、正規分布やガンマ分布は再生性を持つ分布族。

確率変数の変数変換の公式を使って、X_1 + X_2を計算して確率分布を計算するのもいいが、若干ダルい。そういう時に、モーメント母関数を利用すると便利。モーメント母関数はexpを経由するので、expの積に分解できたり、独立な確率変数だと積の期待値も期待値の積にばらしたり(E[f(X)g(Y)] = E[f(X)]E[g(Y)])など、計算が楽にできる場合も多いから。

計算自体は割と簡単なことが多いが、「モーメント母関数と確率分布の間に1:1対応がある」ということが必要になる。この証明は結構大変。レビの反転定理とかで調べるとよい。そもそもモーメント母関数を持たないコーシー分布などもあるので、証明はモーメント母関数ではなく、複素数を用いた特性関数を経由することになるそう。特性関数はモーメント母関数を持たないケースでも計算できるのだとか。

確率変数の変数変換

従っている確率分布が分かっている確率変数XやYを元に変換を行なってできる確率変数ZやWの確率分布を求めよう、というやつ。例えばこういうやつ。

Xが標準正規分布のとき、Z = X²の確率分布を求めよう
- これは自由度1のX²分布になるのだった
Z = X + Y, W = X / Yとしたとき、ZとWの同時分布や周辺化したWの分布を求めよう

変数変換した2つの確率変数の同時分布ってどうやって計算するのか全く覚えていなかったので、まあまあ復習しながら計算していました...。基礎体力。

累積分布関数を用いた確率変数の変数変換

変数変換した確率変数の確率分布を計算するためのアプローチはいくつかあるが、今日主に紹介されていたのは累積分布関数を用いたアプローチ。確率密度関数の変換公式も、この累積分布関数を用いたアプローチから導出できるし、講義内で導出された。

累積分布関数を経由した証明、変数変換をする関数gが単調増加な場合と単調減少の場合を分けて証明する必要がある(累積分布の中の不等号の向きが入れ替わるため)。テキスト内では単調増加の場合のみ証明されていたが、他の受講者の方から単調減少の場合についても質問があり、講義内で単調減少のケースについても証明がされた。両方のケースを扱ったことにより、なぜ変数変換の公式内で絶対値が登場するのかが分かったのがよかったですね(単調増加 / 減少のケースで符号が変わってしまうが、絶対値を付けておけば場合分けする必要がなくなるので)。

変数変換の公式、逆関数が2回登場して個人的には覚えられねぇ...と思っていたので、個人的には毎回累積分布関数を経由したほうが分かりやすいし、間違わないなと思いました。

累積分布関数を経由するアプローチでは、確率密度を計算するために累積分布を微分する必要がある。変数変換の結果、積分の区間内に微分したい変数の複雑な形(例: $\sqrt y$ とか)が入ってくる場合があり、微分に微妙に困るケースがあるが、これは微分積分学の基本定理と合成関数の微分を用いると計算できる。こういうやつ。普通に考えると、大学以前の高三とかで習ったような気もする...。