概収束と確率収束の違いについてまとめてみる

いまだに概収束と確率収束の違いがよく分かってなくって、ぐぐっていると「概収束と確率収束の違いがよく分からないんだよねー」という自分のBlogが検索結果に出てきてイライラするのでまとめてみることにしました。あってるか知らん。

以前のちょっとまとめたっぽいのはこの辺にある。

概収束と確率収束の定義

概収束

定義は $\mbox{Pr} \{\omega: \lim_{n \rightarrow \infty} X_n(\omega) = X(\omega)\}=1$ 。

確率収束

定義は $\lim_{n \rightarrow \infty} \mbox{Pr} \{\omega:|X_n(\omega) -X(\omega)| \geq \epsilon\} = 0$ 。

概収束と確率収束の直感的理解

どれくらいかが直感的かはさておいて。

概収束

極限を考えるのは確率変数に対して。

標本空間 $\Omega$ に対して、 $X_n(\omega) = X(\omega)$ となるような要素 $\omega$ について考える。簡単に言えば、 $X_n(\omega) = X(\omega)$ となっているような $\omega$ を集めてきて、その集合について考えてみましょうということ。そういう集合はn=1の時、n=2の時…と考えられるんだけど、これを $n \rightarrow \infty$ としたときについて考えてみる。

ああ、でもその前にnによってそういう集合が変化していく様子の例があったほうが分かりやすいかな。 $i=1,2,\cdots$ ,で、 $j=1,2,\cdots,2^i$ として、
$\begin{eqnarray} f_{i,j}(\omega)=\left\{ \begin{array}{ll} 1 & (\mbox{if} \, \frac{j-1}{2^i} \leq \omega \leq \frac{j}{2^i}) \\ 0 & (\mbox{otherwise}) \\ \end{array} \right\} \end{eqnarray}$
という風な関数(indicator function)を考える。その関数に対して $X_1(\omega)=f_{1,1}(\omega),X_2(\omega)=f_{1,2}(\omega),X_3(\omega)=f_{2,1}(\omega),X_4(\omega)=f_{2,2,}(\omega),\cdots$ という確率変数と対応させる。すると、 $\omega$ は、n=1の時に $0.5<\omega<1$ 、n=2の時に $0<\omega<0.5$ 、n=2の時に $0.25<\omega<1$ という感じになる。