読者です 読者をやめる 読者になる 読者になる

テイラー展開の使いどころ

確率論

コメントで答えたにも関らず、ブログにも書いてしまおうと考える自分は、ウザいと思われる人間候補にあがってくると思うけど、あえて書いてみるテスト。

ただ悲しいかなテイラー展開がどうポアソン分布や二項定理に
役立つかがイマイチ理解できないのである。

http://strongman.blog73.fc2.com/blog-entry-302.html

分布の平均と分散

まず、確率分布の期待値や分散を求めることを考えてみましょう。

ポアソン分布や二項分布くらいの確率分布であれば、定義通り求めていって出せないことはありません前回の授業でポアソン分布の分散を計算したように。

しかし、もっと複雑な確率分布(例えばこんな分布とか)の期待値や分散を求めようとすると非常に困難な場合が多いです。二乗の和や、和の二乗とかを考えないといけないので。考えるだけでもため息がでてきますw。

確率母関数の登場

そこで登場したのが、確率母関数(Probability Generating Function)です。これは確率分布の高々、一階微分や二階微分を計算することによって、簡単に平均や分散を計算することを可能にする便利なものです。具体的には以下のような計算で求めることができます。確率母関数をf(x)と表すとすると
E[X]=f'(1),V[X]=f''(1)-f'(1)^2+f'(1)

確率母関数は以下のように定義されます。

\alpha_X(u)=E[u^X]=\sum_{j=0}^\infty p{X:_j}u^j,|u| \leq 1

で、この確率母関数がどのようにして導かれたかを思い出すと、テーラー展開*1の一階微分や二回微分…っていう話になってきます(ノートに書いてあるような)。

「確率分布の平均や期待値を求めたい→確率母関数→テーラー展開が必要」っていう流れで役にたっているものだと自分は理解しています。

連続分布に関しては?→ラプラス変換

ただ、このテーラー展開を利用した確率母関数は基本的に離散確率分布に対して用いることができるものなので、連続確率分布に対して、用いることはできません。このような場合には、ラプラス変換を用いたものを…という流れになってきます(全部、応用確率論でやった内容っすねw。)。
ラプラス変換の定義は以下のように与えられます。
\alpha_X(s)=\int_0^\infty e^{-sx}f_X(x)dx
これを利用すると、以下の関係式が成り立ち、連続の確率変数での平均、分散を求めることができます。この辺見てるだけでも、積分の勉強をするインセンティブが出てくるのは僕だけですか?
( \frac{d}{ds}) \log \alpha(s)|_{s=0}=-E[X]
(\frac{d}{ds})^2 \log \alpha(s)|_{s=0}=V[X]

連続と離散の対応関係

最近、うちの専攻でよく出てくる離散と連続の対応関係みたいなのだと、僕は下のような感じで覚えてます。

連続 微分 積分 ラプラス変換
離散 差分 確率母関数

特に、「微分と差分」「積分と和」の当たりをいったり来たりするのは面白いと思います。

この辺が面白いかな、と思ったら結城浩さんのサイトの以下のページを見てみることをお薦めします*2

#今度こそ結城浩の最新刊、感謝しつつ無料プレゼントは当たらないだろうか。。。

自分に「勉強しよう」というインセンティブをおこさせる

よく使う理論や見た目、感覚で分かりやすいようなものというのは、必要性に駆られたり、インパクトで覚えているものが結構多い。一方、その根本にある抽象的な理論というのは、理解しづらいし、記憶にも残りづらい。

しかし、そのようなものほど後々尾を引いてくる、ということが往々にしてある。そのようなことがおこるのを減らすためにも、抽象的な理論は実戦的、具体的なところと絡めて勉強し、「この理論はあとであそこで使われるんだから理解しないと!!」という風になるようにすればよいと思う*3

思考の流れを作る

上に書いたものは、営利的(?)な感じがしなくもない。ただ、今回のように「この流れで何でこれを使うのだろう?」みたいな疑問を解くプロセスというのは、非常に重要だと思う。例えば以下のようなことがおこりうるかもしれない。

「うーん、この離散の問題うまくとけないな…困った」→「そういえばこういうやつの連続の時も困った覚えがあるな、あのときはどうやったんだっけ?」→「何で、こんな解法使ってるんだ?」→「そうか、裏にはこういう思想があったのか!!」→「この考え方を離散にも応用すれば、うまい具合になるかもしれない!!」

まあ、これでうまく行くことがあるのかと言われたら、その確率は相当低いかもしれない。でも、人生でこういううまく行くことが一回でも起きれば、人生は変わる可能性がある。そう考えれば、こういう思考の流れを作ろうとするのも悪くないと思う。

*1:ちなみに、テイラー展開についてはテイラー展開とは - はてなキーワードにかなーり詳しく載っていることを発見した。

*2:紹介した数、既に数えきれず。。。

*3:今さらいうなって感じですか。。。