DPMがなんだかよく分からなくなってきたのでメモ

分かったのは俺がよく分かってなかったってこと。相変わらず自分にしか分からないメモ。タイプするのが面倒なので紙のメモをスキャンしたものをアップしておく。\theta_i \sim Gはパラメータの次元上のK個棒が立っているようなものを考えて、その棒が立っている位置によってパラメータを生成するというイメージ。どの棒が選択されやすいかは棒の高さによって決定される。

DPM、ではなく有限混合分布の例で考えてみている。一次元の正規分布とかの例だとちゃんと絵で考えられるので自分としては分かりやすくなったような気がする。どれが連続な分布でどれがトゲトゲしたやつ(何)で、何がどれを生成しているのかをはっきりさせること。ベースにしたのはJordanの講義資料