ノンパラメトリックなものの尤度関数

ノンパラメトリックな推定量(カーネル密度推定量とかナダラヤワトソン推定量とか)を計算するときに、MSE→MISE→ISE→Cross-Validationという感じで色々基準を変えていったんですが、そういえば最尤法で求めるということを考えていなかった。いや、最初は分けも分からずやってたので仕方ないんだけど。

最尤推定量(mle)はいくつかの仮定のもとで、ほげほげな望ましい性質(まだよく分かってない)を持つというのを確率論でやったりします。そういうわけで、最初にmleについて考えるのはわりと妥当な感じがする。だけど、なんかノンパラじゃあんまり出てこない(気がする)。

なんでかなーと考えていたんだけど、i.i.d.サンプルな場合だと、尤度関数はL(\theta;x) = \prod^n_{i=1}f_{X_i}(x_i)と書ける。でも、ノンパラだと、分布を仮定しないので、fが書き表わせない。L(\theta;x) = \prod^n_{i=1}\hat{f}_{X_i}(x_i)みたいなの(推定量の積)で代用できるかなあ、とも思ったけどこれをもはや尤度と呼んでいいかいまいち自信がない。ということで今度聞いてみることにしよう。