2008-01-01から1年間の記事一覧

Decided to join the SVC!!

大分前から告知されてたのに申し込むの今日とかwww。卒業式はもしかすると出られない可能性が大なわけですが、まあしゃーない。

基本近傍系と部分集合/第1加算公理と閉集合

前章の例っぽいところから入っている。 距離空間を変えると収束しなかたり 閉集合は点列の収束に関して閉じている集合であること などが書いてある。基本近傍系近傍は(例えば距離を変えるとかで)たくさん考えることができる。なんだけど、全部ではなくて、そ…

位相と極限/点列の収束と閉集合

点列の収束Xが位相空間の場合、Xの中の点列について収束の概念というものを考えることができる。 が点に収束するとは、の任意の近傍に対して、自然数Nが存在して、が成り立つことである。 が定義となっている。のどんなに小さい近傍Uを考えたって、はUに属し…

統計と機械学習の間で

自分は機械学習も勉強している統計屋さんです、と立場表明した上で。 パターン認識と機械学習 上 - ベイズ理論による統計的予測 カーネル多変量解析―非線形データ解析の新しい展開 (シリーズ確率と情報の科学) などの機械学習の本を読んでいて感じた違和感と…

位相を比べる/連続写像と同相写像

単射、全射の付近は集合論でたくさんやったからいいとして。 連続性 連続であるとかはε-δ論法とかで書いてあるのが多いんだけど(この本でもあとで書いてある)、ここでは逆像と(近傍|開集合)を使って連続写像の定義がしてある。(近傍を使った)ローカルな定義…

2008年を振り返ってみる

自分振り返り用です。ハチロクで仲間ができた付近から急展開が起こり始めて、開発合宿、1000speakersとやった後にRubyKaigiでまた人生動き出してTsukuba.Rを3回くらいやって卒論書いてたらもう年末って感じの一年でした。Rejectセキュリティ&プログラミング…

gitというかバージョン管理回りのことをうさみみ先生に教えてもらった

git

ブランチとかその辺を教えてもらいました。忘れないうちになんかlogを残しておこうっと。 /Users/yasuhisa% mkdir hoge /Users/yasuhisa% cd hoge /Users/yasuhisa/hoge% pwd /Users/yasuhisa/hoge /Users/yasuhisa/hoge% git init Initialized empty Git re…

beamerができるようになった

id:mickey24とmimithonなう、ということでhackthonをやっているんですが、beamerがようやくできるようになった。というわけで、過程を書き残しておくことにする。macbookでやっています。 ファイルの文字コードはutf-8でやること*1 ネット上で公開されている…

近傍と開集合/ローカルな概念とグローバルな概念

前の章では開円盤の定義が与えられていた。「pから距離がrより小さい点全部の集合」というのをで表わした。p12付近では、前章で定義したような離散距離空間を考えてやると、"周り"という概念が拡張されてしまう感じになってしまう、ということが書いてあった…

集合から位相へ/一般化と公理的展開

集合の付近はもう飛ばしつつ。 距離空間 まず、距離を公理ではなく、平面上での性質として考える。そして、これを思いきって公理として考えてしまう!!そうすることで考えられる対象をいっきに増やすことができるようになる。例1-1のような離散距離や、例1-3…

冬休みにやりたいこと

「卒研生に休みはない!!」とかそういう感じかもしれないですが、ゼミがしばらくないので、色々手を付けてみる感じです。まあ、大晦日だろうと元日だろうと勉強してそうです。ちなみに今年は帰らないです。今考えると帰っても何も問題なかったなあ。。。卒研 …

自分へのクリスマスンプレゼント(笑)を買った

昨日で今年最後の卒論ゼミ*1が終わったので、自分へのご褒美ということで本を書いました。ちなみに新年最初のゼミは1/8です。もう新しいことに手をつける時間はないので、まああとはただただ書き進めてプログラムをちょいと書く感じです。買った本は下の二冊…

ファイルの先頭に空白を入れる

自己メモ。pukiwikiにプログラム結果を張ろうとしたら、はてなのpre記法っぽいのもがなくて、空白を入れるとかだった。行数が長いので手で入れたくはない。というわけでワンライナー。 /Users/yasuhisa% perl -pe 's/^(.*)/ $1/' test.txt 似たようなやつ。 …

調べてまとめて書きたいなと思っているところ

PRMLの5章、ニューラルネットワーク(NN)のところで(4章のほうがむしろ書いてあるか)機械学習と統計のつながり(?)ということで一般化線形モデル(Genelized Liner Model:GLM)のはなしが書いてある。統計をやっている僕からすると活性化関数より連結関数のほう…

Rでニューラルネットワークをやってみる

ニューラルネットワークについて プログラム データの準備 モデル式の作成 結果の表示 予測値を得たい ヘッセ行列の固有値を見る ニューラルネットワークを可視化する 追記 nnetとかをもうちょっと 最適化とかヘッセ行列がらみの話 ニューラルネットワークに…

irbをESSのように使いたい!!→refeでヘルプも引けるようにした

ESSを知らない人向けに説明すると C-cC-nで今いる行をirbに飛ばしたい!! C-cC-pで今パラグラフ*1をirbに飛ばしたい!! ということがやりたいです。inf-ruby-modeとかでできるのかもしれないけど、昔使って思った通りに行かなかった記憶がある。というかESS li…

モデル屋オフとか

ネタを思いついた。統計屋さんとか機械学習屋さんが自分の好きなモデルを作って、それについて語るオフ。データコンペとかだとどういう意義が(ryとか面倒なので語りたいことを語って、それぞれ自己満足して帰るオフ。そんなのがあってもいいじゃない。部門は…

gdbを経由して、Rの内部構造を知る

gdb R

Rのデータ構造はstrとかで知ることができますが、Cレベルでもどういう風になっているか知りたい!!という時のためのメモ。まず、Rを立ち上げます。次に起動しているプロセスを調べます。 /Users/yasuhisa% ps ax | grep R.framework /Users/yasuhisa% ps ax |…

find&grepクックブック

とかあったらいいなと思いつつ、自分用のメモです。 find apply.cがどこにあるか探したい。findのnameオプションで探す。 /Users/yasuhisa/Downloads/R-2.8.0/src% find . -name apply.c ./main/apply.c 正規表現を混じえて、検索したい Rだとapply、tapply…

gdbを使ってデバッグする

RubyのppとかRのstr相当のメソッドがないからC++でオブジェクトの情報がよく分からない><と言っていたらgdb使えとのコメントをもらったので、gdbやってみる。というか5回目くらいの挑戦である。id:hyoshiokさんに怒られてしまう(ぉ。 gdbの立ち上げ gdb-ma…

PRML読書会【ニューラルネットワーク】

先週休んでしまったので、4章終わってしまってます。。。というわけで上巻最後の章、ニューラルネットワークです。1月、遅くとも2月にはPRMLの上巻終わっちゃいそうなんだけど、その後どうしようかなー。SVMとの関連の付近5.1の前の付近。SVMとNNは全く別物…

密度トレイスを計算させるための関数の続き→mickey24が添削してくれたよ!!

昨日の続き。 密度トレイスを計算するための関数を書いてみた - Seeking for my unique color. @tkf経由で知った関数オブジェクトを受け取るアルゴリズム - nursの日記を参照してたら大分きれいになった。operatorに変態な(?)ことをしてやればいいようだ。結…

2008年にお勧めだった本

と言っても一般の人にはお勧めできないやつですが、僕が買った本の中でよかったやつを紹介してみるメソッドです。去年はインターンとかもあってその時に色々考えたりしたので自己啓発っぽい本が多かったりプログラミング系の本があったりでしたが、まあ今年…

集合位相入門読書会【Zornの補題、それと同値な命題】

大分久しぶりな集合位相勉強会です。僕があれだったからなわけですが><今日の内容は3章の中心的な内容(と思う)Zornの補題でした。まず、二つの補題(P108の補題2とP110の補題3)を示しました。補題3のほうを仮定しておいて、それだと矛盾するねということか…

初めてのC++

C++

初めてのが関数ポインタの配列というのはどうなのかと思いつつ、必要になりそうなのはこの辺なのである。。。でも、まだ関数を返す関数というのはできていないのであった。 /Users/yasuhisa/cpp% ./a.out 30 -10 200 10 #include <iostream> using namespace std; int </iostream>…

密度トレイスを計算するための関数を書いてみた

C++

とりあえずこんな感じ(どんな感じだ)で密度トレイスを出力できるようにした。 /Users/yasuhisa/cpp% ./a.out 2.72898e-07 0.000121768 0.00827342 0.100135 0.290664 0.319885 0.203549 0.064411 0.0112637 0.00164454 正規乱数を発生させて、そこから計算さ…

boostを入れてみる

インストールBoost C++ LibrariesのDownloadリンクから、boostのソースをダウンロード(boost_1_37_0.tar)。configureを実行してコンパイル。結構時間がかかる。。。 tar xfv boost_1_37_0.tar cd bost_1_37_0 ./configure make sudo make install 環境設定…

気がついたら倒れていたみたいな

何を言っているか分からないと思うが、俺もよく分からなかった。なんか最近痔っぽくて長時間座ってらんないので研究どころじゃない、ということで病院にいくことに。最初はメディカルセンターに行ったんだけど、専門の先生がいないとかで記念病院のほうに行…

Example of Metropolis Hastings Algorithm

ということで初めてのMCMCだよ。パターン認識と機械学習 下 - ベイズ理論による統計的予測のP252-253、マルコフ連鎖モンテカルロ法 (統計ライブラリー)のP9-14とここの資料を参考にしながら作りました。What to doガンベル分布(二重指数分布)からのサンプリ…

Example of Rejection Sampling

をやってみるてすと。PRMLの第11章サンプリング法のところのP242とかです。Suppose we can not make the random samples which come from gamma distribution. Let us consider making them from the cauchy distribution. So proposal distribution is the …