誰かが「今日何やったか教えて」と言ってたんだけど、記憶から抜けていきそうになっているのでメモ。
Zoutendijkの条件
去年はどう役に立つか分かってなかったけど、今年は分かるという。から
が得られるんだけど、
と
が直交しないように選んであげれば、
はkを無限大に飛ばすと0にいく。これは、大域的最適解の必要条件になっているので、ある程度うれしいよねという流れ。
と
が直交しないようにするにはどうしようか、という話のところは最急降下法では例えば
として勾配ベクトルの負の向きを探索方向にしてやったりしていた。
最急降下法の収束のスピード
大変遅いのですが、どれくらい遅いのかというのを理論的に解析。という条件が導ける。前回のノートを参考にすると、これはq-1次収束というやつらしく、大変遅い部類に入る。
というノルムが定義されているんだけど、これは
というノルムを考えたときのものである。ここで、「こういうものをノルムとして考えていいのか?」という問題があるんだけど、内積やノルムを一般化したときの話が出てきてこれもその定義を満たすので、ノルムとしておいてよい。
共役
共役勾配法の有限収束性
に対して、
。ここで、
- 高々n回の反復で
の最小解が得られる
最初のが重要らしく、この主張より
というようなことが得られて、に対して
- …
- …
というのが成立するが、というのは一次独立なように作るので、これより
が得られる。来週はこの辺を帰納法を使って証明していく。

- 作者: 矢部博
- 出版社/メーカー: 数理工学社
- 発売日: 2006/04
- メディア: 単行本
- 購入: 1人 クリック: 10回
- この商品を含むブログ (11件) を見る