最急降下法と共役方向法について

質問

制御の最適化問題における局所的探索法として最急降下法と共役方向法というのがあると思いますがこれらの方法はわかりやすくいうとどういう方法なのでしょうか？ご存知の方教えていただけると助かります。
また、色々ＨＰを見たのですがなかなか見つかりません。
わかりやすいページをご存知の方いらっしゃいましたら教えていただけると幸いです。

回答No.1

yukichi623 · ベストアンサー

最適化手法における基本概念は、探索点での勾配を調べて、下降するように移動していけば、いつかは頂点にたどり着くでしょ。といったものです。
まぁ、そのためには評価関数を下に凸な形に選んだり、なるべく素直な形になるように（大域的な最適化がしやすいように）などなどの前処理が必要ですが、それはわかっているものとします。

本題ですが、最急降下法は探索点における評価関数の勾配を調べ、その勾配とは逆方向へ探索していく方法です。
非線形最適化手法の中で、もっとも基本的な手法です。

共役方向法というのは、最急降下法と同じように探索点における評価関数の勾配を求め、その勾配を元に次の探索点を決めるんですが、”同じ方向への探索は行わない”といった縛りを加えます。

わかりやすいページというのはすぐには出てきませんが、共役勾配法、共役傾斜法などでも調べてみるといいと思います。

お礼

ありがとうございます！！
とてもわかりやすくご指導いただいて理解しやすくなりました。