最急降下法による最適化

質問

多変数を最急降下法により最適化するプログラムを作成したいのですが、アルゴリズムがよくわかりません。

回答No.1

noname#21649 · ベストアンサー

関数Y=F(X1,X2,..,Xn)として
初期値 y,x0,x1,...,xn が指定されているときに
xi 付近でF()を微分し.変化量がもっとも大きい変数xmを求めます。

xmを適当(収束しやすい関数ならば.残さが0になる分量。収束が極端に悪く発散しやすいのであれば.微分幅)に変化させて.これを次の初期値とします。

これが大雑把な考え方ですが.
収束判定
発散判定
きざみ幅・微分幅の自動決定
計算誤差の自動修正
特定の変数の変更禁止処理
初期値の自動決定法
が面倒な処理として存在します。

お礼

わかりやすい説明ありがとうございます。