非線形計画法について

質問

非線形計画法を現在勉強しています。

１．
どういうときに線形でどういうときに非線形となるのか良く分かりません。
例えば、ある従属変数ｙを線形関数ｆ＝Σcx　で表したいときにパラメータｃの絶対値の和が定数ｂより小さくなるという制約のもとで、ｙとｆの二乗誤差を最小化するパラメータｃを求める問題を考えます。
この場合、制約条件はｃについて線形ですが、最小化したいのは、ｙとｆの二乗誤差なのでこの場合は非線形ということになるのでしょうか？それとも関数ｆはｃに関して線形関数なので、線形計画法で解くことになるのでしょうか？

２．
以下のサイトで勉強しているのですが、このサイトにある楕円型の等高線はおそらく、従属変数ｙと目的関数ｆの誤差を表しているのだと思うのですが、なぜ「楕円」になるのですか？二乗誤差を考えるのならば、「円」になるのではと疑問で仕方ありません。
http://www.sist.ac.jp/~suganuma/kougi/other_lecture/SE/opt/nonlinear/nonlinear.htm#2.2

疑問が晴れずにもやもやしています。
回答もしくはアドバイス、よろしくお願いします。

回答No.2

Tacosan

です. 目的関数 f そのものの等高線です.
もちろん 1 で挙がっている例だと等高線は円というか球というか, まあそんなやつになります.

回答No.1

Tacosan

1. 最小化する目的関数が c に関する 2次式になりますから, 非線形計画法 (制約付き 2次計画法?) になると思います. 制約がなければただの連立方程式なんですけどねぇ.
2. 「楕円型の等高線」というのは, 例えば 2.2節にある水色の図形のことでしょうか? もしそうなら, これはそのまま「目的関数の値」を表しています. もちろん本当は「楕円のようになる」とは限らないのですが, ここでは簡単のためにそのように図示しているだけだと思います.
そもそも「従属変数ｙと目的関数ｆの誤差」ってなんだ.

補足

1. については理解いたしました。

2. について、
＞「楕円型の等高線」というのは, 例えば 2.2節にある水色の図形のことでしょうか?
そうです。その下にある楕円型の等高線についても同じです。

＞これはそのまま「目的関数の値」を表しています。
＞そもそも「従属変数ｙと目的関数ｆの誤差」ってなんだ。
最適なパラメータを求めるため、誤差を最小化するパラメータを探索するので、
Ｅ＝（ｙ－ｆ）*（ｙ－ｆ）
　＝（ｙ－Σcx）*（ｙ－Σcx）
を最小化するわけですよね。なので、Ｅに関する軌跡であるとすれば、二乗誤差なので、
「円」になってしまうと思っています。
そうでなくて、ｆの軌跡ということなのですね。