最小二乗法の推定値の誤差

質問

変数ｘを変化させたときの測定値yを最小二乗法で二次式y=a*x^2 + b*x +c
にフィッティングさせ推定値a, b, cを求めるとき、
測定値yの誤差がδyであるときの推定値a, b, cの誤差を求めたいのです。
具体的には、(x,y)=(-1,2), (0,0), (1,1.5), (2,5)　の４つのデータを
二次式にフィッティングさせたときのa,b,cはa=1.375, b=-0.325, c=0.225ですが、
測定値yの測定誤差が0.1のときのa,b,cの誤差を求めたいのです。
よろしくお願いします。

回答No.1

arrysthmia · ベストアンサー

誤差伝播の計算ですね。
最小二乗法は、直接には関係ありません。

最小二乗法による a, b, c は、連立一次方程式
　Σyx^2 = a Σx^4 + b Σx^3 + c Σx^2
　Σyx = a Σx^3 + b Σx^2 + c Σx
　Σy = a Σx^2 + b Σx + c Σ1
の解になります。
詳細はともかく、a, b, c は、それぞれ、
測定された４個の x と４個の y の
８変数関数で表されることになります。
例えば、a = f(x_1, x_2, x_3, x_4, y_1, y_2, y_3, y_4)
のようにです。
f( ) の具体的な式形は、先の連立方程式を解けば
求まります。

各測定データの誤差から、a, b, c の誤差を見積もるには、
この f に多変数関数のテーラー展開を施して、
各データの誤差に関する一次近似をすればよい。
x が厳密値で、４個の y が各 ε の誤差を含むとすれば、
a の誤差 = (∂f/∂y_1)ε + (∂f/∂y_2)ε + (∂f/∂y_3)ε + (∂f/∂y_4)ε です。
ここで、∂f/∂y_1, ∂f/∂y_2, ∂f/∂y_3, ∂f/∂y_4 は、
どれも、点(x_1, x_2, x_3, x_4, y_1, y_2, y_3, y_4) における値を指します。

計算は面倒くさいですね。

お礼

ご回答有難うございました。とても参考になりました。

補足

とてもわかりやすい回答有難うございました。
計算してみようと思います。
最初の質問の範囲から外れているかもしれませんが、
測定値の誤差δyが解らないとき、
(x,y)=(-1,2), (0,0), (1,1.5), (2,5)　の４つのデータから2次式にフィッティングして
得られたa,b,cの値の誤差（確からしさ）はどのように考えればいいのでしょうか。