最小二乗法ってなんですか

質問

件名の通り最小二乗法ってなんですか?
自分なりに調べてみましたが、イマイチ分かりません。
皆さんからすれば、初歩的な事かもしれませんが、ご教授下さい。
例えば、5つのサンプルの長さを測定して、
1　2.5
2　5.7
3　3.8
4　9.3
5　8.6
を得たとします。
これをエクセルで散布図にして線形近似曲線を引くと、
y＝1.58x＋1.24と近似式が出ますが、何を意味しているのですか?
(具体的に言うと、上記の近似式の値が大きいほどばらつきが大きいってこと?)

回答No.2

hitokotonusi · ベストアンサー

たとえばバネに分銅を吊るしてどれだけ分銅が下がったかを測ってみます。
よく知られているようにバネはかけた力に比例して伸びますから、重りの質量をmとして

mg = k (x - x0)

という式が成り立ちます。これを変形すると、

x = x0 + (g/k) m

となります。したがって、横軸に分銅の重さを、縦軸に下がった距離をとってグラフにすると直線になるはずで、
その直線の傾きからg/kが、つまり、重力加速度gは機知の量なのでバネ定数kがわかります。
切片からはバネの自然長の位置x0がわかります。

プロットした点が完全な直線になればめでたしですが、実験ですからどうしても誤差が入り込んで、
測定点は直線のまわりで上がったり下がったりします。
そういう場合に、もっとも確からしい傾きや切片の推定値を求める方法が最小二乗法です。

そのエクセルのデータがこのケースであれば、y＝1.58x＋1.24の1.58からバネ定数が、
1.24から自然長の位置x0がわかります。最確値ですが。

ここは見ましたか？
http://szksrv.isc.chubu.ac.jp/lms/lms1.html

お礼

ありがとうございました。

回答No.1

asuncion

当該の5個のサンプルが直線y=ax+b上に並んでいるとした際に、
各々のサンプルがその直線からどの程度離れているか（正確には距離の2乗だと思います）が
最小になるように、直線の傾きaとy切片bを決めるための方法のことをいうのだと思います。

今回の場合、その5個のサンプルがどういう直線上に載っているかを決めようとしたとき、
y=1.58x+1.24
とした場合が、最も距離の2乗（直線からのばらつき）が小さくなりますよ、ということだと思います。

お礼

ありがとうございました。