重み付けを用いた場合の回帰係数の分散の求め方

質問

x に関する 0 次式 y = a0 について、正規分布を仮定できる場合、複数の観察値から、真の値 μ の推定値として、最小二乗法で平均値、その平均値に基づいて、分散を求めるときは、観察値と μ との誤差に Weight をかけても結果は変わりません。

次に x に関する一次式 y = a0 + a1x において、複数の観察値 (xi , yi) から、最小二乗法を用いて、a0、a1 の推定値を求めることができます。

伺いたいのは、この場合の a0、a1 は、平均値そのもので、この場合、a0、a1 の分散をどう求めるのか、また推定を行なうとき、誤差 yi - (a0 + a1xi) の二乗に Weight をかけた場合の分散をどう求めるか、の二点です。

これをきちんと解説した成書でも結構ですので、教えてください。

回答No.2

noname#21649

> の分散をどう求めるか。
「分散」が存在するためには.前提条件として.「母集団が正規分布を示すこと」が必要です。したがって.正規分布に「 Weight をかけた」状態では.分散が存在しません。２山分布・３山分布等の分布の場合に中央の大きな山だけを残して左右の小さな山を除去するのが「Weightをかけた」状態です。数学的に解を求めるのには難があると当時解釈しました。

棄却検定を行って数値を除くか.残差二乗によって重みをかけて実質的に除くか.の議論がある
とまでは調べていますが.その後どうなっているかはわかりません。

＞ちんとした解説のある成書を教えてい
最近の本を知らないので回答不能。お騒がせしました。

回答No.1

noname#21649

＞Weight をかけた
のWeightの定義は?

通常の正規分布の最小に情報の場合には.
データ数が区間Aで10個あるから.区間Aの中央値Bに重み10をかける
という使う方をします。
１０個なんて少ない数ではなくて1000個ぐらいになってしまった場合に通常の最小に情報計算ソフトでは数が大きすぎて計算できませんから。

正規分ぷ以外の分布の場合には.正規分布に分布を合わせるために重みを使う(異常値の削除)場合があります。
小泉.最小二乗法のなんとか...,Up応用選書・東京大学しゅっゅぱんかい。

補足

Sum(εi^2) を求め、0 次であれば、これを最小にする a0 は簡単に求まり、Sum((εi^a0)^2) から、分散は出ます。同様に一次であれば、a0、a1 は求まりますが、ここから、a0、a1 の分散をどう求めるか。

また、この際、Sum(wi*εi^2) と、Weight (wi) を用いたときどうなるか。

をお聞きしたいのです。n 数によらず、一般的には示せる筈なので。また、xi そのものを Weight として計算すると、VST 法に一致しますね。そういった意味です。

この場にテキスト形式のみで説明を求めるのには無茶があるので、きちんとした解説のある成書を教えていただければ、結構です。