重みつき最小２乗法について

質問

最小２乗推定値mの分散を最小にする重みwiの値がわからずに困っています。
ラグランジュの未定乗数法を用いて導くらしいのですが、回答に辿り着けません。
最小２乗推値の分散は、var(m)=Σwi^2*var(mi)で、
制約条件は1=Σwiです。

よろしくお願いします……

回答No.1

at9_am · ベストアンサー

まず、問題が分かりません。
一般的な仮定の下で、最小自乗法は最良線形不偏推定量ですから、加重しない場合が最も分散が小さくなります。つまり wi=wj のときです。
加重するのは、不均一分散の問題が発生した場合です。

それから m は推定値ですか？　それとも説明変数ですか？　ひょっとして理論値ですか？
例えば、y=a+bX+u というモデルの (a,b) の推定値 (a~,b~) に当たる部分ですか？ X に当たる部分ですか？ y~=a~+b~X としたときの y~ ですか？

お礼

ありがとうございました。自己解決しました。

補足

はい、mは推定値のことです。
問題としては、確率変数X1,X2,…,Xnがそれぞれ独立で、E(Xi)=μ,分散V(Xi)=σ^2で、分散が既知で平均は未知としています。この時推定量はm=(Σwi*Xi)/W
,W=Σwiとして、その分散が最小となるときの重みwiの値が知りたいのです。

質問としては、「重みが分散に逆比例する」というのはどうやって証明すれば良いのでしょうか？ということです。初めての質問でしたので、稚拙なものになってすいませんでした。