カルバック・ライブラー擬距離を用いたk-近傍法

質問

お世話になっております。

件名の通り、カルバック・ライブラー擬距離を用いたk-近傍法（適応的k-近傍法？）について
理解したいのですが、ネットや文献で適切な資料が見つけられません。。

今回は、カルバック・ライブラー擬距離の定義については定義済みの扱いとし、
これを用いたk-近傍法の計算式を理解したいと思っています。

上記について、分かりやすく教えて頂けましたら幸いです。

また、説明が掲載されているURLや文献がありましたらご教授下さい。

以上、よろしくお願いいたします。

回答No.1

kamiyasiro

企業でSQCの推進をしている者で、統計学の学位があります。
最近、企業では、ビッグデータ解析の人材が不足していて、
ご質問者のような勉強をしている方は、引っ張りだこです。

さて、ご質問はビッグデータの識別モデルアプローチで必要な
「k-NN」（ケー・ニアレストネイバー）についてですね。
「NN」だとニューラルネットだし。「lasso」の読みはラスーなので
恥をかかないように注意しなけばなりません。

ところで、ご説明しようにも計算式は長いですし、
「分かりやすく」とのことですが、式を持ち出さないと説明できません。

そこで、市販書になりますが、共立出版
「Rで学ぶデータサイエンス５パターン認識」の第８章を、

もしRが分かるなら、オーム社
「入門機械学習」の第１０章をお読みください。
こちらは、計算を順を追って確認できます。

ただし、後者は適応的ではなく、クロスバリデーションで
識別器の評価をしています。

いずれも数ページですので、理解するのに１時間も要しないと思います。

お礼

ご回答、ありがとうございます。
その道に詳しい方からのアドバイス、大変助かります。
上記の資料を見てみたいと思います。

ありがとうございました！