[1G4-GS-2c] 機械学習：回帰

[1G4-GS-2c-01] マルチスケール k-近傍法における回帰関数および損失関数の検討

〇操 瑞行^1,3、田中 卓磨^1,3、奥野 彰文^2,3、下平 英寿^1,3 (1. 京都大学、2. 統計数理研究所、3. 理化学研究所革新知能統合研究センター)

キーワード：近傍法、バイアス修正、外挿、回帰分析

k-近傍法（k-NN）はクエリ近傍の k 個のデータベクトルを検索し，付随するラベルの平均によりラベル確率を推定する．近年，複数の k1, k2, ... における k-NN 推定量を k=0 に外挿し，k-NN の漸近バイアスを減少させるマルチスケール k-近傍法 (MS-k-NN）が提案された．既存の MS-k-NN では漸近的に導出された回帰関数を最小二乗法により推定するが，(i) その回帰関数の有限サンプルにおける有効性は明らかでなく，(ii) 単純な最小二乗法では各 k での k-NN 推定量の従属性を適切に扱えていない，という問題があった．これらの問題を解決するために，本研究では MS-k-NN の外挿に利用する新たな回帰関数と推定法を検討する．また MS-k-NN に着想を得た Local Radial Logistic Regression（LRLR）を提案し，これらの手法を数値実験により比較する．