[1B4-GS-2] 機械学習：表現学習

[1B4-GS-2-01] 知識蒸留した代理モデルの対照学習によるモデル性能評価

〇河野 慎¹、河村 和紀¹ (1. 東京大学)

キーワード：ラベルなし性能評価、知識蒸留、対照学習

実世界で機械学習システム運用時にデータ分布シフトが発生し，これがモデル検証時の精度と比較して性能の劣化を引き起こす問題となっている．この性能劣化の検出が可能になれば，モデルの再学習や構造の見直しなど適切な対策を講じることができる．しかし，運用後のデータに逐次的にラベルを付与すること，そのコストの高さから継続的なラベル付けは現実的ではない．そこで，本研究ではラベルがないテストデータにおけるモデルの性能推定に焦点を当てる．ラベルがない限りテストデータにおける精度を直接算出することは不可能なため，先行研究ではテスト精度と相関関係にある距離や指標を利用して，テスト精度の推定を試みている．その一つに対照精度を利用した研究があるが，評価したいモデルの訓練と同時に対照学習を行う必要があり、既に学習済みのモデルには適用できない．そこで，本研究では，評価対象のモデルを知識蒸留を用いて代理モデルに変換し，代理モデルで対照学習を行うことにより，モデルのテスト性能をラベルなしで推定可能な手法CoLDSを提案する．本稿では，CoLDSの有効性について実験を行い，その結果を報告する．