[1S3-GS-2] Machine learning:

[1S3-GS-2-01] Learning Set-to-Set Bregman Divergence with Permutation-Invariant Neural Networks

〇Takahiro Kawashima¹, Masanari Kimura², Soma Tasuku³, Hideitsu Hino³ (1. ZOZO Research, 2. University of Melbourne, 3. Institute of Statistical Mathematics)

Keywords:Bregman Divergence, Permutation Invariant NNs, Submodular Functions

Bregmanダイバージェンスは凸関数から導かれる連続空間上の擬距離で，統計学や機械学習において根幹的な役割を果たしている．同様に離散空間上でのBregmanダイバージェンスのアナロジーを定義することにより離散構造をもつインスタンス間の乖離を賢く測ることが可能になると期待されるが，その構成法は非自明である．本研究では有限集合間のダイバージェンスとして母関数を集合関数としたDifference-of-Submodular Bregmanダイバージェンスを提案し，加えて置換不変ニューラルネットワークを通したその学習可能性を議論する．提案するダイバージェンスは先行手法である劣モジュラBregmanダイバージェンスの一般化であり，理論的および実験的な考察を通して，その一般化がダイバージェンスとしての表現能力の向上につながることを示す．