[2D3-OS-7a] 広告とAI(1/2)

[2D3-OS-7a-02] キーワードを考慮したBERT2BERTによる広告文生成

〇黒木 開¹、川上 孝介¹、岩井 大志¹、石塚 湖太²、中田 和秀² (1. negocia株式会社、2. 東京工業大学)

キーワード：自然言語処理、文章生成

リスティング広告における広告文の品質向上は、消費者をランディングページ(LP)へ誘導し、購買へと繋げるために大変重要である。 品質向上手法には一般的に知られた手法がいくつかあり、例えば検索キーワードを広告文内に含めることで、クリック率など各種指標が改善することが知られている。そこで本論文ではより優れた広告文を生成するために、特定のキーワードを高確率で含む文生成手法を提案する。ベースとなる自然言語処理モデルには事前学習済みBERTをEnc-Dec構造にしたBERT2BERTを採用し、学習データはgoogle広告において配信されていた約69万件の広告データを用いた。また、生成時に「ドア」と「扉」といった類語の生成を防止するため、キーワードをマスクした形で学習を行なった。加えて文生成時にはキーワードを優先出力する手法を検討した。実際に配信された広告データを用いてその精度を評価した結果、提案手法は最大約80%の確率で広告文内にキーワードを挿入できることを確認し、既存モデル（BERT2BERTを学習データでfine-tuningしたのみのモデル）の挿入率を有意に上回ることができた。