[4C3-OS-1a] データサイエンスの普及と自動化(1/2)

[4C3-OS-1a-01] オンラインチャットにおける誹謗中傷コメントの発信を未然に防止する機能

〇伊藤 誠基¹、砂山 渡¹ (1. 滋賀県立大学)

キーワード：誹謗中傷防止、テキストマイニング、アシストメッセージ

近年，オンラインチャットによる対話の機会が増えてきているが，意図的あるいは無意識に相手を傷つけるコメントが発信されることがある．多くのシステムでは，あらかじめ送信することが適切ではない単語を用意して，その単語を含むコメントを発信できないようにすることが多い．しかしこの方法では発信する側の意識を変えることはできないため，根本的な解決を与えるには至っていない．
　そこで本研究では，誹謗中傷コメントの発信を未然に防止する機能として，誹謗中傷の可能性があるコメントの発信者にメッセージを表示して，内容の意識と確認を促す機能，ならびにコメントを受け取るユーザの，誹謗中傷によるこれまでの蓄積ダメージを推計して可視化する機能を提案する．これらにより，コメントを発信するときのユーザの意識の変化を促す．実験により，提案する機能が誹謗中傷コメントの発信防止に繋がるかどうかを検証した．