[2I1-OS-1a] 計算社会科学

[2I1-OS-1a-02] 生成AIによるニュースの共有行動に関するサーベイ実験

〇市川 慧¹、陳 佳玉¹、笹原 和俊¹ (1. 東京工業大学)

キーワード：生成AI、ディープフェイク

生成AIによって作成された悪質なコンテンツが増加したことで、SNSの情報の信頼性が低下する一方で、そうしたコンテンツの拡散の制御が著しく困難になっている。悪質な生成AIコンテンツの中には、デマやプロパガンダとして組織的に大規模に拡散されているものも多くあり、深刻な社会不安を引き起こさないためにも、早急な拡散制御方法の提案が望まれる。本研究では、AIで生成した複数の画像付き擬似ニュースを用いて、どのような特徴をもつ画像付き擬似ニュースが共有されやすいのかについて定量的に調査した。その結果、政治系の擬似ニュースの場合は、ネガティブな感情を喚起する画像表現は共有に大きく影響し、エンターテイメントに関する疑似ニュースの場合は、画像の感情表現は共有に影響を与えないことがわかった。さらに、同じ擬似ニュースにおいて、元の画像を感情価の低い画像に差し替える実験を行い、この操作により政治とエンターテイメントのAIが生成したニュースの拡散意欲を低減させられる可能性を明らかにした。本研究結果は、SNS事業者が生成AI時代のコンテンツモデレーションを行う上での重要な基礎となる。