[3K1-GS-9] ヒューマンインタフェース

[3K1-GS-9-03] モデルカードの信頼性向上に関する一考察

〇鈴木 亮平¹、芦澤 奈実¹、桐淵 直人¹、大木 哲史²、峰野 博史²、西垣 正勝² (1. 日本電信電話株式会社、2. 静岡大学)

キーワード：信頼性、モデルカード

MLaaSや学習済みモデルの配布によってAIを利用する難易度が下がり、より便利で簡単にAIを組み込んだサービスが実現可能となっている。AIの利用が身近になる一方で、提供されたAIモデルが利用者にとって意図したものであるか、AIを利用する際の信頼性が問題となっている。AIの信頼性を確保する一例として、AIの開発者や学習データセットなど補足情報を明示するモデルカードの利用が提唱されているが、モデルカード自体の信頼性を検証する方法は確立されていない。
本研究では、モデルカードに記載された情報が検証されていないこと、モデルカードに記載された情報が悪意ある第三者に改ざんされたりなりすまされるリスクがあることに着目した。
情報の正しさを確認する既存の方法としてWeb PKI証明書における信頼性の確立方法を参考に、モデルカードとAIの関係性をWeb PKI証明書とWebサーバに見立て、情報の信頼性確保に必要な要件の整理を行う。