[3B3-GS-11] AIと社会：信頼性

[3B3-GS-11-04] AIの同一性の確認についての一考察

〇鈴木 亮平¹、芦澤 奈実¹、桐淵 直人¹ (1. NTT 社会情報研究所)

キーワード：AI、AIセキュリティ、認証

一般的にソフトウェアの真正性は同一性によって確かめられる．すなわち，ハッシュ値などを用い，作成者が提供するソフトウェアとユーザの手元のソフトウェアが実行ファイルとして同一だと確認できれば，作成者の意図したソフトウェアとして真正性が認められる．一方，近年で実用化が進むAIについて真正性を確認したい場合，従来のソフトウェアにおける真正性の考え方が適切かは自明でない．なぜなら，ニューラルネットワークを用いたAIには，ユーザが利用している間にも継続的に学習を行うことで内部パラメータを更新して出力も変化していくものがあり，こうしたAIのモデルの変化は，必ずしも作成者の意図したものとは限らないためである．しかし，こうしたAIの変化であっても，AIの自立的な進化と捉えて作成者の意図に反しなければ真正性を持ち，その意味で変化前のAIと同一だと言える可能性がある．本稿では，AIにおける同一性について，既存の認証フレームワークを参考にし，一定の範囲内の変化であれば同一のAIとみなせるという発想のもと，AIの同一性を確認するレベルを提案し，複数のユースケースにおいてどのような確認が求められるか検討した．