The 70th JSAP Spring Meeting 2023

Presentation information

Oral presentation

FS Focused Session "AI Electronics" » FS.1 Focused Session "AI Electronics"

[15a-B414-1~9] FS.1 Focused Session "AI Electronics"

Wed. Mar 15, 2023 9:00 AM - 11:30 AM B414 (Building No. 2)

Takao Marukame(Toshiba)

10:45 AM - 11:00 AM

[15a-B414-7] Device Error Compensation for Computation-in-Memory 2
Difference in Inter-Layer Error Tolerance and Input-Output Distribution Due to Shortcut Connection

Shinsei Yoshikiyo1, Ayumu Yamada1, Naoko Misawa1, Chihiro Matsui1, Ken Takeuchi1 (1.Univ. Tokyo)

Keywords:Computation-in-Memory, neural network, error tolerance

Shortcut connectionを持つニューラルネットワークモデルの各層の重みに書き込みばらつきなどのエラーが発生した際、推論精度の低下量が大きい層と小さい層が定常的に交互に現れる。本研究では、この一因として、shortcut connectionに起因する層ごとの入出力の範囲の違いに着目し、入出力範囲を補正したモデルとの比較により検証した結果、補正モデルでは定常的なエラー耐性の差が消失し、入出力の範囲と層ごとのエラー耐性の差に関係があることを明らかにした。