研究課題
本研究では、解釈性の高い予測の根拠を提示可能な深層学習モデルの予測精度向上を目的とし、以下2項目に焦点を当てて研究を行う: (1) 摂動に頑健で解釈可能な深層学習モデルの確立、(2) 予測の解釈手法が提示する根拠に対する評価指標の確立。2022年度は後者について研究を実施した。学習済みモデルの注意の重みに対して、これまで解釈性の評価に使われてこなかった既存の指標や、人手のアノテーションを利用した新たな指標を元に、予測根拠に対する評価指標の確立を模索した。このとき、解答根拠が人手によって付与された既存のオープンデータセットの利用のほか、クラウドソーシングの利用を検討した。深層学習モデルが提示する根拠に対して、勾配とアノテーション一致率や認知心理学的アプローチを参考に、その妥当性について検証した。さらに近年頻繁に利用されている既存手法や提案手法によって学習された注意の重みが、人間の解釈と近いものであるかを調査した。
令和4年度が最終年度であるため、記入しない。
すべて 2023 2022
すべて 雑誌論文 (4件) (うち査読あり 4件、 オープンアクセス 2件) 学会発表 (3件)
Applied Intelligence
巻: - ページ: -
10.1007/s10489-022-04301-w
IEEE Access
巻: 10 ページ: 120023～120034
10.1109/ACCESS.2022.3221812
2022 IEEE 19th International Conference on Smart Communities: Improving Quality of Life Using ICT, IoT and AI (HONET)
10.1109/HONET56683.2022.10019010
Proceedings of the 31st ACM International Conference on Information & Knowledge Management
巻: - ページ: 4349～4353
10.1145/3511808.3557599
