2021 Fiscal Year Annual Research Report
A Deep Neural Network Internal Operation Visualization System
Project/Area Number |
19K03046
|
Research Institution | Ishikawa National College of Technology |
Principal Investigator |
金寺 登 石川工業高等専門学校, 電子情報工学科, 教授 (50194931)
|
Project Period (FY) |
2019-04-01 – 2022-03-31
|
Keywords | 深層ニューラルネットワーク / 可視化 / 音声認識 / 画像認識 |
Outline of Annual Research Achievements |
深層ニューラルネットワーク(DNN)を用いることにより,音声認識や画像認識などで高い認識性能を実現できるようになってきた。また災害予測など様々な分野での応用が急速に進んでいる。しかし,ネットワーク内部で何を根拠に判別しているかが不明であるため,判別結果に対する不安が懸念されている。現在DNNの内部がわかる人材は不足しており,今後AIなどで活用されるようになったときに,誤った判断が出される危険性がある。これを防ぐための人材育成は将来のAI社会では不可欠である。そこで,本研究では深層ニューラルネットワーク内部の処理を可視化するシステムを開発し,DNNを正しく理解し活用できる人材を育成することを目的とする。DNN利用例が急増する中で,DNN内部で何が行われているかを正しく理解するためのシステムを開発・公開することは,技術者はもちろん利用する国民にとっても極めて重要である。 本研究では,ネットワーク出力を入力で偏微分した値の変動を指標とすることによって,識別の根拠となる重要な入力を特定する方法を開発した。この指標が大規模なニューラルネットワークにも有効であることを確認した。また,音声認識深層ニューラルネットワークに本研究の方法を適用し,各音韻の識別にとって重要と自動判断された知識と音響学の知識を比較し,本研究の方法の妥当性が明らかになった。音声認識深層ニューラルネットワークにとって重要な入力自動抽出システムは,Webサイトにて公開している。 本研究で提案する指標は,ネットワーク内の重要なユニットを抽出できるだけでなく,提案指標の値が大きいユニットは残し,逆に小さいユニットを削除しても識別性能が低下しないことが期待される。そこで,音声認識深層ニューラルネットワークに適用し計算量削減効果を確認した。さらに,画像認識ニューラルネットワークにも本方法を適用し,計算量削減効果を確認した。
|
Research Products
(2 results)