2019 Fiscal Year Research-status Report
樹状突起ニューロンによる非線形的フィルターをもつ畳み込みニューラルネットワーク
| Project/Area Number |
19K12136
|
|---|
| Research Institution | Kanazawa University |
|---|
Principal Investigator |
唐堂 由其 金沢大学, 電子情報通信学系, 准教授 (70636927)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
唐 政 富山大学, 学術研究部工学系, 教授 (90227299)
|
|---|
| Project Period (FY) |
2019-04-01 – 2022-03-31
|
| Keywords | 樹状突起ニューロンモデル / 非線形的フィルター / 運動方向検出 |
|---|
| Outline of Annual Research Achievements |
R1年度において、本研究は、申請者が提案した非線形な特性をもつシナプスと樹状突起におけるシナプス間の非線形相互作用を考慮した樹状突起ニューロンモデル（DNM: Dendritic Neuron Model）を用いて、非線形的フィルターの構築を図った。具体的には、
①現在の畳み込みニューラルネットワークにおける画像の局所的な特徴抽出を担う畳み込み層に申請者が提案したシナプスが持つ非線形な特性を利用し、画像の画素とフィルターの画素の相関（画素値の積）を空間的線形荷重とし、その後に非線形シグモイド関数（S(・)）を適用した；
②隣接する画素の相関性から、非線形処理後の画像の画素とフィルターの画素の相関（画素値の積）を申請者が提案した樹状突起におけるシナプス間の非線形相互作用を利用し、更に掛け算（min）とした。
更に、樹状突起ニューロンモデル（DNM: Dendritic Neuron Model）の非線形特性を確認するため、モデルから学習アルゴリズムまでシミュレーションなどを行い、その成果としてニューラルネットワークの分野において最も権威のある学術雑誌であるInternational Journal of Neural Systemsに発表した（Neurons with Multiplicative Interactions of Nonlinear Synapses、Yuki Todo、Zheng Tang、Hiroyoshi Todo、Junkai Ji and Kazuya Yamashita、29巻、8号、1950012-1950029頁、2019/05）
最後に、非線形フィルターの優位性を検証するため、線形的フィルターで正しく検出できない運動方向検出問題に対し、非線形的フィルターを用い、上下左右を問わずより全方位的運動方向検出に成功した。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
本研究の基本となる樹状突起ニューロンモデル（DNM: Dendritic Neuron Model）の非線形特性と非線形フィルターの優位性を確認することができた。その成果として、国際的に権威のある学術雑誌に学術論文７篇を発表した。一部代表的な論文は以下の通りである。
１．A Dendritic Neuron Model with Adaptive Synapses Trained by Differential Evolution Algorithm、Computational Intelligence and Neuroscience、2020巻、19頁、2020/01
２．Training an Approximate Logic Dendritic Neuron Model Using Social Learning Particle Swarm Optimization Algorithm、IEEE Access、7巻、1号、141947 - 141959頁、2019/09
３．A differential evolution-oriented pruning neural network model for bankruptcy prediction、Complexity、2019巻、21頁、2019/08
４．Mr2DNM: A Novel Mutual Information-based Dendritic Neuron Model、Computational Intelligence and Neuroscience、2019巻、13頁、2019/08
|
| Strategy for Future Research Activity |
今後は予定通り、非線形的畳み込みニューラルネットワークの実装を図る。具体的には、前年度で確認ずみの非線形フィルターを用いて、現在の畳み込みニューラルネットワークと同様に、非線形フィルターを用いた畳み込み層と現在のプーリング層の順に、複数回繰り返すことによって構成される非線形的畳み込みニューラルネットワークを実装し、その動作を確認した上で、現在の畳み込みニューラルネットワークと性能やコストなどの面から比較研究を行う。
|
| Causes of Carryover |
新型コロナウイルスの影響により
|
