2019 Fiscal Year Research-status Report
Hardware implementation and applications of analog high-dimensional neural system using simultaneous perturbation learning
| Project/Area Number |
18K11483
|
|---|
| Research Institution | Kansai University |
|---|
Principal Investigator |
前田 裕 関西大学, システム理工学部, 教授 (60209393)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
肥川 宏臣 関西大学, システム理工学部, 教授 (10244154)
三好 誠司 関西大学, システム理工学部, 教授 (10270307)
伊藤 秀隆 関西大学, システム理工学部, 准教授 (20268311)
本仲 君子 関西大学, システム理工学部, 助教 (70781772)
黒江 康明 同志社大学, 研究開発推進機構, 嘱託研究員 (10153397)
|
|---|
| Project Period (FY) |
2018-04-01 – 2021-03-31
|
| Keywords | ニューラルネットワーク / 自己組織化マップ / 分岐解析法 / ハードウェア / 変分ベイズ法 / 群制御 / 学習 |
|---|
| Outline of Annual Research Achievements |
高次ニューラルネットワークの解析、スパイキングニューラルネットワークの学習法の開発、および遺伝子ネットワークの制御法の開発の基本的な検討を行うと共に、ニューラルシステム型波形生成器のカオス理論的解析の対象として、混合モード振動系（複数の時間スケールに起因する周期振動やカオス振動を生成する微分方程式系）に注目し、高い精度をもつ分岐解析を可能とする数値解析法を考案した。また、群知能、特に、Ant Colony Optimizationのニューラルネットワークの学習への応用についても検討した。
ニューラルネットワークのハードウェア実装では、アナログ回路による実現では、正弦波による複素ニューロン回路を完成した。同時摂動最適化法を用いた学習機能も含めた複素ニューロン回路を試作した。学習動作の精度と安定性についての問題点の検討を行い、学習回路の改善のための検討を行った。自己組織化マップ（Self Organizing Map : SOM）のField Programmable Gate Arrayによる実現では、2018年度開発を行ったDFLLを用いた周波数変調パルスによる信号伝達を行うSOMに三角型近傍関数を導入することで、動作速度と学習性能の改善を行った。
さらに、変分ベイズ法を画像欠損値補間に適用し、欠損率とPSNRの関係を明らかにした。
これらの手法のロボットへの応用の一例としてクワッドロータ群への適用を想定し、相互衝突回避と合意制御に関するシミュレーションおよび実機による実験を行った。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
八元数ニューラルネットワークのダイナミクスに関する理論的解析、スパイキングニューラルネットワークの学習法とその応用、また遺伝子ネットワークのトラッキング制御についていくつかの成果が得られた。ニューラルネットワークのハードウェア実装に関して、アナログ回路による実現では、同時摂動による学習機能も含めた回路の試作が完成しており、学習動作の精度の向上と安定動作のための回路の改善を行っている。また、ニューラルネットワークによって作られるカオス生成機構における混合モード振動系の高精度な解析を可能とする数値解析法（特に，連鎖的に発生する分岐現象の解析法）を考案し、その基本性能に関する数値実験結果をとりまとめて論文投稿中である。
三角型近傍関数を用いたハードウェアSOMをFPGAに実装し、オンチップ学習について評価実験を行い、2倍の速度改善を達成した。また、学習性能についても改善された。
変分ベイズ法を画像欠損値補間に適用し、欠損率とPSNRの関係を明らかにできたので概ね順調に進展していると判断できる。
応用についても、複数のクワッドロータが飛行する環境を想定したシミュレーションおよび実機実験により、相互衝突回避手法と合意制御に関する検証を行った。
|
| Strategy for Future Research Activity |
2019年度で進展した結果をもとに、つぎの各項目について検討する。
1)ニューラルネットワークや遺伝子ネットワークなどの生体ネットワークの解析、設計、学習法の研究をさらにすすめ、これらの実問題への応用の展開をはかる。また、各種の群知能の手法の応用について検討する。
2) 混合モード振動系における特徴的な分岐パターンの解析と、パターン生成器の設計への応用に取り組むとともに、非線形系の同期現象と結びつけた展開についても検討する。
3) ニューラルネットワークのハードウェア実装に関しては、アナログ回路による実現では、同時摂動最適化法を用いた学習回路の回路の改善と安定動作、ニューロン数を増やした場合の学習動作、安定性の検討を行う。現状のSOMで，ニューロン数を増やそうとすると回路記述が非常に煩雑になるという問題がある。これを解決するための新しいSOMの構造を考える必要がある。次年度は入れ子型のアーキテクチャについての研究を進める。
4) オンライン学習や適応信号処理の統計力学的解析における有限サイズ効果について現象論的な検討を行う。
5) 応用については、相互衝突回避手法について、実機による実験をさらに条件を変更し検証を行う予定である。
|
| Causes of Carryover |
学会での発表計画の変更や物品の購入予定を変更したため、次年度の使用となった予算が生じた。2020年度は成果の発表と消耗品を中心に使用する予定である。
|
