2021 Fiscal Year Research-status Report
Dynamics analysis of attractors of large-scale dynamical systems and their relationship with the emergence of swarm intelligence
| Project/Area Number |
20K11978
|
|---|
| Research Institution | Tokyo City University |
|---|
Principal Investigator |
神野 健哉 東京都市大学, 情報工学部, 教授 (50286762)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
中野 秀洋 東京都市大学, 情報工学部, 教授 (10386360)
|
|---|
| Project Period (FY) |
2020-04-01 – 2023-03-31
|
| Keywords | 粒子群最適化法 / ヒステリシス / ニューラルネットワーク / リザバーコンピューティング / ダイナミクス / 学習法 / 制約条件充足問題 / 計算量 |
|---|
| Outline of Annual Research Achievements |
本研究課題の目的は、多数の素子が結合した大自由度力学系のダイナミクスを解明し、その解析結果を利用し解探索性能を向上させることである。2021年度は2次系である結合発振器を関数最適解探索に使用した場合として、我々が提案しているヒステリシスニューラルネットワークをモデルとして系の安定アトラクタを制約条件充足問題の解に対応させた場合について検討を行った。そして安定解の存在条件とその収束速度について検討を行った。その結果、提案システムでは制約条件充足問題の解探索時間が問題サイズNに対してlogNと非常に高速な探索が可能であることを明らかにした。またヒステリシスニューロンを相互結合させた系をリザバー層に適用させたヒステリシスリザバーコンピューティングを提案し、各ニューロンの時定数を変化させることでヒステリシスリザバーコンピューティングの記憶容量が増大することも明らかにした。一方、粒子群最適化法ではそのダイナミクスにカオス現象を導入することで局所探索能力が向上することを明らかにした。これを一般化し各粒子のダイナミクスに適切な微小振動を与えることと参照する最適解情報を変化させることで局所解探索に関するダイナミクスが変化し、解探索能力が向上することを明らかにした。この結果を基に粒子群最適化法を多層ニューラルネットワークの学習に使用した場合に関して検討を開始した。多層ニューラルネットワークでは中間層のニューロン数および層数を増加させることによってその性能を向上させているが、エッジコンピューティングを想定し、中間層のニューロン数がより少ないシステムで同等の能力が得られることが望まれている。これを解決するために粒子群最適化法での学習を行っている。その結果、学習に要する計算コストは粒子群最適化法を用いた手法では高いものの、従来提案されている学習法よりも高精度な学習結果が得られることを明らかにした。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
昨年度はコロナ禍の感染拡大に伴い、大学・研究室への入構が制限され、また本研究以外での大学での講義などオンライン化に伴う準備などに時間を要したため、年度前半は予定していた時間よりも研究を行う時間が減少したことにともない、当初計画していた研究計画よりも若干進捗が遅くなったが、その状況にも慣れ当初の計画通りに本年度の研究は進捗している。
|
| Strategy for Future Research Activity |
リザバーコンピューティングなどに関しては当初の研究計画通りにダイナミクス解析を行う。
また局所探索能力を向上させた粒子群最適化法による多層ニューラルネットワークの学習に関する研究を本年度も継続すると同時に、多層ニューラルネットワークの最適構造探索 Network Architechture Search; NAS に関して研究を開始している。
|
| Causes of Carryover |
コロナ禍の影響により予算時には研究成果公表のための出張旅費を計上していたが、これの使用が著しく減少したために次年度使用額が生じた。本年度は研究成果公表のための論文投稿費及び出張旅費として使用する計画である。
|
-
-
-
-
-
-
-
-
-
-
-
-
-
-
[Presentation] Emergence of the Boid Swarm2021
Author(s)
Yusuke Nakazato, Kenya Jin'no
Organizer
2022 RISP International Workshop on Nonlinear Circuits, Communications and Signal Processing (NCSP 2022), pp. 181-184, On-line, 2022.
Int'l Joint Research
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
