スパイキングニューラルネットワークによる高次元最適化問題の解法とその専用回路開発
Project/Area Number |
22K12200
|
Research Category |
Grant-in-Aid for Scientific Research (C)
|
Allocation Type | Multi-year Fund |
Section | 一般 |
Review Section |
Basic Section 61040:Soft computing-related
|
Research Institution | Shonan Institute of Technology |
Principal Investigator |
佐々木 智志 湘南工科大学, 工学部, 准教授 (00811415)
|
Co-Investigator(Kenkyū-buntansha) |
中野 秀洋 東京都市大学, 情報工学部, 教授 (10386360)
|
Project Period (FY) |
2022-04-01 – 2025-03-31
|
Project Status |
Granted (Fiscal Year 2022)
|
Budget Amount *help |
¥4,160,000 (Direct Cost: ¥3,200,000、Indirect Cost: ¥960,000)
Fiscal Year 2024: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000)
Fiscal Year 2023: ¥1,690,000 (Direct Cost: ¥1,300,000、Indirect Cost: ¥390,000)
Fiscal Year 2022: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000)
|
Keywords | 群知能最適化 / 非線形最適化 / スパイク発振器 / 決定論的手法 / 群知能回路 / スパイキングニューラルネットワーク / 粒子群最適化法 / 最適化問題 / 計算機システム |
Outline of Research at the Start |
高次元のパラメータ最適化問題に対して高精度な解を発見するスパイキングニューラルネットワーク(SNN)を用いた最適化手法とその専用回路の開発を目的とする。本回路は、決定論的な構造を持つ簡素なスパイキングニューロン(ニューロン)の探索個体から構成され、これらが多数並列的に解探索することで最適化するパラメータが多数の高次元最適化問題を解くことを実現する。まず、ニューロンの探索モデルを提案する。次に、高次元最適化問題を解くためにこれらを相互結合させたSNNの探索モデルを提案し、その有効性をベンチマーク問題を用いて評価する。最後に、ディジタル回路上にのSNNの探索モデルを実装し、その有効性を評価する。
|
Outline of Annual Research Achievements |
2022年度では、主として以下に関する研究を進めた。 (1) 提案したスパイキングニューラルネットワークのダイナミクスに基づく粒子群最適化手法(OSNNs)の理論解析を行った。OSNNsを構成するスパイキングニューロン(発振器)は、その探索軌道が良好な解候補から徐々に離れていく振る舞いと、スパイク条件を満たしたときに内部状態を良好な解候補の付近にリセットする振る舞いを有する。パラメータによって発振器がカオス的な振る舞いや周期的な振る舞いをする条件の理論解析を行った。次に、発振器の探索軌道が存在するパラメータ条件を理論解析により明らかにし、理論解析結果を数値実験により実証している。このパラメータ条件は、発振器の探索が良好な解候補付近から発散しないことを保証することができる。 (2) OSNNsの発振器ネットワークにおける発振器同士の同期・非同期的な振る舞いの理論解析に基づいて、解くべき問題の解空間の景観と同期・非同期的な振る舞いを引き起こす代表的なパラメータ条件との関係性の調査を実施した。数値実験の結果より、解くべき問題の解空間の景観に対する有望なパラメータ領域を提案している。このようなパラメータ領域からパラメータを優先的に選択することで解くべき問題に対するOSNNsのパラメータ設定を効率的に行うことができる。 (3) OSNNsの発振器ネットワークにおいて、発振器同士の結合を粒子間だけでなく解空間の次元間に拡張した。このモデルでは、異なる次元を探索する発振器同士の探索を非同期的にすることが可能であるため、変数間に依存関係のない多峰性の景観を持つ問題を解くときに有効であることを数値実験により示している。 今後は、発振器同士の同期・非同期的な振る舞いが探索性能に与える影響やそのパラメータ条件を明らかにすることと、高次元な最適化問題を解くためのOSNNsの改良手法を提案していく。
|
Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
2022年度では、スパイキングニューラルネットワークのダイナミクスに基づいた粒子群最適化手法(OSNNs)の理論解析を中心に行い,スパイキングニューロン(発振器)単体のカオス的な振る舞いを呈するパラメータ条件や、探索軌道が存在するパラメータ条件を明らかにすることができている。また、スパイキングニューラルネットワーク(発振器ネットワーク)の発振器同士の非同期的・同期的なパラメータ条件と解くべき問題の解空間の景観の関係性を数値実験により調査し、有望なパラメータ領域を提案することができている。この結果から、非同期的なパラメータ条件は、変数間に依存関係のない多峰性の景観を持つ問題を解く場合に有効であることも数値実験から明らかにすることができている。これまでの発振器ネットワークでは、各1次元解空間を発振器1つで探索を行い、同一次元を探索する発振器同士(粒子間)で発振器ネットワークを構築していた。これを異なる次元を探索する発振器同士(次元間)で発振器ネットワークを構築するように改良することで、変数間に依存関係のない多峰性の景観を持つ問題に対する探索性能を向上させることを数値実験により明らかにしている。したがって、高次元最適化問題を解くためのスパイキングニューラルネットワークに基づく群知能最適化手法のモデルの開発やその振る舞いを制御するための理論解析は順調に進んでいるといえ、目標はおおむね達成できているといえる。
|
Strategy for Future Research Activity |
高次元最適化問題を解くためのスパイキングニューラルネットワーク(発振器ネットワーク)のダイナミクスに基づく粒子群最適化法(OSNNs)を改良する。前年度の研究成果から得られた知見や従来研究に基づいて、スパイキングニューロン(発振器)のアルゴリズムは大きく変更せずに、探索性能を向上させるための発振器ネットワークのネットワーク構造を明らかにする。高次元の最適化問題を解くためには、多数の発振器が必要なことから並列的に計算することが可能な並列計算手法を導入することや、高次元の解空間をより低次元な解空間に分割する手法の導入なども検討する。これらの手法は、ベンチマーク問題を用いて数値実験により評価を行い、有効性を明らかにする。さらに、発振器の探索モデルに対する小規模な回路実装方法を明らかにし、その評価をFPGAボードに実装することで行う。
|
Report
(1 results)
Research Products
(13 results)