スパイキングニューラルネットワークによる高次元最適化問題の解法とその専用回路開発
| Project/Area Number |
22K12200
|
|---|
| Research Category |
Grant-in-Aid for Scientific Research (C)
|
| Allocation Type | Multi-year Fund |
|---|
| Section | 一般 |
|---|
| Review Section |
Basic Section 61040:Soft computing-related
|
|---|
| Research Institution | Shonan Institute of Technology |
|---|
Principal Investigator |
佐々木 智志 湘南工科大学, 情報学部, 准教授 (00811415)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
中野 秀洋 東京都市大学, 情報工学部, 教授 (10386360)
|
|---|
| Project Period (FY) |
2022-04-01 – 2025-03-31
|
| Project Status |
Granted (Fiscal Year 2023)
|
| Budget Amount *help |
¥4,160,000 (Direct Cost: ¥3,200,000、Indirect Cost: ¥960,000)
Fiscal Year 2024: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000)
Fiscal Year 2023: ¥1,690,000 (Direct Cost: ¥1,300,000、Indirect Cost: ¥390,000)
Fiscal Year 2022: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000)
|
|---|
| Keywords | 群知能最適化 / 非線形最適化 / スパイク発振器 / 決定論的手法 / 群知能回路 / スパイキングニューラルネットワーク / 粒子群最適化法 / 最適化問題 / 計算機システム |
|---|
| Outline of Research at the Start |
高次元のパラメータ最適化問題に対して高精度な解を発見するスパイキングニューラルネットワーク(SNN)を用いた最適化手法とその専用回路の開発を目的とする。本回路は、決定論的な構造を持つ簡素なスパイキングニューロン(ニューロン)の探索個体から構成され、これらが多数並列的に解探索することで最適化するパラメータが多数の高次元最適化問題を解くことを実現する。まず、ニューロンの探索モデルを提案する。次に、高次元最適化問題を解くためにこれらを相互結合させたSNNの探索モデルを提案し、その有効性をベンチマーク問題を用いて評価する。最後に、ディジタル回路上にのSNNの探索モデルを実装し、その有効性を評価する。
|
| Outline of Annual Research Achievements |
2023年度では、主として以下に関する研究を進めた。
(1) 提案したスパイク発振器ネットワークの振る舞いに基づく粒子群最適化手法(Optimizer based on Spiking Neural-oscillator Networks; OSNNs)における代表的なリング型のネットワーク構造であるRing 1-way networkに注目して理論解析を行った。理論解析では、Ring 1-way networkがスパイク発振器のアトラクタに与える影響を調査し、スパイク発振器ネットワークが同期的な現象を呈する場合においても結合関係にあるスパイク発振器のアトラクタが探索過程で相似とならない場合があることを明らかにしている。この現象は、探索性能に良い影響を与えることも数値実験により実証している。
(2) OSNNsの演算のための専用回路の設計と開発を行っている。提案したOSNNs演算回路では、スパイク発振器単体を回路化し、粒子数×次元数個のスパイク発振器をRing 1-way networkで結合したスパイク発振器ネットワーク回路として実装を行っている。スパイク発振器回路単体の動作は、ソフトウェア実装によるシミュレーション結果と同等であり、内部状態の更新1回に41クロックで行える。スパイク発振器ネットワーク回路に粒子群の初期化回路、目的関数の評価回路、Pbest及びGbestの更新回路を追加したOSNNs演算回路を用いて2次元のベンチマーク問題を対象に最適化を行い、回路の動作が正常であることを確認している。
(3) 複雑な景観を持つ目的関数を効率的に解くためのOSNNs手法の検討を行っている。スパイク発振器単体の内部状態の更新方法では、設計変数間の依存性に対する頑健性を持たないため、その頑健性を獲得するメカニズムを明らかにすることや、高次元な最適化問題を解くための改良手法を提案する。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
2023年度では、スパイク発振器ネットワークの振る舞いに基づく粒子群最適化手法(OSNNs)の理論解析とOSNNs専用の演算回路の設計・開発を中心に行ってきた。理論解析については、Ring 1-way networkのネットワークトポロジーに注目し、ネットワーク構造がOSNNsの探索性能に与える影響を明らかにすることを解析と数値実験により明らかにすることができている。この結果から、スパイク発振器単体で最適化を行うよりもスパイク発振器同士をネットワーク構造により結合することでOSNNsの探索性能を向上させることができる。OSNNs専用の演算回路の設計・開発では、スパイク発振器単体を回路化し、これらを多数結合させたスパイク発振器ネットワークとして回路実装を行っている。スパイク発振器単体は内部状態更新に41クロックかかるが、ネットワーク内のスパイク発振器を並列的に演算処理が可能であるため、スパイク発振器の個数に依存せず、全てのスパイク発振器の内部状態更新は41クロックで行える。このスパイク発振器ネットワークに初期化回路、目的関数演算回路、Pbest更新回路、Gbest更新回路を実装したOSNNs専用の演算回路を開発し、HDLシミュレーションによりその動作を確認している。さらに、複雑な景観を有する最適化問題を解くためのOSNNsアルゴリズムの検討も行っている。以上のことから目標はおおむね達成できているといえる。
|
| Strategy for Future Research Activity |
試作したOSNNs専用の演算回路は、回路の最適化が不十分であるため、回路規模が比較的大きくなっている。このため、小規模な回路に設計を見直すことや、回路をFPGA上へ実装する。再設計した回路を用いてベンチマーク問題による評価を通して回路の有効性を明らかにする。現在のスパイク発振器単体の内部状態の更新方法では、設計変数間の依存性に対する頑健性を持たないため、設計変数間の依存性を有する更新方法を検討する。また、Ring 1-way network以外のネットワーク構造を検討し、探索性能を向上させるネットワーク構造を明らかにする。さらに、高次元の最適化問題を解くためのOSNNs手法について検討する。これらの手法の評価は、ベンチマーク問題を用いた数値実験により行い、有効性を明らかにする。これらの提案手法は、OSNNs専用の演算回路として実装し、その評価も並行して行っていく。
|
Report
(2 results)
Research Products
(26 results)
