2023 Fiscal Year Annual Research Report
Fundamentals and developments of brainmorphic computing hardware
| Project/Area Number |
20H00596
|
|---|
| Research Institution | Tohoku University |
|---|
Principal Investigator |
堀尾 喜彦 東北大学, 電気通信研究所, 教授 (60199544)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
池口 徹 東京理科大学, 工学部情報工学科, 教授 (30222863)
加藤 秀行 大分大学, 理工学部, 准教授 (00733510)
香取 勇一 公立はこだて未来大学, システム情報科学部, 教授 (20557607)
佐藤 茂雄 東北大学, 電気通信研究所, 教授 (10282013)
島田 裕 埼玉大学, 理工学研究科, 准教授 (50734414)
鈴木 秀幸 大阪大学, 大学院情報科学研究科, 教授 (60334257)
深見 俊輔 東北大学, 電気通信研究所, 教授 (60704492)
藤原 寛太郎 東京大学, ニューロインテリジェンス国際研究機構, 特任准教授 (00557704)
|
|---|
| Project Period (FY) |
2020-04-01 – 2025-03-31
|
| Keywords | ブレインモルフィック / 脳型計算 / ニューロモルフィック / 脳型ハードウェア / 時空間学習 / リザバー計算 / 非線形複雑系 |
|---|
| Outline of Annual Research Achievements |
脳で実現されているようなイベント駆動型のスパイキングニューラルネットワーク(SNN)を実現するため、超低消費電力型のSNN回路を開発し、これをリザバー計算に応用した。加えて、SNN回路に自励発振機能を付加するためのエサキダイオードデバイスの有効性を確認した。また、人工シナプス素子、人工ニューロン素子としての利用が可能な３端子スピントロニクス素子の微細加工プロセスフローを完成させた。
さらに、海馬時空間学習モデルをSNN回路システムとして実装するため、これを連続時間微分方程式として記述し直し、上記で実装したSNN回路をカオススパイク列も生成可能となるように改良して応用した。この際、ネットワーク出力のみから学習結果を評価できる2次元マップ法を提案した。さらに、時空間学習則中の時間履歴項の影響を、パターン分離能力を指標として評価した結果、時間履歴が性能向上に大きく寄与していることを明らかにした。
リザバー計算の枠組みでは、前年度までの研究を発展させることにより、横断リアプノフ指数や微分同相性指標等を用いたハイパーパラメータチューニング手法を構築した。さらに、予測符号化と強化学習を組み込んだレザバー計算モデルを連続値行動空間のタスクに応用した。また、運動プリミティブの生成・切替を行う多層リザバー計算モデルを構築した。加えて、人の認知におけるストループ効果を、階層リザバー計算による予測符号化モデルにより解析した。
さらに、脳特異的機能の解析を念頭に、種々のネットワーク解析手法の特性を明らかにした。例えば、テンポラルネットワークに対してグラフ間距離を用いたRecurrence Quantification Analysis (RQA)を適用し、採用するグラフ間距離の違いがRQAにどのような影響を与えるかを明らかにした。これらの結果から、脳神経系の学習と認知機能の数理モデル構築を進めた。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
ブレインモルフィックハードウェアに関しては、自励発振機能を有するニューロン回路の開発がやや遅れているものの、スパイキングニューラルネットワーク(SNN)としてすでに当初想定以上の性能が得られている。また、3端子スピントロニクスデバイスの開発にも少し遅延が生じたが、これまでにプロトタイプデバイスが完成し、その特性評価とSNNへの応用への考察を開始した。
上記のハードウェア開発の多少の遅れを補完する成果として、今年度より海馬時空間コンテキスト学習モデルの構築とそのSNNによる実装手法および評価手法の開発を本格的に進め、小規模なハードウェアの構築も行った。
さらに、リザバー計算を基盤とする多層ネットワークモデルを用いることで、複雑ダイナミクスを活用する脳型情報処理の枠組みを拡張することができた。また、リザバー計算のハードウェア実装時に必要となるハイパーパラメータチューニング手法などの数理モデル研究が大きく進展した。
以上により、本研究はおおむね順調に進展していると判断される。
|
| Strategy for Future Research Activity |
ニューロンの発火機構を効率的に集積回路実装するため、エサキダイオードデバイスを用いたニューロン回路の開発を進め、昨年度までに開発したCMOSスパイキングニューラルネットワーク(SNN)ハードウェアや、Spike Timing Dependent Plasticity回路との融合を図る。さらに、３端子アナログスピントロニクス素子を作製して静的・動的特性を取得し、SNN集積回路の不揮発連続値メモリを有する学習回路への応用を検討する。また、これらを活用して、時空間学習SNN回路の中規模プロトタイプシステムを実装することにより、時空間列情報のシナプス空間へのフラクタル埋め込み原理の解明に迫る。
さらに、これまで構築したマルチリザバーや階層型リザバーネットワークモデルをより精緻に評価することによりその実用性を検証するとともに、それらの実世界応用を模索する。また、階層構造型予測符号化リザバーコンピューティングを用いて、ストループ効果モデルの性質や性能を数値的、理論的に解析する。
また、引き続きハードウェア実装のための脳・神経系の数理モデル研究を進める。この際、特にリザバー計算のチューニング手法の確立、マルチリザバーシステムとしての脳基本構成要素・ネットワークの理解、カオススパイク列をも含む非同期時空間スパイク列による学習と情報処理モデルの構築およびそのハードウェア実装を行う。これらにより、ブレインモルフィックコンピューティングハードウェアの基礎理論および基盤技術の確立を目指す。
|
