• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

不揮発性メモリと学習機構を有するスパイキングニューラルネットワークシステムの構築

研究課題

研究課題/領域番号 23K16958
研究種目

若手研究

配分区分基金
審査区分 小区分61040:ソフトコンピューティング関連
研究機関東北大学

研究代表者

守谷 哲  東北大学, 電気通信研究所, 特任助教 (10898117)

研究期間 (年度) 2023-04-01 – 2026-03-31
研究課題ステータス 交付 (2023年度)
配分額 *注記
2,860千円 (直接経費: 2,200千円、間接経費: 660千円)
2025年度: 1,170千円 (直接経費: 900千円、間接経費: 270千円)
2024年度: 910千円 (直接経費: 700千円、間接経費: 210千円)
2023年度: 780千円 (直接経費: 600千円、間接経費: 180千円)
キーワード神経回路モデル / 脳型計算 / 学習 / アナログ回路 / 不揮発性メモリ / スパイキングニューラルネットワーク / エッジコンピューティング / リザバー計算
研究開始時の研究の概要

本研究では、神経回路の動作を模倣した脳型計算機において課題となっている消費電力と回路面積の増大の問題を解決するため、外部からの給電が無くとも記憶内容を維持できる不揮発性メモリデバイスのスパイキングニューラルネットワークへの応用、および不揮発性メモリデバイスの特性を考慮した適切な学習機構を構築することで、エッジデバイスに必須である低消費電力性・省面積性を兼ね備えたハードウェア実装技術を確立する。

研究実績の概要

神経回路の動作を模倣した脳型計算機において課題となっている消費電力と回路面積の増大の問題を解決し,エッジデバイスに必須である低消費電力性・省面積性を兼ね備えたハードウェア実装技術を確立するために,不揮発性を有したメモリデバイスのスパイキングニューラルネットワーク(SNN)への応用,およびメモリデバイスの特性を考慮した適切な学習機構の構築を行っている.SNNのニューロン間の結合をアナログメモリデバイスにより実装した場合,シナプス乗算がメモリで行われるため,回路面積を削減できることが期待できる.これまでに設計したアナログ的に動作するスパイキングニューロン回路に加え,不揮発性メモリデバイスであるSOT-MRAMの動作をモデリングし,それらを結合した際の動作をSPICEシミュレーションより調べた.作成したモデルが所望のシナプス荷重値を記憶し,スパイクを電流に変換できることを確かめた.更に,シナプス荷重値の更新量を電圧として与えることにより,SOT-MRAMの抵抗を動的に変えるための回路構成についても検討した.これは,神経スパイクのタイミングに依存して細胞間の結合重みが変化するスパイクタイミング依存可塑性(STDP)などのオンライン学習則を用いる際に必要な機能である.また,以前に試作したSTDPの機能を実現するアナログLSIを測定し,出力電圧が神経スパイクの時間差に対して指数関数的に変化することを実機測定から確かめた.更に,現在のシナプス荷重値によってシナプス荷重値の変化量が変わる荷重値依存性の効果や,重要度が低い細胞間の結合を減弱させる効果についても実測より確認した.

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

不揮発性メモリデバイスであるSOT-MRAMの動作をモデリングし,スパイキングニューロン回路と結合した際の動作をSPICEシミュレーションから調べており,当初の研究計画で示していた通りに研究が進捗している.またSTDP則を実現するアナログ回路の実測結果より,この回路から出力された電圧値を元にメモリデバイスの荷重値をオンラインで更新できる可能性が示された.これは当初の研究計画には示していなかった成果であり,より効率的に学習を実現しうる専用ハードウェアの開発に繋がる.現在はシミュレーションの結果を踏まえ,不揮発性メモリを制御し,情報処理に応用するための回路設計を進めている.以上を踏まえ,進捗状況を2.概ね順調に進捗しているとした.

今後の研究の推進方策

当初の研究計画通り,計算機上に構築したスパイキングニューロン回路・SOT-MRAMを用いてネットワークを構成し,時系列情報処理に応用する.情報処理の結果から提案アーキテクチャの可拡張性や信頼性について評価する.更にSOT-MRAMの制御用回路をプリント基板で設計し,素子の基本的なメモリ動作や動特性,ばらつきを評価する.測定結果をシミュレーションモデルに反映し,素子ばらつきを考慮したシミュレーションを行うことで,実現可能なネットワーク規模や適応可能なタスクについて明らかにする.

報告書

(1件)
  • 2023 実施状況報告書
  • 研究成果

    (17件)

すべて 2024 2023 その他

すべて 国際共同研究 (1件) 雑誌論文 (2件) (うち査読あり 2件、 オープンアクセス 1件) 学会発表 (14件) (うち国際学会 10件、 招待講演 2件)

  • [国際共同研究] カタルーニャ工科大学(スペイン)

    • 関連する報告書
      2023 実施状況報告書
  • [雑誌論文] Numerical Study on Physical Reservoir Computing With Josephson Junctions2024

    • 著者名/発表者名
      Watanabe Kohki、Mizugaki Yoshinao、Moriya Satoshi、Yamamoto Hideaki、Yamashita Taro、Sato Shigeo
    • 雑誌名

      IEEE Transactions on Applied Superconductivity

      巻: 34 号: 3 ページ: 1-4

    • DOI

      10.1109/tasc.2024.3350576

    • 関連する報告書
      2023 実施状況報告書
    • 査読あり
  • [雑誌論文] Biological neurons act as generalization filters in reservoir computing2023

    • 著者名/発表者名
      T. Sumi, H. Yamamoto, Y. Katori, K. Ito, S. Moriya, T. Konno, S. Sato, A. Hirano-Iwata
    • 雑誌名

      Proc. Natl. Acad. Sci. U.S.A.

      巻: 120 号: 25 ページ: 1-10

    • DOI

      10.1073/pnas.2217008120

    • 関連する報告書
      2023 実施状況報告書
    • 査読あり / オープンアクセス
  • [学会発表] Analog circuit design of multiplicative spike-timing-dependent plasticity in 65-nm CMOS2024

    • 著者名/発表者名
      Satoshi Moriya, Yosuke Iida, Hideaki Yamamoto, Shigeo Sato
    • 学会等名
      The 12th RIEC International Symposium on Brain Functions and Brain Computer
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会
  • [学会発表] CMOS spiking neural networks for edge computing2024

    • 著者名/発表者名
      Shigeo Sato, Satoshi Moriya, Satoshi Ono, Hideaki Yamamoto, Yoshihiko Horio, Yasushi Yuminaka, Jordi Madrenas
    • 学会等名
      The 12th RIEC International Symposium on Brain Functions and Brain Computer
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会
  • [学会発表] Simplified hierarchical reservoir computing model for multi-step ahead time series prediction2024

    • 著者名/発表者名
      Wenkai Yu, Satoshi Moriya, Hideaki Yamamoto, Shigeo Sato
    • 学会等名
      The 12th RIEC International Symposium on Brain Functions and Brain Computer
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会
  • [学会発表] Mapping spiking neural applications on digital custom hardware for efficient real-time execution2024

    • 著者名/発表者名
      Jordi Madrenas, Bernardo Vallejo, Mireya Zapata, Satoshi Moriya, Shigeo Sato
    • 学会等名
      The 12th RIEC International Symposium on Brain Functions and Brain Computer
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会 / 招待講演
  • [学会発表] Reservoir computing system with ultra-low power analog CMOS spiking neural network LSIs2024

    • 著者名/発表者名
      Satoshi Ono, Satoshi Moriya, Hideaki Yamamoto, Yasushi Yuminaka, Yoshihiko Horio, Shigeo Sato
    • 学会等名
      The 12th RIEC International Symposium on Brain Functions and Brain Computer
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会
  • [学会発表] Designing modular neuronal networks with directional connections to enhance dynamical complexity2024

    • 著者名/発表者名
      Nobuaki Monma, Hideaki Yamamoto, Hakuba Murota, Satoshi Moriya, Naoya Fujiwara, Ayumi Hirano-Iwata, Shigeo Sato
    • 学会等名
      The 12th RIEC International Symposium on Brain Functions and Brain Computer
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会
  • [学会発表] アナログCMOSスパイキングニューラルネットワークLSIを用いた超低消費電力リザバー計算システムの実装と画像認識応用2024

    • 著者名/発表者名
      小野 哲史,守谷 哲,山本 英明,弓仲 康史,堀尾 喜彦,佐藤 茂雄
    • 学会等名
      電子情報通信学会 総合大会
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] 高閾値MOSFETを用いた超低電力アナログCMOSスパイキングニューロン回路の検討2024

    • 著者名/発表者名
      酒井 哲太,守谷 哲,山本 英明,佐藤 茂雄
    • 学会等名
      電子情報通信学会 総合大会
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] Analog hardware implementation of spiking neural networks for edge computing2023

    • 著者名/発表者名
      Satoshi Moriya, Hideaki Yamamoto, Shigeo Sato, Yasushi Yuminaka, Yoshihiko Horio, Jordi Madrenas
    • 学会等名
      The 2023 International Symposium on Nonlinear Theory and Its Applications
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会
  • [学会発表] Memory state evaluation of spatio-temporal contextual learning memory network based on output spike rate2023

    • 著者名/発表者名
      Takemori Orima, Takeru Tsuji, Yoshihiko Horio, Satoshi Moriya, Shigeo Sato
    • 学会等名
      The 2023 International Symposium on Nonlinear Theory and Its Applications
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会
  • [学会発表] Numerical study on reservoir computing with two-dimensionally connected Josephson junctions2023

    • 著者名/発表者名
      Kohki Watanabe, Yoshinao Mizugaki, Satoshi Moriya, Hideaki Yamamoto, Shigeo Sato, Taro Yamashita
    • 学会等名
      16th European Conference on Applied Superconductivity
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会
  • [学会発表] Analog CMOS Implementation of Neuromorphic Hardware2023

    • 著者名/発表者名
      Shigeo Sato, Satoshi Moriya, Satoshi Ono, Hideaki Yamamoto
    • 学会等名
      The 2023 International Meeting for Future of Electron Devices, Kansai
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会 / 招待講演
  • [学会発表] Multi-step ahead time series prediction based on hierarchical reservoir computing with multiple memory capacity2023

    • 著者名/発表者名
      Wenkai Yu, Satoshi Moriya, Hideaki Yamamoto, Shigeo Sato
    • 学会等名
      電子情報通信学会 ニューロコンピューティング研究会
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] アナログCMOSスパイキングニューラルネットワーク回路を用いた超低消費電力リザバー計算システムの設計2023

    • 著者名/発表者名
      小野 哲史,守谷 哲,山本 英明,弓仲 康史,堀尾 喜彦,佐藤 茂雄
    • 学会等名
      電子情報通信学会 ニューロコンピューティング研究会
    • 関連する報告書
      2023 実施状況報告書

URL: 

公開日: 2023-04-13   更新日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi