• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2023 Fiscal Year Research-status Report

不揮発性メモリと学習機構を有するスパイキングニューラルネットワークシステムの構築

Research Project

Project/Area Number 23K16958
Research InstitutionTohoku University

Principal Investigator

守谷 哲  東北大学, 電気通信研究所, 特任助教 (10898117)

Project Period (FY) 2023-04-01 – 2026-03-31
Keywords神経回路モデル / 脳型計算 / 学習 / アナログ回路 / 不揮発性メモリ
Outline of Annual Research Achievements

神経回路の動作を模倣した脳型計算機において課題となっている消費電力と回路面積の増大の問題を解決し,エッジデバイスに必須である低消費電力性・省面積性を兼ね備えたハードウェア実装技術を確立するために,不揮発性を有したメモリデバイスのスパイキングニューラルネットワーク(SNN)への応用,およびメモリデバイスの特性を考慮した適切な学習機構の構築を行っている.SNNのニューロン間の結合をアナログメモリデバイスにより実装した場合,シナプス乗算がメモリで行われるため,回路面積を削減できることが期待できる.これまでに設計したアナログ的に動作するスパイキングニューロン回路に加え,不揮発性メモリデバイスであるSOT-MRAMの動作をモデリングし,それらを結合した際の動作をSPICEシミュレーションより調べた.作成したモデルが所望のシナプス荷重値を記憶し,スパイクを電流に変換できることを確かめた.更に,シナプス荷重値の更新量を電圧として与えることにより,SOT-MRAMの抵抗を動的に変えるための回路構成についても検討した.これは,神経スパイクのタイミングに依存して細胞間の結合重みが変化するスパイクタイミング依存可塑性(STDP)などのオンライン学習則を用いる際に必要な機能である.また,以前に試作したSTDPの機能を実現するアナログLSIを測定し,出力電圧が神経スパイクの時間差に対して指数関数的に変化することを実機測定から確かめた.更に,現在のシナプス荷重値によってシナプス荷重値の変化量が変わる荷重値依存性の効果や,重要度が低い細胞間の結合を減弱させる効果についても実測より確認した.

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

不揮発性メモリデバイスであるSOT-MRAMの動作をモデリングし,スパイキングニューロン回路と結合した際の動作をSPICEシミュレーションから調べており,当初の研究計画で示していた通りに研究が進捗している.またSTDP則を実現するアナログ回路の実測結果より,この回路から出力された電圧値を元にメモリデバイスの荷重値をオンラインで更新できる可能性が示された.これは当初の研究計画には示していなかった成果であり,より効率的に学習を実現しうる専用ハードウェアの開発に繋がる.現在はシミュレーションの結果を踏まえ,不揮発性メモリを制御し,情報処理に応用するための回路設計を進めている.以上を踏まえ,進捗状況を2.概ね順調に進捗しているとした.

Strategy for Future Research Activity

当初の研究計画通り,計算機上に構築したスパイキングニューロン回路・SOT-MRAMを用いてネットワークを構成し,時系列情報処理に応用する.情報処理の結果から提案アーキテクチャの可拡張性や信頼性について評価する.更にSOT-MRAMの制御用回路をプリント基板で設計し,素子の基本的なメモリ動作や動特性,ばらつきを評価する.測定結果をシミュレーションモデルに反映し,素子ばらつきを考慮したシミュレーションを行うことで,実現可能なネットワーク規模や適応可能なタスクについて明らかにする.

Causes of Carryover

電子部品用に見積もっていた物品費について,今年度の電子部品の購入金額が想定より少額で済んだため,次年度使用額が生じた.当該助成金は,翌年度分と合わせ電子部品を購入するために使用する計画である.

  • Research Products

    (17 results)

All 2024 2023 Other

All Int'l Joint Research (1 results) Journal Article (2 results) (of which Peer Reviewed: 2 results,  Open Access: 1 results) Presentation (14 results) (of which Int'l Joint Research: 10 results,  Invited: 2 results)

  • [Int'l Joint Research] カタルーニャ工科大学(スペイン)

    • Country Name
      SPAIN
    • Counterpart Institution
      カタルーニャ工科大学
  • [Journal Article] Numerical Study on Physical Reservoir Computing With Josephson Junctions2024

    • Author(s)
      Watanabe Kohki、Mizugaki Yoshinao、Moriya Satoshi、Yamamoto Hideaki、Yamashita Taro、Sato Shigeo
    • Journal Title

      IEEE Transactions on Applied Superconductivity

      Volume: 34 Pages: 1~4

    • DOI

      10.1109/TASC.2024.3350576

    • Peer Reviewed
  • [Journal Article] Biological neurons act as generalization filters in reservoir computing2023

    • Author(s)
      Sumi Takuma、Yamamoto Hideaki、Katori Yuichi、Ito Koki、Moriya Satoshi、Konno Tomohiro、Sato Shigeo、Hirano-Iwata Ayumi
    • Journal Title

      Proceedings of the National Academy of Sciences

      Volume: 120 Pages: e2217008120

    • DOI

      10.1073/pnas.2217008120

    • Peer Reviewed / Open Access
  • [Presentation] Analog circuit design of multiplicative spike-timing-dependent plasticity in 65-nm CMOS2024

    • Author(s)
      Satoshi Moriya, Yosuke Iida, Hideaki Yamamoto, Shigeo Sato
    • Organizer
      The 12th RIEC International Symposium on Brain Functions and Brain Computer
    • Int'l Joint Research
  • [Presentation] CMOS spiking neural networks for edge computing2024

    • Author(s)
      Shigeo Sato, Satoshi Moriya, Satoshi Ono, Hideaki Yamamoto, Yoshihiko Horio, Yasushi Yuminaka, Jordi Madrenas
    • Organizer
      The 12th RIEC International Symposium on Brain Functions and Brain Computer
    • Int'l Joint Research
  • [Presentation] Simplified hierarchical reservoir computing model for multi-step ahead time series prediction2024

    • Author(s)
      Wenkai Yu, Satoshi Moriya, Hideaki Yamamoto, Shigeo Sato
    • Organizer
      The 12th RIEC International Symposium on Brain Functions and Brain Computer
    • Int'l Joint Research
  • [Presentation] Mapping spiking neural applications on digital custom hardware for efficient real-time execution2024

    • Author(s)
      Jordi Madrenas, Bernardo Vallejo, Mireya Zapata, Satoshi Moriya, Shigeo Sato
    • Organizer
      The 12th RIEC International Symposium on Brain Functions and Brain Computer
    • Int'l Joint Research / Invited
  • [Presentation] Reservoir computing system with ultra-low power analog CMOS spiking neural network LSIs2024

    • Author(s)
      Satoshi Ono, Satoshi Moriya, Hideaki Yamamoto, Yasushi Yuminaka, Yoshihiko Horio, Shigeo Sato
    • Organizer
      The 12th RIEC International Symposium on Brain Functions and Brain Computer
    • Int'l Joint Research
  • [Presentation] Designing modular neuronal networks with directional connections to enhance dynamical complexity2024

    • Author(s)
      Nobuaki Monma, Hideaki Yamamoto, Hakuba Murota, Satoshi Moriya, Naoya Fujiwara, Ayumi Hirano-Iwata, Shigeo Sato
    • Organizer
      The 12th RIEC International Symposium on Brain Functions and Brain Computer
    • Int'l Joint Research
  • [Presentation] アナログCMOSスパイキングニューラルネットワークLSIを用いた超低消費電力リザバー計算システムの実装と画像認識応用2024

    • Author(s)
      小野 哲史,守谷 哲,山本 英明,弓仲 康史,堀尾 喜彦,佐藤 茂雄
    • Organizer
      電子情報通信学会 総合大会
  • [Presentation] 高閾値MOSFETを用いた超低電力アナログCMOSスパイキングニューロン回路の検討2024

    • Author(s)
      酒井 哲太,守谷 哲,山本 英明,佐藤 茂雄
    • Organizer
      電子情報通信学会 総合大会
  • [Presentation] Analog hardware implementation of spiking neural networks for edge computing2023

    • Author(s)
      Satoshi Moriya, Hideaki Yamamoto, Shigeo Sato, Yasushi Yuminaka, Yoshihiko Horio, Jordi Madrenas
    • Organizer
      The 2023 International Symposium on Nonlinear Theory and Its Applications
    • Int'l Joint Research
  • [Presentation] Memory state evaluation of spatio-temporal contextual learning memory network based on output spike rate2023

    • Author(s)
      Takemori Orima, Takeru Tsuji, Yoshihiko Horio, Satoshi Moriya, Shigeo Sato
    • Organizer
      The 2023 International Symposium on Nonlinear Theory and Its Applications
    • Int'l Joint Research
  • [Presentation] Numerical study on reservoir computing with two-dimensionally connected Josephson junctions2023

    • Author(s)
      Kohki Watanabe, Yoshinao Mizugaki, Satoshi Moriya, Hideaki Yamamoto, Shigeo Sato, Taro Yamashita
    • Organizer
      16th European Conference on Applied Superconductivity
    • Int'l Joint Research
  • [Presentation] Analog CMOS Implementation of Neuromorphic Hardware2023

    • Author(s)
      Shigeo Sato, Satoshi Moriya, Satoshi Ono, Hideaki Yamamoto
    • Organizer
      The 2023 International Meeting for Future of Electron Devices, Kansai
    • Int'l Joint Research / Invited
  • [Presentation] Multi-step ahead time series prediction based on hierarchical reservoir computing with multiple memory capacity2023

    • Author(s)
      Wenkai Yu, Satoshi Moriya, Hideaki Yamamoto, Shigeo Sato
    • Organizer
      電子情報通信学会 ニューロコンピューティング研究会
  • [Presentation] アナログCMOSスパイキングニューラルネットワーク回路を用いた超低消費電力リザバー計算システムの設計2023

    • Author(s)
      小野 哲史,守谷 哲,山本 英明,弓仲 康史,堀尾 喜彦,佐藤 茂雄
    • Organizer
      電子情報通信学会 ニューロコンピューティング研究会

URL: 

Published: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi