• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2022 Fiscal Year Research-status Report

Hardware that has itself: Realization of dynamical proto-self for brain-type autonomous hardware.

Research Project

Project/Area Number 21K18303
Research InstitutionTohoku University

Principal Investigator

堀尾 喜彦  東北大学, 電気通信研究所, 教授 (60199544)

Project Period (FY) 2021-07-09 – 2025-03-31
Keywords自己 / 脳型ハードウェアシステム / 高次元複雑ダイナミクス / リザバー計算 / 脳幹ネットワーク / 意識・無意識 / 時空間学習記憶ネットワーク
Outline of Annual Research Achievements

昨年度カオスニューラルネットワークリザバー(CNNR)回路を3次元集積回路化したプロトタイプチップを作製したが、コロナ渦の影響による半導体不足により、本年度予定していたTSMC 90 nm CMOSプロセスでの改良版試作は見送らざるをえなかった。そこで、新たにカオス応答を示す2変数スパイキングニューロン回路を開発し、レガシープロセスであるROHM 180 nm CMOSプロセスにより実装した。試作したチップは製造が終了して年度末に納品されたため、現在特性の測定を行っている。
一方、スピントロニクスデバイスについては、提供元のデバイス開発が大幅に遅れているため、回路試作の代わりとして、スピントロニクスニューロンおよびスピントロニクスシナプスデバイスの数理モデルを、熱ダイナミクスを用いて作成し、その有効性をCOMSOLシミュレータにより確認した。この成果により、スピントロニクスデバイスとCMOSデバイスを組み合わせた集積回路の設計を可能とした。
さらに、当初予定にはなった発展課題として、CNNRのダイナミクスを学習により外部信号に適応するように調整する手法としてFORCE学習を応用した方法を提案し、異なる性質のカオスダイナミクスを持つ様々なCNNRに対して提案手法の有効性を確認した。
これに加え、新たに時空間列コンテキスト学習記憶ネットワーク(STCLMN)による、時空間列が持つコンテキストの僅かな差異の分離と類似コンテキストの統合とのバランスを調整することにより、STCLMNを原自己に必要な要素ネットワークとして応用することを検討した。そのため、塚田らが提案した差分方程式モデルを微分方程式モデルとして拡張し、連続時間学習スパイキングニューラルネットワークとして記述した。さらに、提案モデルのアナログ/デジタルハイブリッドハードウェアLSIへの具体的な実装手法を提案した。

Current Status of Research Progress
Current Status of Research Progress

1: Research has progressed more than it was originally planned.

Reason

実施計画によれば、本年度は、要素ネットワークのTSMC 90 nm CMOSプロセスによる試作、および、東北大学電気通信研究所附属ナノ・スピン実験施設の試作サービスの利用によるスピントロニクスデバイスを用いた試作を行う予定であった。
CMOS集積回路によるカオスニューラルネットワークリザバー(CNNR)回路については、既に前年度に3次元LSIを開発済みであるが、コロナ渦の影響による半導体不足により追加の試作は見送らざるをえなかった。そこで、新たにカオス応答を示す2変数スパイキングニューロン回路を開発し、レガシープロセスであるROHM 180 nm CMOSプロセスにより実装した。
一方、スピントロニクスデバイスについては、提供元のデバイス開発が大幅に遅れているため、試作の代わりに、熱ダイナミクスによるスピントロニクスニューロンおよびスピントロニクスシナプスデバイスの数理モデルと回路モデルを提案した。
さらに、発展課題として、原自己の実装に有用と考えられる、FORCE学習を応用したCNNRのダイナミクスを学習により制御する手法を提案し、その有効性をシミュレーション実験により確認した。
これに加え、新たに時空間列コンテキスト学習記憶ネットワーク(STCLMN)によるパターン分離と統合の相反する特性を原自己の実現に向けて応用するため、新しく連続時間スパイキングSTCLMNモデルとそのアナログ/デジタルハイブリッドハードウェアLSIへの具体的な実装手法を提案した。
以上のように、コロナ渦の影響などにより当初計画の軌道修正を行ったが、代替課題の実行に加え新たな枠組みの提案も行っており、研究は当初計画以上に進展している。

Strategy for Future Research Activity

今年度新たに提案したスパイキング時空間列コンテキスト学習記憶ネットワーク(STCLMN)や、FORCE学習によるカオスニューラルネットワークリザバー(CNNR)のダイナミクスの制御手法をさらに発展させることに加え、原自己の基本となるネットワーク要素としてのCNNRの改良と集積回路実装を行い、原自己のプロトタイプハードウェアシステムを構築する。
R5年度は、三端子スピントロニクスデバイスが利用可能となる予定であるため、その数理モデルをR4年度に提案した二端子デバイスのモデルを基に完成させると共に、プロトタイプデバイスを入手して基本的な実験を行う。CMOS集積回路については、カオス応答を示す2変数スパイキングニューラルネットワークをTSMC 90 nm または 65 nmプロセスにより実装する。さらに、昨年度提案したスパイキングSTCLMNについても、そのプロトタイプネットワークシステムを個別部品を利用して実装し、提案したハイブリッド回路による実装手法の有効性を示す。
最終年度であるR6年度においては、これまで開発した技術を統合することにより、プロトタイプ原自己システムを集積回路システムとして実装する。この際、当初予定のCNNRを基盤とするシステムに加え、FORCE学習による制御や、スパイキングSTCLMNをベースとしたシステムについても検討する。

Causes of Carryover

コロナ渦による半導体不足の余波により先端プロセスによる集積回路試作が出来ず、レガシープロセスによる試作に変更した。さらに、スピントロニクスデバイスの供給元である東北大学電気通信研究所附属ナノ・スピン実験施設の試作サービスでのデバイス開発の遅れにより、スピントロニクスデバイスによる試作を延期した。また、コロナ渦により、国外で開催された国際会議での発表を見送ったため、国外旅費を使用しなかった。これらの理由により、次年度使用が生じた。
コロナ渦も収束してきたため、今年度は、昨年度見送った先端プロセスによるLSI試作やスピントロニクスデバイスを用いた実験を再開すると共に、国外開催の国際会議にも積極的に参加して成果を発表する予定であり、これらの費用として未使用分を使用する予定である。

  • Research Products

    (31 results)

All 2023 2022

All Journal Article (3 results) (of which Peer Reviewed: 3 results,  Open Access: 2 results) Presentation (28 results) (of which Int'l Joint Research: 4 results,  Invited: 8 results)

  • [Journal Article] Secret-Key Exchange Through Synchronization of Randomized Chaotic Oscillators Aided by Logistic Hash Function2022

    • Author(s)
      Onuki Koshiro、Cho Kenichiro、Horio Yoshihiko、Miyano Takaya
    • Journal Title

      IEEE Transactions on Circuits and Systems I: Regular Papers

      Volume: 69 Pages: 1655~1667

    • DOI

      10.1109/TCSI.2022.3140762

    • Peer Reviewed
  • [Journal Article] Preliminary experimental results of a stacked 3D cyclic chaotic neural network reservoir integrated circuit2022

    • Author(s)
      Orima Takemori、Horio Yoshihiko
    • Journal Title

      Nonlinear Theory and Its Applications, IEICE

      Volume: 13 Pages: 306~311

    • DOI

      10.1587/nolta.13.306

    • Peer Reviewed / Open Access
  • [Journal Article] Designing the human-centric IoT society: Cooperative industry-academic strategies for creative future connection2022

    • Author(s)
      Horio Yoshihiko、Naoe Kiyotaka、Sato Shigeo、Yamanouchi Yasunori、Takaura Yasunari、Yamaguchi Mitsuyuki、Morishima Masato、Hirano-Iwata Ayumi
    • Journal Title

      Nonlinear Theory and Its Applications, IEICE

      Volume: 13 Pages: 197~202

    • DOI

      10.1587/nolta.13.197

    • Peer Reviewed / Open Access
  • [Presentation] Towards hardware implementation of hippocampal spatiotemporal learning memory network model2023

    • Author(s)
      Takemori Orima; Yoshihiko Horio; Takeru Tsuji
    • Organizer
      The 11th RIEC International Symposium on Brain Functions and Brain Computer
    • Int'l Joint Research / Invited
  • [Presentation] 高次元複雑ダイナミクスとブレインモルフィックコンピューティング2023

    • Author(s)
      堀尾喜彦
    • Organizer
      第70回日本応用物理学会春季講演会
    • Invited
  • [Presentation] 時間履歴を持つ出力ニューロンを用いたニューラルネットワークリザバー2023

    • Author(s)
      藤井香之介; 堀尾喜彦; 織間健守; 辻 孟; 石井 豪
    • Organizer
      電子情報通信学会総合大会
  • [Presentation] 時空間学習則のハードウェア化に向けた回路精度の検討2023

    • Author(s)
      辻 孟; 織間健守; 堀尾喜彦
    • Organizer
      電子情報通信学会総合大会
  • [Presentation] 様々な回路実装方式に対応可能な時空間学習則の汎用定式化2023

    • Author(s)
      織間健守; 辻 孟; 堀尾喜彦
    • Organizer
      電子情報通信学会総合大会
  • [Presentation] Application of FORCE learning to chaotic neural network reservoir2023

    • Author(s)
      Khunhour Morm; Yoshihiko Horio; Takemori Orima
    • Organizer
      電子情報通信学会総合大会
  • [Presentation] ブレインモルフィックコンピューティングハードウェア2023

    • Author(s)
      堀尾喜彦
    • Organizer
      マテリアル知能による革新的知覚演算システム会議
    • Invited
  • [Presentation] Ultra-low power analog CMOS implementation of spiking neural networks for reservoir computing applications2022

    • Author(s)
      Satoshi Moriya; Hideaki Yamamoto; Shigeo Sato; Yasushi Yuminaka; Yoshihiko Horio; Jordi Madrenas
    • Organizer
      International Symposium on Nonlinear Theory and Its Applications
    • Int'l Joint Research
  • [Presentation] Tunnel conductance modeling of spintronics devices based on device temperature dynamics2022

    • Author(s)
      Yushi Kikuchi; Yoshihiko Horio; Shunsuke Fukami; Hiroyasu Ando
    • Organizer
      International Symposium on Nonlinear Theory and Its Applications
    • Int'l Joint Research
  • [Presentation] A fully analog CMOS implementation of a two-variable spiking neuron in the subthreshold region and its network operation2022

    • Author(s)
      Satoshi Moriya; Hideaki Yamamoto; Shigeo Sato; Yasushi Yuminaka; Yoshihiko Horio; Jordi Madrenas
    • Organizer
      International Joint Conference on Neural Networks
    • Int'l Joint Research
  • [Presentation] ブレインモルフィックコンピューティングと身体性2022

    • Author(s)
      堀尾喜彦
    • Organizer
      東北大学 電気通信研究所 共同プロジェクト研究・非線形ワークショップ合同研究会
  • [Presentation] リザバー層内ニューロンの特性が時系列予測性能に与える影響の調査2022

    • Author(s)
      石井 豪; 堀尾喜彦
    • Organizer
      東北大学 電気通信研究所 共同プロジェクト研究・非線形ワークショップ合同研究会
  • [Presentation] 蝸牛無反射伝送線路モデルの設計手法確立とエッジ向け音声認識システムへの応用2022

    • Author(s)
      織間健守; 堀尾喜彦
    • Organizer
      東北大学 電気通信研究所 共同プロジェクト研究・非線形ワークショップ合同研究会
  • [Presentation] MATLABによる情報処理容量の実装2022

    • Author(s)
      辻 孟; 堀尾喜彦
    • Organizer
      東北大学 電気通信研究所 共同プロジェクト研究・非線形ワークショップ合同研究会
  • [Presentation] スピントロニクスデバイスのデバイス温度モデルに関する研究2022

    • Author(s)
      菊地優志; 堀尾喜彦
    • Organizer
      東北大学 電気通信研究所 共同プロジェクト研究・非線形ワークショップ合同研究会
  • [Presentation] スパイキングニューラルネットワークのアナログ回路実装と時系列情報処理への応用2022

    • Author(s)
      守谷 哲; 山本英明; 弓仲康史; 佐藤茂雄; 堀尾喜彦
    • Organizer
      電子情報通信学会技術報告
  • [Presentation] カオスニューラルネットワークリザバー:ダイナミクス、実装、応用2022

    • Author(s)
      堀尾喜彦
    • Organizer
      第83回日本応用物理学会秋季講演会
    • Invited
  • [Presentation] 温度ダイナミクスに基づくスピントロニクス素子のトンネルコンダクタンスモデル2022

    • Author(s)
      菊地優志; 堀尾喜彦; 深見俊輔; 安東弘泰
    • Organizer
      第83回日本応用物理学会秋季講演会
  • [Presentation] ニューラルネットワーク回路実装に向けたスピントロニクスデバイスのベースモデル構築2022

    • Author(s)
      菊地優志; 堀尾喜彦
    • Organizer
      非線形ワークショップ 2022 夏の大会
  • [Presentation] 時系列予測におけるリザバー層ニューロンの性能調査2022

    • Author(s)
      石井 豪; 堀尾喜彦
    • Organizer
      非線形ワークショップ 2022 夏の大会
  • [Presentation] 蝸牛無反射伝送線路モデルの設計手法確立と エッジ向け音声認識システムへの応用2022

    • Author(s)
      織間健守; 堀尾喜彦
    • Organizer
      非線形ワークショップ 2022 夏の大会
  • [Presentation] ザバーニューラルネットワークのためのオンライン学習則における学習率更新法の改良2022

    • Author(s)
      石井 豪; 堀尾喜彦
    • Organizer
      電子情報通信学会NOLTAソサイエティ大会
  • [Presentation] 日本語と英語の離散単語認識におけるカオスニューラルネットワークリザバーパラメータの影響2022

    • Author(s)
      辻 孟; 堀尾喜彦
    • Organizer
      電子情報通信学会NOLTAソサイエティ大会
  • [Presentation] カオスニューラルネットワークリザバーのエコーステートプロパティに関する一考察2022

    • Author(s)
      織間健守; 堀尾喜彦
    • Organizer
      電子情報通信学会NOLTAソサイエティ大会
  • [Presentation] Brainmorphic computing paradigm and hardware2022

    • Author(s)
      Yoshihiko Horio
    • Organizer
      IEICE, English Webinar
    • Invited
  • [Presentation] Brain computational paradigm and its hardware implementation: Brainmorphic computation2022

    • Author(s)
      Yoshihiko Horio
    • Organizer
      Assistive Autonomous Robotics Seminar
    • Invited
  • [Presentation] ブレインモルフィックコンピューティングシステム および次世代エッジAIの基礎とその実現技術2022

    • Author(s)
      堀尾喜彦
    • Organizer
      日本テクノセンターセミナー
    • Invited
  • [Presentation] 「自分」を持つハードウェアに向けて2022

    • Author(s)
      堀尾喜彦
    • Organizer
      電気学会 第8回非線形電子回路の高度設計技術調査専門委員会
    • Invited

URL: 

Published: 2023-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi