• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2022 Fiscal Year Annual Research Report

Construction of stochastic superconductor neural networks towards ultra-low-power machine learning

Research Project

Project/Area Number 22H00220
Research InstitutionNational Institute of Advanced Industrial Science and Technology

Principal Investigator

竹内 尚輝  国立研究開発法人産業技術総合研究所, エレクトロニクス・製造領域, 主任研究員 (00746472)

Co-Investigator(Kenkyū-buntansha) 吉川 信行  横浜国立大学, 先端科学高等研究院, 教授 (70202398)
陳 オリビア  東京都市大学, 情報工学部, 准教授 (70837856)
Project Period (FY) 2022-04-01 – 2027-03-31
Keywords磁束量子パラメトロン / 断熱回路 / 単一磁束量子 / 超伝導集積回路 / ニューロモルフィック
Outline of Annual Research Achievements

本年度は、確率的超伝導ニューラルネットワークを構成する要素回路の基礎検討を行った。【ニューロン回路】断熱磁束量子パラメトロン(AQFP)ベースの積和演算器およびシグモイド関数生成器により構成された超伝導ニューロン回路を提案し、数値解析により5 GHzの高速クロック周波数で動作することを示した。また、3層のニュラルネットワークを構成した際の消費エネルギーの見積もりを行い、10-100TOPS/Wの高いエネルギー効率で動作することを示した。なお、Stochastic computingの導入により、積和演算器はANDゲート等の基本素子により構成された。またシグモイド関数生成器は、AQFPと単一磁束量子(SFQ)回路を組み合わせることで、シンプルな回路構成でシグモイド関数を生成する。以上の設計指針により、低電力化なニューロン回路を実現した。【磁束量子メモリ】磁束保持ループとAQFP回路を組み合わせた確率的磁束量子メモリを提案し、数値解析による動作検証を行った。保持ループ中の磁束量子の数によりAQFPの出力信号の確率分布が制御され、所望のStochastic数を出力できることを確認した。また、バイアス抵抗によるジュール熱を排除するため、磁束バイアスにより動作する磁束保持ループを検討した。【ネットワーク構造の検討】ニューラルネットワークモデルから回路シミュレーションまでを繋ぐ、ヒエラルキー型のシミュレーション技術を検討した。また、システムの大規模化に向けて、超伝導ニューラルネットワークをタイル状に並べて集積度と演算性能を高めたアーキテクチャを検討した。【その他】本研究のコア技術であるAQFP回路のさらなる高機能化のため、低遅延クロック技術等を検討した。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

予定していた検討項目である、(1)数値計算によるニューロン回路の動作検証、(2)磁束量子メモリの設計、(3)AQFP回路に適したネットワークの検討は、いずれも順調に進展した。(1)に関しては、本研究チームの独自技術であるAQFP/SFQハイブリッド化技術を応用することで、極めてシンプルな回路構成でシグモイド関数を実装することができた。これにより、低電力なニューロン回路の実現に成功した。ただし、現状ではSFQ部分の消費電力がAQFP部分に比べて大きいため、今後はSFQ部分のさらなる低電力化を検討する。(2)に関しては、2つの方式の確率的磁束量子メモリを提案および検討した。1つは、AQFPの動的な(熱力学的に非平衡的な)確率分布を制御する方式であり、もう1つはAQFPの静的な(熱平衡的な)確率分布を制御する方式である。共に磁束量子の数に応じて出力確率分布を制御することができるが、前者の方式では確率分布の動作周波数依存性が高いことが分かった。これは動作実証の際に弊害となるため、今後は後者の方式を中心に検討する。(3)に関しては、システムの大規模化に向けてシミュレーション技術やアーキテクチャを検討した。今後は、ニューロン回路および確率的磁束量子メモリの仕様を反映し、システムレベルでのシミュレーションおよびアーキテクチャ検討を進める。

Strategy for Future Research Activity

今後は、これまでに提案した要素回路(ニューロン回路、磁束量子メモリ)の動作テストを行い、超伝導ニューラルネットワークの開発に必要な要素技術の確立を目指す。【ニューロン回路】これまでに、AQFPベースの積和演算器およびシグモイド関数生成器により構成された超伝導ニューロン回路を提案し、数値解析により動作検証を行った。今後は、ニオブ集積回路プロセスを用いて超伝導ニューロン回路を作製し、液体ヘリウム中で動作テストを行う。また、超伝導ニューロン回路のさらなる低電力化に向けて、SFQ部分のバイアス抵抗によるジュール熱を抑制した低電力シグモイド関数生成器の検討を行う。【磁束量子メモリ】これまでに、磁束保持ループとAQFP回路を組み合わせた確率的磁束量子メモリを提案し、数値解析による動作検証を行った。今後は、ニオブ集積回路プロセスにより作製された確率的磁束量子メモリの動作テストを行う。【クロスバースイッチ】超伝導ニューラルネットワークの要素回路が確立されつつあるため、計画を早めてクロスバースイッチの初期検討を行う。最もシンプルなAQFP電流信号をベースにしたクロスバースイッチを検討し、本回路方式の課題の洗い出しを行う。【ニューラルネットワーク構造】これまでに、ニューラルネットワークモデルから回路シミュレーションまでを繋ぐ、ヒエラルキー型のシミュレーション技術を検討した。今後は本技術を用いて、これまでに開発した要素回路により構成される超伝導ニューラルネットワークの性能評価を行う。

  • Research Products

    (13 results)

All 2023 2022

All Journal Article (3 results) (of which Peer Reviewed: 3 results,  Open Access: 2 results) Presentation (10 results) (of which Int'l Joint Research: 8 results)

  • [Journal Article] An Adiabatic Quantum-Flux-Parametron 8-bit Ripple Carry Adder Using Delay-Line Clocking2023

    • Author(s)
      Yamae Taiki、Takeuchi Naoki、Yoshikawa Nobuyuki
    • Journal Title

      IEEE Transactions on Applied Superconductivity

      Volume: 33 Pages: 1300704

    • DOI

      10.1109/TASC.2023.3239833

    • Peer Reviewed
  • [Journal Article] Low-Latency Adiabatic Quantum-Flux-Parametron Circuit Integrated With a Hybrid Serializer/Deserializer2022

    • Author(s)
      Hironaka Yuki、Yamae Taiki、Ayala Christopher L.、Yoshikawa Nobuyuki、Takeuchi Naoki
    • Journal Title

      IEEE Access

      Volume: 10 Pages: 133584~133590

    • DOI

      10.1109/ACCESS.2022.3230447

    • Peer Reviewed / Open Access
  • [Journal Article] Scalable true random number generator using adiabatic superconductor logic2022

    • Author(s)
      Luo Wenhui、Chen Olivia、Yoshikawa Nobuyuki、Takeuchi Naoki
    • Journal Title

      Scientific Reports

      Volume: 12 Pages: 1~10

    • DOI

      10.1038/s41598-022-24230-5

    • Peer Reviewed / Open Access
  • [Presentation] Demonstration of a Superconducting Stochastic Memory for Stochastic Computing Systems2023

    • Author(s)
      W. Luo, N. Takeuchi, O. Chen, and N. Yoshikawa
    • Organizer
      11th East Asia Symposium on Superconductive Electronics (EASSE 2023)
    • Int'l Joint Research
  • [Presentation] 熱平衡型超伝導ストカスティックメモリの提案2023

    • Author(s)
      羅 文輝, 竹内 尚輝, 陳 オリビア, 吉川 信行
    • Organizer
      2023年電子情報通信学会総合大会
  • [Presentation] A sigmoid function generator using stochastic computing-based adiabatic quantum-flux-parametron logic2022

    • Author(s)
      W. Luo, N. Takeuchi, O. Chen, and N. Yoshikawa
    • Organizer
      Applied Superconductivity Conference 2022 (ASC 2022)
    • Int'l Joint Research
  • [Presentation] Design and evaluation of a self-resetting RSFQ/AQFP interface2022

    • Author(s)
      M. Naruse, N. Takeuchi, and N. Yoshikawa
    • Organizer
      Applied Superconductivity Conference 2022 (ASC 2022)
    • Int'l Joint Research
  • [Presentation] An adiabatic quantum-flux-parametron 8-bit ripple carry adder using delay-line clocking2022

    • Author(s)
      T. Yamae, N. Takeuchi, and N. Yoshikawa
    • Organizer
      Applied Superconductivity Conference 2022 (ASC 2022)
    • Int'l Joint Research
  • [Presentation] Compact RSFQ/AQFP Interface with a Self-Resetting Storage Loop2022

    • Author(s)
      M. Naruse, N. Takeuchi, and N. Yoshikawa
    • Organizer
      15th Superconducting SFQ VLSI Workshop (SSV 2022)
    • Int'l Joint Research
  • [Presentation] Sigmoid Function Generator Based on Stochastic Computing Using Superconducting Circuits2022

    • Author(s)
      W. Luo, N. Takeuchi, O. Chen, and N. Yoshikawa
    • Organizer
      15th Superconducting SFQ VLSI Workshop (SSV 2022)
    • Int'l Joint Research
  • [Presentation] 磁束ストレージループを用いたストカスティックメモリの動作実証2022

    • Author(s)
      羅 文輝, 竹内 尚輝, 陳 オリビア, 吉川 信行
    • Organizer
      第83回応用物理学会秋季学術講演会
  • [Presentation] Non-Linear Function Generator Using Stochastic Superconductive Circuits2022

    • Author(s)
      O. Chen, R. Zhang, W. Luo, N. Takeuchi, and N. Yoshikawa
    • Organizer
      Applied Superconductivity Conference 2022 (ASC 2022)
    • Int'l Joint Research
  • [Presentation] Design of Arithmetic Function Generator Using Adiabatic Quantum-Flux-Parametron Technology2022

    • Author(s)
      O. Chen, R. Zhang, W. Luo, N. Takeuchi, and N. Yoshikawa
    • Organizer
      15th Superconducting SFQ VLSI Workshop (SSV 2022)
    • Int'l Joint Research

URL: 

Published: 2023-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi