• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

超低電力機械学習に向けた確率的超伝導ニューラルネットワークの創出

研究課題

研究課題/領域番号 22H00220
研究種目

基盤研究(A)

配分区分補助金
応募区分一般
審査区分 中区分21:電気電子工学およびその関連分野
研究機関国立研究開発法人産業技術総合研究所

研究代表者

竹内 尚輝  国立研究開発法人産業技術総合研究所, 量子・AI融合技術ビジネス開発グローバル研究センター, 主任研究員 (00746472)

研究分担者 吉川 信行  横浜国立大学, 先端科学高等研究院, 教授 (70202398)
陳 オリビア  九州大学, システム情報科学研究院, 准教授 (70837856)
研究期間 (年度) 2022-04-01 – 2027-03-31
研究課題ステータス 交付 (2024年度)
配分額 *注記
41,470千円 (直接経費: 31,900千円、間接経費: 9,570千円)
2025年度: 5,200千円 (直接経費: 4,000千円、間接経費: 1,200千円)
2024年度: 20,020千円 (直接経費: 15,400千円、間接経費: 4,620千円)
2023年度: 5,200千円 (直接経費: 4,000千円、間接経費: 1,200千円)
2022年度: 5,850千円 (直接経費: 4,500千円、間接経費: 1,350千円)
キーワードAQFP / 磁束量子 / クロスバーアレイ / 超伝導集積回路 / ストカスティックコンピューティング / 低電力 / 確率的動作 / 磁束量子パラメトロン / 断熱回路 / 単一磁束量子 / ニューロモルフィック / 確率動作 / ニューラルネットワーク / 機械学習
研究開始時の研究の概要

人工知能が中核をなすSociety 5.0の実現には、従来コンピュータに比べて革新的にエネルギー効率の優れた機械学習用ハードウェアの開発が緊要である。そこで本研究は、低エネルギー超伝導集積回路技術をベースに、超伝導ニューロン回路、不揮発性超伝導メモリ、In-memory計算アーキテクチャ、確率的演算手法を融合させて、超低電力ニューラルネットワーク回路の基盤技術の創出を目指す。

研究実績の概要

本年度は、超伝導ニューラルネットワークを構成する要素回路(ニューロン回路、磁束量子メモリ)の動作テスト行い、要素技術の確立を目指した。【ニューロン回路】断熱磁束量子パラメトロン(AQFP)を用いてニューロン回路を設計及び作製し、低温動作実証を行った。以前のニューロン回路では、要素回路であるシグモイド関数生成器を構成する単一磁束量子(SFQ)回路におけるジュール熱(バイアス抵抗に起因)が比較的大きかった。このため、バイアス抵抗を不要とするdual-rail動作モードをSFQ回路に導入し、シグモイド関数生成器の低電力化、ひいてはゼロ静的電力ニューロン回路の実現に成功した。本回路を液体ヘリウム中で評価し、動作実証に成功した。【磁束量子メモリ】昨年度提案した2つのタイプの確率的磁束量子メモリ(非平衡型、平衡型)を作製し、低温動作実証を行った。いずれのタイプにおいても、蓄えられた磁束量子の数に応じて、読み出し値の確率分布を制御できることを示した。特に平衡型のメモリでは、数値計算結果に近い確率分布が得られることを確認した。【クロスバースイッチ】AQFP回路の電流信号を用いたクロスバースイッチの初期検討を行った。本回路方式では、共通負荷線に複数のAQFP素子が結合することで、積和演算を容易にする。【ニューラルネットワーク構造】クロスバースイッチを用いた超伝導ニューラルネットワークの性能評価技術を開発した。アプリケーション、デバイス、及びアーキテクチャの観点からシミュレーションに必要なパラメータを抽出し、消費エネルギー、遅延時間、面積等を包括的に見積もることが可能となった。【その他】本研究のコア技術であるAQFP回路の高機能化のため、信号変換回路等を検討した。また、今後システム全体の消費エネルギーを議論するため、基本的なAQFP回路の消費エネルギーについて検討した。

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

予定していた検討項目である、(1)ニューロン回路の低温動作実証、(2)磁束量子メモリの低温動作実証、(3)クロスバースイッチの初期検討、(4)超伝導ニューラルネットワークの性能評価は、いずれも順調に進展した。(1)に関しては、Dual-railモードで動作するシグモイド関数生成器及びこれを用いたゼロ静的電力ニューロン回路を実現し、低温動作実証に成功した。なお以前のニューロン回路に比べて、消費電力(5 GHz動作時)は~2 uWから~9 nWまで劇的に低減した(シグモイド関数部分によって消費電力が支配的に決まると仮定)。(2)に関しては、2つのタイプ(平衡型、非平衡型)の確率的磁束量子メモリを作製し、両タイプの低温動作実証に成功した。また、多素子化に向けて両タイプを比較検討し、平衡型は確率分布の制御が容易であり、多素子化に適することが分かった。このため今後は、平衡型のメモリを用いて研究を進める。(3)に関しては、AQFPベースのクロスバースイッチの初期検討を行った。数値計算により、シンプルな構成で積和演算を実行できる可能性を示した。ただし、クロスバースイッチが大きくなるにつれて、各AQFP素子から取り出せる電流信号が小さくなり、大規模化が困難であることが分かった。今後は、より大規模化に適したクロスバースイッチ構造を検討する。(4)に関しては、クロスバースイッチを用いた超伝導ニューラルネットワークの性能評価技術を開発した。これにより、消費エネルギーや遅延時間等の複数の指標から最適なネットワーク構造を議論することが可能となった。

今後の研究の推進方策

要素回路(ニューロン回路、磁束量子メモリ等)の開発が順調に進んだため、今後は本研究のコアとなるクロスバースイッチの検討を中心に進める。また並行して、これまでに開発した要素回路の高速動作テスト、及びネットワーク性能評価技術の改善を行う。【クロスバースイッチ】上述の通り、今年度検討したAQFP回路ベースのクロスバースイッチは、電流信号を用いるため、駆動力が小さく大規模化に適さない。そこで今後は、よりスケーラブルな回路構成を目指して、SFQ回路技術をクロスバースイッチに導入する。SFQ回路は、電圧パルスを用いた長距離信号伝送が可能であるため、大規模なクロスバースイッチにおいても演算及び通信が可能になると考えられる。【要素回路の高速テスト】今年度までに動作実証を行った要素回路(乱数生成器やニューロン回路)は、測定系の簡易化のため、低周波数で動作実証を行った。しかしながら、実際の計算システムでは、各要素回路が~100 MHzから~GHzの高周波数で動作する必要がある。そこで今後は、これまでに開発した要素回路の高速動作テストに取り組む。なお測定系の簡易化のため、周波数スペクトルから等価的に要素回路の出力値を見積もる方法を検討する。【ネットワーク性能評価技術の改善】本年度開発したネットワーク評価技術により、クロスバースイッチ構造の超伝導ニューラルネットワークの性能評価が可能になった。しかしながら、現段階では、本研究で導入予定の確率的演算手法に対応していない。そこで今後は、確率的演算手法に対応したネットワーク性能評価技術の開発を進める。

報告書

(3件)
  • 2023 実績報告書
  • 2022 審査結果の所見   実績報告書
  • 研究成果

    (21件)

すべて 2024 2023 2022

すべて 雑誌論文 (6件) (うち国際共著 1件、 査読あり 6件、 オープンアクセス 2件) 学会発表 (15件) (うち国際学会 10件、 招待講演 1件)

  • [雑誌論文] Minimum energy dissipation required for information processing using adiabatic quantum-flux-parametron circuits2024

    • 著者名/発表者名
      Yamae Taiki、Takeuchi Naoki、Yoshikawa Nobuyuki
    • 雑誌名

      Journal of Applied Physics

      巻: 135 号: 6 ページ: 063902-063902

    • DOI

      10.1063/5.0187756

    • 関連する報告書
      2023 実績報告書
    • 査読あり
  • [雑誌論文] Sigmoid function generator using stochastic adiabatic superconductor logic2023

    • 著者名/発表者名
      Luo Wenhui、Chen Olivia、Yoshikawa Nobuyuki、Takeuchi Naoki
    • 雑誌名

      Applied Physics Letters

      巻: 122 号: 24 ページ: 242602-242602

    • DOI

      10.1063/5.0154712

    • 関連する報告書
      2023 実績報告書
    • 査読あり
  • [雑誌論文] An Adiabatic Quantum-Flux-Parametron 8-bit Ripple Carry Adder Using Delay-Line Clocking2023

    • 著者名/発表者名
      Yamae Taiki、Takeuchi Naoki、Yoshikawa Nobuyuki
    • 雑誌名

      IEEE Transactions on Applied Superconductivity

      巻: 33 号: 5 ページ: 1300704-1300704

    • DOI

      10.1109/tasc.2023.3239833

    • 関連する報告書
      2023 実績報告書 2022 実績報告書
    • 査読あり
  • [雑誌論文] Self-Resetting Interface Between Rapid Single-Flux-Quantum and Adiabatic Quantum-Flux-Parametron Circuits2023

    • 著者名/発表者名
      Naruse Mikiya、Yoshikawa Nobuyuki、Takeuchi Naoki
    • 雑誌名

      IEEE Transactions on Applied Superconductivity

      巻: 33 号: 8 ページ: 1304704-1304704

    • DOI

      10.1109/tasc.2023.3299153

    • 関連する報告書
      2023 実績報告書
    • 査読あり
  • [雑誌論文] Low-Latency Adiabatic Quantum-Flux-Parametron Circuit Integrated With a Hybrid Serializer/Deserializer2022

    • 著者名/発表者名
      Hironaka Yuki、Yamae Taiki、Ayala Christopher L.、Yoshikawa Nobuyuki、Takeuchi Naoki
    • 雑誌名

      IEEE Access

      巻: 10 ページ: 133584-133590

    • DOI

      10.1109/access.2022.3230447

    • 関連する報告書
      2022 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Scalable true random number generator using adiabatic superconductor logic2022

    • 著者名/発表者名
      Luo Wenhui、Chen Olivia、Yoshikawa Nobuyuki、Takeuchi Naoki
    • 雑誌名

      Scientific Reports

      巻: 12 号: 1 ページ: 1-10

    • DOI

      10.1038/s41598-022-24230-5

    • 関連する報告書
      2022 実績報告書
    • 査読あり / オープンアクセス
  • [学会発表] 確率的演算に基づく断熱超伝導ニューロン回路の開発2024

    • 著者名/発表者名
      羅 文輝, 竹内 尚輝, 陳 オリビア, 吉川 信行
    • 学会等名
      2024年電子情報通信学会総合大会
    • 関連する報告書
      2023 実績報告書
  • [学会発表] Demonstration of a stochastic memory for stochastic computing-based AQFP circuit2023

    • 著者名/発表者名
      W. Luo, N. Takeuchi, O. Chen, and N. Yoshikawa
    • 学会等名
      16th European Conference on Applied Superconductivity (EUCAS 2023)
    • 関連する報告書
      2023 実績報告書
    • 国際学会
  • [学会発表] Recent Research on AQFP-Based Accelerator Design2023

    • 著者名/発表者名
      O. Chen, N. Takeuchi, R. Zhang, Y. Wang, and N. Yoshikawa
    • 学会等名
      36th International Symposium on Superconductivity (ISS 2023)
    • 関連する報告書
      2023 実績報告書
    • 国際学会 / 招待講演
  • [学会発表] 大規模確率的演算システムに向けた超伝導ストカスティックメモリの設計2023

    • 著者名/発表者名
      羅 文輝, 竹内 尚輝, 陳 オリビア, 吉川 信行
    • 学会等名
      電子情報通信学会超伝導エレクトロニクス研究会SCE2023
    • 関連する報告書
      2023 実績報告書
  • [学会発表] ゼロ静的消費電力で動作するシグモイド関数生成器の開発2023

    • 著者名/発表者名
      羅 文輝, 竹内 尚輝, 陳 オリビア, 吉川 信行
    • 学会等名
      2023年電子情報通信学会ソサイエティ大会
    • 関連する報告書
      2023 実績報告書
  • [学会発表] Demonstration of a Superconducting Stochastic Memory for Stochastic Computing Systems2023

    • 著者名/発表者名
      W. Luo, N. Takeuchi, O. Chen, and N. Yoshikawa
    • 学会等名
      11th East Asia Symposium on Superconductive Electronics (EASSE 2023)
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] 熱平衡型超伝導ストカスティックメモリの提案2023

    • 著者名/発表者名
      羅 文輝, 竹内 尚輝, 陳 オリビア, 吉川 信行
    • 学会等名
      2023年電子情報通信学会総合大会
    • 関連する報告書
      2022 実績報告書
  • [学会発表] A sigmoid function generator using stochastic computing-based adiabatic quantum-flux-parametron logic2022

    • 著者名/発表者名
      W. Luo, N. Takeuchi, O. Chen, and N. Yoshikawa
    • 学会等名
      Applied Superconductivity Conference 2022 (ASC 2022)
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Design and evaluation of a self-resetting RSFQ/AQFP interface2022

    • 著者名/発表者名
      M. Naruse, N. Takeuchi, and N. Yoshikawa
    • 学会等名
      Applied Superconductivity Conference 2022 (ASC 2022)
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] An adiabatic quantum-flux-parametron 8-bit ripple carry adder using delay-line clocking2022

    • 著者名/発表者名
      T. Yamae, N. Takeuchi, and N. Yoshikawa
    • 学会等名
      Applied Superconductivity Conference 2022 (ASC 2022)
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Compact RSFQ/AQFP Interface with a Self-Resetting Storage Loop2022

    • 著者名/発表者名
      M. Naruse, N. Takeuchi, and N. Yoshikawa
    • 学会等名
      15th Superconducting SFQ VLSI Workshop (SSV 2022)
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Sigmoid Function Generator Based on Stochastic Computing Using Superconducting Circuits2022

    • 著者名/発表者名
      W. Luo, N. Takeuchi, O. Chen, and N. Yoshikawa
    • 学会等名
      15th Superconducting SFQ VLSI Workshop (SSV 2022)
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] 磁束ストレージループを用いたストカスティックメモリの動作実証2022

    • 著者名/発表者名
      羅 文輝, 竹内 尚輝, 陳 オリビア, 吉川 信行
    • 学会等名
      第83回応用物理学会秋季学術講演会
    • 関連する報告書
      2022 実績報告書
  • [学会発表] Non-Linear Function Generator Using Stochastic Superconductive Circuits2022

    • 著者名/発表者名
      O. Chen, R. Zhang, W. Luo, N. Takeuchi, and N. Yoshikawa
    • 学会等名
      Applied Superconductivity Conference 2022 (ASC 2022)
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Design of Arithmetic Function Generator Using Adiabatic Quantum-Flux-Parametron Technology2022

    • 著者名/発表者名
      O. Chen, R. Zhang, W. Luo, N. Takeuchi, and N. Yoshikawa
    • 学会等名
      15th Superconducting SFQ VLSI Workshop (SSV 2022)
    • 関連する報告書
      2022 実績報告書
    • 国際学会

URL: 

公開日: 2022-04-19   更新日: 2025-04-17  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi