• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

ゆらぎの熱力学に基づく確率的コンピューティング基盤の創出

Research Project

Project/Area Number 23H00467
Research Category

Grant-in-Aid for Scientific Research (A)

Allocation TypeSingle-year Grants
Section一般
Review Section Medium-sized Section 60:Information science, computer engineering, and related fields
Research InstitutionThe University of Tokyo

Principal Investigator

高前田 伸也  東京大学, 大学院情報理工学系研究科, 准教授 (60738897)

Co-Investigator(Kenkyū-buntansha) 伊藤 創祐  東京大学, 大学院理学系研究科(理学部), 准教授 (00771221)
吉岡 健太郎  慶應義塾大学, 理工学部(矢上), 講師 (20910566)
金澤 輝代士  京都大学, 理学研究科, 准教授 (50759256)
Project Period (FY) 2023-04-01 – 2028-03-31
Project Status Granted (Fiscal Year 2024)
Budget Amount *help
¥46,540,000 (Direct Cost: ¥35,800,000、Indirect Cost: ¥10,740,000)
Fiscal Year 2025: ¥9,620,000 (Direct Cost: ¥7,400,000、Indirect Cost: ¥2,220,000)
Fiscal Year 2024: ¥9,620,000 (Direct Cost: ¥7,400,000、Indirect Cost: ¥2,220,000)
Fiscal Year 2023: ¥8,580,000 (Direct Cost: ¥6,600,000、Indirect Cost: ¥1,980,000)
Keywordsプロセッサアーキテクチャ / 近似計算 / 熱力学 / 電子回路 / 単項計算 / メモリ内計算 / 最適輸送 / 確率熱力学 / アナログ回路
Outline of Research at the Start

近年、熱力学的コンピューティングと呼ばれる、熱力学的なゆらぎを活かした確率的計算パラダイムが注目されている。ゆらぎの熱力学の観点から、近似計算デバイスにおいて計算結果の不確実性と消費エネルギーのトレードオフがあることが見込まれる。本研究では、ゆらぎの熱力学に基づき、確率的な近似計算ハードウェアにおける計算結果の不確実性と消費エネルギーのトレードオフを理論的に明らかにし、非厳密デバイスを積極利用による高性能化と低消費電力化の恩恵を受けながら、信頼される計算結果が得られる確率的コンピューティング基盤の実現を目指して研究を行う。

Outline of Annual Research Achievements

本研究は、ゆらぎの熱力学の分野と、回路・計算機アーキテクチャの分野の横断的研究により、計算の正確性とエネルギー効率の間のトレードオフ限界を理論的に明らかにし、その限界を達成する具体的な確率的コンピュータアーキテクチャの創出を目指すものである。2023年度は、基盤となるデバイスの検討と、分野間の連携方法を模索しつつ、各研究者が要素技術の研究開発に取り組んだ。
高前田は、情報の更新速度と計算の正確性のトレードオフを制御可能な計算方式の基盤に関する研究に取り組んだ。まず、バイナリ符号化に基づく従来のデジタル計算ではなく、単項方式の計算回路・アルゴリズムの検討を開始した。従来の単項方式では対応していない演算に対応する新たなアルゴリズムと回路方式の初案が明らかになった。また、ドメイン特化型のトレードオフ制御可能計算回路として、決定木アンサンブルの計算をビットレベルの細粒度で早期終了する方式を開発した。
吉岡は、Saliency(顕著性)を用いて入力データに応じ自動的に演算精度を最適化するCompute-in-Memory回路の研究を行った。演算中にオンラインでSaliencyを検出し、重要なデータであれば高演算精度で動作し、そうでなければ演算精度を落とすことで演算回路の電力効率を大幅に高めた。上記の成果を集積回路に関する国際会議 (ISSCC, ASP-DAC) で発表した。
伊藤は、情報幾何及び最適輸送理論に基づいた熱力学的な制約と、新たなトレードオフ関係による熱力学的な制約についての研究に注力し、省エネルギー性と情報処理性能の間の普遍的な熱力学的なトレードオフ関係の研究に従事した。また熱力学的なトレードオフ関係の電気回路系での応用可能性についての検討を、複数の研究者と議論を行った。
金澤は、確率熱力学の基礎論として,履歴依存性を持つ確率熱力学の研究を行い、論文投稿を行った。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

各研究グループが要素技術の研究開発を順調に進めており、論文化可能な成果が生まれ始めている。一方、分野を横断する成果は、それぞれの要素技術を持ち寄り融合・統合する必要があり、熱量をもって活動を進める。

Strategy for Future Research Activity

CMOS技術に基づく一般的なデジタル回路は、本研究で実現したいトレードオフ限界を達成するコンピュータには適していないと考えている。アナログ電気回路に基づく計算誤差を許容する方式や超伝導回路に基づく断熱回路といった方式を、当該コンピュータ方式の実現形態の候補として設定し、コンピュータ方式の決定に何を理論的に示す必要があるかの具体案を検討する。

Report

(2 results)
  • 2023 Comments on the Screening Results   Annual Research Report
  • Research Products

    (25 results)

All 2024 2023 Other

All Int'l Joint Research (2 results) Journal Article (12 results) (of which Int'l Joint Research: 4 results,  Peer Reviewed: 10 results,  Open Access: 8 results) Presentation (11 results) (of which Int'l Joint Research: 4 results,  Invited: 9 results)

  • [Int'l Joint Research] ポンペウ・ファブラ大学(スペイン)

    • Related Report
      2023 Annual Research Report
  • [Int'l Joint Research] 南方科技大学(中国)

    • Related Report
      2023 Annual Research Report
  • [Journal Article] Game-theoretical approach to minimum entropy productions in information thermodynamics2024

    • Author(s)
      Fujimoto Yuma、Ito Sosuke
    • Journal Title

      Physical Review Research

      Volume: 6 Issue: 1

    • DOI

      10.1103/physrevresearch.6.013023

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed / Open Access
  • [Journal Article] Thermodynamic bound on spectral perturbations, with applications to oscillations and relaxation dynamics2024

    • Author(s)
      Kolchinsky Artemy、Ohga Naruo、Ito Sosuke
    • Journal Title

      Physical Review Research

      Volume: 6 Issue: 1 Pages: 013082-013082

    • DOI

      10.1103/physrevresearch.6.013082

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Inferring nonequilibrium thermodynamics from tilted equilibrium using information-geometric Legendre transform2024

    • Author(s)
      Ohga Naruo、Ito Sosuke
    • Journal Title

      Physical Review Research

      Volume: 6 Issue: 1 Pages: 013315-013315

    • DOI

      10.1103/physrevresearch.6.013315

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed / Open Access
  • [Journal Article] OSA-HCIM: On-The-Fly Saliency-Aware Hybrid SRAM CIM with Dynamic Precision Configuration2024

    • Author(s)
      Chen Yung-Chin、Ando Shimpei、Fujiki Daichi、Takamaeda-Yamazaki Shinya、Yoshioka Kentaro
    • Journal Title

      Asia and South Pacific Design Automation Conference (ASP-DAC)

      Volume: 29 Pages: 539-544

    • DOI

      10.1109/asp-dac58780.2024.10473966

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed
  • [Journal Article] 34.5 A 818-4094TOPS/W Capacitor-Reconfigured CIM Macro for Unified Acceleration of CNNs and Transformers2024

    • Author(s)
      Yoshioka Kentaro
    • Journal Title

      2024 IEEE International Solid-State Circuits Conference (ISSCC)

      Volume: NA Pages: 1-2

    • DOI

      10.1109/isscc49657.2024.10454489

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed
  • [Journal Article] Scalable Moment Propagation and Analysis of Variational Distributions for Practical Bayesian Deep Learning2024

    • Author(s)
      Yuki Hirayama, Shinya Takamaeda-Yamazaki
    • Journal Title

      IEEE Transactions on Neural Networks and Learning Systems

      Volume: - Issue: 3 Pages: 1-11

    • DOI

      10.1109/tnnls.2024.3367363

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed
  • [Journal Article] Thermodynamic uncertainty relations for steady-state thermodynamics2023

    • Author(s)
      Kamijima Takuya、Ito Sosuke、Dechant Andreas、Sagawa Takahiro
    • Journal Title

      Physical Review E

      Volume: 107 Issue: 5

    • DOI

      10.1103/physreve.107.l052101

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Geometric speed limit for acceleration by natural selection in evolutionary processes2023

    • Author(s)
      Hoshino Masahiro、Nagayama Ryuna、Yoshimura Kohei、Yamagishi Jumpei F.、Ito Sosuke
    • Journal Title

      Physical Review Research

      Volume: 5 Issue: 2 Pages: 023127-023127

    • DOI

      10.1103/physrevresearch.5.023127

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed / Open Access
  • [Journal Article] Thermodynamic Bound on the Asymmetry of Cross-Correlations2023

    • Author(s)
      Ohga Naruo、Ito Sosuke、Kolchinsky Artemy
    • Journal Title

      Physical Review Letters

      Volume: 131 Issue: 7 Pages: 077101-077101

    • DOI

      10.1103/physrevlett.131.077101

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed / Open Access / Int'l Joint Research
  • [Journal Article] Geometric thermodynamics for the Fokker?Planck equation: stochastic thermodynamic links between information geometry and optimal transport2023

    • Author(s)
      Sosuke Ito
    • Journal Title

      Information geometry

      Volume: 1 Issue: S1 Pages: 1-42

    • DOI

      10.1007/s41884-023-00102-3

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed / Open Access
  • [Journal Article] A standard form of master equations for general non-Markovian jump processes: the Laplace-space embedding framework and asymptotic solution2023

    • Author(s)
      Kiyoshi Kanazawa, Didier Sornette
    • Journal Title

      arXiv:2312.05475

      Volume: NA Pages: 1-29

    • Related Report
      2023 Annual Research Report
    • Open Access / Int'l Joint Research
  • [Journal Article] HALO-CAT: A Hidden Network Processor with Activation-Localized CIM Architecture and Layer-Penetrative Tiling2023

    • Author(s)
      Y.C. Chen, S. Ando, D. Fujiki, S. Takamaeda-Yamazaki, K. Yoshioka
    • Journal Title

      arXiv:2312.06086

      Volume: NA Pages: 1-7

    • Related Report
      2023 Annual Research Report
  • [Presentation] Hardware/Algorithm Co-design for Gradient Boosting Decision Trees via Bit-Level Early-Termination for Low-Power Embedded Systems2024

    • Author(s)
      Daichi Tokuda and Shinya Takamaeda-Yamazaki
    • Organizer
      The 6th cross-disciplinary Workshop on Computing Systems, Infrastructures, and Programming (xSIG 2024)
    • Related Report
      2023 Annual Research Report
  • [Presentation] Decompositions of the entropy production rate and its application to thermodynamic trade-off relations and neural dynamics2024

    • Author(s)
      Sosuke Ito
    • Organizer
      CSH Workshop: Trade-offs between thermodynamic cost, intelligence, and fitness in living organisms
    • Related Report
      2023 Annual Research Report
    • Int'l Joint Research / Invited
  • [Presentation] 最適輸送に基づいた熱力学2024

    • Author(s)
      伊藤創祐
    • Organizer
      情報物理学の新展開-ERATO情報エネルギー変換プロジェクト・キックオフワークショップ-
    • Related Report
      2023 Annual Research Report
    • Invited
  • [Presentation] 信頼されるAIシステムを支えるコンピューティング技術2024

    • Author(s)
      高前田 伸也
    • Organizer
      IEEE ComSoc Tokyo Joint Chapter講演会
    • Related Report
      2023 Annual Research Report
    • Invited
  • [Presentation] Geometric decomposition of entropy production rate: Wisdom from optimal transport2023

    • Author(s)
      Sosuke Ito
    • Organizer
      Workshop on stochastic thermodynamics IV
    • Related Report
      2023 Annual Research Report
    • Int'l Joint Research / Invited
  • [Presentation] Thermodynamic bound on cross-correlations for biological information processing2023

    • Author(s)
      Sosuke Ito
    • Organizer
      Building a bridge between non-equilibrium statistical physics and biology
    • Related Report
      2023 Annual Research Report
    • Int'l Joint Research / Invited
  • [Presentation] Geometric thermodynamics: Nonequilibrium thermodynamics based on optimal transport and information geometry2023

    • Author(s)
      Sosuke Ito
    • Organizer
      Statphys28
    • Related Report
      2023 Annual Research Report
    • Int'l Joint Research
  • [Presentation] エントロピー生成率の分解のための情報幾何学的な直交性2023

    • Author(s)
      伊藤創祐
    • Organizer
      日本物理学会第78回年次大会, 共催シンポジウム「情報物理学でひもとく生命の秩序と設計原理」
    • Related Report
      2023 Annual Research Report
    • Invited
  • [Presentation] 最適輸送と熱力学的トレードオフ関係2023

    • Author(s)
      伊藤創祐
    • Organizer
      第26回情報論的学習理論ワークショップ (IBIS2023)
    • Related Report
      2023 Annual Research Report
    • Invited
  • [Presentation] 非平衡定常状態への緩和に関する熱力学的なトレードオフ関係2023

    • Author(s)
      伊藤創祐
    • Organizer
      京都大学物理学教室第一教室談話会
    • Related Report
      2023 Annual Research Report
    • Invited
  • [Presentation] 魔法戦士のすすめ~科学技術分野の文部科学大臣表彰・若手科学者賞受賞に際して~2023

    • Author(s)
      高前田 伸也
    • Organizer
      電子情報通信学会研究会報告, Vol.123, No.62, CPSY2023-7
    • Related Report
      2023 Annual Research Report
    • Invited

URL: 

Published: 2023-04-13   Modified: 2025-04-17  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi