• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2022 Fiscal Year Annual Research Report

Revolution of Programmability in Non-von Neumann Platforms by Employing Tandem CGRA + Stochastic Computing

Research Project

Project/Area Number 22H00515
Research InstitutionNara Institute of Science and Technology

Principal Investigator

中島 康彦  奈良先端科学技術大学院大学, 先端科学技術研究科, 教授 (00314170)

Co-Investigator(Kenkyū-buntansha) ZHANG Renyuan  奈良先端科学技術大学院大学, 先端科学技術研究科, 准教授 (00709131)
木村 睦  奈良先端科学技術大学院大学, 先端科学技術研究科, 客員教授 (60368032)
Project Period (FY) 2022-04-01 – 2026-03-31
KeywordsCGRA / マルチレベルパイプライン / 確率的デジタル演算 / スパイクコーディング / 確率的多入力積和演算 / 可変容量素子
Outline of Annual Research Achievements

【1】物理演算器数を超える長大命令列を仮想化により非分割連続実行するタンデムCGRA(担当:中島):ZCU19EGへのIMAX2実装完了。RISCVとIMAX2を接続するシミュレータ完成。当初のタンデム構成は、IMAX2を構成する64ユニットのリング構造を2グループ相互接続する構成であった。しかし、各グループのユニット数が固定であるため、プログラム写像時に無駄が発生する。そこで、リング構造途中の任意の場所のキャッシュメモリにダブルバッファ機能を持たせることで、1つのリング構造内において可変長のタンデム構成を可能とする新たなアーキテクチャを考案した。これにより、単一リング構造を用いたLog段のFFTやソート処理等のパイプライン処理が可能となった。
【2】メモリ空間を拡張する確率的デジタル演算機構(担当:張):スパイクコーディング方式として、確率的表現 Multi-Radix-Coding(MRC)を発案した。また、スパイクを多段入力する木構造DiaNet3.1ハードウェアを考案した。スパイクベース演算は、センサー出力を従来型デジタル演算器に渡すインタフェースとしての位置付けが適すると判断し、アプリケーションには、ElectroEncephaloGram(EEG)を用いることとした。
【3】確率的表現と可変容量素子による確率的多入力積和演算機構(担当:木村):強誘電体薄膜とスパイク表現を組み合わせた、確率的多入力積和演算機構のHspiceシミュレーションを完了し、手書き文字認識(MNIST)に対応できる見通しを得た。また、CMOSプロセスと容量素子(CTM)を用いた、同様の積和演算回路を試作LSIの形に実装した。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

当初の全体計画ごとに列挙する。
【1】物理演算器数を超える長大命令列を仮想化により非分割連続実行するタンデムCGRA(担当:中島):CPUベースCGRA(IMAX2)の各ユニットとCPUをタンデム接続する低遅延仮想CGRAの実現に取り組む。手順は,1.ZU19EGにIMAX2実装; 2.IMAX2の各ユニットにRISCVを統合; 3.カーネルの外側をRISCVが担当することによる,CGRAの容量を超えるプログラムに対するシームレスなCGRA制御.本年度は1の完了および2のシミュレータ完成を目指した。以上の目標に対し、予定通り1,2を完了した。
【2】メモリ空間を拡張する確率的デジタル演算機構(担当:張):疎行列圧縮表現と,確率的表現と,確率的計算を組み合わせ、多層畳み込みニューラルネットワーク,および,従来型アクセラレータでは対応できないアルゴリズムに対する確率的計算の適用可能性探索・必要精度探索・高速実装に取り組む。手順は,1. 疎行列圧縮とスパイクコーディングの融合; 2.木構造型確率的積和演算手法; 3.各種アプリケーションへの応用と評価.本年度は、1の完了を目指した。以上の目標に対し、予定通り1を完了した。
【3】確率的表現と可変容量素子による確率的多入力積和演算機構(担当:木村):省電力近似計算のキーデバイスである強誘電体薄膜に着目する。デバイス試作・特性評価とアナログ回路シミュレーションを組み合わせて、多入力積和演算器に留まらない,グラフ探索問題等の様々なアプリケーションに応用可能なハードウェア構成方法と安定化手法の確立に取り組む。手順は,1.強誘電体薄膜向けスパイクコーディング; 2.Hspiceに依存しないデバイスシミュレータ; 3.大規模アプリケーションへの応用と評価.本年度は、1の完了を目指した。以上の目標に対し、予定通り1を完了した。

Strategy for Future Research Activity

【1】単一リング構造内でのタンデム実行(ミディアムパイプライン処理)が可能となったことから、複数のリングを接続して、異なるカーネルを同時に写像する仮想化方式(マクロパイプライニング処理)の見通しが良くなった。2年度は、大規模FPGAボード(VPK180)を用いて、マクロパイプライニングの実装を推進する。
【2】従来型確率的積和演算機構では、累算処理に、時間軸方向のスパイク蓄積演算が不可欠であった。本研究の確率的多入力デジタル積和演算機構では、Flash Computing技術(全スパイク信号の同時かつ瞬間的な観測により、一度に累算結果を推定する方法)を用いて、高速化を図る。このための表現方法として、確率的表現 Multi-Radix-Coding(MRC)を使用し、DiaNet3.1と組み合わせることで、本方式の実現を目指す。
【3】スパイクベース演算は、センサー出力を従来型デジタル演算器に渡すインタフェースとしての位置付けが適すると判断し、強誘電体薄膜とスパイク表現を組み合わせた、確率的多入力積和演算機構を用いて、Lidarから取得した点群データ処理への応用を目指す。また、CMOSプロセスと容量素子(CTM)を用いた試作LSIの納品後、様々なアプリケーションを用いた特性評価を行う。

  • Research Products

    (29 results)

All 2024 2023 2022 Other

All Journal Article (16 results) (of which Peer Reviewed: 16 results) Presentation (7 results) (of which Int'l Joint Research: 5 results,  Invited: 2 results) Remarks (2 results) Patent(Industrial Property Rights) (4 results) (of which Overseas: 3 results)

  • [Journal Article] Bisection Neural Network Toward Reconfigurable Hardware Implementation2024

    • Author(s)
      Chen Yan、Zhang Renyuan、Kan Yirong、Yang Sa、Nakashima Yasuhiko
    • Journal Title

      IEEE Transactions on Neural Networks and Learning Systems

      Volume: 35 Pages: 3663~3673

    • DOI

      10.1109/TNNLS.2022.3195821

    • Peer Reviewed
  • [Journal Article] Energy-efficient 3D Convolution using Interposed Memory Accelerator eXtension 2 for Medical Image Processing2023

    • Author(s)
      Ren Imamura, Zhu Guangxian, Sang Duong Thi, Hoai Luan Pham, Renyuan Zhang, and Yasuhiko Nakashima
    • Journal Title

      Proceedings of 2023 International Conference on Medical Imaging and Computer-Aided Diagnosis (MICAD 2023)

      Volume: ISBN9819713358, 9789819713356 Pages: 62-71

    • Peer Reviewed
  • [Journal Article] Phase-Change Memory using Cu<sub>2</sub>GeTe<sub>3</sub> and Multiple Writing Technique for Neuromorphic Systems2023

    • Author(s)
      Akane Shihori、Horiuchi Isao、Hiroshima Yasushi、Nakashima Yasuhiko、Kimura M.
    • Journal Title

      IEEE ICCE 2023

      Volume: 1 Pages: 1-6

    • DOI

      10.1109/ICCE56470.2023.10043395

    • Peer Reviewed
  • [Journal Article] リニアアレー型CGRAの高速コンパイルを利用したJIT実行環境の開発2022

    • Author(s)
      稲益 秀成、船井 遼太朗、中島 康彦
    • Journal Title

      電子情報通信学会論文誌D 情報・システム

      Volume: J105-D Pages: 725~735

    • DOI

      10.14923/transinfj.2022JDP7022

    • Peer Reviewed
  • [Journal Article] Application and Evaluation of Quantization for Narrow Bit-width Resampling of Sequential Monte Carlo2022

    • Author(s)
      Nishimoto Hiroki、Zhang Renyuan、Nakashima Yasuhiko
    • Journal Title

      IEEE International System-on-Chip Conf.(SOCC)

      Volume: 1 Pages: 1-6

    • DOI

      10.1109/SOCC56010.2022.9908085

    • Peer Reviewed
  • [Journal Article] CSIP: A Compact Scrypt IP design with single PBKDF2 core for Blockchain mining2022

    • Author(s)
      Le Vu Trung Duong、Luan Pham Hoai、Tran Thi Hong、Nakashima Yasuhiko
    • Journal Title

      IEEE SBCCI2022

      Volume: 1 Pages: 1-6

    • DOI

      10.1109/SBCCI55532.2022.9893217

    • Peer Reviewed
  • [Journal Article] A Flexible and Energy-Efficient BLAKE-256/2s Co-Processor for Blockchain-based IoT Applications2022

    • Author(s)
      Luan Pham Hoai、Tran Thi Hong、Duong Le Vu Trung、Nakashima Yasuhiko
    • Journal Title

      IEEE SBCCI2022

      Volume: 1 Pages: 1-6

    • DOI

      10.1109/SBCCI55532.2022.9893257

    • Peer Reviewed
  • [Journal Article] A High-Efficiency FPGA-based BLAKE-256 Accelerator for Securing Blockchain Networks2022

    • Author(s)
      Luana Pham Hoai、Trana Thi Hong、Lea Vu Trung Duong、Nakashimaa Yasuhiko
    • Journal Title

      IEEE International Midwest Symposium on Circuits and Systems

      Volume: 1 Pages: 1-6

    • DOI

      10.1109/MWSCAS54063.2022.9859292

    • Peer Reviewed
  • [Journal Article] Compact Message Permutation for a Fully Pipelined BLAKE-256/512 Accelerator2022

    • Author(s)
      Pham Hoai Luan、Tran Thi Hong、Duong Le Vu Trung、Nakashima Yasuhiko
    • Journal Title

      IEEE Access

      Volume: 10 Pages: 68740~68754

    • DOI

      10.1109/ACCESS.2022.3181410

    • Peer Reviewed
  • [Journal Article] A Hybrid Bayesian-Convolutional Neural Network for Adversarial Robustness2022

    • Author(s)
      KHONG Thi Thu Thao、NAKADA Takashi、NAKASHIMA Yasuhiko
    • Journal Title

      IEICE Transactions on Information and Systems

      Volume: E105.D Pages: 1308~1319

    • DOI

      10.1587/transinf.2021EDP7239

    • Peer Reviewed
  • [Journal Article] A Coarse Grained Reconfigurable Architecture for SHA-2 Acceleration2022

    • Author(s)
      Pham Hoai Luan、Tranl Thi Hong、Duong Le Vu Trung、Nakashima Yasuhiko
    • Journal Title

      CGRA4HPC in conjunction with IPDPS2022

      Volume: 1 Pages: 1-6

    • DOI

      10.1109/IPDPSW55747.2022.00117

    • Peer Reviewed
  • [Journal Article] A Stochastic Coding Method of EEG Signals for Sleep Stage Classification2022

    • Author(s)
      Zhu Guangxian、Wang Huijia、Kan Yirong、Chen Zheng、Huang Ming、Amin MD.、Ono Naoaki、Kanaya Shigehiko、Zhang Renyuan、Nakashima Yasuhiko
    • Journal Title

      IEEE International System-on-Chip Conf.(SOCC)

      Volume: 1 Pages: 1-6

    • DOI

      10.1109/SOCC56010.2022.9908121

    • Peer Reviewed
  • [Journal Article] Application of Machine Learning to Environmental DNA Metabarcoding2022

    • Author(s)
      Kimura Mutsumi、Yamanaka Hiroki、Nakashima Yasuhiko
    • Journal Title

      IEEE Access

      Volume: 10 Pages: 101790~101794

    • DOI

      10.1109/ACCESS.2022.3207173

    • Peer Reviewed
  • [Journal Article] Multilayer Crossbar Array of Amorphous Metal-Oxide Semiconductor Thin Films for Neuromorphic Systems2022

    • Author(s)
      Iwagi Etsuko、Tsuno Takumi、Imai Takahito、Nakashima Yasuhiko、Kimura Mutsumi
    • Journal Title

      IEEE Journal of the Electron Devices Society

      Volume: 10 Pages: 784~790

    • DOI

      10.1109/JEDS.2022.3203364

    • Peer Reviewed
  • [Journal Article] A Memcapacitive Spiking Neural Network with Circuit Nonlinearity-aware Training2022

    • Author(s)
      Oshio Reon、Sugahara Takuya、Sawada Atsushi、Kimura Mutsumi、Zhang Renyuan、Nakashima Yasuhiko
    • Journal Title

      IEEE Symposium on Low-Power and High-Speed Chips 2022

      Volume: 1 Pages: 1-6

    • DOI

      10.1109/COOLCHIPS54332.2022.9772674

    • Peer Reviewed
  • [Journal Article] Neuromorphic chip integrated with a large-scale integration circuit and amorphous-metal-oxide semiconductor thin-film synapse devices2022

    • Author(s)
      Kimura Mutsumi、Shibayama Yuki、Nakashima Yasuhiko
    • Journal Title

      Scientific Reports

      Volume: 12 Pages: 1-6

    • DOI

      10.1038/s41598-022-09443-y

    • Peer Reviewed
  • [Presentation] IMAX3: Amazing dataflow-centric CGRA and its applications2023

    • Author(s)
      Y. Nakashima
    • Organizer
      The 10th RIEC International Symposium on Brain Functions and Brain Computer
    • Int'l Joint Research / Invited
  • [Presentation] Combination of memristor and capacitor for synapse device in neuromorphic spiking computing2023

    • Author(s)
      T. Kuwahara, R. Oshio, M. Kimura, R. Zhang, Y. Nakashima
    • Organizer
      The 10th RIEC International Symposium on Brain Functions and Brain Computer
    • Int'l Joint Research
  • [Presentation] A memcapacitive spiking neural network with circuit nonlinearity-aware training2023

    • Author(s)
      R. Oshio, T. Sugahara, A. Sawada, M. Kimura, R. Zhang, Y. Nakashima
    • Organizer
      The 10th RIEC International Symposium on Brain Functions and Brain Computer
    • Int'l Joint Research
  • [Presentation] CGRAのJITコンパイル化と高機能化の魔法教えます2022

    • Author(s)
      中島康彦
    • Organizer
      回路とシステムワークショップ招待講演
    • Invited
  • [Presentation] 主記憶帯域使用率向上のためのCGRAタンデム化2022

    • Author(s)
      赤部知也,中島康彦
    • Organizer
      信学技報, vol.122, no.133, CPSY2022-16, pp.89-92
  • [Presentation] Fusion of Multiple Core and Just-in-Time Compilable CGRA2022

    • Author(s)
      Tomoya Akabe, Hidenari Inamasu, Renyuan Zhang and Yasuhiko Nakashima
    • Organizer
      IEEE Symposium on Low-Power and High-Speed Chips 2022 (poster)
    • Int'l Joint Research
  • [Presentation] Evaluation of IMAX2 with Sparse Matrix-matrix Multiplication Units2022

    • Author(s)
      Ryotaro Funai, Hidenari Inamasu, Renyuan Zhang and Yasuhiko Nakashima
    • Organizer
      IEEE Symposium on Low-Power and High-Speed Chips 2022 (poster)
    • Int'l Joint Research
  • [Remarks] Sustainable Computing Architecture Lab.

    • URL

      https://www.youtube.com/@computingarchitecturelab.5300/playlists

  • [Remarks] NAIST Computing Architecture Lab.

    • URL

      http://archlab.naist.jp/

  • [Patent(Industrial Property Rights)] CGRAによる疎行列計算とマージソートに関する演算ユニット2023

    • Inventor(s)
      中島康彦, 船井遼太朗
    • Industrial Property Rights Holder
      中島康彦, 船井遼太朗
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      PCT/JP2023/569388
    • Overseas
  • [Patent(Industrial Property Rights)] CGRAによる疎行列計算とマージソートに関する演算ユニット2022

    • Inventor(s)
      中島康彦, 船井遼太朗
    • Industrial Property Rights Holder
      中島康彦, 船井遼太朗
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      PCT/JP2022/46353
    • Overseas
  • [Patent(Industrial Property Rights)] ニューロモーフィック装置及びニューロモーフィックシステム2022

    • Inventor(s)
      木村睦, 中島康彦, 滝下雄太
    • Industrial Property Rights Holder
      木村睦, 中島康彦, 滝下雄太
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      特願2022-558995
  • [Patent(Industrial Property Rights)] スパイキングニューラルネットワークを実行するための装置及び方法、並びに、スパイキングニューロモーフィックシステム2022

    • Inventor(s)
      押尾怜穏, 木村睦, 張任遠, 中島康彦
    • Industrial Property Rights Holder
      押尾怜穏, 木村睦, 張任遠, 中島康彦
    • Industrial Property Rights Type
      特許
    • Industrial Property Number
      PCT/JP2022/040150
    • Overseas

URL: 

Published: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi