• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Ultra-small sparse matrix serial computation mechanism with memory transpose

Research Project

Project/Area Number 22K19775
Research Category

Grant-in-Aid for Challenging Research (Exploratory)

Allocation TypeMulti-year Fund
Review Section Medium-sized Section 60:Information science, computer engineering, and related fields
Research InstitutionNara Institute of Science and Technology

Principal Investigator

NAKASHIMA YASUHIKO  奈良先端科学技術大学院大学, 先端科学技術研究科, 教授 (00314170)

Co-Investigator(Kenkyū-buntansha) ZHANG Renyuan  奈良先端科学技術大学院大学, 先端科学技術研究科, 准教授 (00709131)
KAN YIRONG  奈良先端科学技術大学院大学, 先端科学技術研究科, 助教 (50963732)
Project Period (FY) 2022-06-30 – 2024-03-31
Project Status Completed (Fiscal Year 2023)
Budget Amount *help
¥5,720,000 (Direct Cost: ¥4,400,000、Indirect Cost: ¥1,320,000)
Fiscal Year 2023: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2022: ¥4,680,000 (Direct Cost: ¥3,600,000、Indirect Cost: ¥1,080,000)
Keywords確率的デジタル計算 / ニューラルネットワーク / 非決定論的学習 / 再構成可能アーキテクチャ / 確率的計算 / シリアル演算機構 / 離散行列 / 超小型
Outline of Research at the Start

最先端AIを含む次世代アプリケーションには、小型近似演算器に加え、キャッシュメモリ
が効かない離散データを効率よく扱うアーキテクチャが必須である。本研究の目的は、安定性と拡張性に優れたデジタル回路を利用しつつ、1つのビットラインに1組のデータを記憶させる手法を軸に、アドレス情報を付加した離散行列間の近似演算を高効率に実行する最適アーキテクチャを探索し、キャッシュメモリに依存しない主記憶転置型・超小型離散行列シリアル演算機構を実現することである。多数のシリアルデータを最適に読み出すスケジューラは、他の近似計算を支えるメモリシステムとしても利用価値が高い。超伝導回路との融合についても研究を進める。

Outline of Final Research Achievements

First, based on a new bisectional neural network (BNN), we devised a mechanism in which logical PE arrays are flexibly partitioned and mapped to physical computing units. By adjusting the shape and position of the logical PE array, we demonstrated the ability to spatially reconfigure functions. Temporal reconstruction ability in terms of precision could be achieved by adjusting the length of the SC bitstream. It is shown that the energy efficiency is better than other state-of-the-art approximate computing units. Second, we devised a non-deterministic learning method for stochastic computing neural networks (SCNN). It was found that the increase in memory usage caused by long bitstreams can be suppressed, although the accuracy is slightly degraded.

Academic Significance and Societal Importance of the Research Achievements

人工知能の実装に際し、これまで、厳密計算が不要であることに便乗した様々なデバイスを用いるアナログ計算手法が提案されてきた。しかし、主要なアプリケーションが、大規模言語モデルのように複雑化かつ大規模化するにつれ、アナログベースの計算基盤では太刀打ちできないことも明らかになってきた。今後、爆発的に普及することが予想される人工知能の実装手段としては、エネルギー効率を劇的に改善できるデジタル方式に期待がかかっている。本研究は、デジタル方式を維持しつつ、確率的計算を導入することにより、消費エネルギーを劇的に削減する手法として、有望である。

Report

(3 results)
  • 2023 Annual Research Report   Final Research Report ( PDF )
  • 2022 Research-status Report
  • Research Products

    (7 results)

All 2023 2022 Other

All Journal Article (3 results) (of which Peer Reviewed: 3 results) Remarks (4 results)

  • [Journal Article] An Ultra-Compact Calculation Unit with Temporal-Spatial Re-configurability2023

    • Author(s)
      Guangxian Zhu, Yirong Kan, Renyuan Zhang, Yasuhiko Nakashima
    • Journal Title

      2023 21st IEEE Interregional NEWCAS Conference (NEWCAS)

      Volume: 1 Pages: 1-5

    • DOI

      10.1109/newcas57931.2023.10198176

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed
  • [Journal Article] A Non-deterministic Training Approach for Memory-Efficient Stochastic Neural Networks2023

    • Author(s)
      Golbabaei Babak、Zhu Guangxian、Kan Yirong、Zhang Renyuan、Nakashima Yasuhiko
    • Journal Title

      IEEE International System-On-Chip Conference (SOCC2023)

      Volume: 1 Pages: 05-08

    • DOI

      10.1109/socc58585.2023.10256838

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed
  • [Journal Article] GAND-Nets: Training Deep Spiking Neural Networks with Ternary Weights2022

    • Author(s)
      Man Wu, Yirong Kan, Renyuan Zhang, Yasuhiko Nakashima
    • Journal Title

      Proc. of 2022 IEEE 35th International System-on-Chip Conferen

      Volume: ISBN:978-1-6654-5986-0 Pages: 1-6

    • DOI

      10.1109/socc56010.2022.9908132

    • Related Report
      2022 Research-status Report
    • Peer Reviewed
  • [Remarks] NAIST Computing Architecture Lab.

    • URL

      http://archlab.naist.jp/

    • Related Report
      2023 Annual Research Report
  • [Remarks] Sustainable Computing Architecture Lab.

    • URL

      https://www.youtube.com/@computingarchitecturelab.5300/playlists

    • Related Report
      2023 Annual Research Report
  • [Remarks] Sustainable Computing Architecture Lab.

    • URL

      http://archlab.naist.jp/

    • Related Report
      2022 Research-status Report
  • [Remarks] Sustainable Computing Architecture Lab.

    • URL

      https://www.youtube.com/channel/UC7rDo22e2SsucCY4FtpUWcg/videos

    • Related Report
      2022 Research-status Report

URL: 

Published: 2022-07-05   Modified: 2025-01-30  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi