Project/Area Number |
22K19775
|
Research Category |
Grant-in-Aid for Challenging Research (Exploratory)
|
Allocation Type | Multi-year Fund |
Review Section |
Medium-sized Section 60:Information science, computer engineering, and related fields
|
Research Institution | Nara Institute of Science and Technology |
Principal Investigator |
NAKASHIMA YASUHIKO 奈良先端科学技術大学院大学, 先端科学技術研究科, 教授 (00314170)
|
Co-Investigator(Kenkyū-buntansha) |
ZHANG Renyuan 奈良先端科学技術大学院大学, 先端科学技術研究科, 准教授 (00709131)
KAN YIRONG 奈良先端科学技術大学院大学, 先端科学技術研究科, 助教 (50963732)
|
Project Period (FY) |
2022-06-30 – 2024-03-31
|
Project Status |
Completed (Fiscal Year 2023)
|
Budget Amount *help |
¥5,720,000 (Direct Cost: ¥4,400,000、Indirect Cost: ¥1,320,000)
Fiscal Year 2023: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2022: ¥4,680,000 (Direct Cost: ¥3,600,000、Indirect Cost: ¥1,080,000)
|
Keywords | 確率的デジタル計算 / ニューラルネットワーク / 非決定論的学習 / 再構成可能アーキテクチャ / 確率的計算 / シリアル演算機構 / 離散行列 / 超小型 |
Outline of Research at the Start |
最先端AIを含む次世代アプリケーションには、小型近似演算器に加え、キャッシュメモリ が効かない離散データを効率よく扱うアーキテクチャが必須である。本研究の目的は、安定性と拡張性に優れたデジタル回路を利用しつつ、1つのビットラインに1組のデータを記憶させる手法を軸に、アドレス情報を付加した離散行列間の近似演算を高効率に実行する最適アーキテクチャを探索し、キャッシュメモリに依存しない主記憶転置型・超小型離散行列シリアル演算機構を実現することである。多数のシリアルデータを最適に読み出すスケジューラは、他の近似計算を支えるメモリシステムとしても利用価値が高い。超伝導回路との融合についても研究を進める。
|
Outline of Final Research Achievements |
First, based on a new bisectional neural network (BNN), we devised a mechanism in which logical PE arrays are flexibly partitioned and mapped to physical computing units. By adjusting the shape and position of the logical PE array, we demonstrated the ability to spatially reconfigure functions. Temporal reconstruction ability in terms of precision could be achieved by adjusting the length of the SC bitstream. It is shown that the energy efficiency is better than other state-of-the-art approximate computing units. Second, we devised a non-deterministic learning method for stochastic computing neural networks (SCNN). It was found that the increase in memory usage caused by long bitstreams can be suppressed, although the accuracy is slightly degraded.
|
Academic Significance and Societal Importance of the Research Achievements |
人工知能の実装に際し、これまで、厳密計算が不要であることに便乗した様々なデバイスを用いるアナログ計算手法が提案されてきた。しかし、主要なアプリケーションが、大規模言語モデルのように複雑化かつ大規模化するにつれ、アナログベースの計算基盤では太刀打ちできないことも明らかになってきた。今後、爆発的に普及することが予想される人工知能の実装手段としては、エネルギー効率を劇的に改善できるデジタル方式に期待がかかっている。本研究は、デジタル方式を維持しつつ、確率的計算を導入することにより、消費エネルギーを劇的に削減する手法として、有望である。
|