• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2021 Fiscal Year Annual Research Report

On a noise convolutional neural network

Research Project

Project/Area Number 19H04078
Research InstitutionTokyo Institute of Technology

Principal Investigator

中原 啓貴  東京工業大学, 工学院, 准教授 (20624414)

Co-Investigator(Kenkyū-buntansha) 佐野 健太郎  国立研究開発法人理化学研究所, 計算科学研究センター, チームリーダー (00323048)
佐藤 真平  信州大学, 学術研究院工学系, 助教 (80782763)
Project Period (FY) 2019-04-01 – 2024-03-31
KeywordsAI / 深層学習 / CNN / FPGA / 組込みシステム
Outline of Annual Research Achievements

白色雑音回路の設計方法は様々あるが、書き換え可能なFPGAをプロトタイプとして選択し、FPGAの基本構成要素であるLUTを使った雑音回路を採用した。今年度は佐野研究グループでは、FPGAを用いた雑音畳み込みをはじめとするニューラルネットワーク回路を回路構成要素であるLUTやDSPブロックに効率よくマッピングする手法について研究開発した。また、FPGAに開発したニューラルネットワークを実装して、その処理速度や使用リソース量を明らかにした。佐藤研究グループでは、雑音畳み込みをはじめとするニューラルネットワークの学習結果を評価して、雑音畳み込みの有用性を明らかにした。また、様々な応用事例に対する評価を行った。中原研究グループでは、雑音を活用した低ビットニューラルネットワークの研究開発を行った。低ビットニューラルネットワークのFPGA回路実装の検討を行った。また、雑音を加えても精度劣化が生じない学習ツールを開発した。実用的な応用事例として、物体検出・自然言語処理・領域分割・クラス分類に適用し、提案手法が有用であることを明らかにした。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

当初申請書通りに計画が進行している。具体的には、学習ツールとFPGA実装が順調に進み、実機での検証が可能になっている。また、研究成果を国際誌や国際学会で出版できている。

Strategy for Future Research Activity

ニューラルネットワークは大量のパラメータとデータセットを元に高認識率を達成できる機械学習の一モデルであるが、大量の積和演算を処理しなければならず、通常のプロセッサでは低速であり、電力効率が悪いという問題があるため、大量の積和演算を占める畳み込み演算に関して、白色雑音を加えることで処理の大部分を置換する方法を他のアプリケーションに適用し、その有効性を明らかにする。

  • Research Products

    (8 results)

All 2021 Other

All Int'l Joint Research (1 results) Journal Article (4 results) (of which Peer Reviewed: 4 results) Presentation (3 results) (of which Int'l Joint Research: 3 results)

  • [Int'l Joint Research] Imperial College London(英国)

    • Country Name
      UNITED KINGDOM
    • Counterpart Institution
      Imperial College London
  • [Journal Article] Energy-Efficient ECG Signals Outlier Detection Hardware Using a Sparse Robust Deep Autoencoder2021

    • Author(s)
      Naoto Soga, Shimpei Sato, Hiroki Nakahara
    • Journal Title

      IEICE Trans. Inf. Syst

      Volume: 104-D(8) Pages: 1121-1129

    • Peer Reviewed
  • [Journal Article] Weight Sparseness for a Feature-Map-Split-CNN Toward Low-Cost Embedded FPGAs2021

    • Author(s)
      Akira Jinguji, Shimpei Sato, Hiroki Nakahara
    • Journal Title

      IEICE Trans. Inf. Syst.

      Volume: 104-D(12) Pages: 2040-2047

    • Peer Reviewed
  • [Journal Article] A Low-Latency Inference of Randomly Wired Convolutional Neural Networks on an FPGA2021

    • Author(s)
      Ryosuke Kuramochi, Hiroki Nakahara
    • Journal Title

      IEICE Trans. Inf. Syst.

      Volume: 104-D(12) Pages: 2068-2077

    • Peer Reviewed
  • [Journal Article] FPGA-Based Inter-layer Pipelined Accelerators for Filter-Wise Weight-Balanced Sparse Fully Convolutional Networks with Overlapped Tiling2021

    • Author(s)
      Masayuki Shimoda, Youki Sada, Hiroki Nakahara
    • Journal Title

      J. Signal Process. Syst.

      Volume: 93(5) Pages: 499-512

    • Peer Reviewed
  • [Presentation] A Multilayer Perceptron Training Accelerator using Systolic Array2021

    • Author(s)
      Takeshi Senoo, Akira Jinguji, Ryosuke Kuramochi, Hiroki Nakahara
    • Organizer
      IEEE APCCAS
    • Int'l Joint Research
  • [Presentation] Edge Inference Engine for Deep & Random Sparse Neural Networks with 4-bit Cartesian-Product MAC Array and Pipelined Activation Aligner2021

    • Author(s)
      Kota Ando, Jaehoon Yu, Kazutoshi Hirose, Hiroki Nakahara, Kazushi Kawamura, Thiem Van Chu, Masato Motomura
    • Organizer
      IEEE HCS
    • Int'l Joint Research
  • [Presentation] A High-Throughput Detection Circuit based on 2q+1-Valued Deep Neural Networks2021

    • Author(s)
      Naoto Soga, Ryosuke Kuramochi, Hiroki Nakahara
    • Organizer
      IEEE ISMVL
    • Int'l Joint Research

URL: 

Published: 2022-12-28  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi