• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2021 年度 実績報告書

メモリサイズ削減を目指した融合型ニューラルネットワークアクセラレータの開発

研究課題

研究課題/領域番号 19K11885
研究機関東京都市大学

研究代表者

瀬戸 謙修  東京都市大学, 理工学部, 講師 (10420241)

研究期間 (年度) 2019-04-01 – 2022-03-31
キーワードニューラルネットワーク / アクセラレータ / オンチップメモリ削減 / 高位合成
研究実績の概要

今年度は、融合型ニューラルネットワークアクセラレータ最適化のための技術開発を進めた。多重ループを一重ループに変換することでループパイプライン化後のサイクル数短縮を行うループ平坦化について機能拡張を行い、ループ最適化に有効なモンテカルロ木探索を用いた最適化技術を開発し、スカラリプレイス手法を従来適用できなかった場合へ拡張した。また、各レイヤに対してループ交換を適用する際、データパス構成が大きく変化することを明らかにした。具体的には、複数の加算器が木構造で接続された場合と、そのような加算器を含まず積和演算器が並列動作する場合の二つに変化し、両者で実行サイクル数が異なる。融合型ニューラルネットワークアクセラレータにおいて、パイプライン動作する複数レイヤ間のFIFOサイズが小さいとストールが発生するため、十分なサイズに設定してループ最適化を行った。アクセラレータの総実行サイクル数を短縮するには、各レイヤの計算量に応じて、演算器の量を割り当てる方法があることが判明した。また、レイヤのテンプレートCコードに対して、高位合成後のハードウェア実行サイクル数を見積もるには、付加するディレクティブを詳細に指定する必要がある。またその上で、高位合成後に出力されるRTLのサイクル数を細かく解析するには高位合成ツール自体にスケジューリングなどの内部情報を出力させる必要がある。さらに、融合型ニューラルネットワークアクセラレータは、複数のプロセスが通信しながら並列動作するため、解析式による実行サイクル数の見積もりは難しく、正確な実行サイクル数を高速に得るには、サイクル数を短時間で取得可能なCモデルを高位合成ツールから出力し、実行することが有効であることが判明した。提案するアーキテクチャにおいて重みの削減が必要な場合、ハードウェアの修正が軽微なチャネルレベルプルーニングにより対応可能となることが判明した。

  • 研究成果

    (4件)

すべて 2021

すべて 雑誌論文 (1件) (うち査読あり 1件、 オープンアクセス 1件) 学会発表 (3件)

  • [雑誌論文] A Survey on System-Level Design of Neural Network Accelerators2021

    • 著者名/発表者名
      Kenshu Seto
    • 雑誌名

      Journal of Integrated Circuits and Systems

      巻: 16 ページ: 1-10

    • DOI

      10.29292/jics.v16i2.505

    • 査読あり / オープンアクセス
  • [学会発表] モンテカルロ木探索と整数線形計画法の組み合わせによる最適スケジューリング2021

    • 著者名/発表者名
      松岡 尚典, 瀬戸 謙修
    • 学会等名
      第195回システムとLSIの設計技術研究発表会
  • [学会発表] 高位合成を用いたハードウェア設計における三角ループ向けスカラリプレイス2021

    • 著者名/発表者名
      坂部 光, 瀬戸 謙修
    • 学会等名
      第195回システムとLSIの設計技術研究発表会
  • [学会発表] ループ平坦化におけるループ回数の2のべき乗化による回路最適化2021

    • 著者名/発表者名
      伊澤 昇平, 瀬戸 謙修
    • 学会等名
      第196回システムとLSIの設計技術研究発表会(デザインガイア2021)

URL: 

公開日: 2022-12-28  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi