• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

大規模AI学習向け高速推論学習と省電力を両立する深層学習プロセッサのコデザイン

研究課題

研究課題/領域番号 18J11572
研究種目

特別研究員奨励費

配分区分補助金
応募区分国内
研究分野 計算機システム
研究機関神戸大学

研究代表者

森 陽紀  神戸大学, システム情報学研究科, 特別研究員(DC2)

研究期間 (年度) 2018-04-25 – 2020-03-31
研究課題ステータス 採択後辞退 (2019年度)
配分額 *注記
2,100千円 (直接経費: 2,100千円)
2019年度: 1,000千円 (直接経費: 1,000千円)
2018年度: 1,100千円 (直接経費: 1,100千円)
キーワード深層学習 / モデル並列 / パイプライン逆伝搬 / 分散メモリ / メモリ容量削減 / メモリバンド幅削減 / 低電力
研究実績の概要

本研究の目的は、アルゴリズムとハードウェアの両面から、システム全体の効率化・省電力化を図り、既存技術と比較してコスト対電力性能比2桁改善を実現する大規模深層学習に向けた高速かつ高効率な深層学習プロセッサを開発することである。
本年度は、H29年度に開発したパイプライン並列型深層学習アルゴリズムで未解決となっていた、パイプライン学習実行時の認識精度向上を目指した最適関数の再設計及び、パイプライン深層学習メモリ転送量と通信レイテンシを2桁向上する、低電力メモリアーキテクチャの提案を行った。
具体的には、パイプライン実行時の重み係数更新量の誤差を補完する適応型最適化関数の設計に取り組むと共に、各レイヤにおけるプロセッサ内部の演算コプロセッサとメモリ分割アーキテクチャの設計、畳み込み層・バッチ正規化層における高効率なMAC演算手法の設計に加え、プロセッサ間の外部通信のためのデータバス分割アーキテクチャの検討、外部データバスのデータフロー片方向制御によるメモリバンド幅削減手法の開発に取り組んだ。さらに、プロセッサ内の高速キャッシュメモリ(SRAM)の低消費電力化手法及び提案アーキテクチャをLSI上に実装し、その電力性能検証を行った。
これらの成果は、国内及び国際学会に採択されているとともに、IEEEにおけるトップ学術論文誌に採録されている。
今後、コプロセッサと申請者の開発したモデル並列アルゴリズム、メモリ分散アーキテクチャを統合し、FPGA上に深層学習プロセッサを実現することで、実際のレイヤ処理時間、メモリアクセス数、外部通信バンド幅や外部転送データ容量等の検証が必要となる。

現在までの達成度 (段落)

翌年度、交付申請を辞退するため、記入しない。

今後の研究の推進方策

翌年度、交付申請を辞退するため、記入しない。

報告書

(1件)
  • 2018 実績報告書
  • 研究成果

    (5件)

すべて 2019 2018

すべて 雑誌論文 (1件) (うち査読あり 1件) 学会発表 (2件) (うち国際学会 1件) 産業財産権 (2件)

  • [雑誌論文] A 28-nm FD-SOI 8T Dual-Port SRAM for Low-Energy Image Processor With Selective Sourceline Drive Scheme2019

    • 著者名/発表者名
      H. Mori, T. Nakagawa, Y. Kitahara, Y. Kawamoto, K. Takagi, S. Yoshimoto, S. Izumi, H. Kawaguchi, and M. Yoshimoto
    • 雑誌名

      IEEE Transactions on Circuits and Systems I: Regular Papers

      巻: 66 号: 4 ページ: 1442-1453

    • DOI

      10.1109/tcsi.2018.2885536

    • 関連する報告書
      2018 実績報告書
    • 査読あり
  • [学会発表] 28-nm FD-SOI Dual-Port SRAM with MSB-Based Inversion Logic for Low-Power Deep Learning2018

    • 著者名/発表者名
      H. Mori, S. Izumi, H. Kawaguchi, M. Yoshimoto
    • 学会等名
      2018 25th IEEE International Conference on Electronics, Circuits and Systems (ICECS)
    • 関連する報告書
      2018 実績報告書
    • 国際学会
  • [学会発表] 分散深部学習におけるメモリと帯域幅削減のためのレイヤーブロックワイズパイプライン2018

    • 著者名/発表者名
      森 陽紀, 陽川 哲也, 和泉 慎太郎, 吉本 雅彦, 川口 博, 井上 敦樹
    • 学会等名
      LSIとシステムのワークショップ2018
    • 関連する報告書
      2018 実績報告書
  • [産業財産権] 学習システム、処理装置、処理方法、およびプログラム2018

    • 発明者名
      森陽紀、陽川哲也、川口博
    • 権利者名
      森陽紀、陽川哲也、川口博
    • 産業財産権種類
      特許
    • 産業財産権番号
      2018-119945
    • 出願年月日
      2018
    • 関連する報告書
      2018 実績報告書
  • [産業財産権] 学習システム、学習方法、およびプログラム2018

    • 発明者名
      森陽紀、山田和樹、川口博
    • 権利者名
      森陽紀、山田和樹、川口博
    • 産業財産権種類
      特許
    • 産業財産権番号
      2018-196539
    • 出願年月日
      2018
    • 関連する報告書
      2018 実績報告書

URL: 

公開日: 2018-05-01   更新日: 2024-03-26  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi