2020 Fiscal Year Annual Research Report
パイプラインバックプロパゲーションを用いたディープラーニングプロセッサ
| Project/Area Number |
18H01500
|
|---|
| Research Institution | Kobe University |
|---|
Principal Investigator |
川口 博 神戸大学, 科学技術イノベーション研究科, 教授 (00361642)
|
|---|
| Project Period (FY) |
2018-04-01 – 2021-03-31
|
| Keywords | SRAM / ニューラルネットワーク |
|---|
| Outline of Annual Research Achievements |
深層学習プロセッサは大量のパラメータと入出力を扱うため、大容量の内部SRAMが必要となり、シリコン面積の50%以上を占める。システムレベルのエネルギー消費の観点からは外部DRAMが内蔵SRAMの100倍以上の電力を消費するので、DRAM帯域の削減が望まれる。精度を落とさずにメモリ帯域を削減する方法として量子化がある。そのうちのコードブック方式は任意の非線形関数を表現でき、線形量子化よりも精度劣化を抑えることができる。またバイアス・スケーリング・クリッピング・除算が不要なため、線形量子化よりも単純かつ高速に処理できる。
この用途のために深層学習推論プロセッサのコードブック量子化用20トランジスタ超多ポートSRAMを設計した。ビットセルは1つの書き込みポートと8つの読み出しポートを持つ。読み出しポートのうち6つはNMOSで構成され、残り2つをPMOSとすることで、全てをNMOS読み出しポートとした場合に比べて、ビットセル面積を28%削減することができた。40nmプロセスで4kビットテストチップを試作し、電源電圧1.1Vでアクセス時間3ns、バイトあたり2.7pJのエネルギを達成した。コードブックは8ビットを16ビットに変換するルックアップテーブルとして機能し、外部メモリであるDRAMの転送量と内部メモリ容量(キャッシュと畳み込みバッファ)を半減させることができる。これにより、モチーフとするNVIDIA NVDLAプロセッサにおいて20%のエネルギーと26%の面積を削減した。
|
| Research Progress Status |
令和2年度が最終年度であるため、記入しない。
|
| Strategy for Future Research Activity |
令和2年度が最終年度であるため、記入しない。
|
