2022 Fiscal Year Annual Research Report
A study on a high efficiency training architecture for an edge-AI device
| Project/Area Number |
21J11958
|
|---|
| Research Institution | Hokkaido University |
|---|
Principal Investigator |
金子 竜也 北海道大学, 情報科学院, 特別研究員(DC2)
|
|---|
| Project Period (FY) |
2021-04-28 – 2023-03-31
|
| Keywords | 機械学習 / エッジAI / オンライン学習 / 誤差逆伝播法 / 最適化手法 / FPGA / ソフトウェア/ハードウェア協調設計 |
|---|
| Outline of Annual Research Achievements |
AIの演算処理は「推論処理」と「学習処理」に大別でき，AIの恩恵を得るためにはどちらの処理も必須である．そのうち，主に積和演算等から成り立つ推論処理については多くのエッジAIソリューションが存在する．一方，エッジでの学習処理については，未だ汎用プロセッサを中心としたソフトウェア的な手法に留まっており，消費電力や演算リソース等の学習処理のコストは極めて高い．そこで本研究は，電力やハードウェア資源が制限されるエッジデバイスにおいて，学習処理を可能とする新規アルゴリズムとそれらを実装するアーキテクチャの構築を目的とした．
その一つとして，アナログ回路を導入した「コンピューティングインメモリ（Computing in Memory: CIM）デバイス」のための誤差逆伝播法，およびCIMデバイスを用いて学習処理を行うアーキテクチャの構築を行った．従来のノイマン型アーキテクチャの問題解消に向けた取り組みとして多量のデータ（パラメータ）を保存しているメモリ上で積和演算を行うCIMアーキテクチャが注目されている．本研究では，「ReRAMを用いたCIM AIデバイス」上に学習機能を実現するための新規アルゴリズムの開発を行った．多くのCIM AIデバイスの抱える問題に対処するためディジタル誤差逆伝播法（Digital BP）に着目し，その弱点（性能低下）を補うニューラルネットワークの構造を新たに考案しその性能を示した．当該年度は，査読付き論文誌への投稿とその査読結果を踏まえて電力に関する追加評価を行い，学習部における演算コアの消費電力を10 mW以下にできることを示した．また，同等のアーキテクチャ構造（CIMデバイスを外部メモリとして扱い，学習を専用回路で行う）を持つ他の研究と比較し，その優位性を議論した．上記結果をまとめたものを現在論文誌へと投稿中である．
|
| Research Progress Status |
令和4年度が最終年度であるため、記入しない。
|
| Strategy for Future Research Activity |
令和4年度が最終年度であるため、記入しない。
|
| Remarks |
電子情報通信学会査読付き英文誌への投稿中
|
