2019 Fiscal Year Research-status Report
Analog-Digital Mixed Signal Reconfigurable System for Machine Learning to Analog Signal
| Project/Area Number |
18K11223
|
|---|
| Research Institution | The University of Kitakyushu |
|---|
Principal Investigator |
中武 繁寿 北九州市立大学, 国際環境工学部, 教授 (10282831)
|
|---|
| Project Period (FY) |
2018-04-01 – 2021-03-31
|
| Keywords | 機械学習 / アナログ・パーセプトロン回路 / DACベース乗算器 / 低電力ニューラルネットワーク回路 |
|---|
| Outline of Annual Research Achievements |
工場、農場、都市などの様々な地域で活用する無線センサノード向け機械学習ハードウエアの開発を目標としている。ただし、従来のGPUやFPGAベースのニュー ラルネットワークアーキテクチャとは異なり、大規模な計算を犠牲する一方で、アナログ信号を直接扱うことで、小型でかつ低消費電力のアーキテクチャを提案する。ここでは、DACベースの乗算器を導入したはパーセプトロン回路を提案している。今年度は、以下の3つの検証を行った。
(1) 前年度の回路シミュレーションの結果を踏まえ、多層アナログ・パーセプトロン回路を設計した。また、多層化の際に、パーセプトロン回路間のノイズを軽減すためのフィルタ回路を導入し、レイアウト設計、ポストレイアウトシミュレーション検証を実施し、回路を確定することができた。
(2) 回路の確定に伴い、CMOS0.6umプロセスにおいて回路試作し、動作検証を行い、シミュレーションと同等の結果が得られることを確認した。
(3) 前年度に開発したソフトウェアによりDACの分解能と学習率の相関を調べ、3ビットのDACでもある程度の学習率が達成できることを確認した。一方で、現在は、BNN（Binary Neural Network）のように極端に小さな分解能の事例との比較を進めている。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
研究計画の2年目の目標は、多層ニューラルネットワークにおいて、機械学習ソフトウェアに対応づけた回路シミュレーションができるようにことであった。これは、活性化関数ReLUに対応するソースフォロア回路と多層化の際に生じるノイズ低減のためのフィルタ回路を導入により解決でき、その結果を
- Chao Geng, Qingji Sun and Shigetoshi Nakatake, An Analog CMOS Implementation for Multi-layer Perceptron with ReLU Activation, MOCAST 2020.
に投稿し、採録を得ることができた。また、
- 野口仁一郎・中武繁寿、アナデジ混在パーセプトロン回路におけるDAC型乗算回路に関する検討、電子情報通信学会、信学技報, vol. 119, no. 428, CPSY2019-112, pp. 177-181, 2020年2月.
において、よりコンパクトなパーセプトロン回路の提案が可能であることを示し、次年度の研究内容の準備を進めることができた。さらに、CMOS0.6umプロセスにおけるチップ試作と測定ができ、当初の計画を予定どおり進めることができた。
|
| Strategy for Future Research Activity |
最終年度は、大きくは次の3つの研究を進める。
(1) 今年度に準備を進めた、低分解能DACを用いたコンパクトなパーセプトロン回路を対象とし、ソフトウェアにより機械学習を行う。その際には、学習率のみならず、学習時間の最適化も図る。方法としては、バックプロパゲーションやバッチ学習等における改良が必要となるが、BNN（Binary Neural Network）やSNN（Spike Neural Network）における機械学習の事例を参考に進める。結果は、SNN、BNNと比較しまとめる予定である。
(2) 心拍、呼吸、発話、モータ音、などの実際のアナログ信号を収集し、応用事例を意識して、機械学習向けハードウェアとしての特徴を整理する。そのために、既存の心拍センサや高性能マイクなどからの信号収集を行うが、学習のために十分なデータセットを得るための工夫を現在検討中である。この検証の中で、リカレント学習の必要性が生じることも予想され、その場合には、新しい研究課題として設定を試みる。
|
