2023 Fiscal Year Annual Research Report
On a noise convolutional neural network
| Project/Area Number |
19H04078
|
|---|
| Research Institution | Tohoku University |
|---|
Principal Investigator |
中原 啓貴 東北大学, 未踏スケールデータアナリティクスセンター, 教授 (20624414)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
佐野 健太郎 国立研究開発法人理化学研究所, 計算科学研究センター, チームリーダー (00323048)
佐藤 真平 信州大学, 学術研究院工学系, 准教授 (80782763)
|
|---|
| Project Period (FY) |
2019-04-01 – 2024-03-31
|
| Keywords | AI / Machine Learning / FPGA |
|---|
| Outline of Annual Research Achievements |
雑音CNN(Convolutional Neural Network)とはCNNの大量のパラメータを疑似乱数をベースとした雑音モデルで置き換えるCNNの一種であり、回路面積の削減により高速なCNN専用回路を実現できる。
本研究開発において、雑音CNNは既存CNNと等価であることを導出した。雑音CNN専用回路の設計を行い、FPGAプロトタイプ実装を行った。雑音生成回路と1×1サイズ畳込みを組み合わせた構成に適したノイズ生成回路を調査し、回路実装した。GPUと比較して提案手法の優位性を示した。雑音CNN回路に既存のパラメータ削減方法である低ビット化と枝刈り手法を適用して更に性能向上させた。応用事例としてクラス分類、物体検出、姿勢推定、深度推定に適用可能であることを確認した。また、再帰型ニューラルネットワークへの適用を検討しFPGA実装を行なった。アンサンブル手法を適用し、モデルを軽量化しつつ高速な専用回路実装方法を研究開発した。学習時に認識精度劣化を抑制するパラメータ調整方法を実験的に導き出した。
雑音畳み込みは既存畳み込みと等価なので、既存手法と組合せが可能であることを示した。また、雑音CNNの学習高速化のためのFPGAクラスタの環境構築を行い、雑音CNNの学習方式を検討した。
研究成果を国際会議、雑誌論文にまとめて出版した。また、一部の研究成果は英国インペリアルカレッジロンドン校との国際共同研究成果として発表した。
|
| Research Progress Status |
令和5年度が最終年度であるため、記入しない。
|
| Strategy for Future Research Activity |
令和5年度が最終年度であるため、記入しない。
|
