2016 Fiscal Year Annual Research Report
Integrated-circuit implementation of chaotic Boltzmann machines for deep learning hardware
| Project/Area Number |
15K12110
|
|---|
| Research Institution | Kyushu Institute of Technology |
|---|
Principal Investigator |
森江 隆 九州工業大学, 大学院生命体工学研究科, 教授 (20294530)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
鈴木 秀幸 大阪大学, 情報科学研究科, 教授 (60334257)
田向 権 九州工業大学, 大学院生命体工学研究科, 准教授 (90432955)
|
|---|
| Project Period (FY) |
2015-04-01 – 2017-03-31
|
| Keywords | ソフトコンピューティング / ニューラルネットワーク / 電子デバイス・機器 / 集積回路 |
|---|
| Outline of Annual Research Achievements |
機械学習における重要な確率的モデルであるボルツマンマシンを決定論的なカオスを利用して実現する，カオスボルツマンマシン（CBM）が提案されている．このハードウェア実現のための要素技術を開発し，ディジタル・アナログ両方式での集積回路実装により，既存技術との比較を通してその性能を評価し，深層学習機械に適用可能なハードウェア基盤を確立する．
平成27年度は，CBMをソフトウェア実装またはディジタル回路実装する手法として，微分方程式を前進オイラー法で離散化する方法と，出力が反転する時点を計算で予測する方法を比較し，前進オイラー法でも整数部・小数部各8ビットの固定小数点演算でCBMモデルを実現できることを確認した．
一方，アナログ回路実装での大きな課題である非線形関数（exp関数）の実現法として，同関数を表現する時間波形電圧をPWM信号により時間領域でサンプリングする回路構成と，MOSFETのsubthreshold領域での指数関数特性を利用する回路構成の2方法を考案・設計し，回路シミュレーションで動作を確認して，両者の利点欠点を明らかにした．
平成28年度（最終年度）では，MOSトランジスタのsubthreshold領域での指数関数特性を利用したCBM集積回路を0.25ミクロンCMOS技術で設計・試作し，動作を確認した．まず，3ニューロンCBM回路でカオス的動作，温度パラメータ依存性を確認し，次に14ニューロンCBM回路で，エネルギー関数が減少すること，特定の荷重値セットで基本的な最適化問題が解けることを確認した．一方，固定小数点演算のディジタル集積回路でCBMを実装し，100ニューロンCBM回路を構成して，最大カット問題に適用して，最適化問題が解けることを確認した．
|
