2022 Fiscal Year Annual Research Report
Fundamentals and developments of brainmorphic computing hardware
| Project/Area Number |
20H00596
|
|---|
| Research Institution | Tohoku University |
|---|
Principal Investigator |
堀尾 喜彦 東北大学, 電気通信研究所, 教授 (60199544)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
池口 徹 東京理科大学, 工学部情報工学科, 教授 (30222863)
加藤 秀行 大分大学, 理工学部, 講師 (00733510)
香取 勇一 公立はこだて未来大学, システム情報科学部, 教授 (20557607)
佐藤 茂雄 東北大学, 電気通信研究所, 教授 (10282013)
島田 裕 埼玉大学, 理工学研究科, 准教授 (50734414)
鈴木 秀幸 大阪大学, 大学院情報科学研究科, 教授 (60334257)
深見 俊輔 東北大学, 電気通信研究所, 教授 (60704492)
藤原 寛太郎 東京大学, ニューロインテリジェンス国際研究機構, 特任准教授 (00557704)
|
|---|
| Project Period (FY) |
2020-04-01 – 2025-03-31
|
| Keywords | ブレインモルフィック / 脳型計算 / 脳型情報処理 / ニューロモルフィック / 脳型ハードウェア / 非線形複雑系 / 高次元ダイナミクス / リザバー計算 |
|---|
| Outline of Annual Research Achievements |
１．脳型デバイス・回路基盤の構築：スピントロニクス素子を用いた人工ニューロン・シナプスの実現に向け、材料・素子研究を継続して行い、アナログ的性質の向上や読み出し信号の増大が可能な構造の開発を推進した。また、自励発振機能を有するニューロン回路の構築に用いる共鳴トンネルダイオード(RTD)の製作プロセスを最適化すると共に、RTDニューロン回路の動作を検証した。
２．脳型基本アーキテクチャの構築：メゾスコピックなコアネットワークとしてリザバーニューラルネットワーク(RNN)に注目した。まず、カオスニューラルネットワークRNNについて、FORCE学習の適用、音声認識タスクへの応用、出力層へのカオスニューロンの導入などを行い、様々なダイナミクスでの有効性を評価した。また、予測符号化と強化学習を組み込んだRNNモデルの構築・評価を進めた。特にメンタルシミュレーション機能を移動ロボット環境で評価し、行動計画タスク性能が改善されることを示した。さらに、脳神経系の発達と学習の数理モデル構築を進めた。具体的には、振動子系の同期・非同期現象と学習との関係を調査した。また新たに、海馬学習・記憶モデルである時空間学習則に着目し、時間履歴が学習性能の向上に大きく寄与することを明らかにした。
３．脳型基本システム試作：１．のスピントロニクスデバイスを用いた回路設計のためのデバイス数理・回路モデルを、熱ダイナミクス・回路に着目して検討し、CMOS回路との融合を図った。
４．データ解析：非線形時系列分類手法の改良、強制自励振動系のTaming Chaosの解析、培養神経活動解析、神経雪崩現象を誘起する自己組織神経回路網の解析に取り組んだ。さらに、ネットワーク構造推定手法、およびグラフ間距離を用いたネットワーク構造予測手法を提案し、様々なネットワークに対して適用可能性を明らかにした。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
脳型デバイス・回路については、スピントロニクス素子開発に関して若干の遅れはあるものの、新たな三端子素子作製プロセス構築が順調に進展している。さらに、共鳴トンネルダイオード(RTD)の常温動作に向けてプロセスの最適化を行った。また、RTD/CMOS混成回路による自励発振ニューロン回路について、数値実験により良好な動作を確認した。
脳型基本アーキテクチャに関しては、メゾスケールネットワークコアとしてのリザバーニューラルネットワーク(RNN)の研究が進展した。予測符号化と強化学習を組み込んだRNNモデルを構築し、強化学習タスクとメンタルシミュレーションによる行動計画に活用した。また、RNNのハードウェア実装に必須なハイパーパラメータチューニング手法の研究も進展している。一方、カオスRNNをコア候補として加え、ダイナミクスや性能について明らかにした。その際、FORCE学習の適用、出力層へのカオスニューロンの導入など、新規アイディアが生まれた。さらに、脳・神経系の数理モデル構築の過程で、同期・非同期の理論解析や膵β細胞への応用研究に関する成果を得た。また、コアの自己組織化に関して海馬時空間学習則を新たに追加し、フラクタル的記憶形成や時空間列コンテキストの分離・統合についての検討が進んでいる。
脳型基本システム試作では、半導体不足により試作に遅延が生じたが、スピントロニクス素子の数理および回路モデルを開発し、次年度の試作に備えると共に、レガシーCMOSプロセスによるスパイキングニューロン回路の試作・評価を完了した。
データ解析では、既存の時系列解析手法の見直しにより新たな解析手法を提案した。さらに、ネットワーク構造の推定および予測手法を提案し、コア探索に還元する準備が整いつつある。
以上により、本研究は概ね順調に進展していると判断する。
|
| Strategy for Future Research Activity |
脳型デバイス・回路基盤の構築では、三端子型スピントロニクスシナプス・ニューロン素子の試作を複数回行い、良好な動作が実現可能な材料・素子構成に関する知見をまとめるとともに、測定を通して数理モデルの精度を向上させる。共鳴トンネルダイオード(RTD)デバイス試作を進め、負性抵抗特性を確認する。さらに、CMOS回路と接続して自励発振ニューロン回路・ネットワーク動作を実証する。RTDデバイスで所望の動作が得られない場合は、CMOS回路による代替を検討する。
脳型基本アーキテクチャの構築に関しては、提案した強化学習型リザバーニューラルネットワーク(RNN)モデルの階層化・緻密化を行い、応用範囲拡張を図る。さらに、感覚情報前処理や多自由度運動制御への拡張を試み、多様なタスクでの評価を進める。また、本年度検討したカオスRNNにより、脳幹ネットワークプロトタイプの構築を検討する。さらに、新たに時空間学習記憶ネットワーク(STLMN)を応用した方法についても検討する。なお、STLMNに関しては、現在同期式数値シミュレーションを行っているが、非同期的にスパイクが伝播するよう方法を変更する必要がある。また、脳・神経系の数理モデル構築も進展させ、ハードウェア実装を想定した数理モデル研究を加速する。
脳型基本システム試作については、半導体不足のため本年度できなかったスピントロニクス/CMOS混成回路のプロトタイプ試作に挑戦する。また、本年度レガシープロセスにより試作したスパイキングニューロン回路を先端プロセスに移植する。STLMNについても、個別部品を活用したアナデジハイブリッド回路による実装を行う。
データ解析については、開発した時系列およびネットワーク構造解析手法をさらに発展させることに加え、脳計算原理の解明に向け、これまでに構築してきたコアネットワークの解析を行う。
|
