2021 Fiscal Year Research-status Report
Hardware that has itself: Realization of dynamical proto-self for brain-type autonomous hardware.
| Project/Area Number |
21K18303
|
|---|
| Research Institution | Tohoku University |
|---|
Principal Investigator |
堀尾 喜彦 東北大学, 電気通信研究所, 教授 (60199544)
|
|---|
| Project Period (FY) |
2021-07-09 – 2025-03-31
|
| Keywords | 自己 / 脳型ハードウェア / 複雑高次元ダイナミクス / リザバー計算 / 脳幹ネットワーク / 意識・無意識 |
|---|
| Outline of Annual Research Achievements |
本研究課題では、「自分」を持つハードウェア(HW)システムの構築を目指している。ここでの「自分」とは、生物学的には最も原始的である動的原自己を指す。これは、基準となる自身の状態（(A)参照表象）を動的・安定に保持し、入力や環境を把握する（(B)感覚表象）と共に、状況変化に伴う内部状態（(C)現況表象）の参照表象からのずれを抽出・予測・学習する。
本年度は、動的原自己の3つの構成要素を実現するニューラルネットワーク(NN)について検討した。不変性と安定性が重要な(A)については、安定な収束が保証されている通常のリザバーニューラルネットワーク(RNN)で実現することとした。一方、多様性と弁別性が重要な(B)と、(B)による刺激に対して鋭敏・多様に反応し、同時に、既知の刺激には一貫性をもって安定に反応することが必要な(C)には、我々が提案したカオスニューラルネットワークリザバー(CNNR)を用いることとした。まず、時系列予測タスクや離散単語認識タスクを用いてCNNRの有効性を確認し、CNNRがRNNより小規模なネットワークで優れた性能を持つことや、特徴的なメモリ容量特性を示すことを示した。また、CNNRが示す複雑ダイナミクスについて、非線形動力学的指標と情報理論的指標を組み合わせて解析した。この際、新たな解析手法として、complexity-entropy causality plane (CECP)を導入することにより、性能とパラメータの関係を初めて明らかにした。これと同時に、CNNRを3次元集積回路化するための回路の基本設計とシミュレーション、および回路実験を行った。さらに、MATLABとSPICEを融合させた回路システムシミュレータを作成し、システム全体としての解析を行った。これに加え、実時間追加学習が可能な、オンライン学習則を複数提案し、それらの有効性について検証した。
|
| Current Status of Research Progress |
Current Status of Research Progress
1: Research has progressed more than it was originally planned.
Reason
実施計画によれば、本年度は、不変性と安定性が重要な基準となる自身の状態を表象する(A)参照表象ネットワーク、および、多様性と弁別性が重要で、入力や環境を把握する(B)感覚表象ネットワークと、(B)による刺激に対して鋭敏・多様に反応し、同時に、既知の刺激には一貫性をもって安定に反応することが必要で、状況変化に伴う内部状態の参照表象からのずれを抽出・予測・学習する(C)現況表象ネットワークのそれぞれについて構成を検討し、これらにカオスニューラルネットワークリザバー(CNNR)を応用することを目標としていた。
これに対し、本年度は上記の3つのネットワーク構成についての検討に加え、CNNRの非線形時系列予測や離散単語認識への応用を行ったほか、時系列予測タスクに対してのCNNRのパラメータと認識性能の関係を、複数の非線形動力学的指標と情報理論的指標とを組み合わせることにより明らかにした。さらに、CNNRを小型・低消費電力の3次元積層集積回路システムとして実装するためのサイクリック型CNNRの構成法とその基本回路を提案すると共に、それらを集積回路化したプロトタイプチップにより、提案手法の有効性を評価した。さらに、実時間学習に対応できるように、CNNRのオンライン学習則を提案した。
以上のように、当初計画に加え、高次元複雑ダイナミクスの解析やハードウェア化に対する検討を行っており、研究は当初計画以上に進展している。
|
| Strategy for Future Research Activity |
今年度の成果、特にカオスニューラルネットワークリザバー(CNNR)の成果を拡張し、これらを組み合わせることにより、動的原自己を構成するネットワークシステムを構築する。さらに、これらを効率的なハードウェアとして実装する。
R4年度は、R3年度に提案しプロトタイプ回路を製作した3つの要素ニューラルネットワーク(NN)の本格的なPoof-of-Concept (POC) チップの試作と評価を行う。世界的な半導体不足で試作が困難な状況が続いているが、TSMC 90 nm CMOSプロセスを用いた試作を目指す。一方、スピントロニクス素子を応用したスパイキングニューラルネットワーク(SNN)については、その基本要素回路の設計を行うと共に、回路のCMOS部分はPOCチップに相乗りし、スピンデバイス部分は東北大学電気通信研究所(RIEC)附属ナノ・スピン実験施設の試作サービスを利用して実装する。
続くR5年度では、R4年度までの結果を基に、プロトタイプ原自己システム全体を設計する。構築する原自己システムに対し、音声波形や情動反応顔画像に対する原自己NNの反応、および、コンピュータ上の仮想身体状態の動的安定保持性能を評価する。
最終年度のR6年度には、プロトタイプ原自己システムを集積回路システムとして実装する。この際、TSMC 65 nm CMOSプロセスで集積回路化し、東北マイクロテック(株)を通して3次元積層LSI化を行う。一方、スピントロニクスSNNについては、スピンネットワーク部分をRIECナノ・スピン実験施設の試作サービスで実装し、これとR4年度に試作したCMOSチップを結合する。最後に、提案した原自己システムの汎用システムへの拡張を検討すると共に、成果を脳科学研究へと還元する。
|
