研究課題/領域番号 |
22K12202
|
研究機関 | 芝浦工業大学 |
研究代表者 |
保坂 亮介 芝浦工業大学, システム理工学部, 准教授 (80569210)
|
研究期間 (年度) |
2022-04-01 – 2026-03-31
|
キーワード | リザバーコンピューティング |
研究実績の概要 |
機械学習の中でも、時系列データを高速に処理するリザバーコンピューティグが近年大きな注目を集めている。リザバーコンピューティングでは、重ね合わせの原理が成り立たない非線形ニューロン群をリザバー層に配置し、入力データを高次元特徴空間に射影することで、入力データの分離と非線形変換を高速に行うことができる。リザバー層のシナプス結合とネットワーク構造は学習に先立ってカオス状態に調整される必要があるが、リザバー層が大きくなるとその調整は困難となる。一方、脳の神経回路では、興奮性と抑制性のニューロンの数と強度が均衡し、カオス状態が自律的に組織される現象が知られている(興奮抑制バランス)。そこで本研究課題では、神経回路の興奮抑制バランスを用いてリザバー層のパラメータ調整を自律的に行うシステムを開発する。
|
現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
大規模リザバー層の計算機上への実装を行なった。 興奮性ニューロンを800個、抑制性ニューロンを200個用意し、都合1000ニューロンからなるリザバーコンピューティングを計算機上に実装した。ここのニューロンにはスパイキングモデルを使用した。すなわちリキッドステートマシンを実装した。シミュレーションの詳細は、リキッドステートマシンを提唱した論文である、W. Maass, Neural Computation, 2002を主として参考にしている。エコーステートマシンに比べて文献が少ないのが問題であった。ベンチマーク問題についても調査し、弁別課題を使用している。シナプスダイナミクスは静的なものと動的なものの2種を用意し、入力層からのシナプスには静的なものを、リザバー層の再帰シナプスには動的シナプスを用いた。動作するニューラルネットワークを構築できた。
|
今後の研究の推進方策 |
来年度はリザバー層に発火タイミング依存シナプス可塑性を導入する。すなわちSTDP学習則である。STDP学習則にはGutigらが関数化したSTDP学習則を用いる(Gutig et al., Journal of Neuroscience, 2003)。これはSTDP学習のadditive-ruleとmultiplicative-ruleの両方を1つのパラメータで実現できる利点がある。STDPを引き起こす発火のペアの選択にはnearest neighbor法を用いる。ネットワーク構造はランダム結合とし、結合確率は興奮性ニューロン、抑制性ニューロンに依らず0.2とする。すなわち1つのニューロンが他の2000個のニューロンとシナプス結合を構成しているとする。また、抑制性ニューロン-抑制性ニューロン結合にはギャップジャンクションが存在するため、シナプス結合が存在しない場合もあり得るが、本研究では抑制-抑制結合もシナプス結合とし、STDP学習の対象とする。したがってSTDP学習が適用されるシナプス結合は次の4パターンとなる:(1)興奮-興奮、(2)興奮-抑制、(3)抑制-興奮、(4)抑制-抑制。この4つのパターンの組み合わせを網羅するため、$2^4=16$通りのシミュレーションを行う。複数の中央演算装置を有する高性能数値計算機を用いて、これらのシミュレーションをパラレルに実行し、計算時間の短縮を図る。
|
次年度使用額が生じた理由 |
コロナのために出張を控えたため、旅費相当額が次年度使用となった。また、半導体不足のために期待した計算機が購入できず、金額の低い計算機を代替として購入した。その差額が次年度使用となった。
|