A Kernelnalized learning method as a model of insect-brain and its application for an incremental learning algorithm for embedded machine learning systems

Research Project

Project/Area Number	22K12176
Research Category	Grant-in-Aid for Scientific Research (C)
Allocation Type	Multi-year Fund
Section	一般
Review Section	Basic Section 61030:Intelligent informatics-related
Research Institution	Chubu University
Principal Investigator	山内康一郎中部大学, 工学部, 教授 (00262949)
Project Period (FY)	2022-04-01 – 2025-03-31
Project Status	Granted (Fiscal Year 2022)
Budget Amount *help	¥1,690,000 (Direct Cost: ¥1,300,000、Indirect Cost: ¥390,000) Fiscal Year 2024: ¥260,000 (Direct Cost: ¥200,000、Indirect Cost: ¥60,000) Fiscal Year 2023: ¥260,000 (Direct Cost: ¥200,000、Indirect Cost: ¥60,000) Fiscal Year 2022: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000)
Keywords	昆虫脳の学習モデル / 追加学習モデル / 忘却の重要性 / 昆虫脳 / 学習モデル / 機械学習 / 追加学習 / 予算付き学習
Outline of Research at the Start	昆虫の微小脳の中枢：キノコ体のニューロンの中で、感覚入力の新奇性に反応を示すドーパミン作動性ニューロンとキノコ体出力細胞の学習能力に焦点を当て、次の疑問に対する回答を数理モデルから得ると共に実用性を検証する。疑問１：およそ２０個という記憶容量を運用するために、どの記憶を保持し・捨てるのか？疑問２：新規に覚えた記憶も短時間しか保持しないメリットは何か？方法：kernel法を活用して数理モデルを構築し、学習サンプル分布が頻繁に変動する環境における学習で、忘却による損失　VS　変化する分布への不適応による損失　から昆虫脳の学習戦略を解釈する。これに基づく学習理論を構築し、その実用性を検証する。
Outline of Annual Research Achievements	ショウジョウバエの脳中枢であるキノコ体には、新奇な匂いだけに強く反応して、それを反Hebb学習するニューロンが存在する。この現象は新奇な匂いの追加学習を行っている事を強く示唆するものである[1]。ただし制限された容量以内で追加学習を継続するためか、新奇な匂いを与えると、既存の記憶に関係するキノコ体出力ニューロン（MBON)のシナプス結合強度が増加（記憶の減衰（忘却））することが確認されている[1]。この「忘却」メカニズムをKernel法を使ってモデル化し、忘却戦略に応じて次の2つの仮説を提案した。①最古の記憶を破棄すると仮定した場合、この破棄に伴う累積誤差の上昇を緩和する。②最近最も使用していない記憶を破棄すると仮定した場合、このような記憶を特定するために必要とされる。これらの仮説は、昆虫脳における記憶の忘却の重要性を示唆する。具体的には、このMBONα'-3のHebb学習モデルについて最大誤り回数と記憶の減衰率との関係を数学的に導出すると共に計算機シミュレーション結果も踏まえて、いずれも累積誤差を減少させることを示した。これらの結果は現在国際会議に投稿中である。また、組み込み機器向け学習エンジンの最新版LGRNNPlusを雑誌投稿し、採択された[2]。今後この学習理論に上記で得られた知見の導入を試みる。 [1]D.Hattori, Y.Aso, Kurtis J. Swartz, Gerald M. Rubin, L.F. Abbott, Richard Axel . Cell, vol.169, pp. 956--969, May, (2017). [2] Koichiro Yamauchi ., Evolving Systems, vol.14, pp. 437--460, December, (2022).
Current Status of Research Progress	Current Status of Research Progress 2: Research has progressed on the whole more than it was originally planned. Reason ショウジョウバエは新奇な匂いだけに反応するキノコ体出力ニューロン(MBONα'-3)が存在する。ただしキノコ体からMBONα'-3への神経繊維の本数と一種類の匂いに対して反応するキュニオン細胞の個数より、弁別できる匂いは20種類程と見積もられる。このように制限された容量以内で追加学習を継続するため、過去の記憶の一部を捨てて新しい匂いを学習していると予想できる。事実、新奇な匂いを与えると、既存の記憶に関係するキノコ体出力ニューロン（MBON)のシナプス結合強度が増加（忘却）することが確認されている[1]。この「忘却」メカニズムをKernel法による学習アルゴリズムとしてモデル化し、忘却戦略に応じて次の2つの仮説を提案した。①最も古い記憶を破棄すると仮定した場合、この破棄に伴う累積誤差の上昇を緩和する。②最近最も使用していない記憶を破棄すると仮定した場合、このような記憶を特定するために必要とされる。これらの仮説は、昆虫脳における忘却の重要性を示唆するものである。具体的には、kernel法でモデル化したMBONα'-3のHebb学習アルゴリズムについて最大誤り回数と忘却率との関係を数学的に導出すると共に計算機シミュレーション結果も踏まえて評価をした。学習モデルをkernel法を用いて構築し、その理論解析を行った。これにより昆虫脳における追加学習時に、一見不合理に思われる忘却が生ずることでかえって累積誤差の上昇を抑える事が可能になる事を理論的に示すことが出来た。 [1]D.Hattori, Y.Aso, Kurtis J. Swartz, Gerald M. Rubin, L.F. Abbott, Richard Axel . Cell, vol.169, pp. 956--969, May, (2017).
Strategy for Future Research Activity	①仮説の検証: 導き出された2つの仮説「仮説１：忘却が最古の記憶の削除に伴う累積誤差の上昇を緩和する。仮説２：忘却（記憶の減衰率）が最も最近使用していない記憶の特定を可能とし、損失を最小限に抑えながら削除する。」のうちどちらが正しいのかを行動実験で調査するべく、ショウジョウバエの研究を行っている研究者の中から協力者を探す。 ②また、忘却を積極的に活用する組み込み学習エンジンを開発して実応用に供する。具体的には以前より研究していた組み込み機器向け学習エンジンの最新版LGRNNPlus[2]に上記で得られた知見の導入を試みる。 [2] Koichiro Yamauchi . "Quick Continual kernel learning on bounded memory space based on balancing between adaptation and forgetting", Evolving Systems, vol.14, pp. 437--460, December, (2022). またこのような学習エンジンを使った太陽電池のMPPTコンバータを作成してその評価を行う。このためにMPPTコンバータの制御用マイクロコンピュータのソフトウエアを構築する。