2023 Fiscal Year Research-status Report
A Kernelnalized learning method as a model of insect-brain and its application for an incremental learning algorithm for embedded machine learning systems
| Project/Area Number |
22K12176
|
|---|
| Research Institution | Chubu University |
|---|
Principal Investigator |
山内 康一郎 中部大学, 工学部, 教授 (00262949)
|
|---|
| Project Period (FY) |
2022-04-01 – 2025-03-31
|
| Keywords | Kernel Perceptron / Mushroom Output Neurons / Incremental Learning / Free energy principle / Weight shrinkage |
|---|
| Outline of Annual Research Achievements |
ショウジョウバエのキノコ体出力ニューロン(MBON)のうち，α'3とラベル付けされた部位の学習プロセスをKernel法を使った数理モデルで記述し，忘却（重みの減衰）が果たす役割について数理的に議論する．
2023年度は，2022に構築したモデルに加えて，2つの新たな数理モデルを立てた．1つは学習するたびにユニットの重みを減衰させるForgetronと呼ばれる既存のモデルを多次元出力モデルに拡張したもの，もう一つはLeast Recently Used (LRU)法を導入して不要なカーネルを削除するものである．拡張したForgetronについては忘却が累積誤差を抑制することを証明することに成功した．さらにMBONα'3の学習時の振る舞いは，強化学習の枠組みでは説明し難いという問題があったが，これをFristonの自由エネルギー原理を導入することで解決した．自由エネルギー原理に基づけば，全ての学習行動を「サプライズ」を減少させる（未知のものを既知にする）ように学習するものと解釈する．MBONα'3の学習はこれに沿った学習法として説明できる．
|
| Current Status of Research Progress |
Current Status of Research Progress
3: Progress in research has been slightly delayed.
Reason
MBONα'3の忘却を伴う学習モデルとして三つのモデルを提案した．2023年度中にこの三つのモデル全てについて忘却の効果を数理的に証明する予定であったが，証明できたのは一つだけである．残りの二つについては現在も証明作業を継続中である．
|
| Strategy for Future Research Activity |
証明が完了していない数理モデルについて，似たモデルがコンピュータサイエンス分野の研究に存在することが最近判明した．この既に得られている知見を参考にしながらスピード感を持って証明作業を進める．これに並行して2024年度に予定されている組み込み機器用学習エンジンの開発を進める．
|
| Causes of Carryover |
論文投稿に遅れが生じているためである．今後論文投稿を急ぐと共に，２０２４年度の計画である実機への実装を行うための部品代，基板制作費，およびソフトウエア（SDK)購入費に充てる．
|
Research Products
(3 results)
