長期記憶を導入したニューラルネットモデルの提案と動的環境におけるロバスト性の検証

• Project/Area Number: 14780285
• Research Category: Grant-in-Aid for Young Scientists (B)
• Allocation Type: Single-year Grants
• Research Field: Intelligent informatics
• Research Institution: Kobe University
• Principal Investigator: 小澤 誠一 神戸大学, 自然科学研究科, 助教授 (70214129)
• Project Period (FY): 2002 – 2003
• Project Status: Completed (Fiscal Year 2003)
• Budget Amount: ¥3,000,000 (Direct Cost: ¥3,000,000); Fiscal Year 2003: ¥1,100,000 (Direct Cost: ¥1,100,000); Fiscal Year 2002: ¥1,900,000 (Direct Cost: ¥1,900,000)
• Keywords: 動的環境 / ニューラルネット / 追加学習 / 生涯学習 / 長期記憶 / 知識抽出 / 教師あり学習 / 強化学習 / メモリベース学習

Research Abstract

ダイナミックに変化する環境の下では,過去に得た知識が常に有効であるとは限らず,環境に適応するため絶えず修正を要求される.しかし,同じ環境が将来において再び現れるようなケースでは,過去に獲得したすべての知識を修正するのは必ずしも効率的とはいえない.つまり,ある時点で通用しなくなった知識であっても,長期的な記憶として保存し,その知識が有用となる環境が再び現れたときに想起・利用できるようなメカニズムをもつことが望ましい.また,学習期間に終わりのないlife-long学習としての性質をもつには,知識を効率よくメモリに蓄積できなければならない.
本研究では,上記のような機能を有するニューラルネットモデルを提案した.このモデルは,(1)入出力関係を学習するニューラルネット部,(2)ニューラルネット部で抽出された知識を蓄える連想バッファ,(3)連想バッファにある知識のうち必要なものを長期的に保持するための長期記憶,(4)環境の変動を検知する検知部の4つのモジュールで構成される.
平成14年度において提案したモデルでは,ロバストな環境変動の検知を行うためのメカニズムと高速な環境への適用を実現するための連想メカニズムを開発し,この機能を実装した.複数の異なる一次元関数が順次移り変わっていく単純な動的環境の下で提案モデルの適応能力をシミュレーション実験で調べた.その結果,提案したモデルは環境変動を正確に検知し,過去に経験した環境の知識を活かして,高速に環境に追従できることを確認した.また,動的環境の下であっても追加学習を安定に行えることを示した.
平成15年度では,移り変わっていく個々の環境に特有の知識と不変な知識を区別して,共有知識を抽出・利用する知識移転のメカニズムを付加した.シミュレーション実験を通して,この知識転移の機能が正しく機能し,さらに高速な環境適応が可能となることを確認した.

Research Products

• [Publications] Seiichi Ozawa: "A memory-based learning approach in neural networks under dynamic environments"Dynamic Systems Approach for Embodiment and Sociality, International Series on Advanced Intelligence. 6. 323-328 (2003)
• [Publications] Seiichi Ozawa: "Reinforcement learning using RBF networks with memory mechanism"Knowledge-Based Intelligent Information and Engineering Systems, LNAI, Springer-Verlag. 1149-1156 (2003)
• [Publications] 白神 那央人: "記憶メカニズムを導入した階層型ニューラルネットによる強化学習"計測自動制御学会論文集. 第39巻・第12号. 323-328 (2003)
• [Publications] Keisuke Okamoto: "A Fast Incremental Learning Algorithm of RBF Networks with Long-Term Memory"Proc.of IEEE/INNS Int.Conf.on Neural Networks 2003. 323-328 (2003)
• [Publications] Kenji Tsumori: "Incremental Learning in Dynamic Environments Using Neural Network with Long-term Memory"Proc.of IEEE/INNS Int.Conf.on Neural Networks 2003. 2583-2588 (2003)
• [Publications] 小林 正宜: "長期記憶を導入した階層型ニューラルネットの追加学習アルゴリズム"計測自動制御学会論文集. 第38巻・第9号. 792-799 (2002)
• [Publications] Naoto Shiraga: "A Reinforcement Learning Algorithm for Neural Networks with Incremental Learning Ability"Proc.of Int.Conf.on Neural Information Processing 2002 (ICONIP2002). 5. 2566-2570 (2002)
• [Publications] Seiichi Ozawa: "A Memory-Based Learning Approach in Neural Networks Under Dynamic Environments"Proc.of the Third Int.Symposium on Human and Artificial Intelligence Systems (HART2002). 402-405 (2002)
• [Publications] Kenji Tsumori: "Incremental Learning in Dynamic Environments Using Neural Network with Long-term Memory"Prof.of the International Joint Conference on Neural Networks 2003 (IJCNN2003). (印刷中). (2003)
• [Publications] Keisuke Okamoto: "A Fast Incremental Learning Algorithm of RBF Networks with Long-Term Memory"Prof.of the International Joint Conference on Neural Networks 2003 (IJCNN2003). (印刷中). (2003)