神経回路モデルに基づく学習情報処理機構の研究

• Project/Area Number: 05650062
• Research Category: Grant-in-Aid for General Scientific Research (C)
• Allocation Type: Single-year Grants
• Research Field: Engineering fundamentals
• Research Institution: The University of Tokyo
• Principal Investigator: 甘利 俊一 東京大学, 工学部, 教授 (80010726)
• Co-Investigator(Kenkyū-buntansha): 藤原 彰夫 東京大学, 工学部, 助手 (30251359) ; 村田 昇 東京大学, 工学部, 助手 (60242038)
• Project Period (FY): 1993
• Project Status: Completed (Fiscal Year 1993)
• Budget Amount: ¥2,000,000 (Direct Cost: ¥2,000,000); Fiscal Year 1993: ¥2,000,000 (Direct Cost: ¥2,000,000)
• Keywords: 神経回路網 / 学習曲線 / 情報量規準 / 汎化誤差 / 訓練誤差

Research Abstract

神経回路モデルの学習,特に最近注目を浴びているEMアルゴリズムを応用した学習に関して,甘利らが発展させてきた情報幾何学の手法を適用し,その幾何学的構造の解明を試みた.
また,例題からの学習において学習能力をはかる一基準となる学習曲線に関して,従来求められているものを更に進め,情報幾何学の手法や統計的な漸近理論を応用することによってより複雑なものに関して考察を進めた.
連想記憶モデルについては,構成素子として非単調な特性を持つものを用いることによって,その能力が向上することが大規模な計算機シミュレーションにより最近わかってきたが,統計的および統計力学的手法を用いてこのモデルの記憶容量の評価およびダイナミクスの特性解析を行なった.
また並行して,計算機シミュレーションを行なうことにより,これらの理論解析結果の裏付けを行なった.

Research Products

• [Publications] S.Amari: "Backpropagation and Stochastic Gradient Descent Method." Neurocomputing. 5. 185-196 (1993)
• [Publications] N.Murata: "Learning curves,model selection and complexity of neural networks" Advances in Neural Information Processing Systems. 5. 607-614 (1993)