• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2018 Fiscal Year Annual Research Report

Transcriptional model of declarative memory from hippocampus to neocortex

Research Project

Project/Area Number 16K00329
Research InstitutionUniversity of Yamanashi

Principal Investigator

服部 元信  山梨大学, 大学院総合研究部, 准教授 (40293435)

Project Period (FY) 2016-04-01 – 2019-03-31
Keywords大脳皮質モデル / 破局的忘却 / 擬似リハーサル / Hebb則 / 重みの重要度
Outline of Annual Research Achievements

これまでの研究で,生物学的に妥当な学習法であるHebb則を用いた大脳皮質モデルに,擬似リハーサルを導入することで破局的忘却の抑制ができることがわかっている.本年度の研究では,擬似リハーサルに用いる擬似パターンの数や中間層のニューロン数,中間層数などのパラメータに対する破局的忘却の抑制度合いについて詳細に調査を行った.その結果,擬似パターン数を増やすほど破局的忘却が抑制されるが増やし過ぎると追加学習自体が困難になること,複数の学習データを追加学習させると初頭効果と親近効果が見られること,中間ニューロン数や中間層数が多い表現能力の高いネットワークでは相応の擬似パターン数を用いる必要があり少な過ぎると忘却が起きやすいこと,擬似リハーサルは記憶課題だけでなく大規模な認識課題でも破局的忘却の抑制に寄与することなどを明らかにするとともに,これらのいくつかについてはさらにその原因の調査も行った.一方,従来から,学習率を小さく設定し,ゆっくり学習すると破局的忘却が起こりにくいと言われてきたが,本研究で構築した大脳皮質モデルでもこの現象が起こることを確認し,またその理由について考察を行った.さらに,破局的忘却をより抑制するために,ラットの脳で確認されているシナプスの保護の機構を模倣した,重みの重要度による正則化手法を大脳皮質モデルの学習に導入した.計算機実験の結果,この手法を擬似リハーサルと組み合わせることで従来よりも破局的忘却が抑制できることがわかった.

  • Research Products

    (2 results)

All 2019 2018

All Journal Article (1 results) (of which Peer Reviewed: 1 results) Presentation (1 results)

  • [Journal Article] Characteristics of contrastive Hebbian learning with pseudorehearsal for multilayer neural networks on reduction of catastrophic forgetting2018

    • Author(s)
      Hattori Motonobu、Nakano Shunta
    • Journal Title

      International Journal of Computational Intelligence Studies

      Volume: 7 Pages: 289~289

    • DOI

      10.1504/IJCISTUDIES.2018.096184

    • Peer Reviewed
  • [Presentation] 擬似リハーサルと重みの重要度を用いた破局的忘却の抑制2019

    • Author(s)
      中野峻太, 服部元信
    • Organizer
      電子情報通信学会ニューロコンピューティング研究会

URL: 

Published: 2019-12-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi