2015 Fiscal Year Research-status Report
Project/Area Number |
26330280
|
Research Institution | University of Miyazaki |
Principal Investigator |
伊達 章 宮崎大学, 工学部, 准教授 (60322707)
|
Project Period (FY) |
2014-04-01 – 2018-03-31
|
Keywords | 神経回路モデル / 数理モデル / 自己組織化 / 数理脳科学 / ニューラルネットワーク / 学習・記憶 / 構成性 / 計算論的神経科学 |
Outline of Annual Research Achievements |
脳が自己組織能力を持ち,外界の情報に合わせて自己を変えていく事は間違いない.本研究は,情報認識構造の自己形成のもととなる最も簡単な数理モデルを考え,脳における表現(概念の形成機構,概念間の連合など)の基本的な論理を探ることを目的としている.第2年度である平成27年度においては,主に以下の3つの研究を進めた.
1) 連想記憶回路は,あらかじめ記憶させたパターンの一部を入力として与えると,もとのパターンを出力する回路である.すべての素子が互いに結合している自己相関型の場合,素子数 n に対し記憶できる最大のパターン数(記憶容量)は約0.14nであることが知られている.この記憶容量は,繰り返し学習することを許せば増大する.学習アルゴリズムに制約付きボルツマンマシンを用い,2層(入力層,隠れ層)構造で自己想起型連想記憶を実現する回路の性質を調べた.この結果については日本神経回路学会で口頭発表した.2) Saxeら(2013)は,特異値分解を用い,線形の素子からなる回路の数学的解析をおこなった.彼らの研究の追実験を実施し,その学習ダイナミックスをモードの観点から調べた.単純な階層構造を持つ入力データに対しては,「学習とは,より効率よく分類できるモードを見つける作業である」ことを確認した.しかし,現実データに対する解析の難しさも明らかになった.3) Deep Learning で使用されている多層神経回路モデルには,「構成性(Compositionality)を表現できない」という致命的な欠陥がある.現行の手法は,脳の情報処理の本質を押さえているとは言いがたく「暴力的」アプローチと言われても仕方がない.この問題を解決すべく S.Geman らが提案している構成性の数理モデルについて数値実験による解析をおこなった.2) と 3) については火の国シンポジウムにおいて口頭発表した.
|
Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
研究実績の概要のとおり,いくつかの神経回路モデルについて,数理解析と数値実験を実施できている.ただし,成果を査読付き論文誌に投稿するまでには至っていない.
|
Strategy for Future Research Activity |
平成28年度は以下の研究を推進する予定である.
1. 第2年度までに研究した数理モデル(高次元 SOM など)について,引き続き研究を続ける. 2. 連想記憶モデルのダイナミックス.Hebb 学習した相関型の連想記憶モデルにおいて,想起に失敗する際に,奇妙な現象が観測されることが知られている(Amari, Maginu, 1988).制約付きボルツマンマシンで繰り返し学習をしたモデルについても,この現象を観測した.この点について,研究を進める. 3. Committed Complex Cell モデル(Anishchenko, 2006),構成性の数理モデル(Jin, 2006)を,自己組織神経回路モデルの観点からその数学的性質を調べる.
|
Causes of Carryover |
電子情報通信学会ニューロコンピューティング研究会(平成28年3月,玉川大学)で研究発表する予定であったが,参加を取りやめたため.
|
Expenditure Plan for Carryover Budget |
平成28年度に研究会参加費として使用する予定である.
|
Research Products
(6 results)