研究課題/領域番号 |
26330280
|
研究機関 | 宮崎大学 |
研究代表者 |
伊達 章 宮崎大学, 工学部, 准教授 (60322707)
|
研究期間 (年度) |
2014-04-01 – 2018-03-31
|
キーワード | 神経回路モデル / 数理モデル / 自己組織化 / 数理脳科学 / 計算論的神経科学 / ニューラルネットワーク / 学習 / 深層学習 |
研究実績の概要 |
本研究は,いくつかの基本的な自己組織のモデルの性質を解析し,Deep Learning でなぜ精度の高い機械が実現できるのか,その手がかりを得ることを目的としている.
多層の神経回路モデルを用いた学習回路が Deep Learning とよばれ,注目されている.その多くは,バックプロパゲーションによる学習であるので,25年前と基本的な考えは同じと言える.過去の研究と異なる点の一つは,まずは学習ということを忘れ,一層づつ順に,回路のパラメータを教師なし学習させる点である.ところが,うまくいく仕組みがよく分かっていない.教師付き学習の前に教師なし学習をするという準備が,どれほどいいかという問には簡単には答えられないが,自己組織のモデルが重要な役割を果たしていることは間違いない.
初年度である平成26年度においては,Hebb学習による甘利のモデル,Kohonen の自己組織化マップ(SOM),ニューラルガスについて数値実験による解析をおこなった.SOMは,多次元データを2次元の配列で表現できることから,情報の可視化に利用されている.可視化のためには2次元の表示がわかりやすいが,情報抽出という観点からは素子の配列は3次元を超えた多次元の構造を持っていてよい.この場合,どういう情報が自己組織で抽出されるか,低次元配列の神経場を用いる場合と比較しどのような利点があるか,ニューラルガスより優れている点はあるか,などについて調べた.具体的には,素子数一定の条件のもとで1~20次元構造の配列をもつモデルを3層回路の中間層として用いた場合の識別性能を比較した.多次元配列の神経場を実現しようとすると非常に多くの素子が必要となる.この問題を回避するため,本研究ではランダムな場所に素子を配置した.識別性能を比較をした研究結果については第16回自己組織化マップ研究会で口頭発表した.
|
現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
研究実績の概要に記述した通り,ほぼ順調に研究が進んでいるため.特筆すべき発見がないため研究実績の概要に記述していないが,甘利のモデル,制約付きボルツマンマシンについても研究を実施した.
|
今後の研究の推進方策 |
平成27年度は以下の研究を推進する予定である.
1.高次元配列の神経場における効率的な素子の配置方法について.3層回路を用いたパターン認識を考え,中間層として多次元配列の構造の神経場を用いる.次のようにすれば,識別性能は改善されると予想している.まず,素子をランダムに素子を配置する.(1) 素子の位置を一様分布に近づくように事前に学習しておく,(2) 出力層の学習アルゴリズムを,誤った識別をした場合にだけ学習するよう改変する.
2.連想記憶モデルのダイナミクス.2層の回路を考える.制約付きボルツマンマシンを連想記憶モデルにおける記憶パターンの学習に用いた場合の連想記憶のダイナミクスの特性を調べる.
|
次年度使用額が生じた理由 |
電子情報通信学会ニューロコンピューティング研究会(平成27年3月,玉川大学,東京都町田市)で研究発表する予定であったが,参加をとりやめたため.
|
次年度使用額の使用計画 |
平成27年度に研究会参加費として使用する予定である.
|