2014 Fiscal Year Annual Research Report
| Project/Area Number |
24500283
|
|---|
| Research Institution | Tokai University |
|---|
Principal Investigator |
上村 龍太郎 東海大学, 情報教育センター, 教授 (80176643)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
竹内 晴彦 独立行政法人産業技術総合研究所, ヒューマンライフテクノロジー研究部門, 主任研究員 (00357401)
|
|---|
| Project Period (FY) |
2012-04-01 – 2015-03-31
|
| Keywords | ニューラルネットワーク / 自己組織化マップ / 相互情報量 / 競合学習 / 多層ニューラルネットワーク / 深層学習 / 内部表現 / 段階的情報最大 |
|---|
| Outline of Annual Research Achievements |
本研究の目的は、忠実な表現から開かれた表現(open representation)への変換である．
平成２６年度は，開かれた多様な表現を実現するために，これまでの単純な単層のネットワークをさらに複雑なネットワークへと拡張した．すなわち，多層型ニューラルネットワークへの拡張である．また，この多層ネットワークを教師付学習へ拡張しようとした．さらに，単純な情報量最大化を段階的情報量最大化に変化させた．
まず，ニューラルネットワークの多層化である．深層学習の成果により多層ニューラルネットワークの重要性と有効性については十分に確かめられつつある．しかし，自己組織化マップの多層化の研究はまだ行われていない．これは多層化の方法が開発されていなかったからである．本年度の研究において，自己組織化マップの多層化の方法を開発することができた．多層化されても，特徴は保持されていることもわかった．しかし，どのように特徴を保持しているかについてはまだ不明な部分が残った．
次に教師付学習への拡張である．これまでは，自己組織化マップに出力層を結合し教師付学習を実現した．平成２６年度は，深層学習にしたがい，多層ニューラルネットワークの事前学習に多層自己組織化マップを利用し，有効であることを確かめた．
しかし，多層化の過程で，情報が拡散し，汎化能力が劣化することがわかった．これを解決するために，情報量の段階的な最大化を採用し，有効であることを確かめた．
|
