• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2014 Fiscal Year Research-status Report

全結合型人工神経回路網の巨大システム化の技術開発

Research Project

Project/Area Number 26330292
Research InstitutionSendai National College of Technology

Principal Investigator

早川 吉弘  仙台高等専門学校, 情報システム工学科, 教授 (20250847)

Project Period (FY) 2014-04-01 – 2017-03-31
Keywords全結合型 / 人工神経回路網 / IDL / DS-NET / GPGPU / 大規模 / 高速計算
Outline of Annual Research Achievements

層の大規模な階層型神経回路網の計算が可能になったことで、DeepLearningのような応用上優れたブレークスルーが得られた。本研究は全結合型人工神経回路網においても応用上のブレークスルーを期待して、研究遂行上応用ターゲットは限定するが全結合型人工神経回路網の巨大システム化に必要な技術開発を目的としている。その方法は、アクティブ人工神経回路の組み合わせ最適化問題解法への応用上様々なアプローチによって検討・検証することにある。
初年度は、最初の項目として本申請研究のベースとなっている、逆関数遅延モデルの高速計算バージョンである逆関数遅延レスモデルを扱い、その性能指標とパラメータの依存性について調査した。そしてその得られた今年度の知見は学会で発表している。また、全結合型の回路網単機能では競合する制約条件を有する問題の扱いは困難であるが、静的なネットワークをサブネットワークとして外部に準備し、かつ、それを相互結合させる手法でこの困難を回避できそうであるが、やはりこのネットワークのパラメータ依存性が重要なポイントとなりその部分も調査した。結果は従来の全結合ネットワークとパラメータ依存性が逆になる現象を呈しており、次年度以降も本調査の必要性があると結論づけられた。さらに、計算の高速化の為に、モジュラーニューラルネットワークの利用を検討しているが、そのダイナミクスの詳細調査へ向かうためのTOYモデルの提案とその解析解の導出を行った。しかしながら、GPGPU等の実機を使った実装実験には至らなかった。

Current Status of Research Progress
Current Status of Research Progress

3: Progress in research has been slightly delayed.

Reason

大規模全結合型人工神経回路網へ向かうための様々な手法について、そのパラメタ依存性などの基礎的調査を進めてきたことは、研究方向としては着実な方向であったと自己評価する。しかしながら、目標達成のためには実機を使った実験までは到達出来なかった点で、やや遅れていると評価する。

Strategy for Future Research Activity

次年度は、得きる限り高速演算手法のハードウェア (PC クラスター,GPGPU 等) 依存の計算手法の確立に重点を移す予定である。

Causes of Carryover

年度末に予定していた研究発表が学校業務の為に参加できなかったために残金となりました。

Expenditure Plan for Carryover Budget

予定していた成果発表の旅費としてします。

  • Research Products

    (7 results)

All 2015 2014

All Journal Article (2 results) (of which Peer Reviewed: 2 results) Presentation (5 results)

  • [Journal Article] Back Propagation Learning Based on an IDL Model2014

    • Author(s)
      Yuta Horiuchi, Yoshihiro Hayakawa, Takeshi Onomi, Koji Nakajima
    • Journal Title

      Proceedings of the 2014 International Symposium on Nonlinear Theory and its Applications

      Volume: 1 Pages: 512, 515

    • Peer Reviewed
  • [Journal Article] Performance Analysis of Bidirectional Associative Memories by Using the Inverse Function Delayless Model2014

    • Author(s)
      Chunyu Bao, Takeshi Onomi, Yoshihiro Hayakawa, Shigeo Sato,, Koji Nakajima
    • Journal Title

      Proceedings of the 2014 International Symposium on Nonlinear Theory and its Applications

      Volume: 1 Pages: 516, 519

    • Peer Reviewed
  • [Presentation] 加速関数を導入したバックプロパゲーション学習2015

    • Author(s)
      堀内優太、早川吉弘、小野美 武、中島康治
    • Organizer
      2015年電子情報通信学会総合大会
    • Place of Presentation
      滋賀
    • Year and Date
      2015-03-10 – 2015-03-13
  • [Presentation] 逆関数ゼロ遅延モデルの加速関数パラメータ依存性2015

    • Author(s)
      西村明紘,早川吉弘,小野美 武・中島康治
    • Organizer
      2015年電子情報通信学会総合大会
    • Place of Presentation
      滋賀
    • Year and Date
      2015-03-10 – 2015-03-13
  • [Presentation] DS-netを用いたTSP解探索性能のアクティブニューロンパラメータ依存性2015

    • Author(s)
      奥田光、早川吉弘
    • Organizer
      電子情報通信学会非線形問題研究会
    • Place of Presentation
      大分
    • Year and Date
      2015-01-27 – 2015-01-28
  • [Presentation] バックプロパゲーション学習における逆関数ゼロ遅延モデルと通常モデルとの比較2014

    • Author(s)
      堀内優太、早川吉弘、小野美 武、中島康治
    • Organizer
      電子情報通信学会ニューロコンピューティング研究会
    • Place of Presentation
      仙台
    • Year and Date
      2014-11-21 – 2014-11-22
  • [Presentation] プレトレーニングで得られるディープニューラルネットワークの学習初期値に関する考察2014

    • Author(s)
      品川政太朗、早川吉弘、小野美武、中島康治
    • Organizer
      電子情報通信学会ニューロコンピューティング研究会
    • Place of Presentation
      仙台
    • Year and Date
      2014-11-21 – 2014-11-22

URL: 

Published: 2016-05-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi