探索空間の特異領域を意識した特異モデル探索法

• 研究課題/領域番号: 22500212
• 研究種目: 基盤研究(C)
• 配分区分: 補助金
• 応募区分: 一般
• 研究分野: 感性情報学・ソフトコンピューティング
• 研究機関: 中部大学
• 研究代表者: 中野 良平 中部大学, 工学部, 教授 (90324467)
• 研究期間 (年度): 2010 – 2012
• 研究課題ステータス: 完了 (2012年度)
• 配分額: 2,080千円 (直接経費: 1,600千円、間接経費: 480千円); 2012年度: 650千円 (直接経費: 500千円、間接経費: 150千円); 2011年度: 650千円 (直接経費: 500千円、間接経費: 150千円); 2010年度: 780千円 (直接経費: 600千円、間接経費: 180千円)
• キーワード: 機械学習 / 特異モデル / 探索法 / 特異領域 / 多層パーセプトロン

研究概要

多層パーセプトロンの探索領域の特異領域を可約性写像を用いながら積極的に利用する探索法(SSF法)を提案し、隠れユニット数に相応しい品質の解を次々と求めることができることを計算機実験で示した。また、フラットな特異領域を進む能力を持つ固有ベクトル降下法を提案し、優秀な求解性能を実験で示した。さらに、同様の枠組みが複素多層パーセプトロンにも応用できて、非有界性と周期性を持つ解を求めるのに有効であることを示す初期成果を得た。

研究成果

• [雑誌論文] 複素BFGS法を用いた複素ニューラルネットワークの学習法 (2013)
  • 著者名/発表者名: 鈴村真矢、中野良平
  • 雑誌名: 電子情報通信学会論文誌 巻: Vol.J96-D.No.3
  • NAID: 110009593011
  • 査読あり
• [雑誌論文] Error correction of enumerative induction of deterministic context-free L-system grammar (2013)
  • 著者名/発表者名: R. Nakano
  • 雑誌名: IAENG International Journal of Computer Science 巻: Vol. 40 、No. 1
  • 査読あり
• [雑誌論文] Fast and stablelearning utilizing singular regions of multilayer perceptron (2013)
  • 著者名/発表者名: S. Satoh、R. Nakano
  • 雑誌名: Neural Processing Letters 巻: - 号: 2 ページ: 1-17
  • DOI: 10.1007/s11063-013-9283-z
  • 査読あり
• [雑誌論文] Multi-directional search from the primitive initial point for Gaussianmixture estimation using variationa lBayes method (2010)
  • 著者名/発表者名: Y. Ishikawa、I. Takeuchi、R. Nakano
  • 雑誌名: Neural Networks 巻: Vol.23、No.3
  • 査読あり
• [雑誌論文] Multi-directional search from the primitive initial point for Gaussian mixture estimation using variational Bayes method (2010)
  • 著者名/発表者名: Y.Ishikawa, I.Takeuchi, R.Nakano
  • 雑誌名: Neural Networks 巻: Vol.23, No.3 ページ: 356-364
  • 査読あり
• [学会発表] 得意領域を活用した多層パーセプトロン探索法 (2013)
  • 著者名/発表者名: 佐藤聖也、中野良平
  • 学会等名: 電子情報通信学会技術研究報告ニューロコンピューティング研究会
  • 発表場所: 北海道大学
  • 年月日: 2013-01-24
• [学会発表] 特異階段追跡法を用いたサンプリング法による多層パーセプトロンモデル選択 (2013)
  • 著者名/発表者名: 大脇高之、中野良平
  • 学会等名: 電子情報通信学会技術研究報告ニューロコンピューティング研究会
  • 発表場所: 北海道大学
  • 年月日: 2013-01-24
• [学会発表] 特異領域を活用した多層パーセプトロン探索法 (2013)
  • 著者名/発表者名: 佐藤聖也、中野良平
  • 学会等名: 電子情報通信学会技術研究報告 ニューロコンピューティング研究会
  • 発表場所: 北海道大学
• [学会発表] 特異階段追跡法を用いたサンプリング法による多層パーセプトロンモデル選択 (2013)
  • 著者名/発表者名: 大脇高之、中野良平
  • 学会等名: 電子情報通信学会技術研究報告 ニューロコンピューティング研究会
  • 発表場所: 北海道大学
• [学会発表] BFGS法と可約性写像を用いた複素多層パーセプトロン探索法 (2012)
  • 著者名/発表者名: 鈴村真矢、中野良平
  • 学会等名: 計測自動制御学会第2回コンピューテーショナル・インテリジェンス研究会
  • 発表場所: 岡山大学
  • 年月日: 2012-09-28
• [学会発表] Eigen vector descent and line search for multilayer perceptron (2012)
  • 著者名/発表者名: S.Satoh, R.Nakano
  • 学会等名: Proc.of International Conference on Artificial Intelligence and Applications (ICAIA2012), pp.1-6, Hong Kong, March 14-16, 2012
  • 発表場所: Hong Kong
  • 年月日: 2012-03-16
• [学会発表] Grammatical induction with error correction fordeterministic context-free L-systems (2012)
  • 著者名/発表者名: R. Nakano、S. Suzumura
  • 学会等名: International Conference on Machine Learning and Data Analysis (ICMLDA)2012
  • 発表場所: Berkeley、USA
• [学会発表] Complex- valued multilayer perceptron search utilizing eigen vector descent and reducibility mapping (2012)
  • 著者名/発表者名: S. Suzumura 、R. Nakano
  • 学会等名: International Conference on Artificial Neural Networks (ICANN) 2012、
  • 発表場所: Lausanne、Switzerland
• [学会発表] Eigen vector descent and line search for multilayer perceptron (2012)
  • 著者名/発表者名: S. Satoh、R. Nakano
  • 学会等名: International Conference on Artificial Intelligence and Applications (ICAIA) 2012
  • 発表場所: Hong Kong
• [学会発表] Complex-valued multilayer perceptron search utilizing eigen vector descent and reducibility mapping (2012)
  • 著者名/発表者名: S. Suzumura and R. Nakano
  • 学会等名: ICANN 2012 (the 22th International Conference on Artificial Neural Networks)
  • 発表場所: Lausanne, Switzerland
• [学会発表] Grammatical induction with error correction for deterministic context-free L-systems (2012)
  • 著者名/発表者名: R. Nakano and S. Suzumura
  • 学会等名: ICMLDA 2012 (International Conference on Machine Learning and Data Analysis)
  • 発表場所: Berkeley, USA
• [学会発表] BFGS法と可約性写像を用いた複素多層パーセプトロン探索法 (2012)
  • 著者名/発表者名: 鈴村真矢、中野良平
  • 学会等名: 第2回コンピューテーショナル・インテリジェンス研究会
  • 発表場所: 岡山大学
• [学会発表] 固有ベクトル降下法と可約性写像を用いた複素多層パーセ プトロン探索法 (2011)
  • 著者名/発表者名: 鈴村真矢、中野良平
  • 学会等名: 電子情報通信学会技術研究報告ニューロコンピューティング研究会
  • 発表場所: 名古屋工業大学
  • 年月日: 2011-12-20
• [学会発表] 多層パーセプトロンにおける固有ベクトル降下法と直線探索 (2011)
  • 著者名/発表者名: 佐藤聖也、中野良平
  • 学会等名: 電子情報通信学会技術研究報告ニューロコンピューティング研究会
  • 発表場所: 名古屋工業大学
  • 年月日: 2011-12-20
• [学会発表] 多層パーセプトロンの特異領域を利用した探索法 (2011)
  • 著者名/発表者名: 佐藤聖也、中野良平
  • 学会等名: 電子情報通信学会技術成果報告ニューロコンピューティング研究会NC2011-87,pp.19-24, 2011.12.20、名古屋工業大学
  • 発表場所: 名古屋工業大学
  • 年月日: 2011-12-20
• [学会発表] 固有ベクトル降下法と可約性写像を用いた複素多層パーセプトロン探索法 (2011)
  • 著者名/発表者名: 鈴村真也、中野良平
  • 学会等名: 電子情報通信学会技術成果報告ニューロコンピューティング研究会NC2011-88,pp.25-30,2011.12.20、名古屋工業大学
  • 発表場所: 名古屋工業大学
  • 年月日: 2011-12-20
• [学会発表] Learning method utilizing singular region of multilayer perceptron (2011)
  • 著者名/発表者名: R.Nakano, S.Satoh, T.Ohwaki
  • 学会等名: Proc.of International Conference on Neural Computation Theory and Applications (NCTA 2011) pp.106-111, Paris, France, Oct.24-26, 2011
  • 発表場所: Paris, France
  • 年月日: 2011-10-26
• [学会発表] 複素多層パーセプ トロンの探索空間と探索法 (2011)
  • 著者名/発表者名: 鈴村真矢、 中野良平
  • 学会等名: 計測自動制御学会第1回コンピューテーショナル・インテリジェンス研究会
  • 発表場所: 京都工芸繊維大学
  • 年月日: 2011-09-30
• [学会発表] 複素多層パーセプトロンの探索空間と探索法 (2011)
  • 著者名/発表者名: 鈴村真也、中野良平
  • 学会等名: 第1回コンピューテーショナル・インテリジェンス研究会「クリフォードニューロコンピューティングを中心として」計測自動制御学会(システム・情報部門),pp.85-91,2011.9.30,京都工芸繊維大学
  • 発表場所: 京都工芸繊維大学
  • 年月日: 2011-09-30
• [学会発表] Learning method utilizing singular region of multilayer perceptron (2011)
  • 著者名/発表者名: R. Nakano、S. Satoh、T. Ohwaki
  • 学会等名: International Conference on Neural Computation Theory and Applications(NCTA) 2011
  • 発表場所: Paris、France
• [学会発表] 多層パーセプトロンの特異領域を利用した探索法 (2010)
  • 著者名/発表者名: 佐藤聖也、大脇高之、中野良平
  • 学会等名: 電子情報通信学会技術研究報告ニューロコンピューティング研究会
  • 発表場所: 名古屋大学
  • 年月日: 2010-12-19
• [学会発表] 多層パーセプトロンの特異領域を利用した探索法 (2010)
  • 著者名/発表者名: 佐藤聖也、大脇高之、中野良平
  • 学会等名: 電子情報通信学会技術研究報告、ニューロコンピューティング(NC)研究会、NC2010-81,pp.85-90
  • 発表場所: 名古屋大学
  • 年月日: 2010-12-19
• [学会発表] Number theory-based induction of deterministic context-free Lsystem grammar (2010)
  • 著者名/発表者名: R.Nakano, N.Yamada
  • 学会等名: the 2nd International Joint Conf. on Knowledge Discovery, Knowledge Eng. & Knowledge Management (IC3K'10), pp.194-199
  • 発表場所: Valencia, Spain
  • 年月日: 2010-10-27
• [学会発表] Nominally conditioned linear regression (2010)
  • 著者名/発表者名: Y.Tanahashi, R.Nakano, K.Saito
  • 学会等名: Proc.of the 20th International Conference on Artificial Neural Networks (ICANN'10), LNCS 6354, pp.290-293
  • 発表場所: Tessaloniki Greece
  • 年月日: 2010-09-17
• [学会発表] Number theory-based induction of deterministic context-free L-system grammar (2010)
  • 著者名/発表者名: R. Nakano、N. Yamada
  • 学会等名: the2nd International Joint Conference onKnowledge Discovery, Knowledge Eng.& Knowledge Management (IC3K)2010
  • 発表場所: Valencia、Spain
• [学会発表] Nominally conditioned linear regression (2010)
  • 著者名/発表者名: Y. Tanahashi 、R. Nakano、K. Saito
  • 学会等名: International Conference on Artificial Neural Networks (ICANN)2010
  • 発表場所: Thessaloniki、Greece
• [図書] Studies in computational Intelligence 465 (2013)
  • 著者名/発表者名: S.Satoh、R.Nakano
  • 総ページ数: 362
  • 出版者: Springer
• [図書] Studies in Computational Intelligence 465 (2013)
  • 著者名/発表者名: S. Satoh and R. Nakano
  • 総ページ数: 362
  • 出版者: Springer
• [備考]
  • URL: http://www.nipl.cs.chubu.ac.jp/~nakano/index-j.html
• [備考] ニューラル情報処理の研究
  • URL: http://www.nipl.cs.chubu.ac.jp/~nakano/learning-j.html