• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2004 Fiscal Year Annual Research Report

アンサンブル自己生成ニューラルネットワークのオンライン枝刈りアルゴリズムの研究

Research Project

Project/Area Number 15700206
Research InstitutionKure National College of Technology

Principal Investigator

井上 浩孝  呉工業高等専門学校, 電気情報工学科, 助手 (70353315)

Keywordsニューラルネットワーク / 自己組織化 / アンサンブル学習 / 枝刈り / 汎化能力改善 / 並列分散処理 / 木構造 / パターン分類
Research Abstract

本研究では、アンサンブル自己生成ニューラルネットワークの汎化能力を枝刈り前より改善し、かつ記憶容量を更に削減する効率的なオンライン枝刈り法を提案し、従来の手法であるk-近傍法、C4.5と汎化能力、計算コストを総合的に比較検討した。既発表の枝刈り法は全てのデータを提示して木を構築した後に枝刈りを行っているが、本研究では木を構築する際に逐次枝刈りを行うことで探索効率を改善し、計算コストを削減した。また、枝刈りの際、しきい値を用いて、ある部分木内の最多クラスがしきい値以上の割合を占有すれば、最多クラスを代表クラスとしてその部分木を刈り取ることで枝刈りを行い、冗長な情報を削減し、汎化能力を改善した。このしきい値の決定には、10群交差検定法を用いた。以下、年度ごとに研究実績を示す。
平成15年度、高性能かつ安定なワークステーション上でアンサンブル自己生成ニューラルネットワークのオンライン枝刈りアルゴリズムを開発した。具体的には、UCI機械学習リポジトリに保管されているベンチマーク問題に対して本提案アルゴリズムを適用し、枝刈り前のモデルと計算コスト(計算時間、記憶容量)、得られた解の精度を比較検討した。また、本手法の有効性を検証するため、既存の手法であるk-近傍法との比較を同一環境で実験した。得られた結果を国際会議、国内の学会に投稿し、国内外の研究者のコメントを採り入れて新たな観点から再実験を行うことで研究の質を高めた。
平成16年度は、平成15年度に得られた実験結果、新たな観点から行った再実験の結果を基に、研究成果を公表した。具体的には、国際会議で発表を行い、研究成果を電子情報通信学会論文誌D-II(情報・システム-パターン認識)に論文として投稿した。更に、関連研究を進め、IEEE等の海外の主要国際会議に研究成果を投稿した。

  • Research Products

    (6 results)

All 2004 2003

All Journal Article (6 results)

  • [Journal Article] Effective Online Pruning Method for Ensemble Self-Organizing Neural Networks2004

    • Author(s)
      Hirotaka Inoue, Hiroyuki Narihisa
    • Journal Title

      Proc.of The 2004 IEEE International Midwest Symposium on Circuits and Systems Vol.3

      Pages: 85-88

  • [Journal Article] Self-Organizing Neural Grove : Efficient Multiple Classifier System Using Pruned Self-Generating Neural Trees2004

    • Author(s)
      Hirotaka Inoue, Hiroyuki Narihisa
    • Journal Title

      Proc.of The 8th International Conference on Parallel Problem Solving From Nature LNCS3242

      Pages: 1113-1122

  • [Journal Article] Parallel and Distributed Performance of Self-Organizing Neural Grove2004

    • Author(s)
      Hirotaka Inoue, Hiroyuki Narihisa
    • Journal Title

      Proc.of The 16th International Conference on Parallel Distributed Computing and Systems

      Pages: 878-883

  • [Journal Article] Improving Performance of a Multiple Classifier System Using Self-Generating Neural Networks2003

    • Author(s)
      Hirotaka Inoue, Hiroyuki Narihisa
    • Journal Title

      Proc.of 4th International Workshop on Multiple Classifier Systems LNCS2709

      Pages: 256-265

  • [Journal Article] Effective Pruning Method for a Multiple Classifier System Based on Self-Generating Neural Networks2003

    • Author(s)
      Hirotaka Inoue, Hiroyuki Narihisa
    • Journal Title

      Proc.of Artificial Neural Networks and Neural Information Processing --- ICANN/ICONIP 2003 LNCS2714

      Pages: 11-18

  • [Journal Article] Efficient Pruning Method for Ensemble Self-Generating Neural Networks2003

    • Author(s)
      Hirotaka Inoue, Hiroyuki Narihisa
    • Journal Title

      Journal of Systemics, Cybernetics and Informatics Vol.1, No.6

      Pages: 72-77

URL: 

Published: 2006-07-12   Modified: 2016-04-21  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi