2004 Fiscal Year Annual Research Report
アンサンブル自己生成ニューラルネットワークのオンライン枝刈りアルゴリズムの研究
Project/Area Number |
15700206
|
Research Institution | Kure National College of Technology |
Principal Investigator |
井上 浩孝 呉工業高等専門学校, 電気情報工学科, 助手 (70353315)
|
Keywords | ニューラルネットワーク / 自己組織化 / アンサンブル学習 / 枝刈り / 汎化能力改善 / 並列分散処理 / 木構造 / パターン分類 |
Research Abstract |
本研究では、アンサンブル自己生成ニューラルネットワークの汎化能力を枝刈り前より改善し、かつ記憶容量を更に削減する効率的なオンライン枝刈り法を提案し、従来の手法であるk-近傍法、C4.5と汎化能力、計算コストを総合的に比較検討した。既発表の枝刈り法は全てのデータを提示して木を構築した後に枝刈りを行っているが、本研究では木を構築する際に逐次枝刈りを行うことで探索効率を改善し、計算コストを削減した。また、枝刈りの際、しきい値を用いて、ある部分木内の最多クラスがしきい値以上の割合を占有すれば、最多クラスを代表クラスとしてその部分木を刈り取ることで枝刈りを行い、冗長な情報を削減し、汎化能力を改善した。このしきい値の決定には、10群交差検定法を用いた。以下、年度ごとに研究実績を示す。 平成15年度、高性能かつ安定なワークステーション上でアンサンブル自己生成ニューラルネットワークのオンライン枝刈りアルゴリズムを開発した。具体的には、UCI機械学習リポジトリに保管されているベンチマーク問題に対して本提案アルゴリズムを適用し、枝刈り前のモデルと計算コスト(計算時間、記憶容量)、得られた解の精度を比較検討した。また、本手法の有効性を検証するため、既存の手法であるk-近傍法との比較を同一環境で実験した。得られた結果を国際会議、国内の学会に投稿し、国内外の研究者のコメントを採り入れて新たな観点から再実験を行うことで研究の質を高めた。 平成16年度は、平成15年度に得られた実験結果、新たな観点から行った再実験の結果を基に、研究成果を公表した。具体的には、国際会議で発表を行い、研究成果を電子情報通信学会論文誌D-II(情報・システム-パターン認識)に論文として投稿した。更に、関連研究を進め、IEEE等の海外の主要国際会議に研究成果を投稿した。
|
Research Products
(6 results)