• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

階層形ニューラルネットワークの最小構成のための最適設計法の研究

研究課題

研究課題/領域番号 07650422
研究種目

基盤研究(C)

配分区分補助金
応募区分一般
研究分野 情報通信工学
研究機関金沢大学

研究代表者

中山 謙二  金沢大学, 自然科学研究科, 教授 (00207945)

研究分担者 王 幼華  金沢大学, 工学部, 講師 (10283095)
池田 和司  金沢大学, 工学部, 講師 (10262552)
馬 志強  金沢大学, 工学部, 講師 (10251935)
研究期間 (年度) 1995 – 1997
研究課題ステータス 完了 (1997年度)
配分額 *注記
1,600千円 (直接経費: 1,600千円)
1997年度: 300千円 (直接経費: 300千円)
1996年度: 1,300千円 (直接経費: 1,300千円)
キーワードニューラルネットワーク / 階層形ニューラルネットワーク / 活性化関数 / 学習 / パターン分類 / 隠れ層 / 階層形ネットワーク / 教師あり学習 / リカレントネットワーク / 連想記憶 / 学習理論 / ダイナミクス / 学習則 / 隠れユニット / 雑音
研究概要

1.階層形NNによるパターン分類能力の評価
周波数成分に基づく信号検出において、測定サンプル数が制限されている場合は線形処理によるスペクトル分析では十分な検出が行えない。階層形NNでは、ニューロンの非線形特性により信号空間での領域形成の自由度が高く,不規則に分布する信号の分類能力が高いことを確認した。具体的には、ダイヤルトーンなどの応用例においてその有効性を確認した。
2.凡化能力を保証する最小学習データの選択方法
パターン分類を対象として、未学習パターンに対しても高い分類(凡化)能力を有する階層形NNを実現するための最小学習データの選択方法を提案した。ユークリッド距離に基づいて分類境界面に対峙する各クラスのデータを抽出するものである。データの組み合わせに基づく方法と、学習中の出力誤差に基づく方法について、収束性と学習時間の関係について検討した。また、データが逐次与えられる問題において、常に、最少の学習データを保持できることをシミュレーションにより確認した。
3.オンライン学習における最少学習データの選択方法
未学習パターンに対しても高い分類(汎化)能力を保証する最少データ選択法について、更に、オンライン学習における方法を提案した。種々のパターン分類問題に適用し、有効性を確認した。
4.階層形NNにおけるニューロンの活性化関数の最適化
最適な活性化関数はNNを適用する問題によって様々である。また、活性化関数を最適化することにより、回路規模を大幅に低減できる。本研究では、結合荷重の学習と同時に活性化関数自身を学習する方法を提案した。8ビットパリテイ問題等、難しい問題が最小の回路規模で実現できることを確認した。

報告書

(4件)
  • 1997 実績報告書   研究成果報告書概要
  • 1996 実績報告書
  • 1995 実績報告書
  • 研究成果

    (28件)

すべて その他

すべて 文献書誌 (28件)

  • [文献書誌] 原 一之: "階層形神経回路網と線形信号処理の信号分離能力の比較" 情報処理学会論文誌. 38. 245-259 (1997)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      1997 研究成果報告書概要
  • [文献書誌] K.Hara: "Multi-frequency signal classification by multilayer neural networks and linear filter methods" 電子情報通信学会英文論文誌. E80-A. 894-902 (1997)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      1997 研究成果報告書概要
  • [文献書誌] H.Ohnishi: "A neural demodulator for quadrature amplitude modulation signals" IEEE Proc.of ICNN'96. 1933-1938 (1996)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      1997 研究成果報告書概要
  • [文献書誌] K.Hara: "A training data selection in on-line training for a simultaneous learning method" IEEE & INNS Proc.of IJCNN'98. (発表予定). (1998)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      1997 研究成果報告書概要
  • [文献書誌] K.Nakayama: "A simultaneous learning methodfor both activation functions and connection weights of multilayer neural networks" IEEE & INNS Proc.of IJCNN'98. (発表予定). (1998)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      1997 研究成果報告書概要
  • [文献書誌] K.Hara: "Training data selection methodfor generalization by multilayer neural networks" 電子情報通信学会英文論文誌. E81-A. 374-381 (1998)

    • 説明
      「研究成果報告書概要(和文)」より
    • 関連する報告書
      1997 研究成果報告書概要
  • [文献書誌] K.Hara and K.Nakayama: "Comparison of signal classification performance between multilayr neural networks and linear signal processing methods" Information Processing Society of Japan Trans.vol.38. 245-259 (1997)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      1997 研究成果報告書概要
  • [文献書誌] K.Hara and K.Nakayama: "Multi-frequency signal classification by multilayr neural networks and linear filter methods" IEICE Trans.Fundamentals. vol.E80-A. 894-902 (1997)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      1997 研究成果報告書概要
  • [文献書誌] K.Ohnishi and K.Nakayama: "A neural demodulator for quadrature amplitude modulation signals" IEEE,Proc.of ICNN'96. 1933-1938 (1996)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      1997 研究成果報告書概要
  • [文献書誌] K.Hara and K.Nakayama: "A training data selection in on-line training for a simultaneous learning method" IEEE&INNS,Proc.of IJCNN'98. (to be presented). (1998)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      1997 研究成果報告書概要
  • [文献書誌] K.Nakayama and M.Ohsugi: "A simultaneous learning method for both activation functions and connection weights of multilayr neural networks" IEEE&INNS,Proc.of IJCNN'98. (to be presented).

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      1997 研究成果報告書概要
  • [文献書誌] K.Hara and K.Nakayama: "Training data selection method for generalization by multilayr neural networks" IEICE Trans.Fundamentals. vol.E81-A. 374-381 (1998)

    • 説明
      「研究成果報告書概要(欧文)」より
    • 関連する報告書
      1997 研究成果報告書概要
  • [文献書誌] 富川 義弘: "不等号条件を考慮した相互結合形NNによる対応付け形状認識" 電子情報通信学会 論文誌 D-II. J81-D-II,1. 72-83 (1998)

    • 関連する報告書
      1997 実績報告書
  • [文献書誌] 原 一え: "Training Data Selection Method for Generalization by Multilayer Neural Networks" 電子情報通信学会 英文論文誌. (掲載予定). (1998)

    • 関連する報告書
      1997 実績報告書
  • [文献書誌] 中山 謙二: "A Simultaneous Learning Method for Both Activation Functions and Connection Weights of Multilayer Neural Networks" IEEE & INNS.Proc.of IJCNN'98. (発表予定). (1998)

    • 関連する報告書
      1997 実績報告書
  • [文献書誌] Ashraf A.M.Khalaf: "A Cascade Form Predictor of Neural and FIR Filters and Its Minimum Size Estimation Based on Nonlinearity Analysis of Time Series" 電子情報通信学会 英文論文誌. (掲載予定). (1998)

    • 関連する報告書
      1997 実績報告書
  • [文献書誌] 原一之: "階層形神経回路網と線形信号処理法の信号分類能力の比較" 情報処理学会論文誌. 38巻2号. 245-259 (1997)

    • 関連する報告書
      1996 実績報告書
  • [文献書誌] 大崎敦志: "偽記憶のない連想システムの解析と改良" 電子情報通信学会技術研究報告. NC96-41. 17-24 (1996)

    • 関連する報告書
      1996 実績報告書
  • [文献書誌] 大西克嘉: "A Neural Demodulator for Quadrature Amplitude Modulation Signals" Proc.of IEEE International Conference on Neural Networks (ICNN). 1933-1938 (1996)

    • 関連する報告書
      1996 実績報告書
  • [文献書誌] 三好誠司: "Probabilistic Memory Capacity of Recurrent Neural Networks" Proc.of IEEE ICNN. 1291-1296 (1996)

    • 関連する報告書
      1996 実績報告書
  • [文献書誌] 小堀英樹: "A Model of Dynamic Associative Memory" Proc.of IEEE ICNN. 804-809 (1996)

    • 関連する報告書
      1996 実績報告書
  • [文献書誌] 原一之: "Selection of Minimum Training Data for Generalization and On-line Training by Multilayer Neural Networks" Proc.of IEEE ICNN. 436-441 (1996)

    • 関連する報告書
      1996 実績報告書
  • [文献書誌] 原一之: "階層形ニューラルネットワークにおける学習データ選択法" 情報処理学会全国大会講演論文集(2). 2-41-2-42 (1995)

    • 関連する報告書
      1995 実績報告書
  • [文献書誌] Kazuyuki HARA: "Signal Classification Based on Frequency Analysis Using Multilayer Neural Network with Limited Data and Computation" Proc. IEEE International Conference on Neural Networks. 1. 600-605 (1995)

    • 関連する報告書
      1995 実績報告書
  • [文献書誌] Kazuhiro MINAMIMOTO: "Topology Analysis of Data Space Using Self-Organizing Feature Map" Proc. IEEE International Conference on Neural Networks. 2. 789-794 (1995)

    • 関連する報告書
      1995 実績報告書
  • [文献書誌] Seiji MIYOSHI: "A Recurrent Neural Network with Serial Delay Elements for Memorizing Limit Cycles" Proc. IEEE International Conference on Neural Networks. 4. 1955-1960 (1995)

    • 関連する報告書
      1995 実績報告書
  • [文献書誌] Yoshihiro TOMIKAWA: "Convergence Analysis of Recurrent Neural Network with Self-loops Based on Eigenvalues of A Connection Matrix" Proc. IEEE International Conference on Neural Networks. 5. 2642-2647 (1995)

    • 関連する報告書
      1995 実績報告書
  • [文献書誌] Katsuyoshi OHNISHI: "A Neural Demodulator for Quadrature Amplitude Modulation Signals" Proc. IEEE International Conference on Neural Networks. (発表予定). (1996)

    • 関連する報告書
      1995 実績報告書

URL: 

公開日: 1996-04-01   更新日: 2016-04-21  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi