| 研究課題/領域番号 |
07650422
|
|---|
| 研究機関 | 金沢大学 |
|---|
研究代表者 |
中山 謙二 金沢大学, 自然科学研究科, 教授 (00207945)
|
|---|
| 研究分担者 |
王 幼華 金沢大学, 工学部, 講師 (10283095)
池田 和司 金沢大学, 工学部, 講師 (10262552)
|
|---|
| キーワード | ニューラルネットワーク / 階層形ニューラルネットワーク / パターン分類 / 活性化関数 / 学習 / 隠れ層 |
|---|
| 研究概要 |
平成7年度と8年度は、階層形ニューラルネットワーク(NN)を最小構成する最適設計論についての基礎検討と計算機によるシミュレーション実験を行った。平成9年度は、これらを踏まえて最適設計のためのパラメータの最適化、及び多くの例題によるシミュレーションを継続し、提案した方法の有効性を検証した。
1.階層形NNにおけるニューロンの活性化関数の最適化
最適な活性化関数はNNを適用する問題によって様々である。また、活性化関数を最適化することにより、回路規模を大幅に低減できる。本研究では、結合荷重の学習と同時に活性化関数自身を学習する方法を提案した。8ビットパリティ問題等、難しい問題が最小の回路規模で実現できることを確認した。
2.オンライン学習における最少学習データの選択方法
未学習パターンに対しても高い分類(汎化)能力を保証する最少データ選択法について、更に、オンライン学習における方法を提案した。種々のパターン分類問題に適用し、有効性を確認した。
3.学習における初期値決定法
階層形NNの結合荷重の初期値は一般に小さな乱数で与えられる。しかし、複雑なパターン分類問題等においては、収束性が悪い。本研究では、収束性を高める初期値決定法を提案した。異なるクラスの接近したデータ間に超平面を初期設定する方法である。隠れ層出力では、クラスのデータ分布が十分に離れた状態に変換できる。
4.総合的な最適設計システムとしての評価
3年間を通して、確立した要素技術をシステム化し、最適設計システムを構築した。プログラム化は進行中であるが、これまでの個々の検証から、実用性が高いことが期待できる。
|
