1992 Fiscal Year Annual Research Report
リカレント型ニューラルネットワークの学習法・学習速度・学習容量の解明とその応用
| Project/Area Number |
03452172
|
|---|
| Research Institution | Kansai University |
|---|
Principal Investigator |
山下 一美 関西大学, 工学部, 教授 (40046850)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
岡本 次郎 大阪市立大学, 工学部, 助教授 (30047146)
|
|---|
| Keywords | 遺伝的アルゴリズム / GA学習法 |
|---|
| Research Abstract |
1)リカレント型のニューラルネットワークは、時系列パターンの記憶、発生、遅延を伴う信号間の演算が可能であり、フォワード型ネットワークでは実現不可能な種々の機能を実現することができる。リカレント型を用いて、0.1よりなる系列と、遅延を伴う論理演算が共に、GA(遺伝的アルゴリズム)を用いて学習可能であることを明らかにした。1つの学習実験は、4ユニットからなるリカレント型ニューラルネットワークの自励出力が特定のパターンとなるように、それぞれGAを用いて学習させた。もう1つは、入力信号のXORを入力の2ステップ後に出力する、5ユニットからなるリカレント型ニュートラルネットワークを学習させた。
これらの実験結果からリカレント型ニューラルネットワークは連想記憶や時系列出力を伴う制御問題などへの応用の可能性を見いだした。
2)ニューラルネットワークを学習させる場合、隠れユニットの数を幾らにするかということは常に問題になることである。ユニット数が少なすぎると学習が十分に行われないし、逆に多すぎると学習に時間がかかる。そこで、フィード・フォワード型ニューラルネットワークの学習にGA(遺伝的アルゴリズム)を用い、突然変異の一形態としてユニット数の増減の機能を取り入れることによって、この問題がある程度解決できるのではないかと考え、これについて検討した。
必要最小のユニット数への収束は、増加と減少の確率を変えることにより、100%に近づけられることが確認できた。しかし、理論的な最小数のニューラルネットワークが最適かどうかはネットワークの安定性やロバスト性などとからんでさらに検討する必要がある。
|
-
[Publications] Mingyong ZHOU: "A Harmonic Retrieval Algorithm with Neural Computation" IEICE TRANS.INF.& SYST.,. E75-D. 718-727 (1992)
-
[Publications] 岡本 次郎: "GAを用いたリカレントニューラルネットワークの学習" 平成4年電気関係学会関西支部連合大会. G8-46 (1992)
-
[Publications] 岡本 次郎: "GAによるニューラルネットワークの隠れユニット数の自動決定" 平成4年電気関係学会関西支部連合大会. G8-47 (1992)
-
[Publications] Mingyong Zhou: "Array Processing of Wide Band Signal Computation Reduction in Coherent and Incoherent Enviroment" The International Conference on Signal Processing Applications and Technology. P.B/R:1 (1992)
-
[Publications] Mingyong ZHOU: "Spatial Array Processing of Wide Band Signals with Computation Reduction" IEICE TRANS.FUNDAMENTALS,. E76-A. 122-131 (1993)
