1993 Fiscal Year Annual Research Report
Project/Area Number |
05750384
|
Research Institution | Shonan Institute of Technology |
Principal Investigator |
水谷 光 湘南工科大学, 工学部, 助教授 (20219637)
|
Keywords | ニューラルネットワーク / スパース構造 / 連想処理 |
Research Abstract |
本研究では、スパースなニューラルネットワークに関する研究を、次のような方法で行った。 1)パーセプトロン型ニューラルネットワークにおいて、シナプスの間引きを、対象的に行い、性能の変化を調べる。 2)ホップフィールド型ニューラルネットワークにおいて、シナプスの間引きを、対象的に行い、性能の変化を調べる。 1)、2)共に、学習させるデータやニューラルネットワーク構造などに、その結果は左右される。また、性能の評価も、「与えられた基礎記憶が記憶された事を評価する」あるいは、「連想能力、あるいは、不必要な記憶が無い事を含めて評価する」等の方法が考えられ、一意ではない。また、この時の学習の方法にも、その性能は依存する。 これらの評価の問題があるものの、いくつかのニューラルネットワークにおいて、性能の評価を行った。 たとえば、入力層256、中間層12、出力層3のパーセプトロン型ルネットワークにおいて、入力層と中間層の間のシナプスを、384、768、1152、1536、1920、2304、2688、3072(全て接続)として、3種類の出力に対してそれぞれ30個の入力パターンを用いて連想実験を行った。この場合、シナプスの数を768まで減らしても、あまり性能の変化はなかった。この性能とは、基礎記憶の90(3種類の出力×各30種類の入力パターン)パターンを記憶していることである。しかし、出力ニューロンを10とし、10種類の出力に対してそれぞれ30個の入力パターンを用いて実験を行った場合には、シナプスの数を1920まで減らしても性能の劣化が認められた。この実験結果もわかるように、スパースなニューラルネットワークにおける評価は、その基礎記憶に依存し、逆に基礎記憶が与えられたときに必要なシナプスとニューロンの数の関係を得る事が重要である事は、言うまでもない。このため、このことを理論的に検討したが、現在のところ、芳しい結果は得られていない。今後もこの研究を続行し、芳しい成果が出たところで、学会等に発表する予定である。
|