1995 Fiscal Year Annual Research Report
| Project/Area Number |
07680404
|
|---|
| Research Category |
Grant-in-Aid for General Scientific Research (C)
|
| Research Institution | Kyushu Institute of Technology |
|---|
Principal Investigator |
石川 眞澄 九州工業大学, 情報工学部, 教授 (60222973)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
章 宏 九州工業大学, 情報工学部, 助手 (30235709)
|
|---|
| Keywords | ニューラルネットワーク / 規則発見 / 構造学習 / 情報量基準 |
|---|
| Research Abstract |
本年度は、申請者の提案した忘却付き構造学習により、連続値4入力、離散値3出力を有するアヤメのデータを対象とし、種々の形式の規則を発見する実験を行なった。まず情報量基準AICに基づいて忘却量を決定した。得られる規則の複雑さ(人間の理解し易さ)と汎化能力の間には相互にトレードオフの関係がある。規則は単純過ぎても複雑過ぎても汎化能力は減小し、データの複雑さと符合する適切な複雑さの規則が最適である。本来は情報量基準AICにより自動的に適切な複雑さの規則が得られるべきであるが、忘却付き構造学習ではそこまでは無理である。そこで、各隠れユニットの入力数を高々何本に制限するかということで複雑さの異なる何通りかのネットワークを学習させ、これらの中でAICが最小になるネットワークから規則を発見することとした。アヤメのデータでは高々2入力の場合にAICが最小になった。なお情報量基準AICを使用するためには最尤推定が得られているという前提が必要であるが、これは現実には必ずしも満たされていない。そこで、これらの前提条件を必要としない和田・川人の情報量基準(1991)をAICの代わりに用いることとした。またFu(1994)の方法との比較を行ない、本手法の方が汎化能力が高いことが分かった。
入力数がアヤメよりも多いガラスのデータを対象に実験を開始したが、入手可能なデータ数が少ないため、良い結果は得られていない。さらに困難な課題として、連続値入出力を持つデータを対象に、ここから規則が発見できるかどうかの基礎的検討を開始した。規則に対する例外が多いため、そのままではネットワーク構造と直結する形で規則を発見するのは困難であることが分かった。
|
-
[Publications] 上田博貴、石川眞澄: "ニューラルネットワークによる連続値入力データからの規則の発見" 神経回路学会 講演講文集. 01-3. 24-25 (1995)
-
[Publications] Robert Kozma,Masaharu Kitamura,Masumi Ishikawa: "Selecting optimum neural network architecture using structural learning algorithm with forgetting" 神経回路学会 講演論文集. p3-27. 303-304 (1995)
-
[Publications] Masumi Ishikawa: "Neural networks approach to rule extraction" ANNES'95. 6-9 (1995)
-
[Publications] Masumi Ishikawa: "Structural learnig with forgetting" Neural network. ((to appear))
