神経回路網に基づく超並列分散処理機構における耐故障性に関する研究

• Project/Area Number: 06780247
• Research Category: Grant-in-Aid for Encouragement of Young Scientists (A)
• Allocation Type: Single-year Grants
• Research Field: 計算機科学
• Research Institution: Japan Advanced Institute of Science and Technology
• Principal Investigator: 丹 康雄 北陸先端科学技術大学院大学, 情報科学研究科, 助手 (90251967)
• Project Period (FY): 1994
• Project Status: Completed (Fiscal Year 1994)
• Budget Amount: ¥1,000,000 (Direct Cost: ¥1,000,000); Fiscal Year 1994: ¥1,000,000 (Direct Cost: ¥1,000,000)
• Keywords: ニューラルネットワーク / フォールトトレラントコンピューティング / 遺伝的アルゴリズム / 学習 / 内部表現

Research Abstract

生物の脳が高度な耐故障性を有するのに対して、その工学的モデルであるニューラルネットワーク(NN)では必ずしも耐故障性は期待できない。これに対し、適切な手法を用いれば潜在的な耐故障性を引き出すことが可能であることが今までの研究で明らかとなっていた。
本研究では、階層型NNを、超並列分散情報処理によって仕様から自己組織(学習)する能力を備えた万能組合せ回路と考え、この学習プロセスに適切な手法を盛り込むことによって、回路に潜在する耐故障性を明示的に引き出すことを考える。今回は特に、a)人工生命的アプローチを取り入れた耐故障化手法に関する検討、および、b)耐故障性と汎化能力の関係に関する検討に主眼を置いた。
人工生命的アプローチとしては、遺伝的アルゴリズム(GA)を用いた学習を取り上げた。最適化の目的関数として、提示パタンに対する誤差と共に耐故障性の評価値を用い、目的とする関数を実現し、かつ耐故障性を有する回路を学習によって構成することができる。GAでは、単体のNNではなく、その集団を対象とするため、現在の要求に対する評価値は同じでも内部的に構造の異なった多様な解が同時に得られる可能性がある。これは、生物界における種族単位での頑健性に相当するものが期待できることを示唆している。
シミュレーションの結果から、単体のNNを得ることを目的とした場合でも、GAによる学習で得られたNNは、通常の勾配法によるものに比べて、試行ごとに得られる内部表現が極めて大きく異なることが明らかとなった。また、集団中の多様性を保持する方法として、遺伝子表現における倍化が有効であることが示された。
汎化性と耐故障性とは密接な関係があることが指摘されていたが、理論的には耐故障化によって汎化が向上する場合は限られており、実際、多くのシミュレーション例では耐故障化による汎化能力向上が得られないことを示す結果が得られた。