画像フィルタ理論に基づくニュ-ラルネットワ-クの高性能学習方式に関する研究

1990 Fiscal Year Annual Research Report

• Project/Area Number: 02452155
• Research Institution: Tokyo Institute of Technology
• Principal Investigator: 小川 英光 東京工業大学, 工学部, 教授 (50016630)
• Co-Investigator(Kenkyū-buntansha): 山下 幸彦 東京工業大学, 工学部, 助手 (90220350) ; 熊沢 逸夫 東京工業大学, 工学部, 助教授 (70186469)
• Keywords: ニュ-ラルネットワ-ク / 画像処理 / 学習 / 汎化 / フィルタ / 非線形 / 統計

Research Abstract

本研究では、画像フィルタ理論の進展と共に明らかになったフィルタのデ-タ補間能力の本質に関する知見に基づいて、限られた数のサンプルを体験するだけで、未知の入力に対して正しい出力を与えることを保証できる新しい学習理論を構築し、それをニュ-ラルネット上に実現することを目的としている。フィルタにおけるデ-タ補間の問題と、未知の入力に対応することのできるニュ-ラルネットを構成する問題との間には密接な関係がある。前者は、関数の有限標本点上の値のサンプルのみから、まだ経験したことのない新しい点上の関数の値を推定する問題であり、これはデ-タの次元の相違こそあれ、有限個の入力サンプルに対する正しい出力が教師から示されただけで、初体験の入力に対して正しい出力を得ようとする後者の問題と本質的には同じだからである。学習理論では、この様に新しい入力に適切に対応する能力のことを汎化能力と呼んでいる。本研究では、このように、画像フィルタの理論に基づいて汎化能力を保証する新しい学習理論を構築することを目標としてきたが、当該年度において次のような成果を上げることが出来た。(1)標本点をニュ-ラルネットに対するサンプル入力、また、その標本点上のデ-タ値をニュ-ラルネットの出力に対応付けて、画像フィルタ理論からのアナロジ-により、ニュ-ラルネットに対する学習理論を確立した。(2)部分空間法を非線形な場合に拡張することにより、デ-タの非線形な内部構造をニュ-ラルネットにより記録(近似、モデル化)する方式を明らかにした。(3)実際の文字パタ-ン、音声パタ-ン等に存在する内部構造を統計的手法に基づき分析し、実験デ-タを蓄積できた。

Research Products

• [Publications] 小川 英光: "逆問題としてのニュ-ラルネット理論" 電子情報通信学会誌. 73. 690-695 (1990)
• [Publications] 小川 英光: "パタ-ン集合を最良に近似する部分空間" 電子情報通信学会技術報告. PRU90ー67. 67-72 (1990)
• [Publications] 山下 幸彦,小川 英光: "画像空間の位相と最適画像復元フィルタ" 電子情報通信学会技術報告. PRU90ー85. 31-38 (1990)
• [Publications] 山下 幸彦,小川 英光: "平均射影フィルタによる画像復元" 電子情報通信学会論文誌. J74ーDII. (1991)
• [Publications] 山下 幸彦,小川 英光: "平均射影フィルタの諸性質" 電子情報通信学会論文誌. J74ーDII. (1991)