1993 Fiscal Year Annual Research Report
動的情報処理を行う自然なニューラルネットワークとその学習アルゴリズムに関する研究
| Project/Area Number |
04805032
|
|---|
| Research Institution | The University of Electro-Communications |
|---|
Principal Investigator |
高橋 治久 電気通信大学, 電気通信学部, 助教授 (90135418)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
武田 光夫 電気通信大学, 電気通信学部, 教授 (00114926)
富田 悦次 電気通信大学, 電気通信学部, 教授 (40016598)
|
|---|
| Keywords | 連続音声認識 / PAC学習 / リカレントニューラルネット |
|---|
| Research Abstract |
平成5年度において,前年度に開発した実質VC次元解析を実数ベクトル関数の学習に拡張しニューラルネットワークPAC基準に基づいたサンプル計算量の評価を行うと同時に平均サンプル計算量即ち学習曲線を評価した。実数関数の学習曲線はこの研究で初めて導出されたものであり,従来の学習曲線はすべて概念学習の場合に限られる。ニューラルネットワークの学習において,最適なネットワークを自動的に求める構造化学習法が種々提案されているが,その効果について定量的な判定がされていなかったが,上記実質VC次元の結果に基づいて,学習曲線による性能評価法を提案し,有効な構造化学習法を明らかにした。また,その改良を提案した。この基礎の上にたって,中間層に自己ループだけを含む非常に単純な学習リカレントニューラルネットワークを,主として音声情報処理のための動的情報処理ネットワークとして開発し,音声情報処理に適用した。このネットワークは人間の聴覚の仕組を参考にし,自然な形で実時間認識学習が出来,実時間連続音声認識を行う。中間層の内部表現を調べたところ、人間の聴覚で観測されるFMニューロンやAMニューロン更には音素の境界で発火するセグメンテーションニューロンなど,人間の聴覚系で観測されるニューロンができており聴覚機構の解明にも役立つ結果を得た。リカレント結合の役割について解析的に解明し,聴覚情報処理がフィルター作用をもつリカレントネットワークとして説明できることを実験との両面から明らかにした。
|
-
[Publications] 柳谷尚寿: "リカレントネットワークを用いた連続音声認識" 電子情報通信学会技術研究報告. SP93-111. 55-62 (1993)
-
[Publications] 山田義朗: "近似最大クリークを抽出する確率アルゴリズムとその実験的評価" 電子情報通信学会論文誌. J76-D-I,2. 46-53 (1993)
-
[Publications] 高橋治久: "Estimation of learning Curve in Learning Neural Networks From Noisy Sample" International Symposium on Nonlinear Theory and its Applications HAWAII. Vol1,1.2-1. 47-50 (1993)
-
[Publications] 高橋治久: "Estimating Learning Curves by PAC-Learnability Criterion" International Joint Conference on Neural Networks,Nagoya. Vol1.2. 1641-1644 (1993)
-
[Publications] 高橋治久: "Separability of Intermal Representations in Multilayer Perceptrons With Application to Learning" Neural Networks. Vol6. 689-703 (1993)
-
[Publications] 武田光夫: "Dynamics of Complex Neural Fields with an Analogy to Optical Fields Generated in a Phase Conjugate Resonator" Proc.SPIE,San Diego,(invited. Vol.2039. 314-322 (1993)
