未来-過去情報を統合する双方向型計算様式に基づいた時系列予測技術に関する研究

2002 Fiscal Year Annual Research Report

• Project/Area Number: 14780297
• Research Institution: Saga University
• Principal Investigator: 和久屋 寛 佐賀大学, 理工学部, 助教授 (40264147)
• Keywords: 双方向型計算様式 / 時系列予測 / 双方向型神経回路モデル / 内部情報表現 / 自由度 / 主成分分析

Research Abstract

先に提案した双方向型計算様式に基づいた時系列予測とは、従来の順時間方向の信号変換系(現在→未来)とは別に逆時間方向の信号変換系(現在→過去)を用意し、両者の情報統合の効果によって予測精度の改善を図る手法である。これまでに種々の時系列データに適用し、予測精度の改善のほか、学習に要する計算量、未学習データに対する汎化能力などの点で優れていることを確認しているが、「なぜ時系列処理能力が改善するか」については未だ不明な点が多い。そこで、今回、この点について重点的に検討を行った。
一般に、神経回路モデルにおいては、隠れ層のニューロン数が信号処理能力と密接に関わるが、これは情報表現の自由度が増すことに起因している。したがって、情報が実際に保有している自由度が小さなものであれば、ニューロン数を必要以上に増やしても大きな意味はないはずである。そこで、隠れニューロンの応答波形に主成分分析を適用し、自由度の評価を行った。その結果、同じ規模のネットワークであれば提案手法の方が自由度が大きく、効率よく入力情報を保持できていることを明らかにした。これは、本研究で新規に導入した逆時間方向の信号変換が、従来の順時間方向の信号変換とは大きく異なる内部情報表現を可能としたためであり、この情報表現の増加分を効率よく学習に利用することで信号処理能力が改善したと考えられる。事実、この内部情報表現が増大する区間で学習が急激に進行しており、両者の密接な関連性が示唆される。
ところで、「研究は発表することによってその成果を社会に還元できる」とは、かつての指導教官の言葉であるが、今年度は国内外の学会等に積極的に参加し、多くの有益なコメントを得た。また、研究成果の詳細については、現在、ホームページ(http://www.sens.ee.saga-u.ac.jp/wakuya/)で公開中である。

Research Products

• [Publications] 和久屋 寛: "双方向型計算様式に基づいた神経回路モデルによる時系列予測:獲得信号変換の解析とその評価"電気学会論文誌C. Vol.122-C No.10. 1794-1802 (2002)
• [Publications] Hiroshi Wakuya: "Time series prediction by a neural network model based on bi-directional computation style : A study on generalization performance with the computer generated time series "Data Set D""Systems and Computers in Japan. (掲載予定). (2003)
• [Publications] Hiroshi Wakuya: "Time series prediction with a neural network model based on bi-directional computation style : An analytical study and its estimation on acquired signal transformation"Electrical Engineering in Japan. (掲載予定).
• [Publications] Hiroshi Wakuya: "Estimation of inner information representations in time series prediction and bi-directionalization effect of computing architecture"Proceedings of the 9th International Conference on Neural Information Processing (ICONIP 02). Vol.5. 2147-2151 (2002)
• [Publications] 和久屋 寛: "双方向型計算様式に基づいた神経回路モデルによる時系列予測:Mackey-Glassカオス系列を用いた獲得信号変換の評価"佐賀大学理工学部集報. Vol.31 No.1. 23-32 (2002)
• [Publications] 和久屋 寛: "未来-過去情報統合を用いた双方向型計算様式による時系列予測:内部情報表現の多様性と予測精度向上のメカニズム"電子情報通信学会技術研究報告(ニューロコンピューティング研究会). (掲載予定). (2003)