ニューラルネットワークのエントロピー最小化学習によるカラー画像からの構造発見

1998 年度 実績報告書

• 研究課題/領域番号: 10480076
• 研究種目: 基盤研究(B)
• 研究機関: 九州大学
• 研究代表者: 新島 耕一 九州大学, 大学院・システム情報科学研究科, 教授 (30047881)
• 研究分担者: 皆本 晃弥 九州大学, 大学院・システム情報科学研究科, 助手 (00294900) ; 高橋 規一 九州大学, 大学院・システム情報科学研究科, 助教授 (60284551) ; ツォイクマン トーマス 九州大学, 大学院・システム情報科学研究科, 教授 (60264016)
• キーワード: ウェーブレット / ニューラルネットワーク / 学習理論 / 安定性理論 / 動画像認識 / 画像処理 / 非対称相互結合型 / 引き込み領域

研究概要

本研究テーマでは、ニューラルネットワークとウェーブレットが要素技術になっている。初年度はニューラルネットワークの学習理論、安定性理論ならびにウェーブレットにもとづく動画像認識について研究を行った。
画像データは一般に膨大な情報量をもっているために、ニューラルネットワークを用いて画像処理を行う場合、ネットワークの大きさが問題となる。"Convergence Rate of Minimization Learning for Neural Networks"では、隠れ層のユニット数を最小にするために順次、隠れユニットを追加しながら学習を行っていく学習法を提案し、さらに、隠れ層に閾値がない場合とある場合に分けて、学習過程の収束性を厳密に調べた。そして、閾値がある方が収束性に優れていることを示した。
“Learning of Three-Layer Neural Networks Based on Domains of Attraction"では、以前に研究代表者の新島が構築した単層パーセプトロンの引き込み領域にもとづいた学習法を隠れ層がある場合に拡張した。
“Moving Object Recongnition Using Wavelets and Learning of Eigenspaces"では、動画像を時間方向の静止画フレームの集まりと考え、各ピクセル毎に時間方向にウェーブレット分解を行い、高周波成分の挙動を、部分空間法を用いて解析することにより、動画像認識が可能になることを示した。
ニューラルネットワークの学習理論では、ネットワークの挙動の安定性を調べることが重要になる。対称な相互結合型ニューラルネットワークに対しては、これまで数多くの安定性解析がなされている。しかしながら、非対称相互結合型ニューラルネットワークの安定性解析はほとんどなされていない。"On the Complete Stability of Nosymmetric Cellular Neural Networks"では、あるクラスの非対称相互結合型ニューラルネットワークは、安定な挙動をすることを示した。

研究成果

• [文献書誌] M.H.Mohamed, T.Minamoto and Koichi Niijima: "Convergence Rate of Minimization Learning for Neural Networks" Machine Learning:ECML-98, Lecture Notes in Artificial Intelligence. 1398. 412-417 (1998)
• [文献書誌] S.Takano, T.Minamoto and K.Niijima: "Moving Object Recognition Using Wavelets and Learning of Eigenspaces" Discovery Science, Lecture Notes in Artificail Intelligence. 1532. 443-444 (1998)
• [文献書誌] M.H.Mohamed, A.Okubo, T.Minamoto and K.Niijima: "Learning of Three-Layer Neural Networks Based on Domains of Attraction" Proc.Fifth Int.Conf.Neural Information Processing. 1591-1594 (1998)
• [文献書誌] K.Kuzume and K.Niijima: "Design of Optimal Lifting Wavelet Filters for Data Compression" Proc.IEEE-SP TF/TS Int.Sympo.337-340 (1998)
• [文献書誌] N.Takahashi and L.O.Chua: "On the Complete Stability of Nonsymmetric Cellular Neural Networks" IEEE TRANSACTIONS ON CIRCUITS AND SYSTEMS I. 45・7. 754-758 (1998)
• [文献書誌] R.Reischuk and T.Zeugmann: "Learning One-variable Pattern Languages in Linear Average Time" Proceedings of the Eleventhe Annual Conference on Computational Learning Theory. 198-208 (1998)