位相ニューラルネットワークによる情報分離学習とその応用

2001 Fiscal Year Annual Research Report

• Project/Area Number: 13650402
• Research Institution: The University of Electro-Communications
• Principal Investigator: 高橋 治久 電気通信大学, 電気通信学部, 教授 (90135418)
• Co-Investigator(Kenkyū-buntansha): 板倉 直明 電気通信大学, 電気通信学部, 助教授 (30223069) ; 川端 勉 電気通信大学, 電気通信学部, 助教授 (50152997)
• Keywords: 平均場近似 / コバリアンス / 位相 / 複素ニューロン / ボルツマンマシン

Research Abstract

本研究では,生物の脳,とりわけ人間の脳機能を解明するとともに,高度な工学的応用を見いだす人工ニューラルネットワークを開発することを主目的としている。特に,脳がどのように外界の表現を獲得し,事物の認識を行っているかを明らかにし、生物の持つ柔軟性と融通性のある機械認識技術を確立することが具体的な目標である.本年度の研究では,従来のアナログニューラルモデルの自然な一般化で,しかも情報処理の側面から本質的と考えられる発火相関を取り入れた,生物学的に自然な共分散ニューラルネットワークを提案した.この成果は,国際ニューラルネットワーク会議において発表予定となっている.このモデルは発火相関を位相で表現でき,確率的ボルツマンマシンなどのモデルの平均場近似となっている.従来の平均場近似では相関は表現できず,またその近似精度は重み係数が大きくなると大変悪化して近似モデルとしては使えない.ところが,提案したモデルは,重み係数が大きいところでもかなり精度良く近似を行うことが出来る.しかも同時に発火相関を表現できる.ボルツマンマシンは,確率計算がNP完全となるため人工知能などへの応用が困難であったが,これを解決できる糸口が見つかったことになる.論文では,更に,効率的学習法を提案し,これが非常に早く収束することが確かめた.この学習法は相互情報量を最適化し,各ユニットにおいて独立成分分析と同じ働きを生成する事が予想される.来年度からはこれを理論解析し更に計算機実験により明らかにしていく.また,グラフィカルモデルとしての平均場近似モデルとして,人工知能への応用を考えていく予定である.更に,学習を応用して,従来ボルツマンマシンなどで,計算時間の制限から実行不可能であったパターンに認識問題に挑み,本モデルの有効性を検証していく予定である.

Research Products

• [Publications] 塚本 直樹: "構造化学習とサポートベクトルマシンの性能比較"電子情報通信学会技術研究報告. NC2001-29. 49-55 (2001)
• [Publications] P.Debnath: "Classical RBF Network vs SVM with Gaussian Kernel"Proc. Of the 15^<th> Int. Conf. Of Artificial Intelligence and Expart Svstems. (予定). (2002)
• [Publications] I.V.Mayer: "Imaginary Motor Movemet EEG Classification by Accumulative-Autocorrelation-Pulse"Electromyography and OlinicaI Neurophsiology. 41. 159-169 (2001)
• [Publications] H.Takahashi: "Covariance Phasor Neural Network"2002 World Congress on Computational Intelligence. (予定). (2002)