位相ニューラルネットワークによる情報分離学習とその応用

2003 Fiscal Year Annual Research Report

• Project/Area Number: 13650402
• Research Institution: The University of Electro-Communications
• Principal Investigator: 高橋 治久 電気通信大学, 電気通信学部, 教授 (90135418)
• Co-Investigator(Kenkyū-buntansha): 板倉 直明 電気通信大学, 電気通信学部, 助教授 (30223069) ; 川端 勉 電気通信大学, 電気通信学部, 教授 (50152997)
• Keywords: 平均場近似 / コバリアンス / 位相 / 複素ニューロン / ボルツマンマシン / SVM

Research Abstract

本研究では,生物の脳,とりわけ人間の脳機能を解明するとともに,高度な工学的応用を見いだす人工ニューラルネットワークを開発することを主目的として行った.特に,脳がどのように外界の表現を獲得し,事物の認識を行っているかを明らかにし、生物の持つ柔軟性と融通性のある機械認識技術を確立することが具体的な目標である.本年度の研究では,前年度までに提案した従来のアナログニューラルモデルの自然な一般化で,しかも情報処理の側面から本質的と考えられる発火相関を取り入れた,生物学的に自然な共分散ニューラルネットワークを改良した.とくに,平均場近似として精度について,従来の平均場近似モデルより,在るパラメタの範囲で精度が落ちる場合がある原因を突き止め理論を改良することにより,すべてのパラメタの範囲で格段に精度が向上した.この成果は,電子情報通信学会NC研究会で発表した.また共分散ニューラルネットワークを画像のセグメンテーションに応用する基礎実験を行い,これが可能であることを示した.ニューラルネットワークの学習法として,近年注目を集めているサポートベクトルマシン(SVM)について,精度のよいマルチクラス識別器の構成,二次錘形計画法を応用した高速SVMの提案を行った.更に,幾何学的なマージン最大化学習法を提案し,多くの場合SVMよりかなり高速になることを検証した.また,カーネル主成分分析を応用した学習機械を開発し,従来学習機械においてモデル選択の問題として未解決であった,カーネルパラメタの自動設定手法を提案した.この方法は顔画像認識に応用された.これらの成果については,国際会議,論文において発表済みである.

Research Products

• [Publications] Rameswer Debnath: "A New Approach to Structural Learning of Neural Networks"IEICE Trans(電子情報通信学会英文論文誌). (未定). (2004)
• [Publications] Rameswer Debnath: "A Fast Learning Decision-Based SVM for Multi-Class Problems"Proceedings of the International Conference of Machine Learning and Annlications. 128-134 (2003)
• [Publications] Takahide Nogayama: "Genetalization of kernel PCA and Automatic Parameter Tuning"The 8th Australian and New Zealand Intelligent Information Systems Conference. 173-178 (2003)
• [Publications] 向山 学: "幾何学的学習アルゴリズムによる最大マージン識別法"電子情報通信学会技術研究報告. NC2003-114. 37-42 (2004)
• [Publications] 高橋治久: "位相ニューラルネットと平均場近似"電子情報通信学会技術研究報告. NC2003-101. 49-54 (2003)
• [Publications] 野ヶ山尊秀: "カーネル主成分分析の一般化及びパラメタ自動決定法の提案"電子情報通信学会技術研究報告. NC2003-53. 43-48 (2003)