• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2005 Fiscal Year Annual Research Report

ランダムウォークと幾何学に基く学習・最適化に関する研究

Research Project

Project/Area Number 16650050
Research InstitutionNational Institute of Advanced Industrial Science and Technology

Principal Investigator

西森 康則  独立行政法人産業技術総合研究所, 脳神経情報研究部門, 研究員 (00357724)

Co-Investigator(Kenkyū-buntansha) 赤穂 昭太郎  独立行政法人産業技術総合研究所, 脳神経情報研究部門, 主任研究員 (40356340)
北澤 茂  順天堂大学, 医学部, 教授 (00251231)
Keywords独立成分分析 / 独立部分空間分析 / シュティーフェル多様体 / 旗多様体 / 測地線 / 自然勾配法 / 情報幾何 / 最適化
Research Abstract

ニューラルネットのパラメータ空間がシュティーフェル多様体をなす場合に、概測地線を用いたリーマン幾何的な最適化法に基づく学習アルゴリズムを提案した。さらに、この手法を用いた独立成分分析をf-MRIデータ解析に適用し、連続指対向運動時に複数の運動野が協調して働いていることなど、従来のf-MRIデータ解析に用いられてきた統計的手法では得られない新しい結果を得た。
ニューラルネット、信号処理、数値計算の分野で、多様体上の最適化の研究は主にリー群、シュティーフェル多様体、グラスマン多様体の場合に限られていたが、本年度はリーマン幾何的な最適化法を旗多様体の場合に拡張した。旗多様体は直交する部分空間全体のなす多様体であり、シュティーフェル多様体、グラスマン多様体を特別な場合として含むより一般的な多様体である。独立成分分析の、源信号が全て統計的に独立であるという仮定を緩め、独立部分空間分析を考察すると、解行列はまさに旗多様体上の点として捉えられ、従ってリーマン幾何的学習アルゴリズムが適用できる。自然画像の画像パッチから複雑細胞型のフィルターを生成する実験において、本手法がHoyer-Hyvarinenが提案した独立部分空間法の学習アルゴリズムよりも優れた性能をもつことを示した。
また、学習サンプルが確率分布のパラメータとして与えられる場合の次元縮小法として、昨年度は情報幾何に基づく指数型分布族に対する主成分分析法を提案したが、本年度は指数型分布族には属さないが実用上よく用いられる混合分布の場合に、情報幾何を用いた次元縮小法を拡張した。
これらの結果は、国際会議Geometric Integration Workshop in Foundations of Computational Mathematicsでの招待講演、University of Amsterdam, Queen Mary University of London, University of Surrey, University of Wuerzburg, Fraunhofer Institute Berlinにおいても発表された。

  • Research Products

    (5 results)

All 2006 2005

All Journal Article (5 results)

  • [Journal Article] Riemannian Optimization Method on the Flag Manifold for Independent Subspace Analysis2006

    • Author(s)
      Y.Nishimori, S.Akaho, M D.Plumbley
    • Journal Title

      Lecture Notes in Computer Science Independent Component Analysis and Blind Source Separation (6th International Conference, ICA2006 Proceedings) 3889

      Pages: 295-302

  • [Journal Article] 情報幾何に基づく混合分布パラメータの次元縮小法2006

    • Author(s)
      赤穂昭太郎
    • Journal Title

      IEICE Technical Report 105

      Pages: 57-62

  • [Journal Article] Learning Algorithms utilizing Quasi-Geodesic Flows on the Stiefel Manifold2005

    • Author(s)
      Yasunori Nishimori, Shotaro Akaho
    • Journal Title

      Neurocomputing 67

      Pages: 106-135

  • [Journal Article] Cortical activity in multiple motor areas during sequential finger movements : an application of independent component analysis2005

    • Author(s)
      Kansaku, K, Muraki, S, Umeyama, S, Nishimori, Y, Kochiyama, T, Yamane, S, Kitazawa, S.
    • Journal Title

      Neuroimage 28(3)

      Pages: 669-681

  • [Journal Article] A note on Riemannian optimization methods on the Stiefel and the Grassmann manifolds2005

    • Author(s)
      Y.Nishimori
    • Journal Title

      Proceedings of 2005 International Symposium on Nonlinear Theory and its Applications

      Pages: 349-352

URL: 

Published: 2007-04-02   Modified: 2016-04-21  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi