• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

ランダムウォークと幾何学に基く学習・最適化に関する研究

Research Project

Project/Area Number 16650050
Research Category

Grant-in-Aid for Exploratory Research

Allocation TypeSingle-year Grants
Research Field Sensitivity informatics/Soft computing
Research InstitutionNational Institute of Advanced Industrial Science and Technology

Principal Investigator

西森 康則  独立行政法人産業技術総合研究所, 脳神経情報研究部門, 研究員 (00357724)

Co-Investigator(Kenkyū-buntansha) 赤穂 昭太郎  独立行政法人産業技術総合研究所, 脳神経情報研究部門, 主任研究員 (40356340)
北澤 茂  順天堂大学, 医学部, 教授 (00251231)
Project Period (FY) 2004 – 2006
Project Status Completed (Fiscal Year 2006)
Budget Amount *help
¥3,400,000 (Direct Cost: ¥3,400,000)
Fiscal Year 2006: ¥1,000,000 (Direct Cost: ¥1,000,000)
Fiscal Year 2005: ¥1,000,000 (Direct Cost: ¥1,000,000)
Fiscal Year 2004: ¥1,400,000 (Direct Cost: ¥1,400,000)
Keywords機械学習 / 幾何学 / 独立成分分析 / 独立部分空間分析 / シュティーフェル多様体 / 旗多様体 / 測地線 / 自然勾配法 / 情報幾何 / 最適化 / 主成分分析 / 多様体学習
Research Abstract

昨年度提案した旗多様体上のリーマン幾何的最適化法を以下の2点で発展させた。
1.複素独立成分分析(複素ICA)への応用
混合データにホワイトニングによる前処理を施した後は、複素ICAは適当なユニタリー行列を求めることに帰着するので、複素シュティーフェル多様体上の最適化によって解くことができる。複素シュティーフェル多様体は複素多様体であるが、サイズが倍の実シュティーフェル多様体に埋め込むことができる。さらに複素独立成分分析の評価関数がもつ対称性のため、結局、実旗多様体の全測地的部分多様体上の最適化問題を解けばよいことになる。リーマン幾何的最適化法を全空間の実旗多様体に適用すれば、更新点が埋め込まれた全測地的部分多様体をはみでることなく、複素ICAに必要な複素シュティーフェル多様体上の最適化問題を解くことができる。この実旗多様体上のリーマン幾何的最適化法に基づくアルゴリズムが、複素グラディエント法を用いる方法よりも複素ICAの学習アルゴリズムとして優れた性能をもつことを実験的に確かめた。
2.独立部分空間分析(ISA)の大域的最適解
各部分空間を独立な確率分布から生成させた人工データを用いて、独立部分空間分析が通常の勾配法によっては局所最適解に留まってしまう可能性があることを確認した。この局所最適解の問題を解消するために、解行列の任意の2つの列ベクトルを、MCMC的なアニーリング・スケジュールによって確率的にフリップさせることと、旗多様体上のリーマン幾何的最適化法を組み合わせて用いるハイリッドMCMC測地線法を提案した。この手法によって、高確率で、独立部分空間分析の大域的最適解が得られることを先の人工データにより実験的に確かめた。
これらの結果は発表論文以外にThe Learning Workshopにおいて発表された。

Report

(3 results)
  • 2006 Annual Research Report
  • 2005 Annual Research Report
  • 2004 Annual Research Report
  • Research Products

    (9 results)

All 2007 2006 2005 2004 Other

All Journal Article (9 results)

  • [Journal Article] Flag Manifolds for Subspace ICA Problems2007

    • Author(s)
      Y.Nishimori, S.Akaho, S.A.Abdallah, M.D.Plumbley
    • Journal Title

      Proceedings of 2007 IEEE International Conference on Accoustic, Speech, and Signal Processing vol. IV

      Pages: 1417-1420

    • Related Report
      2006 Annual Research Report
  • [Journal Article] Riemannian Optimization Method on Generalized Flag Manifolds for Complex and Subspace ICA2006

    • Author(s)
      Y.Nishimori, S.Akaho, M.D.Plumbley
    • Journal Title

      Bayesian Inference and Maximum Entropy Methods in Science and Engineering (AIP Conference Proceedings) 872

      Pages: 89-96

    • Related Report
      2006 Annual Research Report
  • [Journal Article] Riemannian Optimization Method on the Flag Manifold for Independent Subspace Analysis2006

    • Author(s)
      Y.Nishimori, S.Akaho, M D.Plumbley
    • Journal Title

      Lecture Notes in Computer Science Independent Component Analysis and Blind Source Separation (6th International Conference, ICA2006 Proceedings) 3889

      Pages: 295-302

    • Related Report
      2005 Annual Research Report
  • [Journal Article] 情報幾何に基づく混合分布パラメータの次元縮小法2006

    • Author(s)
      赤穂昭太郎
    • Journal Title

      IEICE Technical Report 105

      Pages: 57-62

    • NAID

      110004680348

    • Related Report
      2005 Annual Research Report
  • [Journal Article] Learning Algorithms utilizing Quasi-Geodesic Flows on the Stiefel Manifold2005

    • Author(s)
      Yasunori Nishimori, Shotaro Akaho
    • Journal Title

      Neurocomputing 67

      Pages: 106-135

    • Related Report
      2005 Annual Research Report
  • [Journal Article] Cortical activity in multiple motor areas during sequential finger movements : an application of independent component analysis2005

    • Author(s)
      Kansaku, K, Muraki, S, Umeyama, S, Nishimori, Y, Kochiyama, T, Yamane, S, Kitazawa, S.
    • Journal Title

      Neuroimage 28(3)

      Pages: 669-681

    • Related Report
      2005 Annual Research Report
  • [Journal Article] A note on Riemannian optimization methods on the Stiefel and the Grassmann manifolds2005

    • Author(s)
      Y.Nishimori
    • Journal Title

      Proceedings of 2005 International Symposium on Nonlinear Theory and its Applications

      Pages: 349-352

    • Related Report
      2005 Annual Research Report
  • [Journal Article] e-PCA and m-PCA : Dimension Reduction of Parameters by Information Geometry2004

    • Author(s)
      Shotaro Akaho
    • Journal Title

      Proceedings of 2004 International Joint Conference of Neural Networks Vol.1

      Pages: 129-134

    • Related Report
      2004 Annual Research Report
  • [Journal Article] Learning Algorithms utilizing Quasi-Geodesic Flows on the Stiefel Manifolds

    • Author(s)
      Yasunori Nishimori, Shotaro Akaho
    • Journal Title

      Neurocomputing (accepted for publication 2004年11月)

    • Related Report
      2004 Annual Research Report

URL: 

Published: 2004-04-01   Modified: 2016-04-21  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi