• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

ランダムウォークと幾何学に基く学習・最適化に関する研究

研究課題

研究課題/領域番号 16650050
研究種目

萌芽研究

配分区分補助金
研究分野 感性情報学・ソフトコンピューティング
研究機関独立行政法人産業技術総合研究所

研究代表者

西森 康則  独立行政法人産業技術総合研究所, 脳神経情報研究部門, 研究員 (00357724)

研究分担者 赤穂 昭太郎  独立行政法人産業技術総合研究所, 脳神経情報研究部門, 主任研究員 (40356340)
北澤 茂  順天堂大学, 医学部, 教授 (00251231)
研究期間 (年度) 2004 – 2006
研究課題ステータス 完了 (2006年度)
配分額 *注記
3,400千円 (直接経費: 3,400千円)
2006年度: 1,000千円 (直接経費: 1,000千円)
2005年度: 1,000千円 (直接経費: 1,000千円)
2004年度: 1,400千円 (直接経費: 1,400千円)
キーワード機械学習 / 幾何学 / 独立成分分析 / 独立部分空間分析 / シュティーフェル多様体 / 旗多様体 / 測地線 / 自然勾配法 / 情報幾何 / 最適化 / 主成分分析 / 多様体学習
研究概要

昨年度提案した旗多様体上のリーマン幾何的最適化法を以下の2点で発展させた。
1.複素独立成分分析(複素ICA)への応用
混合データにホワイトニングによる前処理を施した後は、複素ICAは適当なユニタリー行列を求めることに帰着するので、複素シュティーフェル多様体上の最適化によって解くことができる。複素シュティーフェル多様体は複素多様体であるが、サイズが倍の実シュティーフェル多様体に埋め込むことができる。さらに複素独立成分分析の評価関数がもつ対称性のため、結局、実旗多様体の全測地的部分多様体上の最適化問題を解けばよいことになる。リーマン幾何的最適化法を全空間の実旗多様体に適用すれば、更新点が埋め込まれた全測地的部分多様体をはみでることなく、複素ICAに必要な複素シュティーフェル多様体上の最適化問題を解くことができる。この実旗多様体上のリーマン幾何的最適化法に基づくアルゴリズムが、複素グラディエント法を用いる方法よりも複素ICAの学習アルゴリズムとして優れた性能をもつことを実験的に確かめた。
2.独立部分空間分析(ISA)の大域的最適解
各部分空間を独立な確率分布から生成させた人工データを用いて、独立部分空間分析が通常の勾配法によっては局所最適解に留まってしまう可能性があることを確認した。この局所最適解の問題を解消するために、解行列の任意の2つの列ベクトルを、MCMC的なアニーリング・スケジュールによって確率的にフリップさせることと、旗多様体上のリーマン幾何的最適化法を組み合わせて用いるハイリッドMCMC測地線法を提案した。この手法によって、高確率で、独立部分空間分析の大域的最適解が得られることを先の人工データにより実験的に確かめた。
これらの結果は発表論文以外にThe Learning Workshopにおいて発表された。

報告書

(3件)
  • 2006 実績報告書
  • 2005 実績報告書
  • 2004 実績報告書
  • 研究成果

    (9件)

すべて 2007 2006 2005 2004 その他

すべて 雑誌論文 (9件)

  • [雑誌論文] Flag Manifolds for Subspace ICA Problems2007

    • 著者名/発表者名
      Y.Nishimori, S.Akaho, S.A.Abdallah, M.D.Plumbley
    • 雑誌名

      Proceedings of 2007 IEEE International Conference on Accoustic, Speech, and Signal Processing vol. IV

      ページ: 1417-1420

    • 関連する報告書
      2006 実績報告書
  • [雑誌論文] Riemannian Optimization Method on Generalized Flag Manifolds for Complex and Subspace ICA2006

    • 著者名/発表者名
      Y.Nishimori, S.Akaho, M.D.Plumbley
    • 雑誌名

      Bayesian Inference and Maximum Entropy Methods in Science and Engineering (AIP Conference Proceedings) 872

      ページ: 89-96

    • 関連する報告書
      2006 実績報告書
  • [雑誌論文] Riemannian Optimization Method on the Flag Manifold for Independent Subspace Analysis2006

    • 著者名/発表者名
      Y.Nishimori, S.Akaho, M D.Plumbley
    • 雑誌名

      Lecture Notes in Computer Science Independent Component Analysis and Blind Source Separation (6th International Conference, ICA2006 Proceedings) 3889

      ページ: 295-302

    • 関連する報告書
      2005 実績報告書
  • [雑誌論文] 情報幾何に基づく混合分布パラメータの次元縮小法2006

    • 著者名/発表者名
      赤穂昭太郎
    • 雑誌名

      IEICE Technical Report 105

      ページ: 57-62

    • NAID

      110004680348

    • 関連する報告書
      2005 実績報告書
  • [雑誌論文] Learning Algorithms utilizing Quasi-Geodesic Flows on the Stiefel Manifold2005

    • 著者名/発表者名
      Yasunori Nishimori, Shotaro Akaho
    • 雑誌名

      Neurocomputing 67

      ページ: 106-135

    • 関連する報告書
      2005 実績報告書
  • [雑誌論文] Cortical activity in multiple motor areas during sequential finger movements : an application of independent component analysis2005

    • 著者名/発表者名
      Kansaku, K, Muraki, S, Umeyama, S, Nishimori, Y, Kochiyama, T, Yamane, S, Kitazawa, S.
    • 雑誌名

      Neuroimage 28(3)

      ページ: 669-681

    • 関連する報告書
      2005 実績報告書
  • [雑誌論文] A note on Riemannian optimization methods on the Stiefel and the Grassmann manifolds2005

    • 著者名/発表者名
      Y.Nishimori
    • 雑誌名

      Proceedings of 2005 International Symposium on Nonlinear Theory and its Applications

      ページ: 349-352

    • 関連する報告書
      2005 実績報告書
  • [雑誌論文] e-PCA and m-PCA : Dimension Reduction of Parameters by Information Geometry2004

    • 著者名/発表者名
      Shotaro Akaho
    • 雑誌名

      Proceedings of 2004 International Joint Conference of Neural Networks Vol.1

      ページ: 129-134

    • 関連する報告書
      2004 実績報告書
  • [雑誌論文] Learning Algorithms utilizing Quasi-Geodesic Flows on the Stiefel Manifolds

    • 著者名/発表者名
      Yasunori Nishimori, Shotaro Akaho
    • 雑誌名

      Neurocomputing (accepted for publication 2004年11月)

    • 関連する報告書
      2004 実績報告書

URL: 

公開日: 2004-04-01   更新日: 2016-04-21  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi