• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2008 Fiscal Year Annual Research Report

信号空間の構造に基づいた学習理論の構築とその応用

Research Project

Project/Area Number 18300057
Research InstitutionTokyo Institute of Technology

Principal Investigator

山下 幸彦  Tokyo Institute of Technology, 大学院・理工学研究科, 准教授 (90220350)

Co-Investigator(Kenkyū-buntansha) 杉山 将  東京工業大学, 大学院・情報理工学研究科, 准教授 (90334515)
田中 聡久  東京農工大学, 大学院・共生科学技術研究院, 准教授 (70360584)
鷲沢 嘉一  独立行政法人理化学研究所, 脳信号処理研究チーム, 研究員 (10419880)
Keywords信号空間の構造 / 多様体 / 非対称カーネル法 / 共変量シフト / コミッティ機械 / ブラインド信号抽出
Research Abstract

本年度は,信号空間の構造に基づいた学習理論の構築とその応用に関して,前年度までに得た成果を発展させると共に,最終年度として研究をまとめ,残された課題を洗い出した。
その中で,信号空間の構造を求めるマハラノビス計量を標本点から求めるための確率密度関数の推定法を開発した。確率密度関数の対数値の3階微分を正則化項として導入することにより,確率密度関数を求めることを可能にした。また,部分空間サポートベクトルマシンやカーネルウィーナーフィルタをパターン認識に適用し,認識実験において良好な結果を得た。信号空間の構造が変化する場合の学習法に関して,共変量シフトとパターン空間の幾何的構造を用いる学習法の性質を調べ,信号空間の構造の変化に適応できる効率的なアルゴリズムを開発した。そして,脳波データ解析およびロボット制御シミュレーションにおいて,その有効性を確認した。また,多様体構造をもつ信号の学習法に関して,前年度までの直交群上での最適化アルゴリズムを拡張し,リーマン多様体上の元に対する「平均」演算手法を開発し,その収束性について理論的証明を与えた.これによって,コミティ機械のようなアンサンブル学習を,学習パラメータが多様体上で動く場合に適用することが可能となった。さらに,前年度までに開発した信号抽出手法を拡張し,時空間混合モデルのパラメータを推定するアルゴリズムを新たに開発した.そして,推定されたパラメータから求められる時空間逆フィルタにより,原信号を抽出するブラインド信号抽出法を開発した。
この研究を発展させるために取り組むべき課題が,マハラノビス計量の時空間信号への応用,構造が変化する場合の確率密度関数比の推定,複雑な構造をした多様体へ適用するためのコミッティ機械の改良,脳信号の非線形構造に基づく特徴抽出・次元削減法を開発であることを明かにした。

  • Research Products

    (19 results)

All 2009 2008 Other

All Journal Article (15 results) (of which Peer Reviewed: 13 results) Presentation (2 results) Book (1 results) Remarks (1 results)

  • [Journal Article] Moving picture coding by subband transformation and edge adaptive deblocking filter2009

    • Author(s)
      N. Zainal, Y. Yamashita
    • Journal Title

      Proc. of 2009 RISP International Workshop on Nonlinear Circuits and Signal Processing

      Pages: 451-454

    • Peer Reviewed
  • [Journal Article] A batch ensemble approach to active learning with model selection2009

    • Author(s)
      M. Sugiyama, N. Rubens
    • Journal Title

      Neural Networks 50

      Pages: 1278-1286

    • Peer Reviewed
  • [Journal Article] Direct density ratio estimation for large-scale covariate shift adaptation2009

    • Author(s)
      Y. Tsuboi, H, Kashima, S. Hido, S. Bickel, M. Sugiyama
    • Journal Title

      IPSJ Journal 50

      Pages: 1-19

    • Peer Reviewed
  • [Journal Article] Efficient direct density ratio estimation for non-stationarity adaptation and outlier detection2009

    • Author(s)
      T. Kanamori, S. Hido, M. Sugiyama
    • Journal Title

      Advances in Neural Information Processing Systems 21

      Pages: 809-816

    • Peer Reviewed
  • [Journal Article] Adaptive importance sampling for value function approximation in off-policy reinforcement learning2009

    • Author(s)
      H. Hachiya, T. Akiyama, M. Sugiyama, J. Peters
    • Journal Title

      Neural Networks (In press)

    • Peer Reviewed
  • [Journal Article] Learning averages over the Lie group of symmetric positive-definite matrices2009

    • Author(s)
      S. Fiori, T. Tanaka
    • Journal Title

      Proc. of International Joint Conference on Neural Networks (印刷中)

    • Peer Reviewed
  • [Journal Article] Learning-machines-committee averages over the unitary group of matrices2009

    • Author(s)
      S. Fiori, T. Tanaka
    • Journal Title

      Proc. of IEEE Internatinal Conference on Circuits and Systems (印刷中)

    • Peer Reviewed
  • [Journal Article] Blind source extraction using spatio-temporal inverse filter2009

    • Author(s)
      Y. Washizawa, Y. Yamashita, A. Cichocki
    • Journal Title

      Proc. of IEEE Internatinal Conference on Circuits and Systems (To appear)

    • Peer Reviewed
  • [Journal Article] Numerical analysis of Mahalanobis metric in vector space2008

    • Author(s)
      S. Joken, N. Inoue, Y. Yamashita
    • Journal Title

      Proc. of 19th International Conference on Pattern Recognition (CD-ROM)

    • Peer Reviewed
  • [Journal Article] Pool-based agnostic experiment design in linear regression.2008

    • Author(s)
      M. Sugiyama, S. Nakajima
    • Journal Title

      Lecture Notes in Computer Science 5212

      Pages: 406-422

    • Peer Reviewed
  • [Journal Article] Direct importance estimation for covariate shift adaptation2008

    • Author(s)
      M. Sugiyama, T. Suzuki, S. Nakajima, H. Kashima, p. von Beunau, M. Kawanabe
    • Journal Title

      Annals of the Institute of Statistical Mathematics 60

      Pages: 699-746

    • Peer Reviewed
  • [Journal Article] An averaging method for a committee of special-orthogonal-group machines2008

    • Author(s)
      S. Fiori, T. Tanaka
    • Journal Title

      Proc. of the 2008 IEEE International Symposium on Circuits and Systems

      Pages: 2170-2173

    • Peer Reviewed
  • [Journal Article] Robust boundary learning for multi-class classification problems2008

    • Author(s)
      Y. Washizawa, S. Hotta
    • Journal Title

      Proc. of 1st IAPR Workshop on Cognitive Information Processing

      Pages: 188-193

    • Peer Reviewed
  • [Journal Article] 制約付きの近似による特徴抽出2008

    • Author(s)
      鷲沢嘉一
    • Journal Title

      第11回画像の認識・理解シンポジウム(MIRU2008)論文集

      Pages: 903-908

  • [Journal Article] マージン最大化基準に基づく特徴選択と脳信号処理への応用2008

    • Author(s)
      鷲沢嘉一
    • Journal Title

      第23回信号処理シンポジウム講演論文集

      Pages: 64-69

  • [Presentation] 重み付き相関行列による局所部分空間法2008

    • Author(s)
      山下幸彦
    • Organizer
      部分空間法研究会2008
    • Place of Presentation
      軽井沢
    • Year and Date
      2008-07-28
  • [Presentation] 抑制付きカーネル部分空間法2008

    • Author(s)
      鷲沢嘉一
    • Organizer
      部分空開法研究会2008
    • Place of Presentation
      軽井沢
    • Year and Date
      2008-07-28
  • [Book] Dataset Shift in Machine Learning2009

    • Author(s)
      Quinonero-Candela, J., Sugiyama, M., Schwaighofer, A., Lawrence, N. D.
    • Total Pages
      229
    • Publisher
      MIT Press
  • [Remarks]

    • URL

      http://sugiyama-www.cs.titech.ac.jp/~sugi/software/index.html

URL: 

Published: 2010-06-11   Modified: 2016-04-21  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi