• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2014 年度 実績報告書

距離構造に着目した多様体信号理論の構築と生体信号処理への応用

研究課題

研究課題/領域番号 26280054
研究機関東京工業大学

研究代表者

山下 幸彦  東京工業大学, 理工学研究科, 准教授 (90220350)

研究分担者 杉山 将  東京大学, 新領域創成科学研究科, 教授 (90334515)
田中 聡久  東京農工大学, 工学(系)研究科(研究院), 准教授 (70360584)
鷲沢 嘉一  電気通信大学, 情報理工学(系)研究科, 助教 (10419880)
研究期間 (年度) 2014-04-01 – 2017-03-31
キーワード多様体信号処理 / 不完全交差学習 / 計量学習 / コミティマシン / 生体信号処理
研究実績の概要

時空間信号の空間に計量を与えるためには,局所等方独立な変化を表す作用素を求める必要がある。そのための2階のリー微分による作用素方程式を考案した。この作用素方程式の解はEuclid空間ではLaplacianになり,時間を導入した場合Wiener過程を表すものになる。しかも,局所的に表現されているため,一般のリーマン多様体上に局所等方独立な変化を表すことができる可能性をもっている。そのため,Euclid空間以外でこの方程式の解を探すための準備を行った。
計量学習に関しては,Mahalanobis計量を正規化カーネル関数で表すことによって,非線形微分方程式を正規化カーネル関数の係数の非線形方程式に変換することを提案した。正規化カーネル関数を使うことによって,格子点を使って表すよりも計算量を削減できる可能性を示した。そして,ラベルなしパターン間の類似性だけでなく,非類似性の情報も活用できる新しい半教師付き計量学習アルゴリズムを開発した。また,畳み込みニューラルネットワークを密度比推定に用いることにより,密度比空間の計量を学習するアルゴリズムも開発した。さらに,多チャンネル信号や変動を含むパターンから得られる分散共分散構造をGrassmann多様体やそれを拡張したものへ埋め込み,Mahalanobis距離を求める手法を提案した。そして,文字や画像のパターン間の距離を評価するために,同一エッジ方向最近傍距離平均に曲率による重みを付けることを提案し,アフィン変換や2次元射影変換に不変なマッチング法と組み合わせたパターン認識法を開発した。
カーネル適応フィルタの辞書学習について,観測信号に対応するカーネル関数を適応的に更新することによって,より高い汎化性能を得ることができた。また,l1制約を導入することによって,「次元の呪い」に起因する問題の回避を可能にした。
開発した手法をベンチマークデータや脳信号の識別問題に適用し,有効性を確かめた。

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

局所等方独立な変化を表す作用素を与える方程式の候補を具体的な形で与えることができた。このための方程式はあまり前例がないものであり,作用素のための方程式ということもあり,それを求めることは非常に困難と考えられたが,その目途をつけることができた。そして,その方程式のEuclid空間以外での解を見つけるための準備に取り掛かることができた。
計量学習に関しては,もともと計画していた半教師付き計量学習アルゴリズムに加えて,畳み込みニューラルネットワークを用いた新しいアルゴリズムも新たに開発することができた。また,Grassmann多様体やそれを拡張したものでMahalanobis距離を求める手法に関しても,計画通りに開発することができた。また高性能な識別を可能にする文字パターン間の距離を与えることができた。
カーネル適応フィルタの辞書学習に関しても,l1制約を導入することで効率的な計算を可能にする方法を提案することができた。また,機械学習やパターン認識において,l1制約は天下りに的に与えられることが多いが,確率的な条件からl1制約が導かれるモデルを構築することができ,本申請課題の研究が絡み合うと共に,広がりを見せている。
計算機実験による有効性の確認に関しても,ベンチマークデータや脳信号識別問題などで高い性能が確認できたものが多かった。特に,文字パターンのための距離である同一エッジ方向最近傍距離重み付平均では,手書き数字データベースMNISTに対する結果で,k-近傍法に基づく手法の中では最も高い認識率を得ることができた。しかも,文字画像のまま変形などの処理を行うため,深層ネットワークよりも結果が理解しやすいという利点がある。これからの研究の進展と共に,開発した手法を実際に「使える」手法に発展させることができる可能性を示した。また,研究成果を論文や国際会議等で発表することができた。

今後の研究の推進方策

局所等方独立な変化を与える作用素のための作用素方程式に関しては,Euclid空間以外で解を探す。方程式が非常に複雑になるため,解を求めることは困難と考えられるが,球面など比較容易な空間において解析解を探す。また,この作用素方程式は有力な候補であるが,他の方程式も考えられる可能性があるため,多様体上の作用素方程式に関して,さらに調査研究を進める。
計量学習に関しては,正規化カーネル関数を使って,Mahalanobis計量を求める場合に,その元となるカーネル関数をGauss関数以外にも広げる検討を行う。そして,非類似性の情報を活用する場合に,その適用範囲を更に拡大すべく,研究プロジェクトのメンバーとのディスカッションを頻繁に行うとともに,国内外の専門家からも積極的に情報収集を行う。カーネル適応フィルタと非線形パーセプトロンは数理的類似性が高く,脳信号の識別のための教師有計量学習に関する研究を進める。また,Mahalanobis距離は教師なし学習に基づいて距離を決定するため,識別問題に対しては最適であるとは言えない。そこで,識別問題に有効な距離をGrassmann多様体やその拡張に導入する。さらに,多クラス識別問題への拡張やカーネル化の検討も行い,生体信号処理への応用を行う。そして,文字パターン間の距離に関しても,パターンマッチングに関して研究している研究者と討論を行い,その認識性能を高める改良を行うと共に,プログラムを広く公開して,国内外の多数の研究者に利用してもらい,そのフィードバックから改良を進める。
昨年度までに提案したカーネル適応フィルタは,入出力が実数であったが,出力を適当な離散値にすることで,パターン識別器として再設計する。そのための理論を構築し,計算機でシミュレーションを実施する。さらに,確率的な評価基準からl1制約を導く理論に関しても,l1制約を利用している評価基準を広く調査し,その性能向上に努める。

次年度使用額が生じた理由

旅費や人件費の運用で端数が生じたため。

次年度使用額の使用計画

追加実験を実施し,それに伴う人件費(研究補助データ処理)の時間数を当初より17時間増やす。

  • 研究成果

    (8件)

すべて 2015 2014

すべて 雑誌論文 (7件) (うち査読あり 7件、 謝辞記載あり 2件) 図書 (1件)

  • [雑誌論文] Direct density ratio estimation with convolutional neural networks with application in outlier detection2015

    • 著者名/発表者名
      H. Nam, and M. Sugiyama
    • 雑誌名

      IEICE Transactions on Information and Systems

      巻: E98-D ページ: -

    • 査読あり
  • [雑誌論文] Efficient construction of dictionaries for kernel adaptive filtering in a dynamic environment2015

    • 著者名/発表者名
      Taichi Ishida and Toshihisa Tanaka
    • 雑誌名

      Proceedings of International Conference on Acoustics, Speech, and Signal Processing

      巻: - ページ: -

    • 査読あり
  • [雑誌論文] Multiple kernel learning for quadratically constrained MAP classification2014

    • 著者名/発表者名
      Yoshikazu Washizawa, Tatsuya Yokota, and Yukihiko Yamashita
    • 雑誌名

      IEICE Transactions on Information and Systems (letter)

      巻: E79-D ページ: 1340-1344

    • 査読あり
  • [雑誌論文] GPT correlation for 2D projection transformation invariant template matching2014

    • 著者名/発表者名
      Yukihiko Yamashita and Toru Wakahara
    • 雑誌名

      Proceedings of the 22nd International Conference on Pattern Recognition

      巻: USB ページ: 24-28

    • DOI

      0.1109/ICPR.2014.654

    • 査読あり / 謝辞記載あり
  • [雑誌論文] k-NN Classification of handwritten characters using a new distortion-tolerant matching measure2014

    • 著者名/発表者名
      Yukihiko Yamashita and Toru Wakahara
    • 雑誌名

      Proceedings of the 22nd International Conference on Pattern Recognition

      巻: USB ページ: 24-28

    • DOI

      10.1109/ICPR.2014.54

    • 査読あり / 謝辞記載あり
  • [雑誌論文] Information-theoretic semi-supervised metric learning via entropy regularization2014

    • 著者名/発表者名
      G. Niu, B. Dai, B., M. Yamada, and M. Sugiyama,
    • 雑誌名

      Neural Computation

      巻: 26 ページ: 1717-1762

    • DOI

      10.1162/NECO_a_00614

    • 査読あり
  • [雑誌論文] Mahalanobis distance on extended Grassmann manifolds for variational pattern analysis2014

    • 著者名/発表者名
      Y. Washizawa and S. Hotta
    • 雑誌名

      IEEE Transactions on Neural Networks and Learning Systems

      巻: 25 ページ: 1980-1990

    • DOI

      10.1109/TNNLS.2014.2301178

    • 査読あり
  • [図書] 機械学習のための確率と統計2015

    • 著者名/発表者名
      杉山 将
    • 総ページ数
      127
    • 出版者
      講談社

URL: 

公開日: 2016-06-01  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi