• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2014 Fiscal Year Research-status Report

再生核ヒルベルト空間の構造最適化による非線形識別に関する研究

Research Project

Project/Area Number 25870811
Research InstitutionUniversity of Tsukuba

Principal Investigator

日野 英逸  筑波大学, システム情報系, 助教 (10580079)

Project Period (FY) 2013-04-01 – 2016-03-31
Keywords機械学習 / 多変量解析
Outline of Annual Research Achievements

近年の統計的データ解析・機械学習の中心的な研究対象の一つとして,カーネル法と呼ばれる多変量解析の手法群がある.カーネル法の効果は,利用するカーネル関数の種類と,関数を特徴付けるパラメタの選択に大きく依存する.本研究は,特徴空間におけるデータ分布とデータの潜在構造に着目したカーネル関数最適化の方法論の確立,及び音声認識を始めとする各種のデータ解析の実問題への応用を目的としている.
本研究課題では,カーネル関数によって定められる特徴空間におけるデータの分布を効率的に評価する手法が不可欠である.特に,データ分布を特徴付ける量として情報論的エントロピーに着目し,本年度は特徴空間におけるデータ分布のエントロピーの高精度・効率的な推定量を開発し,研究成果を複数の学会・セミナーで発表した.また,特徴空間におけるデータ分布を判別に適した形状に調整するようなカーネル関数の設計方法として,指数エントロピー不等式に基づくカーネル最適化手法を定式化し,論文誌で発表した.
本研究課題で扱うカーネル法の利点の一つに,従来のベクトル型データだけではなく,種々のデータ形式に対して統一的な枠組みで多変量解析を展開することが可能になることがある.また,データ間の潜在的な構造を,カーネル関数を介して抽出することも可能である.特に,グラフとして表現されるデータはその応用範囲も広く,グラフの構造推定もカーネル法と関連して研究されている.本年度は,グラフ構造推定の手法を重点的に研究し,国内研究会・国際会議及び論文誌で成果を発表した.

Current Status of Research Progress
Current Status of Research Progress

1: Research has progressed more than it was originally planned.

Reason

本研究課題における中心的な問題として考えていた,指数エントロピー不等式に基づくカーネル学習の手法の定式化を行ない,成果を論文誌にて発表することが出来た.また,従来の手法では捉えられなかった高次のモーメントまで考慮した高精度なエントロピー推定手法の基礎検討を行い,研究会・セミナーで発表した.
昨年度開発したデータ分布の推定手法を応用して,データのクラスタリング手法を開発し,国際会議及び論文誌で成果を発表した.本研究により,国際会議にてbest paper awardを受賞した.
また,カーネル法の展開としてグラフ構造推定問題に取り組み,従来法では発見できなかったデータ間の潜在的構造を見出す手法を提案した.この成果は国際会議及び論文誌で発表することが出来た.神経回路網の解析,企業間の関連性の解析など,種々の応用にも取り組んだ.理論・応用ともに順調に進展しており,当初の計画以上の成果が得られている.

Strategy for Future Research Activity

昨年度の研究成果として,高精度・安定なデータ分布推定量に基づくデータクラスタリングがある.この研究を通して,高精度な判別を実現するためには,様々なデータに対して高精度にデータ分布を推定する必要があり,特に再生核ヒルベルト空間におけるデータ分布も推定可能な手法が望ましいことがわかった.そこで,今後の方針としては,要素技術としてデータ間の距離のみに基づく高精度な分布・エントロピー推定手法を開発する予定である.この際,陽なベクトルとしての次元が未知のデータ形式も取り扱えるよう,データの本質的な次元推定も合わせて検討する.
本研究課題で扱うカーネル法は,通常のベクトルデータ以外の形式のデータも柔軟に扱うことが可能である.再生核ヒルベルト空間の構造に着目することで,昨年度に続き,グラフ構造を持ったデータに対するカーネルの設計と,グラフ構造推定手法の開発に取り組む.特に,昨年度開発したグラフ構造推定手法は高精度かつ従来手法では発見できなかった潜在的なグラフ構造を推定することが出来るものの,計算コストが大きく,大規模なグラフへの適用が困難であるという問題があった.本年度は,昨年度開発の手法とは異なる数理モデルに基づき,計算効率の高いグラフ構造推定手法の開発に取り組む.
本課題の最終年度である本年度は,実データ解析への応用も積極的に取り組み,本研究課題において開発した諸手法の適用可能性の検証と,実社会への成果還元を目指す.

  • Research Products

    (15 results)

All 2015 2014

All Journal Article (6 results) (of which Peer Reviewed: 6 results,  Acknowledgement Compliant: 4 results) Presentation (9 results) (of which Invited: 2 results)

  • [Journal Article] Entropy Power Inequality for Learning Optimal Combination of Kernel Functions2015

    • Author(s)
      Hideitsu Hino
    • Journal Title

      Journal of Signal Processing Systems

      Volume: 79(2) Pages: 201-210

    • DOI

      10.1007/s11265-014-0899-7

    • Peer Reviewed / Acknowledgement Compliant
  • [Journal Article] Intrinsic Graph Structure Estimation Using Graph Laplacian2014

    • Author(s)
      Atsushi Noda, Hideitsu Hino, Masami Tatsuno, Shotaro Akaho, Noboru Murata
    • Journal Title

      Neural Computation

      Volume: 26(7) Pages: 1455-1483

    • DOI

      10.1162/NECO_a_00603

    • Peer Reviewed / Acknowledgement Compliant
  • [Journal Article] A Non-parametric Clustering Algorithm With A Quantile-based Likelihood Estimator2014

    • Author(s)
      Hideitsu Hino, Noboru Murata
    • Journal Title

      Neural Computation

      Volume: 26(9) Pages: 2074-2101

    • DOI

      10.1162/NECO_a_00628

    • Peer Reviewed / Acknowledgement Compliant
  • [Journal Article] A kernel method to extract common features based on mutual information2014

    • Author(s)
      Takamitsu Araki, Hideitsu Hino, Shotaro Akaho
    • Journal Title

      21st International Conference, ICONIP 2014, Kuching, Malaysia, November 3-6, 2014. Proceedings, Part II

      Volume: 8835 Pages: 26-34

    • DOI

      10.1007/978-3-319-12640-1_4

    • Peer Reviewed / Acknowledgement Compliant
  • [Journal Article] A Non-Parametric Maximum Entropy Clustering2014

    • Author(s)
      Hideitsu Hino, Noboru Murata
    • Journal Title

      24th International Conference on Artificial Neural Networks, Hamburg, Germany, September 15-19, 2014. Proceedings

      Volume: 8681 Pages: 113-120

    • DOI

      10.1007/978-3-319-11179-7_15

    • Peer Reviewed
  • [Journal Article] An Algorithm for Directed Graph Estimation2014

    • Author(s)
      Hideitsu Hino, Atsushi Noda, Masami Tatsuno, Shotaro Akaho, Noboru Murata
    • Journal Title

      24th International Conference on Artificial Neural Networks, Hamburg, Germany, September 15-19, 2014. Proceedings

      Volume: 8681 Pages: 145-152

    • DOI

      10.1007/978-3-319-11179-7_19

    • Peer Reviewed
  • [Presentation] 機械学習の考え方~データからの知識発見に向けて~2015

    • Author(s)
      日野英逸
    • Organizer
      2015年電子情報通信学会 総合大会
    • Place of Presentation
      立命館大学,滋賀
    • Year and Date
      2015-03-10 – 2015-03-13
    • Invited
  • [Presentation] 単回帰に基づく微分エントロピー推定量2015

    • Author(s)
      日野英逸
    • Organizer
      大規模統計モデリングと計算統計研究会
    • Place of Presentation
      東京大学,東京
    • Year and Date
      2015-02-06 – 2015-02-07
  • [Presentation] 確率質量関数の二次展開と単回帰に基づくエントロピー推定2014

    • Author(s)
      日野英逸
    • Organizer
      情報論的学習理論と機械学習研究会
    • Place of Presentation
      名古屋大学,愛知
    • Year and Date
      2014-11-17 – 2014-11-19
  • [Presentation] A Non-Parametric Maximum Entropy Clustering2014

    • Author(s)
      Hideitsu Hino
    • Organizer
      International Conference on Artificial Neural Networks 2014
    • Place of Presentation
      Hamburg, Germany
    • Year and Date
      2014-09-15 – 2014-09-19
  • [Presentation] An Algorithm for Directed Graph Estimation2014

    • Author(s)
      Hideitsu Hino
    • Organizer
      International Conference on Artificial Neural Networks 2014
    • Place of Presentation
      Hamburg, Germany
    • Year and Date
      2014-09-15 – 2014-09-19
  • [Presentation] A kernel method to extract common features based on mutual information2014

    • Author(s)
      Takamitsu Araki
    • Organizer
      The 21st International Conference on Neural Information Processing
    • Place of Presentation
      Kuching, Malaysia
    • Year and Date
      2014-09-03 – 2014-09-06
  • [Presentation] スパースモデリングの基礎(チュートリアル講演)2014

    • Author(s)
      日野英逸
    • Organizer
      第17回画像の認識・理解シンポジウム
    • Place of Presentation
      岡山コンベンションセンター, 岡山
    • Year and Date
      2014-07-28 – 2014-07-31
    • Invited
  • [Presentation] Information and entropy estimators for machine learning and pattern recognition2014

    • Author(s)
      Hideitsu Hino
    • Organizer
      The 3nd Institute of Mathematical Statistics Asia Pacific Rim Meeting
    • Place of Presentation
      Taipei, Taiwan
    • Year and Date
      2014-06-29 – 2014-07-03
  • [Presentation] 重み付き有向グラフモデリングによるスパイクデータ解析2014

    • Author(s)
      樋口翔
    • Organizer
      ニューロコンピューティング研究会
    • Place of Presentation
      沖縄科学技術大学院大学,沖縄
    • Year and Date
      2014-06-25 – 2014-06-27

URL: 

Published: 2016-06-01  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi