• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2016 Fiscal Year Annual Research Report

カーネル法による高次元データの非線形スパースモデリング

Planned Research

Project AreaInitiative for High-Dimensional Data-Driven Science through Deepening of Sparse Modeling
Project/Area Number 25120011
Research InstitutionNational Institute of Advanced Industrial Science and Technology

Principal Investigator

赤穗 昭太郎  国立研究開発法人産業技術総合研究所, 人間情報研究部門, 研究グループ長 (40356340)

Co-Investigator(Kenkyū-buntansha) 麻生 英樹  国立研究開発法人産業技術総合研究所, 人工知能研究センター, 副研究センター長 (10344194)
末谷 大道  大分大学, 工学部, 教授 (40507167)
日野 英逸  筑波大学, システム情報系, 准教授 (10580079)
Project Period (FY) 2013-06-28 – 2018-03-31
Keywords機械学習 / モデリング / 情報幾何
Outline of Annual Research Achievements

本研究課題では、カーネル法など非線形のスパースモデリングの数理基盤の確立と実応用への適用を課題としており、今年度は以下の成果を得た。
課題1のマルチモーダルスパースモデリングについては、複数の観測結果を統合する転移学習の観点から、情報幾何的な定式化のもと、e-混合分布の推定という新たな枠組みを提案し、さらにそれをノンパラメトリックな設定に拡張するべくカルバックライブラーダイバージェンスに基づく幾何学的なアルゴリズムを考案した。導出したアルゴリズムは脳波信号の解析に応用した。また、同様の幾何学的なアルゴリズムはトピックモデルと呼ばれる機械学習の低次元化法にも応用可能であり、地球科学データの組成データの解析に適用し、地質学的に重要ないくつかのクラスタの発見に結びついた。
課題2のダイナミカルスパースモデリングについては、徐々に時間変化する遷移行列を定常分布から推定するアルゴリズムを時間変化のスパース性をもとに定式化し、自動車のマーケットシェアの遷移を抽出し解釈することができた。また、脳の記憶の再現性についてランダム結合ニューラルネットワークと正準相関分析を用いたシミュレーションにより集団的な再現性を説明することができた。
課題3については、高次元中に複雑に埋め込まれた多様体を抽出するための要素技術として、多様体の局所次元を推定するアルゴリズムを構築した。高次漸近展開を用いた推定法により、従来法よりも精度が高くなることを実証した。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

課題1については、情報幾何に関連した新たな枠組みの構築や脳活動データ解析への適用などを行い、研究分野のトップジャーナル (Neural Computation) に採択され、大いに進捗していると考える。
課題2については、さまざまな時系列データの問題への適用を試みた。特に遷移行列推定については Plos One への掲載を達成し、進捗が大きかった。そのほか取り組んでいるいくつかのトピックについても、今後の論文投稿などに向けて順調に進展していると考える。
課題3については、構造的なデータ構造抽出の進展そのものは問題の難しさからなかなか進展が見られなかったものの、その要素技術であるデータからの局所次元の推定について進展がみられている。
総合すると、課題1,2については当初想定した以上の結果が得られているが、課題3についてはやや進捗が遅れているため、全体としてはおおむね順調に進展していると判断した。

Strategy for Future Research Activity

課題1、課題2については順調に進展しているので、最終年度に向けて論文投稿など成果発信に努める。
課題3については、技術的な困難さもさることながら、具体的に構造的な情報を抽出することが喫緊の課題であるような応用問題が十分見つけられていない部分もある。マテリアルズインフォマティクスなど最近になって進展しつつある分野ではデータの位相構造に基づいた解析手法が必要とされているので、それらとの融合に向けた基礎技術を1年間でできる範囲で計画する。具体的には局所次元推定の技術がそれらの分野に適用できないかを関連研究者と議論しながら探索する。

  • Research Products

    (21 results)

All 2017 2016

All Journal Article (7 results) (of which Int'l Joint Research: 1 results,  Peer Reviewed: 5 results,  Open Access: 1 results,  Acknowledgement Compliant: 5 results) Presentation (14 results) (of which Int'l Joint Research: 7 results)

  • [Journal Article] 時間遷移のスパース性―マーケットシェアの遷移を捉えるスパースグラフモデリング2017

    • Author(s)
      日野英逸
    • Journal Title

      岩波データサイエンス

      Volume: 5 Pages: 80-90

  • [Journal Article] Graph structure modeling for multi-neuronal spike data2016

    • Author(s)
      Shotaro Akaho, Sho Higuchi, Taishi Iwasaki, Hideitsu Hino, Masami Tatsuno, Noboru Murata
    • Journal Title

      Journal of Physics: Conference Series

      Volume: 699 Pages: 012012

    • DOI

      10.1088/1742-6596/699/1/012012

    • Peer Reviewed / Open Access / Int'l Joint Research / Acknowledgement Compliant
  • [Journal Article] Nonparametric e-Mixture Estimation2016

    • Author(s)
      Ken Takaho, Hideitsu Hino, Shotaro Akaho, Noboru Murata
    • Journal Title

      Neural Computation

      Volume: 28 Pages: 2687-2725

    • DOI

      10.1162/NECO_a_00888

    • Peer Reviewed / Acknowledgement Compliant
  • [Journal Article] Time-Varying Transition Probability Matrix Estimation and Its Application to Brand Share Analysis2016

    • Author(s)
      Tomoaki Chiba, Hideitsu Hino , Shotaro Akaho, Noboru Murata
    • Journal Title

      PLOS ONE

      Volume: 12 Pages: e0169981

    • DOI

      10.1371/journal.pone.0169981

    • Peer Reviewed / Acknowledgement Compliant
  • [Journal Article] Non-parametric e-mixture of Density Functions2016

    • Author(s)
      Hideitsu Hino, Ken Takano, Shotaro Akaho, Noboru Murata
    • Journal Title

      Proc of ICONIP (Springer Lecture Notes on Computer Science)

      Volume: LNCS9948 Pages: 3-10

    • DOI

      10.1007/978-3-319-46672-9_1

    • Peer Reviewed / Acknowledgement Compliant
  • [Journal Article] An Entropy Estimator Based on Polynomial Regression with Poisson Error Structure2016

    • Author(s)
      Hideitsu Hino, Shotaro Akaho, Noboru Murata
    • Journal Title

      Proc of ICONIP (Springer Lecture Notes on Computer Science)

      Volume: LNCS9948 Pages: 11-19

    • DOI

      10.1007/978-3-319-46672-9_2

    • Peer Reviewed / Acknowledgement Compliant
  • [Journal Article] 人工知能とディープラーニング2016

    • Author(s)
      赤穂昭太郎
    • Journal Title

      Clinical Neuroscience

      Volume: 34 Pages: 866-869

  • [Presentation] 生体分子の分子シミュレーションから反応座標をどう抜き出すか?2017

    • Author(s)
      藤崎弘士、 末谷大道、光武亜代理
    • Organizer
      日本物理学会第72回年次大会
    • Place of Presentation
      大阪大学(大阪府豊中市)
    • Year and Date
      2017-03-19 – 2017-03-19
  • [Presentation] Echo State Networkによる脳コンシステンシー現象の解析2017

    • Author(s)
      末谷大道、北城圭一
    • Organizer
      日本物理学会第72回年次大会
    • Place of Presentation
      大阪大学(大阪府豊中市)
    • Year and Date
      2017-03-18 – 2017-03-18
  • [Presentation] Chaotic itinerancy in multiple patterns generation using FORCE-based neural network learning2016

    • Author(s)
      Hiromichi Suetani
    • Organizer
      Dynamics Days Asia-Pacific 9
    • Place of Presentation
      Hong Kong Baptist University, 香港(中国)
    • Year and Date
      2016-12-15 – 2016-12-15
    • Int'l Joint Research
  • [Presentation] 部分観測されたスパイクからの神経細胞間の結合推定2016

    • Author(s)
      岩崎泰士、日野英逸、龍野正実、赤穂昭太郎、村田 昇
    • Organizer
      電子情報通信学会NC研究会
    • Place of Presentation
      東北大学(宮城県仙台市)
    • Year and Date
      2016-11-19 – 2016-11-19
  • [Presentation] Discovering consistency in human brain activities with noisy visual inputs using reservoir kernel machines2016

    • Author(s)
      Hiromichi Suetani Yuko Mizuno and Keiichi Kitajo
    • Organizer
      The 46th Annual Meeting of Society for Neuroscience
    • Place of Presentation
      San Diego Convention Center, San Diego (米国)
    • Year and Date
      2016-11-16 – 2016-11-16
    • Int'l Joint Research
  • [Presentation] Individual differences in noise-induced human brain dynamics2016

    • Author(s)
      Keiichi Kitajo, Takumi Sase, Yoko Mizuno, Hiromichi Suetani
    • Organizer
      The 46th Annual Meeting of Society for Neuroscience
    • Place of Presentation
      San Diego Convention Center, San Diego (米国)
    • Year and Date
      2016-11-16 – 2016-11-16
    • Int'l Joint Research
  • [Presentation] ランダム神経回路網によるカオス力学系の学習と一般化同期2016

    • Author(s)
      末谷大道
    • Organizer
      日本物理学会2016年秋季大会
    • Place of Presentation
      金沢大学 (石川県金沢市)
    • Year and Date
      2016-09-13 – 2016-09-13
  • [Presentation] echo state networkによる粒子フィルタの構成とカオス力学系への応用2016

    • Author(s)
      末谷大道、高見利也
    • Organizer
      日本物理学会2016年秋季大会
    • Place of Presentation
      金沢大学 (石川県金沢市)
    • Year and Date
      2016-09-13 – 2016-09-13
  • [Presentation] Generation of coherent patterns and chaotic itinerancy in random recurrent neural networks based on FORCE-learning2016

    • Author(s)
      Hiromichi Suetani
    • Organizer
      International Conference on Control of Complex Systems and Networks 2016
    • Place of Presentation
      Hotel Steigenberger Grandhotel and Spa, Heringsdorf(ドイツ)
    • Year and Date
      2016-09-07 – 2016-09-07
    • Int'l Joint Research
  • [Presentation] 重回帰を用いた高次局所潜在的次元推定2016

    • Author(s)
      日野英逸、赤穂昭太郎、藤木淳、村田昇
    • Organizer
      電子情報通信学会IBISML研究会
    • Place of Presentation
      富山大学(富山県富山市)
    • Year and Date
      2016-09-06 – 2016-09-06
  • [Presentation] Non-parametric e-mSparse spatial dynamic factor model with basis expansion2016

    • Author(s)
      Hideitsu Hino, Ken Takamitsu Araki, Shotaro Akaho
    • Organizer
      The Joint Statistical Meeting
    • Place of Presentation
      McCormick Place, Chicago (米国)
    • Year and Date
      2016-08-01 – 2016-08-01
    • Int'l Joint Research
  • [Presentation] Consistency and individuality of human brain responses to noisy visual inputs2016

    • Author(s)
      Keiichi Kitajo, Takumi Sase, Yoko Mizuno, Hiromichi Suetani
    • Organizer
      第39回日本神経科学大会
    • Place of Presentation
      パシフィコ横浜 (神奈川県横浜市)
    • Year and Date
      2016-07-20 – 2016-07-20
  • [Presentation] A Projection Algorithm Based on the Pythagorian Theorem and its Applications2016

    • Author(s)
      Shotaro Akaho, Hideitsu Hino, Neneka Nara, Ken Takano, Noboru Murata
    • Organizer
      Information Geometry and its Applications IV (IGAIA IV)
    • Place of Presentation
      Liblice castle, Liblice (チェコ)
    • Year and Date
      2016-06-13 – 2016-06-13
    • Int'l Joint Research
  • [Presentation] Macroscopic reliability of high-dimensional chaos in recurrent neural Networks2016

    • Author(s)
      Hiromichi Suetani
    • Organizer
      XXXVI Dynamics Days Europe
    • Place of Presentation
      Corfu Holiday Palace Hotel, Corfu (ギリシャ)
    • Year and Date
      2016-06-06 – 2016-06-06
    • Int'l Joint Research

URL: 

Published: 2018-01-16  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi