• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2015 年度 実績報告書

大規模なスパースモデリングへの統計力学的アプローチ

計画研究

研究領域スパースモデリングの深化と高次元データ駆動科学の創成
研究課題/領域番号 25120013
研究機関東京工業大学

研究代表者

樺島 祥介  東京工業大学, 総合理工学研究科(研究院), 教授 (80260652)

研究分担者 井上 純一  北海道大学, 情報科学研究科, 准教授 (30311658) [辞退]
竹田 晃人  茨城大学, 工学部, 准教授 (70397040)
渡邊 澄夫  東京工業大学, 総合理工学研究科(研究院), 教授 (80273118)
研究期間 (年度) 2013-06-28 – 2018-03-31
キーワード圧縮センシング / 潜在変数モデリング / レプリカ法 / 平均場近似 / 特異モデル
研究実績の概要

以下の研究を実施した.
①圧縮センシング:映画における動画と音楽のように,世の中には複数の異なる信号が互いに統計的な相関を有している場合がある.こうした複数の信号間の相関を利用する圧縮センシングの方法として分散圧縮センシングという枠組みが提案されている.我々は分散圧縮センシングの中でも特にJSM-2というモデルに着目し,観測ノイズが存在する状況に対して,信号に関する事前情報を利用しないl_{2,1}ノルムを用いた復元法と信号に関する事前情報を用いたベイズ最適な復元法の性能を分析した.
②潜在変数モデリング:圧縮センシングに関する性能評価を行う際に有用となる行列に関する特徴量として制限等長性定数(RIC)が知られている.この特徴量の評価は難しく,従来,ランダム行列に対する上界評価しかなされていなかった.我々は,統計力学にもとづく潜在変数モデリングの解析法を応用することで,ランダム行列に対しRICを直接的に評価する枠組みを与えた.
③モデル選択:報量規準 WAIC は予測分布の汎化損失の漸近的な不偏推定量であることが理論的に示されていたが,独立な確率変数の個数 n に対して事後分布が相転移を持つ場合においてどの程度に精密な推測を与えるかについては知られていなかった.本年度の研究では,小さな n から大きな nへの変化に応じて事後分布の位置が急激に変化することで生じる相転移について実験的に解析し,小さな nにおいても大きなnにおいても,また相転移点上においても,WAICにより汎化損失が推測できることを明らかにした.また上記の現象において数式上の対称性を持つ潜在変数の挙動は確率的なゆらぎのため自発的に破れるが,その際においても WAICによって事後分布の作る平衡状態の挙動を数量的に調べることが可能であることが明らかになった.

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

本計画研究は統計力学の概念/技術を用いて具体的な事例を数多く「解く」ことを通じて「システマティック」かつ「実践できる」多変量解析の方法論の構築を目指している,そのために,多数の課題に同時並行的に取り組み知見を蓄積する方策を取っているが,これまでに設定した7つの課題「直交観測行列を用いた圧縮センシング」,「1ビット圧縮センシング」,「分散圧縮センシング」,「辞書学習」,「過完備基底による次元削減(スパース近似)」,「RICの評価」,「圧縮センシングに対するWAICの有効性の検証」それぞれに対して学術論文として公表された成果が得られている.このことから,計画に沿って順調に進展していると認識している.

今後の研究の推進方策

本計画研究は,スパース原理にもとづく様々な多変量解析の方法についてそれらの数理的側面を解明することを目的としているが,今後はより実際的な信号処理,データ分析への適用を意識した方向へと発展させて行きたい.昨年度は年度途中で予期せぬ人的変動があった.このことに伴い,当初計画の一部を国内外の大学院生等の若手研究者を招聘し共同研究によって実施する,という推進方法に変更した.今後もこの方法に沿って研究を推進させる計画である.

  • 研究成果

    (16件)

すべて 2016 2015 その他

すべて 国際共同研究 (1件) 雑誌論文 (6件) (うち国際共著 2件、 査読あり 6件、 オープンアクセス 3件、 謝辞記載あり 4件) 学会発表 (9件) (うち国際学会 7件、 招待講演 4件)

  • [国際共同研究] サンパウロ大学(ブラジル)

    • 国名
      ブラジル
    • 外国機関名
      サンパウロ大学
  • [雑誌論文] Detectability of the spectral method for sparse graph partitioning2015

    • 著者名/発表者名
      Tatsuro Kawamoto and Yoshiyuki Kabashima
    • 雑誌名

      EPL (Europhysics Letters)

      巻: 112 ページ: 40007(1-6)

    • DOI

      doi: 10.1209/0295-5075/112/40007

    • 査読あり / オープンアクセス / 謝辞記載あり
  • [雑誌論文] Limitations in the spectral method for graph partitioning: Detectability threshold and localization of eigenvectors2015

    • 著者名/発表者名
      Tatsuro Kawamoto and Yoshiyuki Kabashima
    • 雑誌名

      Physical Review E

      巻: 91 ページ: 062803(1-21)

    • DOI

      DOI:http://dx.doi.org/10.1103/PhysRevE.91.062803

    • 査読あり / 謝辞記載あり
  • [雑誌論文] Typical reconstruction limits for distributed compressed sensing based on l2,1-norm minimization and Bayesian optimal reconstruction2015

    • 著者名/発表者名
      Yoshifumi Shiraki and Yoshiyuki Kabashima
    • 雑誌名

      Journal of Statistical Mechanics: Theory and Experiment

      巻: なし ページ: P05029(1-22)

    • DOI

      doi:10.1088/1742-5468/2015/05/P05029

    • 査読あり / オープンアクセス / 謝辞記載あり
  • [雑誌論文] Replica symmetric bound for restricted isometry constant2015

    • 著者名/発表者名
      Ayaka Sakata and Yoshiyuki Kabashima
    • 雑誌名

      Proceedings of 2015 IEEE International Symposium on Information Theory (ISIT2015)

      巻: なし ページ: 2006-2010

    • DOI

      doi:10.1109/ISIT.2015.7282807

    • 査読あり / 謝辞記載あり
  • [雑誌論文] Learning Probabilities From Random Observables in High Dimensions: The Maximum Entropy Distribution and Others2015

    • 著者名/発表者名
      Tomoyuki Obuchi, Simona Cocco and Remi Monasson
    • 雑誌名

      Journal of Statistical Physics

      巻: 161 ページ: 598-632

    • DOI

      10.1007/s10955-015-1341-7

    • 査読あり / 国際共著
  • [雑誌論文] Learning probability distributions from smooth observables and the maximum entropy principle: some remarks2015

    • 著者名/発表者名
      Tomoyuki Obuchi and Remi Monasson
    • 雑誌名

      Journal of Physics: Conference Series

      巻: 631 ページ: 012018(1-23)

    • DOI

      doi:10.1088/1742-6596/638/1/012018

    • 査読あり / オープンアクセス / 国際共著
  • [学会発表] Learning probabilities from random observables in high dimensions: the maximum entropy distribution and others2016

    • 著者名/発表者名
      Tomoyuki Obuchi, Remi Monasson and Simona Cocco
    • 学会等名
      APS march meeting
    • 発表場所
      Baltimore, USA
    • 年月日
      2016-03-14 – 2016-03-18
    • 国際学会
  • [学会発表] 潜在変数を持つモデルの評価について2016

    • 著者名/発表者名
      渡邊澄夫
    • 学会等名
      データ科学シンポジウム
    • 発表場所
      大阪大学
    • 年月日
      2016-01-22 – 2016-01-23
    • 招待講演
  • [学会発表] Application of partial parallel interference cancellation to sparse signal recovery2016

    • 著者名/発表者名
      Koujin Takeda and Toshiyuki Tanaka
    • 学会等名
      Physics Informed Machine Learning
    • 発表場所
      Santa Fe, USA
    • 年月日
      2016-01-19 – 2016-01-22
    • 国際学会
  • [学会発表] Theoretical performance analysis of sparse approximation problem2016

    • 著者名/発表者名
      Tomoyuki Obuchi and Yoshiyuki Kabashima
    • 学会等名
      Physics Informed Machine Learning
    • 発表場所
      Santa Fe, USA
    • 年月日
      2016-01-19 – 2016-01-22
    • 国際学会
  • [学会発表] Cross Validation and WAIC in Statistical Model Evaluation2016

    • 著者名/発表者名
      渡邊澄夫
    • 学会等名
      Symposium ‐ What is a good model? Evidential statistics, information criterion and model evaluation.
    • 発表場所
      統計数理研究所(立川市)
    • 年月日
      2016-01-12 – 2016-01-13
    • 国際学会 / 招待講演
  • [学会発表] Application of partial parallel interference cancellation to sparse signal recovery2015

    • 著者名/発表者名
      Koujin Takeda and Toshiyuki Tanaka
    • 学会等名
      International Meeting on “High-Dimensional Data Driven Science” (HD3-2015)
    • 発表場所
      メルパルク京都
    • 年月日
      2015-12-14 – 2015-12-17
    • 国際学会
  • [学会発表] スパース表現を探す-辞書学習におけるサンプル複雑度とアルゴリズム-2015

    • 著者名/発表者名
      坂田綾香,樺島祥介
    • 学会等名
      第38回情報理論とその応用シンポジウム (SITA 2015),
    • 発表場所
      下電ホテル(岡山県倉敷市)
    • 年月日
      2015-11-24 – 2015-11-27
    • 招待講演
  • [学会発表] Cavity approach to robustness analysis of complex networks2015

    • 著者名/発表者名
      Yoshiyuki Kabashima
    • 学会等名
      NETADIS Conference Statistical Physics Approaches to Networks Across Disciplines 2015
    • 発表場所
      London, UK
    • 年月日
      2015-10-20 – 2015-10-23
    • 国際学会 / 招待講演
  • [学会発表] Replica Symmetric Bound for Restricted Isometry Constant2015

    • 著者名/発表者名
      Ayaka Sakata and Yoshiyuki Kabashima
    • 学会等名
      2015 IEEE International Symposium on Information Theory (ISIT2015)
    • 発表場所
      Hong Kong, China
    • 年月日
      2015-06-14 – 2015-06-19
    • 国際学会

URL: 

公開日: 2017-01-06  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi