• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Partial annealingによるブラインド圧縮センシングの統計力学的解析

Research Project

Project/Area Number 11J04665
Research Category

Grant-in-Aid for JSPS Fellows

Allocation TypeSingle-year Grants
Section国内
Research Field Sensitivity informatics/Soft computing
Research InstitutionTokyo Institute of Technology

Principal Investigator

坂田 綾香  東京工業大学, 大学院総合理工学研究科, 特別研究員(PD)

Project Period (FY) 2011 – 2013
Project Status Completed (Fiscal Year 2013)
Budget Amount *help
¥2,400,000 (Direct Cost: ¥2,400,000)
Fiscal Year 2013: ¥800,000 (Direct Cost: ¥800,000)
Fiscal Year 2012: ¥800,000 (Direct Cost: ¥800,000)
Fiscal Year 2011: ¥800,000 (Direct Cost: ¥800,000)
KeywordsDictionary Learning / belief propation / 圧縮センシング / レプリカ法 / Sample complexity / ブラインド圧縮センシング
Research Abstract

Dictionary Learningとは、信号がスパースに表現されるための基底を学習する問題である。dictionary learningはブラインド圧縮センシングの手続きの一部でもある。これまで我々は、統計力学の手法を用いて、dictionaryを学習するために必要なサンプルデータの数(sample complexity)を見積もってきた。学習の失敗/成功はサンプル数に関する相転移現象として物理的に解釈できることが、これまでの研究で明らかとなった。
学習に必要なサンプル数は学習則に依存する。昨年度の研究で、我々は最も高い性能を与える最適な学習則を用いた際のsample complexityを見積もった。この学習則のもとでのsample complexityは、あらゆる学習則のもとでのsample complexityの下限に対応する。この研究では、レプリカ法と呼ばれる統計力学的手法を用いて、学習が成功したと仮定した場合のdictionary空間の構造を解析することで、sample complexityを見積もった。
本年度は、昨年度までのレプリカ法による解析結果を基に、実際に学習の成功をもたらすアルゴリズムの開発についての研究を行った。dictionary learningにおける既存のアルゴリズムとしては、スパース性を考慮したうえで特異値分解を用いてdictionaryを学習する手法がある。この手法は十分なサンプル数が与えられていれば良い性能を与えることが知られているが、そのサンプル数は我々が導出したsample complexityの理論予想よりも大きい。そこで、理論予想を達成するアルゴリズムの開発を試みた。
我々が開発したアルゴリズムは、belief propagationと呼ばれる手法に基づくものである。一般的に、レプリカ法とbelief propagationにはある種の対応関係が存在することが知られている。dictionary learningに対してbelief propagationアルゴリズムを書き下した結果、既存のアルゴリズムよりも少ないサンプル数で良い性能を与えることが明らかとなった。

Strategy for Future Research Activity

(抄録なし)

Report

(3 results)
  • 2013 Annual Research Report
  • 2012 Annual Research Report
  • 2011 Annual Research Report
  • Research Products

    (23 results)

All 2014 2013 2012 2011

All Journal Article (5 results) (of which Peer Reviewed: 5 results) Presentation (18 results)

  • [Journal Article] Time evolution of autocorrelation function in dynamical replica theory2013

    • Author(s)
      Ayaka Sakata
    • Journal Title

      Journal of Physics A : Mathematical and Theoretical

      Volume: 46 Issue: 16 Pages: 165001-165001

    • DOI

      10.1088/1751-8113/46/16/165001

    • Related Report
      2013 Annual Research Report
    • Peer Reviewed
  • [Journal Article] Statistical mechanics of dictionary learning2013

    • Author(s)
      Ayaka Sakata, Yoshiyuki Kabashima
    • Journal Title

      Europhysics Letters

      Volume: 103 Issue: 2 Pages: 28008-28008

    • DOI

      10.1209/0295-5075/103/28008

    • Related Report
      2013 Annual Research Report
    • Peer Reviewed
  • [Journal Article] Sample complexity of Bayesian optirnal dictionary learning2013

    • Author(s)
      Ayaka Sakata and Yoshiyuki Kabashima
    • Journal Title

      IEEE ISIT proceedings

      Volume: 2013 Pages: 669-673

    • DOI

      10.1109/isit.2013.6620310

    • Related Report
      2013 Annual Research Report
    • Peer Reviewed
  • [Journal Article] A Mean-field Approach for an Intercarrier Interference Canceller for OFDM2012

    • Author(s)
      A. Sakata, Y. Kabashima and Y Peleg
    • Journal Title

      Journal of Statistical Mechanics

      Volume: 2012 Issue: 07 Pages: P07006-P07006

    • DOI

      10.1088/1742-5468/2012/07/p07006

    • Related Report
      2012 Annual Research Report
    • Peer Reviewed
  • [Journal Article] Replica symmetry breaking in an adiabatic spin-glass model of adaptive evolution2012

    • Author(s)
      Ayaka Sakata, Koji Hukushima and Kunihiko Kaneko
    • Journal Title

      Europhysics Letteres

      Volume: 99 Issue: 6 Pages: 68004-68004

    • DOI

      10.1209/0295-5075/99/68004

    • Related Report
      2012 Annual Research Report
    • Peer Reviewed
  • [Presentation] 統計力学的アルゴリズムによる非線形疎性の抽出2014

    • Author(s)
      坂田綾香、樺島祥介
    • Organizer
      日本物理学会第69回年次大会
    • Place of Presentation
      東海大学
    • Year and Date
      2014-03-28
    • Related Report
      2013 Annual Research Report
  • [Presentation] ベイズ最適な辞書学習に対するサンプル複雑度の評価2013

    • Author(s)
      坂田綾香、樺島祥介
    • Organizer
      第36回情報理論とその応用シンポジウム(SITA2013)
    • Place of Presentation
      伊東ホテル聚楽
    • Year and Date
      2013-11-29
    • Related Report
      2013 Annual Research Report
  • [Presentation] ベイズ最適なdictionary learningの統計力学2013

    • Author(s)
      坂田綾香、樺島祥介
    • Organizer
      第16回情報論的学習理論ワークショップ(IBIS2013)
    • Place of Presentation
      東京工業大学
    • Year and Date
      2013-11-12
    • Related Report
      2013 Annual Research Report
  • [Presentation] 最適な学習則によるdictlonary learningのサンプル複雑度2013

    • Author(s)
      坂田綾香、樺島祥介
    • Organizer
      日本物理学会2013年秋季大会
    • Place of Presentation
      徳島大学
    • Year and Date
      2013-09-27
    • Related Report
      2013 Annual Research Report
  • [Presentation] Time evolution of autocorrelation function in dynamical replica theory2013

    • Author(s)
      Ayaka Sakata
    • Organizer
      ICSG2013
    • Place of Presentation
      北海道大学
    • Year and Date
      2013-07-29
    • Related Report
      2013 Annual Research Report
  • [Presentation] Statistical Mechanical Analysis of Bayesian Optimal Dictionary Learning2013

    • Author(s)
      Ayaka Sakata and Yoshiyuki Kabashima
    • Organizer
      STATPHYS25
    • Place of Presentation
      ソウル大学(韓国)
    • Year and Date
      2013-07-27
    • Related Report
      2013 Annual Research Report
  • [Presentation] Sample Complexity of Bayesian Optimal Dictionary Leaming2013

    • Author(s)
      Ayaka Sakata and Yoshiyuki Kabashima
    • Organizer
      IEEE International Symposium on Information Theory
    • Place of Presentation
      Istanbul Conference and Exhibition Center(トルコ)
    • Year and Date
      2013-07-08
    • Related Report
      2013 Annual Research Report
  • [Presentation] 自己相関関数を含むDynamical Replica Theory2013

    • Author(s)
      坂田綾香
    • Organizer
      日本物理学会第68回年次大会
    • Place of Presentation
      広島大学
    • Year and Date
      2013-03-27
    • Related Report
      2012 Annual Research Report
  • [Presentation] Dictionary Learningのサンプル複雑度:統計力学からのアプローチ2012

    • Author(s)
      坂田綾香
    • Organizer
      第35回情報理論とその応用シンポジウム(SITA2012)
    • Place of Presentation
      別府湾ロイヤルホテル
    • Year and Date
      2012-12-12
    • Related Report
      2012 Annual Research Report
  • [Presentation] Sample complexity in dictionary learning: an approach from statistical mechanics2012

    • Author(s)
      坂田綾香
    • Organizer
      Frontier of Statistical Physics and Information Processing 2013
    • Place of Presentation
      東京工業大学
    • Year and Date
      2012-11-12
    • Related Report
      2012 Annual Research Report
  • [Presentation] Dictionary Learning におけるサンプル複雑度の典型時解析2012

    • Author(s)
      坂田綾香
    • Organizer
      第11回電子情報通信学会情報論的学習理論と機械学習(IBISML)研究会-第15回情報論的学習理論ワークショップ(IBIS2012)-
    • Place of Presentation
      筑波大学東京キャンパス文京校舎
    • Year and Date
      2012-11-07
    • Related Report
      2012 Annual Research Report
  • [Presentation] Dictionary Learning におけるノイズ効果2012

    • Author(s)
      坂田綾香, 樺島祥介
    • Organizer
      日本物理学会2012年秋季大会
    • Place of Presentation
      横浜国立大学
    • Year and Date
      2012-09-18
    • Related Report
      2012 Annual Research Report
  • [Presentation] Dictionary Learningの統計力学2012

    • Author(s)
      坂田綾香
    • Organizer
      日本物理学会第67回年次大会
    • Place of Presentation
      関西学院大学
    • Year and Date
      2012-03-27
    • Related Report
      2011 Annual Research Report
  • [Presentation] Dictionary Learningへの統計力学的アプローチ2012

    • Author(s)
      坂田綾香
    • Organizer
      情報統計力学の最前線-情報と揺らぎの制御の物理学を目指して-
    • Place of Presentation
      京都大学基礎物理学研究所(招待講演)
    • Year and Date
      2012-03-21
    • Related Report
      2011 Annual Research Report
  • [Presentation] Dictionary Learning におけるサンプル複雑度の典型時解析2012

    • Author(s)
      坂田綾香
    • Organizer
      定量生物学の会
    • Place of Presentation
      東京大学生産技術研究所
    • Related Report
      2012 Annual Research Report
  • [Presentation] OFDMモデルにおけるキャリア間干渉除去のための平均場近似アルゴリズム2011

    • Author(s)
      坂田綾香
    • Organizer
      日本物理学会2011年秋季大会
    • Place of Presentation
      富山大学
    • Year and Date
      2011-09-21
    • Related Report
      2011 Annual Research Report
  • [Presentation] Replica symmetry in a statistical-mechanical model of evolution with fluctuating phenotypes2011

    • Author(s)
      坂田綾香
    • Organizer
      第49回日本生物物理学会年会
    • Place of Presentation
      兵庫県立大学
    • Year and Date
      2011-09-17
    • Related Report
      2011 Annual Research Report
  • [Presentation] Replica Symmetry in evolution under thermal noise2011

    • Author(s)
      Ayaka Sakata
    • Organizer
      Conference "Physics and Biological Systems"
    • Place of Presentation
      Orsay, France
    • Year and Date
      2011-06-17
    • Related Report
      2011 Annual Research Report

URL: 

Published: 2011-12-12   Modified: 2024-03-26  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi