• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

大規模な確率推論への情報統計力学的アプローチ

Research Project

Project/Area Number 12F02049
Research Category

Grant-in-Aid for JSPS Fellows

Allocation TypeSingle-year Grants
Section外国
Research Field Sensitivity informatics/Soft computing
Research InstitutionTokyo Institute of Technology

Principal Investigator

樺島 祥介  東京工業大学, 総合理工学研究科(研究院), 教授 (80260652)

Co-Investigator(Kenkyū-buntansha) HUANG Haiping  東京工業大学, 総合理工学研究科(研究院), 外国人特別研究員
HUANG H.  東京工業大学, 大学院総合理工学研究科, 外国人特別研究員
HUANG H.  東京工業大学, 大学院・総合理工学研究科, 外国人特別研究員
Project Period (FY) 2012-04-01 – 2015-03-31
Project Status Completed (Fiscal Year 2014)
Budget Amount *help
¥2,300,000 (Direct Cost: ¥2,300,000)
Fiscal Year 2014: ¥600,000 (Direct Cost: ¥600,000)
Fiscal Year 2013: ¥1,100,000 (Direct Cost: ¥1,100,000)
Fiscal Year 2012: ¥600,000 (Direct Cost: ¥600,000)
Keywords統計力学 / 計算機科学 / 確率推論 / レプリカ法 / 平均場近似 / 逆イジング問題 / パーセプトロン / 適応TAP法
Outline of Annual Research Achievements

線形の分離規則にもとづいてN次元ベクトルを正負の2クラスに分類するパーセプトロンはパターン認識の基本要素として広く利用されている.線形分離面を決定するパラメータ(法線ベクトル)を+1,-1の2値の成分からなるベクトルに限定したパーセプトロンを2値パーセプトロンとよぶ.線形分離可能なパターンセットに対して収束性の保証された学習アルゴリズムが知られている通常のパーセプトロンに対し,2値パーセプトロンはパターンセットが線形分離可能である場合でさえ解探索が計算量的に難しい問題として知られている.これは効率的な近似アルゴリズムが多数提案されているSAT問題と比較して対照的である.この計算量的難しさの起源を解明するために,上述のランダムパターン問題に対し,2値パーセプトロンの典型的な許容解の周囲に他の解がどのように分布しているのか,を統計力学におけるFranz-Parisi ポテンシャルの方法で調べた.その結果,パターン数がNに比例する程度存在する場合には,最も近い解はO(N)程度ハミング距離が離れていることがわかった.このことは,現時点で得られている解を中心にして新しい解を局所的にランダムサーチする場合,許容解を見つける確率はNに関して指数関数的に小さくなることを意味しており,このことが2値パーセプトロンの学習の学習に関する計算量的困難性の起源に関わっていると考えられる.以上の成果はPhys. Rev. E 90, 052813 (2014) [7 pages]として公表された.

Research Progress Status

26年度が最終年度であるため、記入しない。

Strategy for Future Research Activity

26年度が最終年度であるため、記入しない。

Report

(3 results)
  • 2014 Annual Research Report
  • 2013 Annual Research Report
  • 2012 Annual Research Report
  • Research Products

    (10 results)

All 2014 2013 2012

All Journal Article (6 results) (of which Peer Reviewed: 6 results,  Acknowledgement Compliant: 1 results) Presentation (4 results)

  • [Journal Article] Origin of the computational hardness for learning with binary synapses2014

    • Author(s)
      Haiping Huang and Yoshiyuki Kabashima
    • Journal Title

      Physical Review E

      Volume: 90 Issue: 5 Pages: 052813-052813

    • DOI

      10.1103/physreve.90.052813

    • Related Report
      2014 Annual Research Report
    • Peer Reviewed / Acknowledgement Compliant
  • [Journal Article] Entropy landscape of solutions in the binary perceptron problem2013

    • Author(s)
      Haiping Huang, KY Michael Wong, Yoshiyuki Kabashima
    • Journal Title

      J. Phys. A : Math. Theor.

      Volume: 46 Issue: 37 Pages: 375002-375002

    • DOI

      10.1088/1751-8113/46/37/375002

    • Related Report
      2013 Annual Research Report
    • Peer Reviewed
  • [Journal Article] Adaptive Thouless-Anderson-Palmer approach to inverse Ising problems with quenched random fields2013

    • Author(s)
      Haiping Huang, Yoshiyuki Kabashima
    • Journal Title

      Phys. Rev. E

      Volume: 87

    • Related Report
      2013 Annual Research Report
    • Peer Reviewed
  • [Journal Article] Statistical mechanics approach to 1-bit compressed sensing2013

    • Author(s)
      Yingying Xu and Yoshiyuki Kabashima
    • Journal Title

      Journal of Statistical Mechanics

      Volume: 2013 Issue: 02 Pages: P02041-P02041

    • DOI

      10.1088/1742-5468/2013/02/p02041

    • Related Report
      2012 Annual Research Report
    • Peer Reviewed
  • [Journal Article] Compressed sensing with sparse, structured matrices2013

    • Author(s)
      Maria Chiara Angelini, Federico Ricci-Tersenghi and Yoshiyuki Kabashima
    • Journal Title

      Proceedings of the Fiftieth Annual Allerton Conference (Allerton2012)

      Pages: 808-814

    • Related Report
      2012 Annual Research Report
    • Peer Reviewed
  • [Journal Article] Typical l1-reconstruction limit of sparse vectors represented by concatenations of random orthogonal matrices2012

    • Author(s)
      Yoshiyuki Kabashima, Mikko Vehkaperae and Saikat Chatterjee
    • Journal Title

      Journal of Statistical Mechanics

      Volume: 2012 Issue: 12 Pages: P12003-P12003

    • DOI

      10.1088/1742-5468/2012/12/p12003

    • Related Report
      2012 Annual Research Report
    • Peer Reviewed
  • [Presentation] Adaptive Thouless-Anderson-Palmer approach to inverse Ising problems with quenched random fields2013

    • Author(s)
      Haiping Huang, Yoshiyuki Kabashima
    • Organizer
      日本物理学会 2013年秋季大会
    • Place of Presentation
      徳島大学
    • Year and Date
      2013-09-28
    • Related Report
      2013 Annual Research Report
  • [Presentation] Sparse network inference with l_1 regularization2013

    • Author(s)
      Haiping Huang
    • Organizer
      ELC International Meeting on "Inference, Comput ation, and Spin Glasses"
    • Place of Presentation
      北海道大学
    • Year and Date
      2013-07-28
    • Related Report
      2013 Annual Research Report
  • [Presentation] Adaptive Thouless-Anderson-Palmer approach to inverse Ising problems with quenched random fields2013

    • Author(s)
      Haiping Huang
    • Organizer
      STATPHYS25, Seoul
    • Place of Presentation
      ソウル国立大学, 韓国
    • Year and Date
      2013-07-26
    • Related Report
      2013 Annual Research Report
  • [Presentation] Entropy landscape analysis of the binary perceptron problem2013

    • Author(s)
      Haiping Huang and K Y Michael Wong
    • Organizer
      日本物理学会 第68回年次大会
    • Place of Presentation
      広島大学
    • Year and Date
      2013-03-27
    • Related Report
      2012 Annual Research Report

URL: 

Published: 2013-04-25   Modified: 2024-03-26  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi