• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

大規模な確率推論への情報統計力学的アプローチ

研究課題

研究課題/領域番号 12F02049
研究種目

特別研究員奨励費

配分区分補助金
応募区分外国
研究分野 感性情報学・ソフトコンピューティング
研究機関東京工業大学

研究代表者

樺島 祥介  東京工業大学, 総合理工学研究科(研究院), 教授 (80260652)

研究分担者 HUANG Haiping  東京工業大学, 総合理工学研究科(研究院), 外国人特別研究員
HUANG H.  東京工業大学, 大学院総合理工学研究科, 外国人特別研究員
HUANG H.  東京工業大学, 大学院・総合理工学研究科, 外国人特別研究員
研究期間 (年度) 2012-04-01 – 2015-03-31
研究課題ステータス 完了 (2014年度)
配分額 *注記
2,300千円 (直接経費: 2,300千円)
2014年度: 600千円 (直接経費: 600千円)
2013年度: 1,100千円 (直接経費: 1,100千円)
2012年度: 600千円 (直接経費: 600千円)
キーワード統計力学 / 計算機科学 / 確率推論 / レプリカ法 / 平均場近似 / 逆イジング問題 / パーセプトロン / 適応TAP法
研究実績の概要

線形の分離規則にもとづいてN次元ベクトルを正負の2クラスに分類するパーセプトロンはパターン認識の基本要素として広く利用されている.線形分離面を決定するパラメータ(法線ベクトル)を+1,-1の2値の成分からなるベクトルに限定したパーセプトロンを2値パーセプトロンとよぶ.線形分離可能なパターンセットに対して収束性の保証された学習アルゴリズムが知られている通常のパーセプトロンに対し,2値パーセプトロンはパターンセットが線形分離可能である場合でさえ解探索が計算量的に難しい問題として知られている.これは効率的な近似アルゴリズムが多数提案されているSAT問題と比較して対照的である.この計算量的難しさの起源を解明するために,上述のランダムパターン問題に対し,2値パーセプトロンの典型的な許容解の周囲に他の解がどのように分布しているのか,を統計力学におけるFranz-Parisi ポテンシャルの方法で調べた.その結果,パターン数がNに比例する程度存在する場合には,最も近い解はO(N)程度ハミング距離が離れていることがわかった.このことは,現時点で得られている解を中心にして新しい解を局所的にランダムサーチする場合,許容解を見つける確率はNに関して指数関数的に小さくなることを意味しており,このことが2値パーセプトロンの学習の学習に関する計算量的困難性の起源に関わっていると考えられる.以上の成果はPhys. Rev. E 90, 052813 (2014) [7 pages]として公表された.

現在までの達成度 (段落)

26年度が最終年度であるため、記入しない。

今後の研究の推進方策

26年度が最終年度であるため、記入しない。

報告書

(3件)
  • 2014 実績報告書
  • 2013 実績報告書
  • 2012 実績報告書
  • 研究成果

    (10件)

すべて 2014 2013 2012

すべて 雑誌論文 (6件) (うち査読あり 6件、 謝辞記載あり 1件) 学会発表 (4件)

  • [雑誌論文] Origin of the computational hardness for learning with binary synapses2014

    • 著者名/発表者名
      Haiping Huang and Yoshiyuki Kabashima
    • 雑誌名

      Physical Review E

      巻: 90 号: 5 ページ: 052813-052813

    • DOI

      10.1103/physreve.90.052813

    • 関連する報告書
      2014 実績報告書
    • 査読あり / 謝辞記載あり
  • [雑誌論文] Entropy landscape of solutions in the binary perceptron problem2013

    • 著者名/発表者名
      Haiping Huang, KY Michael Wong, Yoshiyuki Kabashima
    • 雑誌名

      J. Phys. A : Math. Theor.

      巻: 46 号: 37 ページ: 375002-375002

    • DOI

      10.1088/1751-8113/46/37/375002

    • 関連する報告書
      2013 実績報告書
    • 査読あり
  • [雑誌論文] Adaptive Thouless-Anderson-Palmer approach to inverse Ising problems with quenched random fields2013

    • 著者名/発表者名
      Haiping Huang, Yoshiyuki Kabashima
    • 雑誌名

      Phys. Rev. E

      巻: 87

    • 関連する報告書
      2013 実績報告書
    • 査読あり
  • [雑誌論文] Statistical mechanics approach to 1-bit compressed sensing2013

    • 著者名/発表者名
      Yingying Xu and Yoshiyuki Kabashima
    • 雑誌名

      Journal of Statistical Mechanics

      巻: 2013 号: 02 ページ: P02041-P02041

    • DOI

      10.1088/1742-5468/2013/02/p02041

    • 関連する報告書
      2012 実績報告書
    • 査読あり
  • [雑誌論文] Compressed sensing with sparse, structured matrices2013

    • 著者名/発表者名
      Maria Chiara Angelini, Federico Ricci-Tersenghi and Yoshiyuki Kabashima
    • 雑誌名

      Proceedings of the Fiftieth Annual Allerton Conference (Allerton2012)

      ページ: 808-814

    • 関連する報告書
      2012 実績報告書
    • 査読あり
  • [雑誌論文] Typical l1-reconstruction limit of sparse vectors represented by concatenations of random orthogonal matrices2012

    • 著者名/発表者名
      Yoshiyuki Kabashima, Mikko Vehkaperae and Saikat Chatterjee
    • 雑誌名

      Journal of Statistical Mechanics

      巻: 2012 号: 12 ページ: P12003-P12003

    • DOI

      10.1088/1742-5468/2012/12/p12003

    • 関連する報告書
      2012 実績報告書
    • 査読あり
  • [学会発表] Adaptive Thouless-Anderson-Palmer approach to inverse Ising problems with quenched random fields2013

    • 著者名/発表者名
      Haiping Huang, Yoshiyuki Kabashima
    • 学会等名
      日本物理学会 2013年秋季大会
    • 発表場所
      徳島大学
    • 年月日
      2013-09-28
    • 関連する報告書
      2013 実績報告書
  • [学会発表] Sparse network inference with l_1 regularization2013

    • 著者名/発表者名
      Haiping Huang
    • 学会等名
      ELC International Meeting on "Inference, Comput ation, and Spin Glasses"
    • 発表場所
      北海道大学
    • 年月日
      2013-07-28
    • 関連する報告書
      2013 実績報告書
  • [学会発表] Adaptive Thouless-Anderson-Palmer approach to inverse Ising problems with quenched random fields2013

    • 著者名/発表者名
      Haiping Huang
    • 学会等名
      STATPHYS25, Seoul
    • 発表場所
      ソウル国立大学, 韓国
    • 年月日
      2013-07-26
    • 関連する報告書
      2013 実績報告書
  • [学会発表] Entropy landscape analysis of the binary perceptron problem2013

    • 著者名/発表者名
      Haiping Huang and K Y Michael Wong
    • 学会等名
      日本物理学会 第68回年次大会
    • 発表場所
      広島大学
    • 年月日
      2013-03-27
    • 関連する報告書
      2012 実績報告書

URL: 

公開日: 2013-04-25   更新日: 2024-03-26  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi