• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2020 Fiscal Year Research-status Report

Statistical mechanics and sparse modeling approach to large-scale inverse problems

Research Project

Project/Area Number 18K11463
Research InstitutionKyoto University

Principal Investigator

小渕 智之  京都大学, 情報学研究科, 准教授 (40588448)

Project Period (FY) 2018-04-01 – 2022-03-31
Keywords情報統計力学 / スパースモデリング / 統計的逆問題 / 機械学習
Outline of Annual Research Achievements

本研究は、スパースモデリング(SpM)と情報統計力学の技術を拡張することで、変数選択・パラメータ推定問題のより深い数理的理解と実用的数値解法を得ること、および、開発手法を生命・経済などの実データ解析へ応用し、それが使える枠組みであることを実証することが目標である。
まず、一昨年度に開発したモンテカルロ法を用いた変数選択アルゴリズムについて論文化を行い、査読付き論文誌にアクセプトされた。レプリカ交換法を用いたより高度なアルゴリズムについては、現在論文執筆中である。
さらに、昨年度からの続きで、スパース線形回帰に対する非凸正則化を用いた場合の性能の理論解析を行った。昨年度の時点での結果を論文誌に一度投稿したところ、査読の段階で内容に関する指摘があり、これに対して検討を行った結果、信号の復元限界に関するよりよい理解に到達した。そこで一旦論文を撤回・解析をやり直した。その結果を現在、再度投稿している状態である。
また、モデル不一致状況での、ボルツマンマシンの相互作用ネットワークの復元性能解析が実課題において重要であるということに気が付き、これに関する検討を行った。解析の結果、モデル不一致状況でもネットワークの構造推定は可能であり、しかもその復元限界はモデル一致状況でのそれと変わらないという結論を得た。これに関する論文を2つ執筆しこれらも現在投稿中である。
その他、動的モデリングによる変数間の関係を抽出するための計算手法を、時変ベクトル自己回帰モデル+階層ベイズに基づいて整備し、それを用いて生体内の分子間の情報のやりとりを解析した。現在、論文投稿準備中である。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

一昨年度までに申請書類に記載した「課題1」は完了している。上述のネットワーク推定・動的モデリングが残りの課題である「課題2・3」の一部に対応し、それらについても一定の成果がここまでに得られていると考える。
さらに非凸正則化に関する深い理解やモデル不一致状況の解析など、研究開始時には想定していなかった成果が得られている。本年度中に論文化する予定であったレプリカ交換法を用いた変数選択アルゴリズムの発表が遅れているが、これも理論進展が進んでいるがゆえであり、またそれ以外の点については予定以上に進んでいることを考えると、おおむね順調に進展していると考えるのが妥当である。

Strategy for Future Research Activity

課題1については、すでに当初予定の研究は完了しているが、一本だけ論文化が完了していないため、まずこれを完了するよていである 。また非凸正則化について想定外の面白い結果が出ているため、この点を追加で追求する予定である。
課題2について、信号の生成モデルと推定モデルに齟齬がある場合の理論解析がある程度完了したため、次はより困難な状況、例えば変数間の相関が強い状況での理論解析を考えている。またそれらの結果を参照しつつ、実データ解析、具体的には免疫系の解析、を行うことを予定している。
課題3については、現在進行中の論文執筆が完了次第、その理論解析に移る予定である。
今年度は以上の点を追求する予定である。

  • Research Products

    (11 results)

All 2021 2020

All Journal Article (3 results) (of which Int'l Joint Research: 1 results,  Peer Reviewed: 3 results) Presentation (8 results)

  • [Journal Article] Reconstructing Sparse Signals via Greedy Monte-Carlo Search2020

    • Author(s)
      Hayashi Kao、Obuchi Tomoyuki、Kabashima Yoshiyuki
    • Journal Title

      Journal of the Physical Society of Japan

      Volume: 89 Pages: 124802~124802

    • DOI

      10.7566/JPSJ.89.124802

    • Peer Reviewed
  • [Journal Article] Inferring Neuronal Couplings From Spiking Data Using a Systematic Procedure With a Statistical Criterion2020

    • Author(s)
      Terada Yu、Obuchi Tomoyuki、Isomura Takuya、Kabashima Yoshiyuki
    • Journal Title

      Neural Computation

      Volume: 32 Pages: 2187~2211

    • DOI

      10.1162/neco_a_01324

    • Peer Reviewed
  • [Journal Article] Learning performance in inverse Ising problems with sparse teacher couplings2020

    • Author(s)
      Abbara Alia、Kabashima Yoshiyuki、Obuchi Tomoyuki、Xu Yingying
    • Journal Title

      Journal of Statistical Mechanics: Theory and Experiment

      Volume: 2020 Pages: 073402~073402

    • DOI

      10.1088/1742-5468/ab8c3a

    • Peer Reviewed / Int'l Joint Research
  • [Presentation] ニューラルネットにおける短期記憶の1ビット圧縮センシングによる想起2021

    • Author(s)
      杉崎嵐, 寺田裕, 小渕智之, 樺島祥介
    • Organizer
      日本物理学会 第76回年次大会
  • [Presentation] 高ランクテンソル分解のBPに基づく推定2021

    • Author(s)
      長澤莉希, 小渕智之, 吉野元
    • Organizer
      日本物理学会 第76回年次大会
  • [Presentation] SCAD正則化を用いた圧縮センシングに関する信号復元性能の分析2021

    • Author(s)
      石井智, 小渕智之, 樺島祥介
    • Organizer
      日本物理学会 第76回年次大会
  • [Presentation] リサンプリングの近似計算アルゴリズムの理論と実践2020

    • Author(s)
      小渕智之
    • Organizer
      スマートサンプリング講演会
  • [Presentation] 教師の結合が疎な場合における逆イジング問題のレプリカ解析と仮説検定2020

    • Author(s)
      Alia Abbara, 樺島祥介, 小渕智之, 許インイン
    • Organizer
      日本物理学会2020年秋季大会
  • [Presentation] 細胞内生化学反応に関する伝達情報量の解析2020

    • Author(s)
      今泉拓也, 小渕智之, 吉澤亮, 佐甲靖志, 樺島祥介
    • Organizer
      日本物理学会2020年秋季大会
  • [Presentation] 1+p体観測による多成分ベクトルの統計的推定2020

    • Author(s)
      長澤莉希, 小渕智之, 吉野元
    • Organizer
      日本物理学会2020年秋季大会
  • [Presentation] 逆イジング問題のレプリカ法による性能解析:教師の結合が疎な場合2020

    • Author(s)
      Alia Abbara, 樺島祥介, 小渕智之, 許インイン
    • Organizer
      第23回情報論的学習理論ワークショップ(IBIS2020)

URL: 

Published: 2021-12-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi