• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

スパースモデリングと情報統計力学の共進化による柔軟な大規模逆問題解法の開発と応用

研究課題

研究課題/領域番号 18K11463
研究種目

基盤研究(C)

配分区分基金
応募区分一般
審査区分 小区分61040:ソフトコンピューティング関連
研究機関京都大学 (2019-2021)
東京工業大学 (2018)

研究代表者

小渕 智之  京都大学, 情報学研究科, 准教授 (40588448)

研究期間 (年度) 2018-04-01 – 2022-03-31
研究課題ステータス 完了 (2021年度)
配分額 *注記
4,290千円 (直接経費: 3,300千円、間接経費: 990千円)
2021年度: 1,170千円 (直接経費: 900千円、間接経費: 270千円)
2020年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円)
2019年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円)
2018年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円)
キーワード情報統計力学 / スパースモデリング / 統計的逆問題 / 機械学習 / 近似推論
研究成果の概要

本課題では、スパースモデリング(SpM)と情報統計力学の技術を拡張することで、変数選択・パラメータ推定問題の、より深い数理的理解と実用的数値解法を得ることを目標として研究してきた。その結果、多くの成果(複数のhigh impact journalを含む15本の査読あり論文、3つの近似アルゴリズムパッケージのGithubでの公開)を得ることが出来た。特に、交差検証法を低計算量で実行する近似アルゴリズムの開発と関連する理論解析、構造学習に関連する逆イジング問題の理論解析、ブートストラップ法を利用した変数選択の近似アルゴリズムとその理論解析が独創的な成果としてあげられる。

研究成果の学術的意義や社会的意義

近年、機械学習や人工知能といったキーワードで、ある種の数学的モデリング方法が注目を集めている。本研究では、そのモデリング方法の中でも、スパースモデリングという、様々な事物(変数)の中から重要なものを半自動的に取りだす技術に着目し、その技術を高めるべく研究を行った。多くの場合、計算量的問題から適切な変数の取り出しが難しくなるのだが、それを情報統計力学という物理分野にある手法で問題を近似することにより、計算量を削減するという方針で研究を行った。その結果、正確性を保ったまま以前よりも速やかに変数選択をすることが可能になった。機械学習を大規模に運用する上で重要な成果と成る。

報告書

(5件)
  • 2021 実績報告書   研究成果報告書 ( PDF )
  • 2020 実施状況報告書
  • 2019 実施状況報告書
  • 2018 実施状況報告書
  • 研究成果

    (39件)

すべて 2022 2021 2020 2019 2018

すべて 雑誌論文 (14件) (うち国際共著 1件、 査読あり 14件、 オープンアクセス 12件) 学会発表 (25件) (うち国際学会 7件、 招待講演 4件)

  • [雑誌論文] Assessing transfer entropy from biochemical data2022

    • 著者名/発表者名
      Imaizumi Takuya、Umeki Nobuhisa、Yoshizawa Ryo、Obuchi Tomoyuki、Sako Yasushi、Kabashima Yoshiyuki
    • 雑誌名

      Physical Review E

      巻: 105 号: 3 ページ: 1-13

    • DOI

      10.1103/physreve.105.034403

    • 関連する報告書
      2021 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Perfect reconstruction of sparse signals with piecewise continuous nonconvex penalties and nonconvexity control2021

    • 著者名/発表者名
      Sakata Ayaka、Obuchi Tomoyuki
    • 雑誌名

      Journal of Statistical Mechanics: Theory and Experiment

      巻: 2021 号: 9 ページ: 093401-093401

    • DOI

      10.1088/1742-5468/ac1403

    • 関連する報告書
      2021 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Sharp Asymptotics of Matrix Sketching for a Rank-One Spiked Model2021

    • 著者名/発表者名
      Tagashira Fumito、Obuchi Tomoyuki、Tanaka Toshiyuki
    • 雑誌名

      2021 IEEE International Symposium on Information Theory (ISIT)

      巻: none ページ: 250-255

    • DOI

      10.1109/isit45174.2021.9517724

    • 関連する報告書
      2021 実績報告書
    • 査読あり
  • [雑誌論文] Ising Model Selection Using $\ell_1$-Regularized Linear Regression: A Statistical Mechanics Analysis2021

    • 著者名/発表者名
      Xiangming Meng、Tomoyuki Obuchi、Yoshiyuki Kabashima
    • 雑誌名

      Advances in Neural Information Processing Systems

      巻: 34 ページ: 6290-6303

    • 関連する報告書
      2021 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Structure learning in inverse Ising problems using ? <sub>2</sub>-regularized linear estimator2021

    • 著者名/発表者名
      Meng Xiangming、Obuchi Tomoyuki、Kabashima Yoshiyuki
    • 雑誌名

      Journal of Statistical Mechanics: Theory and Experiment

      巻: 2021 号: 5 ページ: 053403-053403

    • DOI

      10.1088/1742-5468/abfa10

    • 関連する報告書
      2021 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Reconstructing Sparse Signals via Greedy Monte-Carlo Search2020

    • 著者名/発表者名
      Hayashi Kao、Obuchi Tomoyuki、Kabashima Yoshiyuki
    • 雑誌名

      Journal of the Physical Society of Japan

      巻: 89 号: 12 ページ: 124802-124802

    • DOI

      10.7566/jpsj.89.124802

    • NAID

      40022438412

    • 関連する報告書
      2020 実施状況報告書
    • 査読あり
  • [雑誌論文] Inferring Neuronal Couplings From Spiking Data Using a Systematic Procedure With a Statistical Criterion2020

    • 著者名/発表者名
      Terada Yu、Obuchi Tomoyuki、Isomura Takuya、Kabashima Yoshiyuki
    • 雑誌名

      Neural Computation

      巻: 32 号: 11 ページ: 2187-2211

    • DOI

      10.1162/neco_a_01324

    • 関連する報告書
      2020 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Learning performance in inverse Ising problems with sparse teacher couplings2020

    • 著者名/発表者名
      Abbara Alia、Kabashima Yoshiyuki、Obuchi Tomoyuki、Xu Yingying
    • 雑誌名

      Journal of Statistical Mechanics: Theory and Experiment

      巻: 2020 号: 7 ページ: 073402-073402

    • DOI

      10.1088/1742-5468/ab8c3a

    • 関連する報告書
      2020 実施状況報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Empirical Bayes method for Boltzmann machines2019

    • 著者名/発表者名
      Muneki Yasuda and Tomoyuki Obuchi
    • 雑誌名

      Journal of Physics A: Mathematical and Theoretical

      巻: 53 号: 1 ページ: 014004-014004

    • DOI

      10.1088/1751-8121/ab57a7

    • 関連する報告書
      2019 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Cross validation in sparse linear regression with piecewise continuous nonconvex penalties and its acceleration2019

    • 著者名/発表者名
      Obuchi Tomoyuki、Sakata Ayaka
    • 雑誌名

      Journal of Physics A: Mathematical and Theoretical

      巻: 52 号: 41 ページ: 414003-414003

    • DOI

      10.1088/1751-8121/ab3e89

    • 関連する報告書
      2019 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Objective and efficient inference for couplings in neuronal networks2018

    • 著者名/発表者名
      Yu Terada, Tomoyuki Obuchi, Takuya Isomura, Yoshiyuki Kabashima
    • 雑誌名

      Advances in Neural Information Processing Systems

      巻: 31

    • 関連する報告書
      2018 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Mean-field theory of graph neural networks in graph partitioning2018

    • 著者名/発表者名
      Tatsuro Kawamoto, Masashi Tsubaki, Tomoyuki Obuchi
    • 雑誌名

      Advances in Neural Information Processing Systems

      巻: 31

    • 関連する報告書
      2018 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Statistical mechanical analysis of sparse linear regression as a variable selection problem2018

    • 著者名/発表者名
      Tomoyuki Obuchi, Yoshinori Nakanishi-Ohno, Masato Okada, Yoshiyuki Kabashima
    • 雑誌名

      J. Stat. Mech.

      巻: 103401 ページ: 103401-103401

    • 関連する報告書
      2018 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Accelerating Cross-Validation in Multinomial Logistic Regression with L1-Regularization2018

    • 著者名/発表者名
      Tomoyuki Obuchi, Yoshiyuki Kabashima
    • 雑誌名

      Journal of Machine Learning Research

      巻: 19

    • NAID

      120006629921

    • 関連する報告書
      2018 実施状況報告書
    • 査読あり / オープンアクセス
  • [学会発表] ニューラルネットにおける短期記憶の1ビット圧縮センシングによる想起2021

    • 著者名/発表者名
      杉崎嵐, 寺田裕, 小渕智之, 樺島祥介
    • 学会等名
      日本物理学会 第76回年次大会
    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] 高ランクテンソル分解のBPに基づく推定2021

    • 著者名/発表者名
      長澤莉希, 小渕智之, 吉野元
    • 学会等名
      日本物理学会 第76回年次大会
    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] SCAD正則化を用いた圧縮センシングに関する信号復元性能の分析2021

    • 著者名/発表者名
      石井智, 小渕智之, 樺島祥介
    • 学会等名
      日本物理学会 第76回年次大会
    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] リサンプリングの近似計算アルゴリズムの理論と実践2020

    • 著者名/発表者名
      小渕智之
    • 学会等名
      スマートサンプリング講演会
    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] 教師の結合が疎な場合における逆イジング問題のレプリカ解析と仮説検定2020

    • 著者名/発表者名
      Alia Abbara, 樺島祥介, 小渕智之, 許インイン
    • 学会等名
      日本物理学会2020年秋季大会
    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] 細胞内生化学反応に関する伝達情報量の解析2020

    • 著者名/発表者名
      今泉拓也, 小渕智之, 吉澤亮, 佐甲靖志, 樺島祥介
    • 学会等名
      日本物理学会2020年秋季大会
    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] 1+p体観測による多成分ベクトルの統計的推定2020

    • 著者名/発表者名
      長澤莉希, 小渕智之, 吉野元
    • 学会等名
      日本物理学会2020年秋季大会
    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] 逆イジング問題のレプリカ法による性能解析:教師の結合が疎な場合2020

    • 著者名/発表者名
      Alia Abbara, 樺島祥介, 小渕智之, 許インイン
    • 学会等名
      第23回情報論的学習理論ワークショップ(IBIS2020)
    • 関連する報告書
      2020 実施状況報告書
  • [学会発表] 高次元確率モデルの扱いについて:統計物理の視点から2020

    • 著者名/発表者名
      小渕 智之
    • 学会等名
      電子情報通信学会総合大会
    • 関連する報告書
      2019 実施状況報告書
    • 招待講演
  • [学会発表] Cross validation in sparse linear regression with piecewise continuous nonconvex penalties and its acceleration2019

    • 著者名/発表者名
      Obuchi Tomoyuki, Sakata Ayaka
    • 学会等名
      2019 Workshop on Statistical Physics of Disordered Systems and Its Applications (SPDSA2019)
    • 関連する報告書
      2019 実施状況報告書
    • 国際学会 / 招待講演
  • [学会発表] Cross validation in sparse linear regression with piecewise continuous nonconvex penalties and its acceleration2019

    • 著者名/発表者名
      Obuchi Tomoyuki, Sakata Ayaka
    • 学会等名
      Statistical Physics and Neural Computation (SPNC-2019)
    • 関連する報告書
      2019 実施状況報告書
    • 国際学会
  • [学会発表] Statistical mechanical analysis of sparse linear regression as a variable selection problem2019

    • 著者名/発表者名
      Obuchi Tomoyuki
    • 学会等名
      2019 International Workshop on Glass Physics in Beijing
    • 関連する報告書
      2019 実施状況報告書
    • 国際学会 / 招待講演
  • [学会発表] ボルツマンマシンによる神経細胞集団の有効な非対称結合推定2019

    • 著者名/発表者名
      小渕 智之
    • 学会等名
      情報数物研究会
    • 関連する報告書
      2019 実施状況報告書
    • 招待講演
  • [学会発表] レプリカ法を用いたボルツマンマシンに対する経験ベイズ推定2019

    • 著者名/発表者名
      安田宗樹, 小渕智之
    • 学会等名
      日本物理学会2019年年次大会
    • 関連する報告書
      2018 実施状況報告書
  • [学会発表] Elastic-net正則化付き多項ロジスティック回帰における交差検証法の加速2019

    • 著者名/発表者名
      小渕智之, 樺島祥介
    • 学会等名
      日本物理学会2019年年次大会
    • 関連する報告書
      2018 実施状況報告書
  • [学会発表] スパース線形回帰モデルにおけるレプリカ交換モンテカルロ法を用いた変数選択2019

    • 著者名/発表者名
      石井奨, 小渕智之, 樺島祥介
    • 学会等名
      日本物理学会2019年年次大会
    • 関連する報告書
      2018 実施状況報告書
  • [学会発表] Mean-field theory of graph neural networks in graph partitioning2018

    • 著者名/発表者名
      Tatsuro Kawamoto, Masashi Tsubaki, Tomoyuki Obuchi
    • 学会等名
      NeurIPS2018
    • 関連する報告書
      2018 実施状況報告書
    • 国際学会
  • [学会発表] Objective and efficient inference dor couplings in neuronal networks2018

    • 著者名/発表者名
      Yu Terada, Tomoyuki Obuchi, Takuya Isomura, Yoshiyuki Kabashima
    • 学会等名
      NeurIPS2018
    • 関連する報告書
      2018 実施状況報告書
    • 国際学会
  • [学会発表] Statistical mechanical analysis of sparse linear regression as a variable selection problem2018

    • 著者名/発表者名
      Tomoyuki Obuchi, Y. Nakanishi-Ohno, M. Okada and Y. Kabashima
    • 学会等名
      Disordered serendipity: a glassy path to discovery
    • 関連する報告書
      2018 実施状況報告書
    • 国際学会
  • [学会発表] Accelerating Cross-Validation in Multinomial Logistic Regression with L1-Regularization2018

    • 著者名/発表者名
      Tomoyuki Obuchi and Yoshiyuki Kabashima
    • 学会等名
      Statistical physics and machine learning back together
    • 関連する報告書
      2018 実施状況報告書
    • 国際学会
  • [学会発表] 半解析的ブートストラップ法とその応用2018

    • 著者名/発表者名
      小渕智之
    • 学会等名
      第21回情報論的学習理論ワークショップ(IBIS2018)
    • 関連する報告書
      2018 実施状況報告書
  • [学会発表] 統計力学的アプローチによるリサンプリング手法の軽量化2018

    • 著者名/発表者名
      小渕智之
    • 学会等名
      第30回RAMPシンポジウム(RAMP2018)
    • 関連する報告書
      2018 実施状況報告書
  • [学会発表] 深層学習によるグラフのコミュニティ構造推定II2018

    • 著者名/発表者名
      川本達郎, 椿真史, 小渕智之
    • 学会等名
      日本物理学会2018年秋季大会
    • 関連する報告書
      2018 実施状況報告書
  • [学会発表] 非凸正則化付き線形回帰における復号性能2018

    • 著者名/発表者名
      坂田綾香, 小渕智之
    • 学会等名
      日本物理学会2018年秋季大会
    • 関連する報告書
      2018 実施状況報告書
  • [学会発表] LASSO+半解析的ブートストラップ法を用いた現実的な変数選択法2018

    • 著者名/発表者名
      小渕智之, 樺島祥介
    • 学会等名
      日本物理学会2018年秋季大会
    • 関連する報告書
      2018 実施状況報告書

URL: 

公開日: 2018-04-23   更新日: 2023-01-30  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi