Breakthrough of limits in compressed sensing by the picture of phase transition

• Project/Area Number: 17K12749
• Research Category: Grant-in-Aid for Young Scientists (B)
• Allocation Type: Multi-year Fund
• Research Field: Soft computing
• Research Institution: Doshisha University (2021); The University of Tokyo (2017-2020)
• Principal Investigator: Nakanishi Yoshinori 同志社大学, 文化情報学部, 准教授 (00767296)
• Project Period (FY): 2017-04-01 – 2022-03-31
• Project Status: Completed (Fiscal Year 2021)
• Budget Amount: ¥4,160,000 (Direct Cost: ¥3,200,000、Indirect Cost: ¥960,000); Fiscal Year 2020: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000); Fiscal Year 2019: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000); Fiscal Year 2018: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000); Fiscal Year 2017: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
• Keywords: 圧縮センシング / スパースモデリング / 交差検証 / ハイパーパラメータ / LASSO / 統計力学 / 状態方程式 / 相転移 / ベイズ推論

Outline of Final Research Achievements

This research developed a cross-validation based method for judging the success or failure of compressed sensing, considering practical situations where compressed sensing with sparse modeling is applied to unknown objects. Analysis with the replica method from statistical mechanics revealed a power-law behavior of cross-validation error at the transition point in the amount of available data from the failure to the success of compressed sensing. This research proposed judging the success or failure in compressed sensing based on the dependence of cross-validation error on the amount ratio between training and validation datasets in cross validation and evaluated the performance of the proposed method by numerical experiments.

Academic Significance and Societal Importance of the Research Achievements

本研究の成果として、圧縮センシングの限界が明らかになったことにより、不十分なデータによる誤った解析結果を鵜呑みにすることなく、またデータが十分であることを認識できずに過剰なデータ取得に陥るようなこともなくなると考えられる。本研究で開発した手法は交差検証に基づいており、スパースモデリングに限らずあらゆる情報学的手法と組み合わせて用いることができる。圧縮センシングの他にも情報学的手法を用いた実験・計測の効率化は試みられており、そのような場合にも発展する可能性がある。

Research Products

• [Journal Article] Multiplication Method for Fine-Tuning Regularization Parameter of a Sparse Modeling Technique Tentatively Optimized via Cross Validation (2020)
  • Author(s): Nakanishi-Ohno Yoshinori、Yamasaki Yuichi
  • Journal Title: Journal of the Physical Society of Japan Volume: 89 Issue: 9 Pages: 094804-094804
  • DOI: 10.7566/jpsj.89.094804
  • Peer Reviewed / Open Access
• [Journal Article] Robust surface structure analysis with reliable uncertainty estimation using the exchange Monte Carlo method (2020)
  • Author(s): Nagai Kazuki、Anada Masato、Nakanishi-Ohno Yoshinori、Okada Masato、Wakabayashi Yusuke
  • Journal Title: Journal of Applied Crystallography Volume: 53 Issue: 2 Pages: 387-392
  • DOI: 10.1107/s1600576720001314
  • Peer Reviewed / Open Access
• [Journal Article] Inference-assisted intelligent crystallography based on preliminary data (2019)
  • Author(s): Hoshino Manabu、Nakanishi-Ohno Yoshinori、Hashizume Daisuke
  • Journal Title: Scientific Reports Volume: 9 Issue: 1 Pages: 11886-11886
  • DOI: 10.1038/s41598-019-48362-3
  • Peer Reviewed / Open Access
• [Journal Article] 走査トンネル分光法の圧縮センシング―計測の効率に関する限界と可能性― (2019)
  • Author(s): 中西(大野)義典、福島孝治
  • Journal Title: 固体物理 Volume: 54 Pages: 343-351
• [Journal Article] ES-DoS: Exhaustive search and density-of-states estimation as a general framework for sparse variable selection. (2018)
  • Author(s): Igarashi, Y., Ichikawa, H., Nakanishi-Ohno, Y., Takenaka, H., Kawabata, D., Eifuku, S., Tamura, R., Nagata, K., & Okada, M.
  • Journal Title: Journal of Physics: Conference Series. Volume: 1036 Pages: 1-13
  • DOI: 10.1088/1742-6596/1036/1/012001
  • Peer Reviewed / Open Access
• [Journal Article] Data-driven diagnosis for compressed sensing algorithms (2018)
  • Author(s): Nakanishi-Ohno Y、Hukushima K
  • Journal Title: Journal of Physics: Conference Series Volume: 1036 Pages: 012014-012014
  • DOI: 10.1088/1742-6596/1036/1/012014
  • Peer Reviewed / Open Access
• [Journal Article] Spatial coherence of the insulating phase in quasi-two-dimensional LaNiO3 films (2018)
  • Author(s): Anada Masato、Kowa Kazuhiro、Maeda Hiroki、Sakai Enju、Kitamura Miho、Kumigashira Hiroshi、Sakata Osami、Nakanishi-Ohno Yoshinori、Okada Masato、Kimura Tsuyoshi、Wakabayashi Yusuke
  • Journal Title: Physical Review B Volume: 98 Issue: 1 Pages: 014105-014105
  • DOI: 10.1103/physrevb.98.014105
  • Peer Reviewed
• [Journal Article] Statistical mechanical analysis of sparse linear regression as a variable selection problem (2018)
  • Author(s): Obuchi Tomoyuki、Nakanishi-Ohno Yoshinori、Okada Masato、Kabashima Yoshiyuki
  • Journal Title: Journal of Statistical Mechanics: Theory and Experiment Volume: 2018 Issue: 10 Pages: 103401-103401
  • DOI: 10.1088/1742-5468/aae02c
  • Peer Reviewed / Open Access
• [Journal Article] Data-driven diagnosis for compressed sensing with cross validation (2018)
  • Author(s): Nakanishi-Ohno Yoshinori、Hukushima Koji
  • Journal Title: Physical Review E Volume: 98 Issue: 5 Pages: 052120-052120
  • DOI: 10.1103/physreve.98.052120
  • Peer Reviewed / Open Access
• [Journal Article] Influence of Averaging Preprocessing on Image Analysis with a Markov Random Field Model (2018)
  • Author(s): Sakamoto Hirotaka、Nakanishi-Ohno Yoshinori、Okada Masato
  • Journal Title: Journal of the Physical Society of Japan Volume: 87 Issue: 2 Pages: 024802-024802
  • DOI: 10.7566/jpsj.87.024802
  • Peer Reviewed
• [Journal Article] Exhaustive Search for Sparse Variable Selection in Linear Regression (2018)
  • Author(s): Igarashi Yasuhiko、Takenaka Hikaru、Nakanishi-Ohno Yoshinori、Uemura Makoto、Ikeda Shiro、Okada Masato
  • Journal Title: Journal of the Physical Society of Japan Volume: 87 Issue: 4 Pages: 044802-044802
  • DOI: 10.7566/jpsj.87.044802
  • Peer Reviewed / Open Access
• [Journal Article] Data-driven diagnosis for compressed sensing algorithms (2018)
  • Author(s): Nakanishi-Ohno Yoshinori、Hukushima Koji
  • Journal Title: Journal of Physics: Conference Series Volume: in press
  • Peer Reviewed / Open Access
• [Journal Article] Bayesian inference of metal oxide ultrathin film structure based on crystal truncation rod measurements (2017)
  • Author(s): Anada Masato、Nakanishi-Ohno Yoshinori、Okada Masato、Kimura Tsuyoshi、Wakabayashi Yusuke
  • Journal Title: Journal of Applied Crystallography Volume: 50 Issue: 6 Pages: 1611-1616
  • DOI: 10.1107/s1600576717013292
  • Peer Reviewed / Open Access
• [Presentation] Compressed sensing in scanning tunneling spectroscopy (2022)
  • Author(s): Yoshinori Nakanishi-Ohno
  • Organizer: The 11th Conference of the Asian Regional Section of the International Association for Statistical Computing (IASC-ARS)
  • Int'l Joint Research / Invited
• [Presentation] 圧縮センシングによるコンプトン散乱データからのフェルミ面再構成と実験計画 (2022)
  • Author(s): 大槻純也, 吉見一慶, 中西（大野）義典, M. Sekania, L. Chioncel, 水牧仁一朗
  • Organizer: 日本物理学会第77回年次大会
• [Presentation] コンプトン散乱データからのフェルミ面再構成：圧縮センシングの応用 (2021)
  • Author(s): 大槻純也, 吉見一慶, 中西（大野）義典, M. Sekania, L. Chioncel, 水牧仁一朗
  • Organizer: 日本物理学会2021年秋季大会
• [Presentation] 共役変数を用いたガウス過程回帰の再定式化と統計物理的解析 (2021)
  • Author(s): 長野泰志、中西（大野）義典、福島孝治
  • Organizer: 日本物理学会第76回年次大会
• [Presentation] ガウス過程回帰の摂動論的近似 (2020)
  • Author(s): 長野泰志、中西（大野）義典、福島孝治
  • Organizer: 日本物理学会2020年秋季大会
• [Presentation] ガウス過程回帰の摂動論的近似 (2020)
  • Author(s): 長野泰志、中西（大野）義典、福島孝治
  • Organizer: 第23回情報論的学習理論ワークショップ(IBIS2020)
• [Presentation] パーセプトロンのBayes学習における訂正誤差の解析 (2020)
  • Author(s): 長野泰志、中西(大野)義典、福島孝治
  • Organizer: 日本物理学会第75回年次大会
• [Presentation] 推定誤差を最小化するL1正則化パラメータと交差検証との関係 (2020)
  • Author(s): 中西(大野)義典、山崎裕一
  • Organizer: 日本物理学会第75回年次大会
• [Presentation] 表面回折データとベイズ推論 (2019)
  • Author(s): 中西義典
  • Organizer: 研究会「データ駆動科学と次世代計算科学」
  • Invited
• [Presentation] ペロブスカイト型酸化物の界面構造解析：交換モンテカルロ法による確度評価 (2019)
  • Author(s): 永井和樹、穴田壮人、中西(大野)義典、岡田真人、若林裕助
  • Organizer: 日本物理学会2019年秋季大会
• [Presentation] パーセプトロンのBayes学習におけるノイズあり教師の誤り訂正 (2019)
  • Author(s): 長野泰志、中西(大野)義典、福島孝治
  • Organizer: 日本物理学会2019年秋季大会
• [Presentation] 生成物時間分析実験データのベイズ推論による解析 (2019)
  • Author(s): 安倍雅史、水野雄太、板子健太郎、中西(大野)義典、佐々木岳彦、福島孝治
  • Organizer: 日本物理学会2019年秋季大会
• [Presentation] X線CTR散乱による界面構造解析に資するベイズ推論 (2019)
  • Author(s): 中西義典
  • Organizer: 第９回極限物質科学研究会
• [Presentation] 圧縮センシングの限界と可能性 (2019)
  • Author(s): 中西義典
  • Organizer: 駒場物性セミナー
  • Invited
• [Presentation] ベイズ推論が繋ぐ陽電子回折と表面構造解析 (2019)
  • Author(s): 中西（大野）義典
  • Organizer: 第66回応用物理学会春季学術講演会
  • Invited
• [Presentation] 交差検証誤差の度数分布解析 (2019)
  • Author(s): 中西（大野）義典
  • Organizer: 日本物理学会第74回年次大会
• [Presentation] 物理計測により得られる物質科学の画像データについて準粒子干渉実験の圧縮センシングから考えること (2018)
  • Author(s): 中西義典
  • Organizer: 第10回放射光学会若手研究会
  • Invited
• [Presentation] LASSO変数選択による予測と発見のデータ駆動診断 (2018)
  • Author(s): 中西（大野）義典
  • Organizer: 日本物理学会2018年秋季大会
• [Presentation] 圧縮センシング―効率的な計測を計画する論理―の限界と可能性 (2018)
  • Author(s): 中西（大野）義典
  • Organizer: 日本物理学会北陸支部特別講演会
  • Invited
• [Presentation] LASSOに関する交差検証誤差の訓練／検証データ量比依存性 (2018)
  • Author(s): 中西（大野）義典
  • Organizer: 日本物理学会第78回年次大会
• [Presentation] 陽電子回折データからベイズ推論をするためのモデリング (2018)
  • Author(s): 中西（大野）義典
  • Organizer: 第2回陽電子回折研究会
  • Invited
• [Presentation] 圧縮センシングとその成否診断 (2017)
  • Author(s): 中西（大野）義典
  • Organizer: 東京大学物性研究所理論インフォーマルセミナー
  • Invited
• [Presentation] 圧縮センシングによる準粒子干渉計測の高速化・高分解能化 (2017)
  • Author(s): 中西（大野）義典
  • Organizer: 2017年真空・表面科学合同講演会
  • Invited
• [Presentation] Data-driven diagnosis for compressed sensing algorithms (2017)
  • Author(s): Nakanishi-Ohno Yoshinori
  • Organizer: International Meeting on "High-Dimensional Data-Driven Science"
  • Int'l Joint Research
• [Presentation] 交差検証による圧縮センシング成否診断法の開発 (2017)
  • Author(s): 中西（大野）義典
  • Organizer: 日本物理学会2017年秋季大会
• [Presentation] Data-driven diagnosis for compressed sensing with sparse modeling (2017)
  • Author(s): Nakanishi-Ohno Yoshinori
  • Organizer: Workshop 'Development of next-generation quantum material research platform'
  • Int'l Joint Research / Invited
• [Presentation] 放射光X線回折とベイズモデリングの融合による表面・界面科学の新展開 (2017)
  • Author(s): 中西（大野）義典
  • Organizer: 第4回放射光連携研究ワークショップ
  • Invited