• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

予測概念の多様性に対応した情報量規準の開発:計算統計的アプローチ

研究課題

研究課題/領域番号 21K12067
研究種目

基盤研究(C)

配分区分基金
応募区分一般
審査区分 小区分61040:ソフトコンピューティング関連
研究機関統計数理研究所

研究代表者

伊庭 幸人  統計数理研究所, 統計基盤数理研究系, 教授 (30213200)

研究分担者 矢野 恵佑  統計数理研究所, 統計基盤数理研究系, 准教授 (20806070)
研究期間 (年度) 2021-04-01 – 2025-03-31
研究課題ステータス 交付 (2023年度)
配分額 *注記
2,470千円 (直接経費: 1,900千円、間接経費: 570千円)
2023年度: 910千円 (直接経費: 700千円、間接経費: 210千円)
2022年度: 910千円 (直接経費: 700千円、間接経費: 210千円)
2021年度: 650千円 (直接経費: 500千円、間接経費: 150千円)
キーワードベイズ統計 / MCMC / ブートストラップ法 / 因果推論 / 正定値カーネル / モデル選択 / sensitivity / 共変量シフト / Bayesian statistics / causal inference / covariate shift / Markov chain Monte Carlo / model selection / WAIC / PCIC / 情報量規準 / マルコフ連鎖モンテカルロ法
研究開始時の研究の概要

本研究計画では,データに基づいて最適な統計モデルを選択する規準(情報量規準)を数値計算アルゴリズムを含めて開発する.とくに,(1) マルコフ連鎖モンテカルロ法(MCMC)のアウトプットを利用して多様な状況に対応したモデル選択を行う手法を開発し, (2) 因果推論と予測をつなぐような手法を計算統計的な観点から発展させる.

研究実績の概要

重み付き推論についてのモデル選択規準(PCIC for weighted inference)に関する研究成果がNeural Computationに掲載された。また、分担者による関連論文が査読付き雑誌に掲載された。より一般の評価関数に拡張した情報量規準を提案した論文(arXiv:2206.05887v1)については修正・補足の上で別の雑誌に再投稿し査読中である。
新たな方向として、各観測の対数尤度のなす行列(W行列と呼ぶ)の性質とその応用を研究した。主要な成果をあげると、(1)W行列の大きな固有値に対応する固有空間(essential subspaceと呼ぶ)がベイズ推定量の感度解析と頻度論的で重要な役割を持つ、(2)W行列は正定値カーネル(W-kernel)として解釈することが可能で、機械学習で提案されているFisherカーネルはWカーネルの近似と解釈できる、(3)W行列の固有値問題はW-kernelを用いたカーネルPCAとして定式化できる、(4)W行列の対角和は情報量規準WAICのバイアス補正項になっており、それを通じてこれまで行ってきた情報量規準の研究と関係している、(5)近似的ブートストラップ法においてessential subspaceへの射影が計算の効率化に有用である、(6)機械学習のカーネル法で用いられる不完全コレスキー分解の方法を応用することでW行列の固有値問題の効率的な数値計算が可能である、となる。
上記の成果をプレプリント (arXiv:2311.13017) にまとめて公開した。さらに改訂したものを査読付き雑誌に投稿する予定である。
研究代表者と分担者は研究成果とその背景について学術的会合で講演した。

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

内容的には予想を上回る範囲に理論が展開でき、当初の計画以上に進展しているといえる。ただし、リジェクトされた論文が査読中で採択に至っていない点、海外の研究者を招聘しての研究集会の開催を行っていない点があるので、これらを考慮して(2)と判断した。

今後の研究の推進方策

投稿中の論文の採択をめざす。また、W行列に関するプレプリントを投稿する。可能であれば、海外の研究者を招聘して研究集会を行うか、もしくは、海外に出張して成果を発表する。これらが難しい場合は、国内の学会、研究会等での発表によってこれに替える。

報告書

(3件)
  • 2023 実施状況報告書
  • 2022 実施状況報告書
  • 2021 実施状況報告書
  • 研究成果

    (9件)

すべて 2024 2023 2022 2021

すべて 雑誌論文 (2件) (うち査読あり 2件) 学会発表 (7件) (うち招待講演 4件)

  • [雑誌論文] Posterior Covariance Information Criterion for Weighted Inference.2023

    • 著者名/発表者名
      Yukito Iba, Keisuke Yano
    • 雑誌名

      Neural Computation

      巻: 35 号: 7 ページ: 1340-1361

    • DOI

      10.1162/neco_a_01592

    • 関連する報告書
      2023 実施状況報告書
    • 査読あり
  • [雑誌論文] A generalization gap estimation for overparameterized models via the Langevin functional variance2023

    • 著者名/発表者名
      Okuno Akifumi、Yano Keisuke
    • 雑誌名

      Journal of Computational and Graphical Statistics

      巻: 1 号: 4 ページ: 1-20

    • DOI

      10.1080/10618600.2023.2197488

    • 関連する報告書
      2023 実施状況報告書
    • 査読あり
  • [学会発表] 計算統計の観点からのベイズ統計と頻度論の融合 ― Bayesian IJKとWカーネル2024

    • 著者名/発表者名
      伊庭 幸人
    • 学会等名
      AI・データ利活用研究会 第63回(大阪大学 数理・データ科学教育研究センター)
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] 重み付き推論における汎化性能推定のための事後共分散型情報量規準2023

    • 著者名/発表者名
      矢野 恵佑
    • 学会等名
      大阪大学 数理・データ科学セミナー データ科学セミナーシリーズ 第58回
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] 高次元・無限次元モデルにおける予測分布2022

    • 著者名/発表者名
      矢野 恵佑
    • 学会等名
      日本統計学会各賞受賞者記念講演
    • 関連する報告書
      2022 実施状況報告書
    • 招待講演
  • [学会発表] 擬ベイズ事後分布に基づく予測評価のための情報量規準2021

    • 著者名/発表者名
      矢野恵佑, 伊庭幸人
    • 学会等名
      2021年度統計関連学会連合大会(一般講演).
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] 予測分布論の最近の進展2021

    • 著者名/発表者名
      矢野恵佑
    • 学会等名
      日本数学会(特別講演).
    • 関連する報告書
      2021 実施状況報告書
    • 招待講演
  • [学会発表] 予測の情報量規準2021

    • 著者名/発表者名
      矢野恵佑
    • 学会等名
      情報計測オンラインセミナー
    • 関連する報告書
      2021 実施状況報告書
    • 招待講演
  • [学会発表] On estimating generalization gaps via the functional variance in overparameterized models2021

    • 著者名/発表者名
      Yano, K.
    • 学会等名
      CMStatistics2021
    • 関連する報告書
      2021 実施状況報告書
    • 招待講演

URL: 

公開日: 2021-04-28   更新日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi