• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

属性付き関係データ解析のための予測モデルの検討と不確実性評価法の構築

研究課題

研究課題/領域番号 21K17718
研究種目

若手研究

配分区分基金
審査区分 小区分60030:統計科学関連
研究機関統計数理研究所

研究代表者

奥野 彰文  統計数理研究所, 統計基盤数理研究系, 助教 (40897972)

研究期間 (年度) 2021-04-01 – 2025-03-31
研究課題ステータス 交付 (2023年度)
配分額 *注記
4,550千円 (直接経費: 3,500千円、間接経費: 1,050千円)
2024年度: 910千円 (直接経費: 700千円、間接経費: 210千円)
2023年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円)
2022年度: 1,170千円 (直接経費: 900千円、間接経費: 270千円)
2021年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
キーワードニューラルネット / 確率的最適化 / 過剰パラメータ / 汎化ギャップ / 不確実性 / 収束レート / 関連性データ解析 / ノンパラメトリック統計
研究開始時の研究の概要

回帰分析など既存のノンパラメトリック統計解析と異なり,属性付き関連性データ解析では属性ベクトルがRandom Design, Fixed Designのどちらに従うかによって予測値の分散が大きく異なってしまう.そこで本研究は,属性付き関連性データ解析の統計理論を構築し,属性付き関連性データ解析に適切な予測モデルを特定するとともに,その予測の信頼度を数理・実験の両面から評価し補正することを目的とする.

研究実績の概要

一般の設定においてニューラルネットなど万能近似能力を持つモデルを推定する場合に,入力と出力が可逆であるという制約をかけるとどの程度推定が難しくなるのか理論的に評価した結果が数理統計学の国際誌であるElectronic Journal of Statisticsに採択された.またニューラルネットを利用した順序回帰についての結果が計算機統計学の著名な国際誌であるJournal of Computational and Graphical Statisticsに採択された.力学系の予測問題について,緩和時系列を導入することで,よりシンプルなモデルで複雑な力学系を予測できる場合があることを示した論文がIEEE Accessに採択された.また申請者が以前出版した,リンク予測問題のロバスト化 (Okuno and Shimodaira, AISTATS2019)で利用したロバストダイバージェンスについて,より一般の確率モデルを利用した場合の効率的な最適化法についての結果がAnnals of the Institute of Statistical Mathematics (AISM)に採択された.AISMに採択された結果を利用し,ニューラルネットワークの新しい正則化法について議論した結果をプレプリント(arXiv:2308.02293)として公開している.

これらの研究成果について,日本統計学会連合大会および情報論的学習理論ワークショップなどで講演したほか,CMStatisticsなど3件の国際学会/ワークショップで英語での講演を行った.また得られた研究成果について,日本語での解説をJxiv.537, Jxiv.549, Jxiv.616, Jxiv.642などに公開している.

現在までの達成度 (区分)
現在までの達成度 (区分)

1: 当初の計画以上に進展している

理由

計算機統計および数理統計の著名な国際学術誌であるJournal of Computational and Graphical StatisticsやElectronic Journal of Statisticsにそれぞれ主著論文が採択されたほか,IEEE Access, AISMにもそれぞれ主著論文が採択され,また単著のプレプリントを2件公開した.国際会議・国内会議それぞれで講演を行い,情報論的学習理論ワークショップ(IBIS2023)では優秀プレゼンテーション賞として表彰されている.これまでに執筆した論文の日本語での解説も4件公開し,当初の計画以上に進展していると考えている.

今後の研究の推進方策

昨年度に引き続き,ニューラルネットなど表現能力の高いモデルを用いた統計的推定の研究を進める.申請書に記述したグラフ埋め込み・リンク予測を利用する共同研究が進行中であり,リンク予測で利用したデータの相関構造を利用したクラスタリング法の基礎科学系研究への応用も進行中である.これらの共同研究を今後も精力的に進めるほか,前年度に投稿したニューラルネットの正則化に関する結果をリンク予測の問題などにも適用したいと考えている.

報告書

(3件)
  • 2023 実施状況報告書
  • 2022 実施状況報告書
  • 2021 実施状況報告書
  • 研究成果

    (31件)

すべて 2024 2023 2022 2021 その他

すべて 雑誌論文 (9件) (うち国際共著 1件、 査読あり 7件、 オープンアクセス 4件) 学会発表 (21件) (うち国際学会 8件、 招待講演 2件) 備考 (1件)

  • [雑誌論文] Minimax Analysis for Inverse Risk in Nonparametric Planer Invertible Regression2024

    • 著者名/発表者名
      Akifumi Okuno, Masaaki Imaizumi
    • 雑誌名

      Electronic Journal of Statistics

      巻: 18 号: 1 ページ: 355-394

    • DOI

      10.1214/23-ejs2202

    • 関連する報告書
      2023 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Autoregressive With Slack Time Series Model for Forecasting a Partially-Observed Dynamical Time Series2024

    • 著者名/発表者名
      Akifumi Okuno, Yuya Morishita, Yoh-ichi Mototake
    • 雑誌名

      IEEE Access

      巻: 12 ページ: 24621-24630

    • DOI

      10.1109/access.2024.3365724

    • 関連する報告書
      2023 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] An Interpretable Neural Network-based Nonproportional Odds Model for Ordinal Regression2024

    • 著者名/発表者名
      Akifumi Okuno, Kazuharu Harada
    • 雑誌名

      Journal of Computational and Graphical Statistics

      巻: - 号: 4 ページ: 1-10

    • DOI

      10.1080/10618600.2024.2321208

    • 関連する報告書
      2023 実施状況報告書
    • 査読あり
  • [雑誌論文] Minimizing robust density power-based divergences for general parametric density models2024

    • 著者名/発表者名
      Akifumi Okuno
    • 雑誌名

      Annals of the Institute of Statistical Mathematics

      巻: - 号: 5 ページ: 851-875

    • DOI

      10.1007/s10463-024-00906-9

    • 関連する報告書
      2023 実施状況報告書
    • 査読あり
  • [雑誌論文] Dependence of variance on covariate design in nonparametric link regression2023

    • 著者名/発表者名
      Okuno Akifumi、Yano Keisuke
    • 雑誌名

      Statistics & Probability Letters

      巻: 193 ページ: 109716-109716

    • DOI

      10.1016/j.spl.2022.109716

    • 関連する報告書
      2022 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Finding r-II Sibling Stars in the Milky Way with the Greedy Optimistic Clustering Algorithm2023

    • 著者名/発表者名
      Hattori Kohei、Okuno Akifumi、Roederer Ian U.
    • 雑誌名

      The Astrophysical Journal

      巻: 946 号: 1 ページ: 48-48

    • DOI

      10.3847/1538-4357/acb93b

    • 関連する報告書
      2022 実施状況報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] A generalization gap estimation for overparameterized models via the Langevin functional variance2023

    • 著者名/発表者名
      Okuno Akifumi、Yano Keisuke
    • 雑誌名

      Journal of Computational and Graphical Statistics

      巻: 1 号: 4 ページ: 1-20

    • DOI

      10.1080/10618600.2023.2197488

    • 関連する報告書
      2022 実施状況報告書
    • 査読あり
  • [雑誌論文] マルチスケール k-近傍法における回帰関数および損失関数の検討2021

    • 著者名/発表者名
      操 瑞行、田中 卓磨、奥野 彰文、下平 英寿
    • 雑誌名

      人工知能学会全国大会論文集

      巻: JSAI2021 号: 0 ページ: 1G4GS2c01-1G4GS2c01

    • DOI

      10.11517/pjsai.JSAI2021.0_1G4GS2c01

    • NAID

      130008051520

    • 関連する報告書
      2021 実施状況報告書
  • [雑誌論文] マルチスケールk-近傍法による画像の Extreme Multi-Label 分類2021

    • 著者名/発表者名
      田中 卓磨、奥野 彰文、下平 英寿
    • 雑誌名

      人工知能学会全国大会論文集

      巻: JSAI2021 号: 0 ページ: 3G1GS2g03-3G1GS2g03

    • DOI

      10.11517/pjsai.JSAI2021.0_3G1GS2g03

    • NAID

      130008051853

    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] A stochastic optimization approach to minimize robust density power-based divergences for general parametric density models2023

    • 著者名/発表者名
      Akifumi Okuno
    • 学会等名
      ISI-ISM-ISSAS meeting
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会
  • [学会発表] Optimal nonparametric classification via radial distance2023

    • 著者名/発表者名
      Akifumi Okuno, Ruixing Cao, Kei Nakagawa, and Hidetoshi Shimodaira
    • 学会等名
      16th International Conference of the ERCIM WG on Computational and Methodological Statistics (CMStatistics 2023)
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会
  • [学会発表] Statistical estimation with integral-based loss functions2023

    • 著者名/発表者名
      Akifumi Okuno
    • 学会等名
      International Symposium on Recent Advances in Theories and Methodologies for Large Complex Data
    • 関連する報告書
      2023 実施状況報告書
    • 国際学会 / 招待講演
  • [学会発表] 非線形モデルの学習での高次変動正則化2023

    • 著者名/発表者名
      奥野彰文
    • 学会等名
      核融合プラズマ学会2023
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] ニューラルネットを用いた解釈可能な非平行連続順序回帰モデルの提案2023

    • 著者名/発表者名
      奥野彰文、原田和治
    • 学会等名
      統計関連学会連合大会2023
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] 局所動径回帰を用いた最適なノンパラメトリック分類 と株価予測への応用2023

    • 著者名/発表者名
      奥野彰文、操瑞行、中川慧、下平英寿
    • 学会等名
      統計関連学会連合大会2023
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] 誤差の大きなデータに対するクラスタリング手法と天文学データへの 応用2023

    • 著者名/発表者名
      服部公平、奥野彰文
    • 学会等名
      統計関連学会連合大会2023
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] 一般の確率モデルに対するロバストダイバージェンスの最小化2023

    • 著者名/発表者名
      奥野彰文
    • 学会等名
      情報論的学習理論ワークショップ2023
    • 関連する報告書
      2023 実施状況報告書
  • [学会発表] ランジュバン動力学を用いた過剰パラメータモデルの汎化ギャップ推定2022

    • 著者名/発表者名
      奥野彰文
    • 学会等名
      統計関連学会連合大会
    • 関連する報告書
      2022 実施状況報告書
  • [学会発表] A Greedy and Optimistic Approach to Clustering with a Specified Uncertainty of Covariates2022

    • 著者名/発表者名
      奥野彰文
    • 学会等名
      統計関連学会連合大会
    • 関連する報告書
      2022 実施状況報告書
  • [学会発表] Minimax Analysis for Inverse Risk in Nonparametric Invertible Regression2022

    • 著者名/発表者名
      Akifumi Okuno
    • 学会等名
      The 6th RIKEN-IMI-ISM-NUS-ZIB-MODAL-NHR Workshop on Advances in Classical and Quantum Algorithms for Optimization and Machine Learning
    • 関連する報告書
      2022 実施状況報告書
    • 国際学会
  • [学会発表] マルチスケール k-近傍法における外挿モデル の検討2021

    • 著者名/発表者名
      Cao, Ruixing, 田中 卓磨 , 奥野 彰文, 下平 英寿
    • 学会等名
      統計関連学会連合大会
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] ノンパラメトリックリンク回帰における漸近分散の共変量依存性2021

    • 著者名/発表者名
      奥野 彰文, 矢野 恵佑
    • 学会等名
      統計関連学会連合大会
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] Time-contrastive learning を用いた多次元十分統計量を持つ指数型分布族情報源の非線形独立成分分析2021

    • 著者名/発表者名
      Jiang, Xinheng, 奥野 彰文, 下平 英寿
    • 学会等名
      情報論的学習理論と機械学習ワークショップ
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] Nonparametric Invertible Regression Between Closed Hypercubes2021

    • 著者名/発表者名
      奥野彰文, 今泉 允聡
    • 学会等名
      情報論的学習理論と機械学習ワークショップ
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] 汎関数分散を用いた過剰パラメータモデルの汎化誤差推定2021

    • 著者名/発表者名
      奥野彰文, 矢野 恵佑
    • 学会等名
      情報論的学習理論と機械学習ワークショップ
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] ランジュバン動力学を用いた過剰パラメータモデルの汎化ギャップ推定2021

    • 著者名/発表者名
      奥野彰文
    • 学会等名
      第6回 統計・機械学習若手シンポジウム
    • 関連する報告書
      2021 実施状況報告書
    • 招待講演
  • [学会発表] Nonparametric Link Regression and Its Theoretical Properties2021

    • 著者名/発表者名
      Okuno, Akifumi and Yano, Keisuke
    • 学会等名
      International Conference on Econometrics and Statistics
    • 関連する報告書
      2021 実施状況報告書
    • 国際学会
  • [学会発表] On estimating generalization gaps via the functional variance in overparameterized models2021

    • 著者名/発表者名
      Yano, Keisuke and Okuno, Akifumi
    • 学会等名
      International Conference of the ERCIM WG on Computational and Methodological Statistics
    • 関連する報告書
      2021 実施状況報告書
    • 国際学会
  • [学会発表] Minimax Analysis for Inverse Risk in Nonparametric Planer Invertible Regression2021

    • 著者名/発表者名
      Imaizumi, Masaaki and Okuno, Akifumi
    • 学会等名
      International Conference of the ERCIM WG on Computational and Methodological Statistics
    • 関連する報告書
      2021 実施状況報告書
    • 国際学会
  • [学会発表] Estimation of Invertible Functions2021

    • 著者名/発表者名
      Okuno, Akifumi
    • 学会等名
      ISI-ISM-ISSAS Joint Conference 2022
    • 関連する報告書
      2021 実施状況報告書
    • 国際学会
  • [備考] Greedy and Optimistic Clusteringの実験データとスクリプト

    • URL

      https://github.com/oknakfm/GOC

    • 関連する報告書
      2022 実施状況報告書

URL: 

公開日: 2021-04-28   更新日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi