研究課題/領域番号 |
21K17718
|
研究種目 |
若手研究
|
配分区分 | 基金 |
審査区分 |
小区分60030:統計科学関連
|
研究機関 | 統計数理研究所 |
研究代表者 |
奥野 彰文 統計数理研究所, 統計基盤数理研究系, 助教 (40897972)
|
研究期間 (年度) |
2021-04-01 – 2025-03-31
|
研究課題ステータス |
交付 (2023年度)
|
配分額 *注記 |
4,550千円 (直接経費: 3,500千円、間接経費: 1,050千円)
2024年度: 910千円 (直接経費: 700千円、間接経費: 210千円)
2023年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円)
2022年度: 1,170千円 (直接経費: 900千円、間接経費: 270千円)
2021年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
|
キーワード | ニューラルネット / 確率的最適化 / 過剰パラメータ / 汎化ギャップ / 不確実性 / 収束レート / 関連性データ解析 / ノンパラメトリック統計 |
研究開始時の研究の概要 |
回帰分析など既存のノンパラメトリック統計解析と異なり,属性付き関連性データ解析では属性ベクトルがRandom Design, Fixed Designのどちらに従うかによって予測値の分散が大きく異なってしまう.そこで本研究は,属性付き関連性データ解析の統計理論を構築し,属性付き関連性データ解析に適切な予測モデルを特定するとともに,その予測の信頼度を数理・実験の両面から評価し補正することを目的とする.
|
研究実績の概要 |
一般の設定においてニューラルネットなど万能近似能力を持つモデルを推定する場合に,入力と出力が可逆であるという制約をかけるとどの程度推定が難しくなるのか理論的に評価した結果が数理統計学の国際誌であるElectronic Journal of Statisticsに採択された.またニューラルネットを利用した順序回帰についての結果が計算機統計学の著名な国際誌であるJournal of Computational and Graphical Statisticsに採択された.力学系の予測問題について,緩和時系列を導入することで,よりシンプルなモデルで複雑な力学系を予測できる場合があることを示した論文がIEEE Accessに採択された.また申請者が以前出版した,リンク予測問題のロバスト化 (Okuno and Shimodaira, AISTATS2019)で利用したロバストダイバージェンスについて,より一般の確率モデルを利用した場合の効率的な最適化法についての結果がAnnals of the Institute of Statistical Mathematics (AISM)に採択された.AISMに採択された結果を利用し,ニューラルネットワークの新しい正則化法について議論した結果をプレプリント(arXiv:2308.02293)として公開している.
これらの研究成果について,日本統計学会連合大会および情報論的学習理論ワークショップなどで講演したほか,CMStatisticsなど3件の国際学会/ワークショップで英語での講演を行った.また得られた研究成果について,日本語での解説をJxiv.537, Jxiv.549, Jxiv.616, Jxiv.642などに公開している.
|
現在までの達成度 (区分) |
現在までの達成度 (区分)
1: 当初の計画以上に進展している
理由
計算機統計および数理統計の著名な国際学術誌であるJournal of Computational and Graphical StatisticsやElectronic Journal of Statisticsにそれぞれ主著論文が採択されたほか,IEEE Access, AISMにもそれぞれ主著論文が採択され,また単著のプレプリントを2件公開した.国際会議・国内会議それぞれで講演を行い,情報論的学習理論ワークショップ(IBIS2023)では優秀プレゼンテーション賞として表彰されている.これまでに執筆した論文の日本語での解説も4件公開し,当初の計画以上に進展していると考えている.
|
今後の研究の推進方策 |
昨年度に引き続き,ニューラルネットなど表現能力の高いモデルを用いた統計的推定の研究を進める.申請書に記述したグラフ埋め込み・リンク予測を利用する共同研究が進行中であり,リンク予測で利用したデータの相関構造を利用したクラスタリング法の基礎科学系研究への応用も進行中である.これらの共同研究を今後も精力的に進めるほか,前年度に投稿したニューラルネットの正則化に関する結果をリンク予測の問題などにも適用したいと考えている.
|