• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2023 年度 実績報告書

ダイナミクスの確率的記述と推論により拓く新しいデータ科学

計画研究

研究領域データ記述科学の創出と諸分野への横断的展開
研究課題/領域番号 22H05106
研究機関統計数理研究所

研究代表者

福水 健次  統計数理研究所, 先端データサイエンス研究系, 教授 (60311362)

研究分担者 下平 英寿  京都大学, 情報学研究科, 教授 (00290867)
河原 吉伸  大阪大学, 大学院情報科学研究科, 教授 (00514796)
横井 祥  東北大学, 情報科学研究科, 助教 (60888949)
研究期間 (年度) 2022-06-16 – 2027-03-31
キーワード人工知能 / ダイナミクス / 統計科学 / 時系列解析
研究実績の概要

2023年度の研究実績は以下のとおりである.
〇データの生成過程と関連性の幾何的な記述: 自然言語の統計的な生成過程の研究として,単語のコーパス分布を事前分布,文脈における分布を事後分布ととらえ,さまざまな演算を指数型分布族の観点から自然に解釈できることを示した.分布外汎化をもたらすデータの生成過程に関して研究を行い,Invariant Risk Minimizationの方法が正しく動作するための条件を明らかにした.
〇データの位相的情報を抽出する記述言語: パーシステントホモロジーに関して,同一なパーシステント図を与える分布の同値類に関して研究を行い,パーシステント図では判別がつかない分布のクラスを明らかにした.また,グラフ上の非正規化分布に対する最適輸送の効率的アルゴリズムに関して研究を行った.
〇確率的なダイナミクスによるデータの記述と推論: 微分方程式を用いた生成モデルであるフローマッチングの方法に関して,条件付分布からの生成法に関して新たな理論と方法を構築した.また,状態空間モデルにおいて尤度が陽にかけない場合のパラメータ推定の方法に関して研究を行った.さらに,群の作用によって遷移する時系列データを用いて,Autoencoderタイプの深層学習によって非線形なフーリエ変換を学習によって求める方法を開発した.また,クープマン作用素を介した動力学のデータ解析に関して研究を進め,スペクトル構造などさまざまな性質を明らかにした.

現在までの達成度 (区分)
現在までの達成度 (区分)

1: 当初の計画以上に進展している

理由

計画に沿って研究成果が得られており,それらの成果がICLR, ICML, EMNLP, ACLなど当該分野で高い評価を受ける国際会議論文として採択されていることから,計画以上に進展していると判断できる.

今後の研究の推進方策

現在行っている研究を継続して発展させるとともに,最近の研究動向を反映して,状態空間モデルを用いた大規模基盤モデルなどの理論,方法の研究や,微分方程式を用いた生成モデルの研究など,新しい分野を開拓する研究も推進していく.

  • 研究成果

    (36件)

すべて 2024 2023 その他

すべて 国際共同研究 (3件) 雑誌論文 (13件) (うち国際共著 4件、 査読あり 13件、 オープンアクセス 11件) 学会発表 (20件) (うち国際学会 5件、 招待講演 4件)

  • [国際共同研究] Newcastle University(英国)

    • 国名
      英国
    • 外国機関名
      Newcastle University
  • [国際共同研究] Pennsylvania State University(米国)

    • 国名
      米国
    • 外国機関名
      Pennsylvania State University
  • [国際共同研究] National University of Singapore(シンガポール)

    • 国名
      シンガポール
    • 外国機関名
      National University of Singapore
  • [雑誌論文] Out-of-Distribution Optimality of Invariant Risk Minimization2024

    • 著者名/発表者名
      Shoji Toyota, Kenji Fukumizu
    • 雑誌名

      Transactions on Machine Learning Research

      巻: 2835-8856 ページ: 1-12

    • 査読あり / オープンアクセス
  • [雑誌論文] Decentralized policy learning with partial observation and mechanical constraints for multiperson modeling2024

    • 著者名/発表者名
      Keisuke Fujii, Naoya Takeishi, Yoshinobu Kawahara, Kazuya Takeda
    • 雑誌名

      Neural Networks

      巻: 171 ページ: 40-52

    • DOI

      10.1016/j.neunet.2023.11.068

    • 査読あり / オープンアクセス
  • [雑誌論文] 3D Rotation and Translation for Hyperbolic Knowledge Graph Embedding2024

    • 著者名/発表者名
      Yihua Zhu, Hidetoshi Shimodaira
    • 雑誌名

      Proceedings of the 18th Conference of the European Chapter of the Association for Computational Linguistics

      巻: 1 ページ: 1497-1515

    • 査読あり / オープンアクセス
  • [雑誌論文] A kernel Stein test for comparing latent variable models2023

    • 著者名/発表者名
      Heishiro Kanagawa, Wittawat Jitkrittum, Lester Mackey, Kenji Fukumizu, Arthur Gretton
    • 雑誌名

      Journal of the Royal Statistical Society Series B

      巻: 85 ページ: 986-1011

    • DOI

      10.1093/jrsssb/qkad050

    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Estimation with infinite-dimensional exponential family and Fisher divergence2023

    • 著者名/発表者名
      Fukumizu Kenji
    • 雑誌名

      Information Geometry

      巻: 7 ページ: 609-622

    • DOI

      10.1007/s41884-023-00122-z

    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Scalable Unbalanced Sobolev Transport for Measures on a Graph2023

    • 著者名/発表者名
      Le Tam, Nguyen Truyen, Kenji Fukumizu
    • 雑誌名

      Proceedings of The 26th International Conference on Artificial Intelligence and Statistics

      巻: 206 ページ: 8521-8560

    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Controlling Posterior Collapse by an Inverse Lipschitz Constraint on the Decoder Network2023

    • 著者名/発表者名
      Yuri Kinoshita, Kenta Oono, Kenji Fukumizu, Yuichi Yoshida, Shin-Ichi Maeda
    • 雑誌名

      Proceedings of the 40th International Conference on Machine Learning

      巻: 202 ページ: 17041-17060

    • 査読あり / 国際共著
  • [雑誌論文] Neural dynamic mode decomposition for end-to-end modeling of nonlinear dynamics2023

    • 著者名/発表者名
      Tomoharu Iwata, Yoshinobu Kawahara
    • 雑誌名

      Journal of Computational Dynamics

      巻: 10 ページ: 268-280

    • DOI

      10.3934/jcd.2022029

    • 査読あり / オープンアクセス
  • [雑誌論文] Stable invariant models via Koopman spectra2023

    • 著者名/発表者名
      Takuya Konishi, Yoshinobu Kawahara
    • 雑誌名

      Neural Networks

      巻: 165 ページ: 393-405

    • DOI

      10.1016/j.neunet.2023.05.040

    • 査読あり
  • [雑誌論文] Dynamic mode decomposition for Koopman spectral analysis of elementary cellular automata2023

    • 著者名/発表者名
      Keisuke Taga, Yuzuru Kato, Yoshihiro Yamazaki, Yoshinobu Kawahara, Hiroya Nakao
    • 雑誌名

      Chaos

      巻: 34 ページ: 13125

    • DOI

      10.1063/5.0159069

    • 査読あり / オープンアクセス
  • [雑誌論文] Improving word mover's distance by leveraging self-attention matrix2023

    • 著者名/発表者名
      Yamagiwa Hiroaki, Yokoi Sho, Shimodaira Hidetoshi
    • 雑誌名

      Findings of the Association for Computational Linguistics: EMNLP 2023

      巻: 1 ページ: 11160-11183

    • DOI

      10.18653/v1/2023.findings-emnlp.746

    • 査読あり / オープンアクセス
  • [雑誌論文] Norm of Word Embedding Encodes Information Gain2023

    • 著者名/発表者名
      Oyama Momose, Yokoi Sho, Shimodaira Hidetoshi
    • 雑誌名

      Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing

      巻: 1 ページ: 2108-2130

    • DOI

      10.18653/v1/2023.emnlp-main.131

    • 査読あり / オープンアクセス
  • [雑誌論文] Discovering Universal Geometry in Embeddings with ICA2023

    • 著者名/発表者名
      Yamagiwa Hiroaki, Oyama Momose, Shimodaira Hidetoshi
    • 雑誌名

      Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing

      巻: 1 ページ: 4647-4675

    • DOI

      10.18653/v1/2023.emnlp-main.283

    • 査読あり / オープンアクセス
  • [学会発表] Machine Learning with Group Theory2024

    • 著者名/発表者名
      福水健次
    • 学会等名
      The Machine Learning Summer School in Okinawa 2024
    • 国際学会 / 招待講演
  • [学会発表] 人工知能の謎に迫る -- 数理によるアプローチ --2024

    • 著者名/発表者名
      福水健次
    • 学会等名
      N高等学校/S高等学校研究部特別講演
    • 招待講演
  • [学会発表] 依存関係の大きさは意味の関連性を表す2024

    • 著者名/発表者名
      大山百々勢, 山際宏明, 下平英寿
    • 学会等名
      言語処理学会第30回年次大会(NLP2024)
  • [学会発表] 大規模言語モデルにおける幻覚緩和のための単語確率の外挿2024

    • 著者名/発表者名
      何昀臻,高瀬侑亮,石橋陽一,下平英寿
    • 学会等名
      言語処理学会第30回年次大会(NLP2024)
  • [学会発表] Scalable Unbalanced Sobolev Transport for Measures on a Graph2023

    • 著者名/発表者名
      Le Tam, Nguyen Truyen, Kenji Fukumizu
    • 学会等名
      The 26th International Conference on Artificial Intelligence and Statistics (AISTATS 2023)
    • 国際学会
  • [学会発表] 粗いラベルによるInvariant Risk Minimization2023

    • 著者名/発表者名
      豊田祥史
    • 学会等名
      電子情報通信学会九州支部講演会
  • [学会発表] Solving Choice-Based Linear Programs in Huge Scale2023

    • 著者名/発表者名
      Donghao Zhu, Hanzhang Qin, Kenji Fukumizu
    • 学会等名
      Informs Annual Meeting
    • 国際学会
  • [学会発表] Out-of-Distribution Optimality of Invariant Risk Minimization2023

    • 著者名/発表者名
      豊田 祥史, 福水健次
    • 学会等名
      第26回情報論的学習理論ワークショップ
  • [学会発表] Invariant Risk Minimization の分布外最適性2023

    • 著者名/発表者名
      豊田 祥史
    • 学会等名
      統計サマーセミナー2023
  • [学会発表] Invariant Risk Minimization の分布外最適性2023

    • 著者名/発表者名
      豊田 祥史
    • 学会等名
      2023年度統計関連学会連合大会
  • [学会発表] 群の表現を用いた時系列からの情報抽出2023

    • 著者名/発表者名
      福水健次
    • 学会等名
      機械学習と複素幾何に関するワークショップ
  • [学会発表] JetDMD: Rigged再生核Hilbert空間におけるデータ駆動型Koopman固有展開2023

    • 著者名/発表者名
      石川勳, 橋本悠香, 池田正弘, 河原吉伸
    • 学会等名
      第26回情報論的学習理論ワークショップ
  • [学会発表] 動的モード分解を利用した時系列データの連続スペクトル構造の解析2023

    • 著者名/発表者名
      坂田逸志, 河原吉伸
    • 学会等名
      第26回情報論的学習理論ワークショップ
  • [学会発表] クープマン作用素を介した動力学のデータ解析と機械学習2023

    • 著者名/発表者名
      河原吉伸
    • 学会等名
      計測自動制御学会制御部門 低次元モデルに基づく先進的流体制御研究調査会 第二回研究会
    • 招待講演
  • [学会発表] Koopman作用素の学習とデータ駆動によるダイナミクス解析への応用2023

    • 著者名/発表者名
      河原吉伸
    • 学会等名
      データ駆動科学の最新展開:Koopman作用素の理論から宇宙工学、流体制御まで
    • 招待講演
  • [学会発表] ランジュバンモンテカルロ法を用いた単語埋め込みのベイズ推論2023

    • 著者名/発表者名
      橋本竜馬, 下平英寿
    • 学会等名
      2023年度統計関連学会連合大会
  • [学会発表] Hyperbolic space operations and general representations of relation and entity for knowledge graph embedding2023

    • 著者名/発表者名
      Zhu Yihua, Hidetoshi Shimodaira
    • 学会等名
      第26回情報論的学習理論ワークショップ (IBIS2023)
  • [学会発表] 独立成分に基づく埋め込み表現の解釈と普遍的形状の解明2023

    • 著者名/発表者名
      大山百々勢, 山際宏明, 下平英寿
    • 学会等名
      第26回情報論的学習理論ワークショップ (IBIS2023)
  • [学会発表] Transformer Language Models Handle Word Frequency in Prediction Head2023

    • 著者名/発表者名
      Goro Kobayashi, Tatsuki Kuribayashi, Sho Yokoi, Kentaro Inui
    • 学会等名
      The 61st Annual Meeting of the Association for Computational Linguistics (ACL)
    • 国際学会
  • [学会発表] Contrastive Learning-based Sentence Encoders Implicitly Weight Informative Words2023

    • 著者名/発表者名
      Hiroto Kurita, Goro Kobayashi, Sho Yokoi, Kentaro Inui
    • 学会等名
      The 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP)
    • 国際学会

URL: 

公開日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi