• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

情報幾何学に基づく転移学習の解析と深化

研究課題

研究課題/領域番号 23K24909
補助金の研究課題番号 22H03653 (2022-2023)
研究種目

基盤研究(B)

配分区分基金 (2024)
補助金 (2022-2023)
応募区分一般
審査区分 小区分61030:知能情報学関連
研究機関統計数理研究所

研究代表者

日野 英逸  統計数理研究所, 先端データサイエンス研究系, 教授 (10580079)

研究分担者 藤木 淳  福岡大学, 理学部, 教授 (10357907)
赤穗 昭太郎  統計数理研究所, 大学統計教員育成センター, 特任教授 (40356340)
村田 昇  早稲田大学, 理工学術院, 教授 (60242038)
研究期間 (年度) 2022-04-01 – 2027-03-31
研究課題ステータス 交付 (2024年度)
配分額 *注記
16,510千円 (直接経費: 12,700千円、間接経費: 3,810千円)
2026年度: 3,510千円 (直接経費: 2,700千円、間接経費: 810千円)
2025年度: 4,030千円 (直接経費: 3,100千円、間接経費: 930千円)
2024年度: 4,030千円 (直接経費: 3,100千円、間接経費: 930千円)
2023年度: 3,380千円 (直接経費: 2,600千円、間接経費: 780千円)
2022年度: 1,560千円 (直接経費: 1,200千円、間接経費: 360千円)
キーワード情報幾何学 / 機械学習 / 転移学習 / 情報幾何
研究開始時の研究の概要

機械学習の諸手法を実問題に適用することを考えるとき、学習データと実運用データの性質が異なる場合が多い。このギャップを埋め、機械学習を広げるために転移学習が必要である。本研究では転移学習のメカニズムを情報幾何学から解明し、共変量シフトやターゲットシフトの問題を幾何学的に統一的に理解する。新しいアルゴリズムを開発し、知識転移の条件を分析し、転移学習の新しい方法を構築する。地球科学や脳神経科学などの現実データへの応用を通じて、地域性・個別性の高いデータから普遍的法則を抽出する新たな方法論を提供することを目指す。

研究実績の概要

学習データと運用データの分布が異なることは一般的であり,このギャップを埋めるために転移学習が不可欠である.転移元と転移先のデータ分布のギャップが大きい場合は転移学習は困難となるが,補助的に中間ドメインの情報が得られる状況がある.こうした状況は転移が「段階的に」生じるという仮定をしていることになり,「段階的ドメイン適応」の方法論が研究されている.2023年度は,マルチフィデリティ能動学習を応用した段階的ドメイン適応手法を開発し,論文を発表した.また,能動学習においてデータ分布の乖離度を測るダイバージェンスは重要な役割を果たすが,サンプル数が限られている能動学習の問題設定ではその推定が不安定になりうる.そこで,外れ値的なデータの混入にロバストなダイバージェンスを提案し,それを能動学習に応用した.本結果も論文を発表している.さらに,ソースドメインとターゲットドメイン間の大きな距離による予測性能の低下を克服するために,異なる次元のデータ間でドメイン適応を行うための最適輸送ベースの転移学習手法の研究に着手した.

現在までの達成度 (区分)
現在までの達成度 (区分)

1: 当初の計画以上に進展している

理由

2023年度の研究計画として挙げた,マルチフィデリティとアクティブドメイン適応を組み合わせたフレームワークについては論文を発表することが出来た.その発展として,ソースドメインとターゲットドメインの間を生成モデルで結びつける新たな段階的ドメイン適応手法を研究し,論文投稿まで行うことが出来た.また,同じく2023年度の研究計画として挙げた,ターゲットドメインとソースドメインでデータの次元が異なる状況でのドメイン適応についても,両ドメインに共通の特徴とターゲットドメインの新しい特徴を考慮し,最適輸送問題としてドメイン適応を定式化する新しい方法論を開発し,理論的な解析を行い自明でない結果を得た.こうした計画に沿った成果の他にも,最適輸送理論に基づく因果推論に関する成果や,集合関数に対するBregman divergenceの定義に関する初期検討など,本研究課題に深く関連しつつ,当初の予定では想像していなかった意味のある問題を発掘し,解決の糸口を掴むことが出来た.

今後の研究の推進方策

昨年度に引き続き,主に転移学習を対象として情報幾何学的な解析からその理論と応用に関する研究を推し進める.また,昨年度発足させた情報幾何学的な課題についても積極的に研究を進め,幾何学的な観点からの転移学習の理解を深める.具体的には,集合関数上のBregman divergenceの定義と学習を離散凸解析の観点を含めて進めることと,新規変数が観測される状況での最適輸送理論に基づくドメイン適応の研究を中心に行う.

報告書

(2件)
  • 2023 実績報告書
  • 2022 実績報告書
  • 研究成果

    (17件)

すべて 2024 2023 2022

すべて 雑誌論文 (8件) (うち国際共著 2件、 査読あり 8件、 オープンアクセス 7件) 学会発表 (8件) (うち国際学会 1件) 図書 (1件)

  • [雑誌論文] Minorization-Maximization for Learning Determinantal Point Processes2023

    • 著者名/発表者名
      Takahiro Kawashima , Hideitsu Hino
    • 雑誌名

      Transactions on Machine Learning Research

      巻: - ページ: 1-18

    • 関連する報告書
      2023 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] ATNAS: Automatic Termination for Neural Architecture Search2023

    • 著者名/発表者名
      Sakamoto Kotaro、Ishibashi Hideaki、Sato Rei、Shirakawa Shinichi、Akimoto Youhei、Hino Hideitsu
    • 雑誌名

      Neural Networks

      巻: 166 ページ: 446-458

    • DOI

      10.1016/j.neunet.2023.07.011

    • 関連する報告書
      2023 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Information-Based Probabilistic Verification Scores for Two-Dimensional Ensemble Forecast Data: A Madden-Julian Oscillation Index Example2023

    • 著者名/発表者名
      Takaya Yuhei、Komatsu Kensuke K.、Hino Hideitsu、Frederic Vitart
    • 雑誌名

      Monthly Weather Review

      巻: 151 号: 9 ページ: 2245-2255

    • DOI

      10.1175/mwr-d-23-0003.1

    • 関連する報告書
      2023 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Information Geometrically Generalized Covariate Shift Adaptation2022

    • 著者名/発表者名
      Kimura Masanari、Hino Hideitsu
    • 雑誌名

      Neural Computation

      巻: 34 号: 9 ページ: 1944-1977

    • DOI

      10.1162/neco_a_01526

    • 関連する報告書
      2022 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Extracting the geochemical characteristics of magmas in different global tectono-magmatic settings using sparse modeling2022

    • 著者名/発表者名
      Ueki Kenta、Hino Hideitsu、Kuwatani Tatsu
    • 雑誌名

      Frontiers in Earth Science

      巻: 10 ページ: 994580-994580

    • DOI

      10.3389/feart.2022.994580

    • 関連する報告書
      2022 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Subduction-zone parameters that control slab behavior at the 660-km discontinuity revealed by logistic regression analysis and model selection2022

    • 著者名/発表者名
      Nakao Atsushi、Kuwatani Tatsu、Ueki Kenta、Yoshida Kenta、Yutani Taku、Hino Hideitsu、Akaho Shotaro
    • 雑誌名

      Frontiers in Earth Science

      巻: 10

    • DOI

      10.3389/feart.2022.1008058

    • 関連する報告書
      2022 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Geometry of EM and related iterative algorithms2022

    • 著者名/発表者名
      Hino Hideitsu、Akaho Shotaro、Murata Noboru
    • 雑誌名

      Information Geometry

      巻: - 号: S1 ページ: 39-77

    • DOI

      10.1007/s41884-022-00080-y

    • 関連する報告書
      2022 実績報告書
    • 査読あり
  • [雑誌論文] Active learning by query by committee with robust divergences2022

    • 著者名/発表者名
      Hideitsu Hino, Shinto Eguchi
    • 雑誌名

      Information Geometry

      巻: 6 号: 1 ページ: 1-29

    • DOI

      10.1007/s41884-022-00081-x

    • 関連する報告書
      2022 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [学会発表] Neural Submodular Bregman Divergences2023

    • 著者名/発表者名
      木村正成 , 川島貴大 , 相馬輔 , 日野英逸
    • 学会等名
      第26回情報論的学習理論ワークショップ(IBIS2023)
    • 関連する報告書
      2023 実績報告書
  • [学会発表] グラフ上の距離を用いたFused Gromov-Wasserstein最適輸送による変数の拡張に対するドメイン適応2023

    • 著者名/発表者名
      有竹俊光 , 日野英逸
    • 学会等名
      第26回情報論的学習理論ワークショップ(IBIS2023)
    • 関連する報告書
      2023 実績報告書
  • [学会発表] 多次元項目応答理論における,非補償型-補償型の誤特定下での推定分散について2023

    • 著者名/発表者名
      玉野浩嗣 , 日野英逸 , 持橋大地
    • 学会等名
      日本行動計量学会第51回大会
    • 関連する報告書
      2023 実績報告書
  • [学会発表] 生成モデルを活用する段階的ドメイン適応2023

    • 著者名/発表者名
      佐川 正悟 , 日野 英逸
    • 学会等名
      2023年度 人工知能学会全国大会(第37回)
    • 関連する報告書
      2023 実績報告書
  • [学会発表] A stopping criterion for Bayesian optimization by the gap of expected minimum simple regrets2023

    • 著者名/発表者名
      Hideaki Ishibashi , Masayuki Karasuyama , Ichiro Takeuchi , Hideitsu Hino
    • 学会等名
      The 26th International Conference on Artificial Intelligence and Statistics (AISTATS2023)
    • 関連する報告書
      2023 実績報告書
    • 国際学会
  • [学会発表] Normalizing Flowを用いた段階的ドメイン適応2023

    • 著者名/発表者名
      佐川正悟,日野英逸
    • 学会等名
      第25回情報論的学習理論ワークショップ
    • 関連する報告書
      2022 実績報告書
  • [学会発表] 沈み込むプレートのペネトレーション/スタグネーションと沈み込み帯パラメタを関係づける回帰分析とモデル選択2022

    • 著者名/発表者名
      中尾篤史,桑谷立,上木賢太,吉田健太,油谷拓,日野英逸,赤穂昭太郎
    • 学会等名
      日本地球惑星連合大会
    • 関連する報告書
      2022 実績報告書
  • [学会発表] Multifidelity能動学習を用いた段階的ドメイン適応2022

    • 著者名/発表者名
      佐川正悟,日野英逸
    • 学会等名
      第46回IBISML研究会
    • 関連する報告書
      2022 実績報告書
  • [図書] マテリアル・機械学習・ロボット(現代化学増刊48), ベイズ最適化の停止基準2024

    • 著者名/発表者名
      日野英逸
    • 総ページ数
      4
    • 出版者
      株式会社 東京化学同人
    • 関連する報告書
      2023 実績報告書

URL: 

公開日: 2022-04-19   更新日: 2024-12-25  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi