• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

群論表現論を用いた深層ニューラルネットの研究

研究課題

研究課題/領域番号 20K03743
研究種目

基盤研究(C)

配分区分基金
応募区分一般
審査区分 小区分12040:応用数学および統計数学関連
研究機関京都大学 (2023)
国立研究開発法人理化学研究所 (2020-2022)

研究代表者

三内 顕義  京都大学, 理学研究科, 特定准教授 (10610595)

研究期間 (年度) 2020-04-01 – 2024-03-31
研究課題ステータス 完了 (2023年度)
配分額 *注記
4,420千円 (直接経費: 3,400千円、間接経費: 1,020千円)
2022年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
2021年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
2020年度: 1,560千円 (直接経費: 1,200千円、間接経費: 360千円)
キーワード深層学習 / 対称性 / 幾何学的深層学習 / グラフ理論 / 不変式論 / 群論 / メタ学習 / 構造的因果推論 / 深層ニューラルネット / 構造的因果モデル / 表現論
研究開始時の研究の概要

本研究計画はZaheerらの定義した対称性を持った深層ニューラルネットの理論を群論、表現論、不変式論の見地から一般化、精密化するものである。一般化の最初のステップとしてSnの自然表現の二階のテンソル作用を考える。これは作用として置換作用の自然な一般化でありながら、グラフを入力とする関数を考える時に自然に現れる存在でもある。Zaheer の場合もそうであるように、構成のキーとなるのは作用空間の対称代数の不変式論である。またこの不変式環にはグラフ理論的な意味づけを与えることができ、この視点からグラフ理論的に自然な不変式環の生成元を探し、それを元に深層ニューラルネットを構成する。

研究成果の概要

本研究は、Zaheerらの対称性を持つ深層ニューラルネットワークの理論を群論、表現論、不変式論の視点から一般化し、精密化しました。具体的には、Snの自然表現の二階テンソル作用を考察し、グラフを入力とする関数の一般化を達成しました。レイノルズ作用素を用いることで、通常のニューラルネットワークを対称性を持つ形に変換し、入力変数の削減も可能であることを発見しました。この成果は、計算効率の高いアルゴリズムの開発や、ソーシャルネットワーク解析などの多くの応用分野での利用が期待されます。研究結果はJMLRに掲載されました。

研究成果の学術的意義や社会的意義

本研究は、Zaheerらの対称性を持つ深層ニューラルネットワーク理論を群論、表現論、不変式論の視点から一般化し、精密化しました。学術的意義として、理論の拡張と深化、不変式論の応用、レイノルズ作用素の利用が挙げられます。これにより、深層学習モデルの設計に新たな視点が提供されました。社会的意義として、高効率なアルゴリズムの開発、グラフデータを扱う多分野での利用、技術の普及と教育の促進が期待されます。特に、ソーシャルネットワーク解析や交通ネットワーク解析などの応用分野での利用が進むことで、様々な社会課題の解決に寄与する可能性があります。

報告書

(5件)
  • 2023 実績報告書   研究成果報告書 ( PDF )
  • 2022 実施状況報告書
  • 2021 実施状況報告書
  • 2020 実施状況報告書
  • 研究成果

    (11件)

すべて 2024 2021 2020 その他

すべて 国際共同研究 (1件) 雑誌論文 (4件) (うち査読あり 4件、 オープンアクセス 1件) 学会発表 (5件) (うち国際学会 3件、 招待講演 1件) 備考 (1件)

  • [国際共同研究] Ecole Normale Superieure Paris-Saclay(フランス)

    • 関連する報告書
      2020 実施状況報告書
  • [雑誌論文] Invariant and Equivariant Reynolds Networks2024

    • 著者名/発表者名
      Akiyoshi Sannai, Makoto Kawano, Wataru Kumagai
    • 雑誌名

      journal of machine learning research

      巻: 25 ページ: 1-36

    • 関連する報告書
      2023 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Group Equivariant Conditional Neural Processes2021

    • 著者名/発表者名
      Makoto Kawano, Wataru Kumagai, Akiyoshi Sannai, Yusuke Iwasawa, Yutaka Matsuo
    • 雑誌名

      International Conference on Learning Representations

      巻: -

    • 関連する報告書
      2021 実施状況報告書 2020 実施状況報告書
    • 査読あり
  • [雑誌論文] On the number of linear functions composing deep neural network: Towards a refined definition of neural networks complexity2021

    • 著者名/発表者名
      Yuuki Takai, Akiyoshi Sannai, Matthieu Cordonnier
    • 雑誌名

      The 24th International Conference on Artificial Intelligence and Statistics

      巻: -

    • 関連する報告書
      2021 実施状況報告書 2020 実施状況報告書
    • 査読あり
  • [雑誌論文] Improved Generalization Bounds of Group Invariant / Equivariant Deep Networks via Quotient Feature Spaces2021

    • 著者名/発表者名
      Akiyoshi Sannai, Masaaki Imaizumi, Makoto Kawano
    • 雑誌名

      37th Conference on Uncertainty in Artificial Intelligence

      巻: -

    • 関連する報告書
      2021 実施状況報告書
    • 査読あり
  • [学会発表] Group Equivariant Conditional Neural Processes2021

    • 著者名/発表者名
      Makoto Kawano, Wataru Kumagai, Akiyoshi Sannai, Yusuke Iwasawa, Yutaka Matsuo
    • 学会等名
      International Conference on Learning Representations
    • 関連する報告書
      2021 実施状況報告書 2020 実施状況報告書
    • 国際学会
  • [学会発表] On the number of linear functions composing deep neural network: Towards a refined definition of neural networks complexity2021

    • 著者名/発表者名
      Yuuki Takai, Akiyoshi Sannai, Matthieu Cordonnier
    • 学会等名
      The 24th International Conference on Artificial Intelligence and Statistics
    • 関連する報告書
      2021 実施状況報告書 2020 実施状況報告書
    • 国際学会
  • [学会発表] Improved Generalization Bounds of Group Invariant / Equivariant Deep Networks via Quotient Feature Spaces2021

    • 著者名/発表者名
      Akiyoshi Sannai, Masaaki Imaizumi, Makoto Kawano
    • 学会等名
      37th Conference on Uncertainty in Artificial Intelligence
    • 関連する報告書
      2021 実施状況報告書
    • 国際学会
  • [学会発表] 対称性を持つ深層学習2021

    • 著者名/発表者名
      三内顕義
    • 学会等名
      東京大学大学院数理科学研究科情報数学セミナー
    • 関連する報告書
      2020 実施状況報告書
    • 招待講演
  • [学会発表] 群畳み込みニューラルネットワークによる同変的写像の普遍近似定理2020

    • 著者名/発表者名
      熊谷亘、三内顕義
    • 学会等名
      統計関連学会連合大会
    • 関連する報告書
      2020 実施状況報告書
  • [備考] AISTATS2021

    • URL

      https://aistats.org/aistats2021/

    • 関連する報告書
      2020 実施状況報告書

URL: 

公開日: 2020-04-28   更新日: 2025-01-30  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi