• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2021 年度 実績報告書

ポスト深層学習時代を見据えた深層ニューラルネットの輸送理論解析

研究課題

研究課題/領域番号 18K18113
研究機関国立研究開発法人理化学研究所

研究代表者

園田 翔  国立研究開発法人理化学研究所, 革新知能統合研究センター, 研究員 (00801218)

研究期間 (年度) 2018-04-01 – 2022-03-31
キーワードニューラルネット / リッジレット変換 / 零空間 / 調和解析 / Neural ODE / 量子機械学習 / 連続神経場
研究実績の概要

本研究課題では,深層ニューラルネットの輸送解釈と積分表現理論の観点からポスト深層学習に向けた技術開発を図る.特に,ブラックボックスとも呼ばれる深層ニューラルネットの情報処理メカニズムを明らかにする,「ニューラルネットのホワイトボックス化」を念頭に置いて研究を遂行している.(1) 愛媛大石川氏・理研AIP池田氏と共同研究を実施し,隠れ1層の全結合型ニューラルネットがもつ零空間の構造を決定した.零空間は1つの関数列を記録できるほど大きいことを明らかにした.また,零空間から像空間に情報を出し入れする方法の原理を発見した.(2) 石川氏・池田氏と一般空間上のニューラルネットを定式化し,対応するリッジレット変換を導出した.具体的には,多様体(非コンパクト対称空間)上の全結合層,群上の畳み込み層,高次元アフィン型の全結合層.ニューラルネットを幾何学的・群論的に捉え直すことで,多様な隠れ層に対するリッジレット変換を統一的な手続きで導出した.リッジレット変換の用途はフーリエ変換と同様に多岐に渡る.得られた結果の一部を解析学の国際会議(ISAAC2021)および機械学習の国際学会(ICML2022, MaxEnt2022)にて発表(一部予定).(3) 東京大Massaroli氏・鈴木氏らと共同研究を実施し,Neural ODEの順伝播計算を加速する方法を開発した.機械学習の国際学会(NeurIPS2021)にて発表.(4) IQOQI Vienna山崎氏らと共同研究を実施し,クラス判別問題を効率的に計算するための量子計算アルゴリズムを開発した.量子情報処理の国際会議(AQIS2021,QTML2021)にて発表.(5) 理研甘利氏らと共同研究を実施し,NTK理論を応用して連続神経場の学習ダイナミクスを計算した.一連の研究結果を雑誌論文として投稿中.

  • 研究成果

    (19件)

すべて 2022 2021 その他

すべて 国際共同研究 (3件) 雑誌論文 (2件) (うち国際共著 1件、 査読あり 2件、 オープンアクセス 2件) 学会発表 (13件) (うち国際学会 6件、 招待講演 2件) 学会・シンポジウム開催 (1件)

  • [国際共同研究] 浙江師範大学(中国)

    • 国名
      中国
    • 外国機関名
      浙江師範大学
  • [国際共同研究] IQOQI Vienna(オーストリア)

    • 国名
      オーストリア
    • 外国機関名
      IQOQI Vienna
  • [国際共同研究] Oxford University/Alan Turing Institute(英国)

    • 国名
      英国
    • 外国機関名
      Oxford University/Alan Turing Institute
  • [雑誌論文] Fully-Connected Network on Noncompact Symmetric Space and Ridgelet Transform based on Helgason-Fourier Analysis2022

    • 著者名/発表者名
      Sho Sonoda, Isao Ishikawa, Masahiro Ikeda
    • 雑誌名

      Proceedings of the 39th International Conference on Machine Learning

      巻: - ページ: -

    • 査読あり / オープンアクセス
  • [雑誌論文] Differentiable Multiple Shooting Layers2021

    • 著者名/発表者名
      Stefano Massaroli, Michael Poli, Sho Sonoda, Taiji Suzuki, Jinkyoo Park, Atsushi Yamashita, Hajime Asama
    • 雑誌名

      Advances in Neural Information Processing Systems

      巻: 34 ページ: 16532-16544

    • 査読あり / オープンアクセス / 国際共著
  • [学会発表] Fully-Connected Network on Noncompact Symmetric Space and Ridgelet Transform based on Helgason-Fourier Analysis2022

    • 著者名/発表者名
      Sho Sonoda, Isao Ishikawa, Masahiro Ikeda
    • 学会等名
      The 39th International Conference on Machine Learning (ICML2022)
    • 国際学会
  • [学会発表] Differentiable Multiple Shooting Layers2021

    • 著者名/発表者名
      Stefano Massaroli, Michael Poli, Sho Sonoda, Taiji Suzuki, Jinkyoo Park, Atsushi Yamashita, Hajime Asama
    • 学会等名
      The 35th Neural Information Processing Systems (NeurIPS 2021)
    • 国際学会
  • [学会発表] Quantum algorithm for sampling optimal random features2021

    • 著者名/発表者名
      S.Sonoda, H. Yamasaki, S. Subramanian, and M. Koashi
    • 学会等名
      RQC-AIP Joint Seminar
    • 国際学会
  • [学会発表] Regression and Classification with Optimized Random Features: Applications of Exponential Speedup by Quantum Machine Learning without Sparsity and Low-Rankness Assumptions2021

    • 著者名/発表者名
      H. Yamasaki, S. Subramanian, S. Sonoda and M. Koashi
    • 学会等名
      Quantum Techniques in Machine Learning (QTML) 2021
    • 国際学会
  • [学会発表] Regression and Classification with Optimized Random Features: Applications of Exponential Speedup by Quantum Machine Learning without Sparsity and Low-Rankness Assumptions2021

    • 著者名/発表者名
      H. Yamasaki, S. Subramanian, S. Sonoda and M. Koashi
    • 学会等名
      21th Asian Quantum Information Science Conference (AQIS2021)
    • 国際学会
  • [学会発表] Ridgelet transform on the matrix space2021

    • 著者名/発表者名
      S.Sonoda, I.Ishikawa, M.Ikeda
    • 学会等名
      13th International ISAAC Congress
    • 国際学会
  • [学会発表] 非コンパクト対称空間上の連続ニューラルネットとそのリッジレット変換2021

    • 著者名/発表者名
      園田翔, 石川勲, 池田正弘
    • 学会等名
      2021年度応用数学合同研究集会
  • [学会発表] 群畳み込みニューラルネットのリッジレット変換2021

    • 著者名/発表者名
      園田翔, 石川勲, 池田正弘
    • 学会等名
      第24回 情報論的学習理論ワークショップ(IBIS2021)
  • [学会発表] 重み付きSobolev空間におけるニューラルネット積分表現作用素の有界性2021

    • 著者名/発表者名
      園田翔, 石川勲, 池田正弘
    • 学会等名
      実解析学シンポジウム2021
  • [学会発表] 積分表現ニューラルネットが定める積分方程式の一般解2021

    • 著者名/発表者名
      園田翔, 石川勲, 池田正弘
    • 学会等名
      日本応用数理学会2021年度年会
  • [学会発表] ニューラルネットの零空間の精密構造と統計的役割2021

    • 著者名/発表者名
      園田翔, 石川勲, 池田正弘
    • 学会等名
      2021年度 統計関連学会連合大会
  • [学会発表] 積分表現でニューラルネットを理解する2021

    • 著者名/発表者名
      園田翔
    • 学会等名
      2021年度第5回マス・フォア・イノベーションセミナー
    • 招待講演
  • [学会発表] Ghosts in Neural Networks2021

    • 著者名/発表者名
      園田翔
    • 学会等名
      第1回AI数理セミナー
    • 招待講演
  • [学会・シンポジウム開催] Quantum Machine Learning Seminar2021

URL: 

公開日: 2022-12-28  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi