• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

深層ニューラルネットワークにおけるカオス的ダイナミクスの解析と情報処理への応用

研究課題

研究課題/領域番号 20K11985
研究種目

基盤研究(C)

配分区分基金
応募区分一般
審査区分 小区分61040:ソフトコンピューティング関連
研究機関福岡工業大学

研究代表者

山口 裕  福岡工業大学, 情報工学部, 助教 (80507236)

研究分担者 奈良 重俊  岡山大学, 自然科学研究科, 特命教授 (60231495)
津田 一郎  中部大学, 創発学術院, 教授 (10207384)
研究期間 (年度) 2020-04-01 – 2023-03-31
研究課題ステータス 完了 (2022年度)
配分額 *注記
4,420千円 (直接経費: 3,400千円、間接経費: 1,020千円)
2022年度: 910千円 (直接経費: 700千円、間接経費: 210千円)
2021年度: 1,170千円 (直接経費: 900千円、間接経費: 270千円)
2020年度: 2,340千円 (直接経費: 1,800千円、間接経費: 540千円)
キーワード深層学習 / カオス / 連想記憶 / 敵対生成ネットワーク / 畳み込みネットワーク / 敵対生成モデル / cycleGAN / リアプノフ指数 / アトラクタ / CycleGAN / 人工知能 / ニューラルネットワーク / 非線形力学系 / 神経微分方程式 / 脳型情報処理
研究開始時の研究の概要

本研究では深層ニューラルネットにおいてカオス的ダイナミクスが生成する機構を解明し,カオス的性質を利用した深層学習手法を提案・発展させる.具体的には神経微分方程式(Neural Ordinary Differential Equation, Neural ODE)におけるカオス時系列の学習・制御,及び深層ニューラルネットにおけるカオス的な記憶想起ダイナミクスの生成を研究する.これらの研究によりカオス力学系の性質を利用した新たな深層脳型学習手法を確立し,応用技術への展開を目指す.

研究成果の概要

本研究は種々の深層学習モデルに現れ得るカオス的ダイナミクスを解析し,情報処理への応用を考察し,よりダイナミクスを利用した動的な処理を用いる人工知能を実現すること目的としている.深層学習モデルにおけるカオスを利用した情報処理を実現するため,以下の3種の研究を行った.1) 深層連想モデルの開発とその力学系的性質の解析, 2)深層生成モデルにより生成された疑似カオス時系列の特徴付け, 3) 3層の深層連想記憶モデルによる領野間の結合損傷に関わる機能低下の研究と,これを応用したレビー小体型認知症の数理モデルの提案と数理的分析.

研究成果の学術的意義や社会的意義

本研究の意義を以下の3点にまとめる.(1) 敵対生成ネットワークによる画像変換を力学系として分析し,連続的生成にカオス的ダイナミクスを見出し,多数のアトラクタの存在を明らかにした.これは深層モデルの力学系的構造の研究に寄与する成果である.(2) 深層生成モデルにより生成された擬似的なカオス時系列と,真のカオス時系列との違いを非線形時系列解析手法により分析した.これは生成モデルの限界について非線形力学系からの観点を知見として加えるものである.(3) 多層連想記憶モデルをレビー小体型認知症のメカニズムを考察する際の数理モデルとして利用することができ,認知症研究発展に寄与する可能性がある.

報告書

(4件)
  • 2022 実績報告書   研究成果報告書 ( PDF )
  • 2021 実施状況報告書
  • 2020 実施状況報告書
  • 研究成果

    (25件)

すべて 2023 2022 2021 2020

すべて 雑誌論文 (7件) (うち国際共著 1件、 査読あり 7件、 オープンアクセス 3件) 学会発表 (18件) (うち国際学会 3件、 招待講演 1件)

  • [雑誌論文] Review:Nicotinic acetylcholine receptors to regulate important brain activity; what occurs at the molecular level ?2023

    • 著者名/発表者名
      Shigetoshi Nara, Yutaka Yamaguti, and Ichiro Tsuda
    • 雑誌名

      Cognitive neurodynamics

      巻: -

    • 関連する報告書
      2022 実績報告書
    • 査読あり
  • [雑誌論文] Visual hallucinations in dementia with Lewy bodies originate from necrosis of characteristic neurons and connections in three-module perception model2022

    • 著者名/発表者名
      Nara Shigetoshi、Fujii Hiroshi、Tsukada Hiromichi、Tsuda Ichiro
    • 雑誌名

      Scientific Reports

      巻: 12 号: 1

    • DOI

      10.1038/s41598-022-18313-6

    • 関連する報告書
      2022 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] On the Nature of Functional Differentiation: The Role of Self-Organization with Constraints2022

    • 著者名/発表者名
      Tsuda Ichiro、Watanabe Hiroshi、Tsukada Hiromichi、Yamaguti Yutaka
    • 雑誌名

      Entropy

      巻: 24 号: 2 ページ: 240-240

    • DOI

      10.3390/e24020240

    • 関連する報告書
      2021 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] 数理科学から見た神経科学、臨床医学2021

    • 著者名/発表者名
      津田一郎
    • 雑誌名

      Medical Science Digest

      巻: 47 ページ: 238-241

    • 関連する報告書
      2021 実施状況報告書
    • 査読あり
  • [雑誌論文] 動的ヘテラルキー構造の神経情報機構に対する分化数理モデル2021

    • 著者名/発表者名
      津田一郎
    • 雑誌名

      CLINICAL NEUROSCIENCE

      巻: 39 ページ: 822-826

    • 関連する報告書
      2021 実施状況報告書
    • 査読あり
  • [雑誌論文] Some elements for a history of the dynamical systems theory2021

    • 著者名/発表者名
      Letellier Christophe、Abraham Ralph、Shepelyansky Dima L.、R?ssler Otto E.、Holmes Philip、Lozi Ren?、Glass Leon、Pikovsky Arkady、Olsen Lars F.、Tsuda Ichiro、Grebogi Celso、Parlitz Ulrich、Gilmore Robert、Pecora Louis M.、Carroll Thomas L.
    • 雑誌名

      Chaos: An Interdisciplinary Journal of Nonlinear Science

      巻: 31 号: 5 ページ: 053110-053110

    • DOI

      10.1063/5.0047851

    • 関連する報告書
      2021 実施状況報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Time Delayed Effect Can Bring Novel Hierarchical Complex Dynamics to Neural Network?2021

    • 著者名/発表者名
      Shigetoshi Nara
    • 雑誌名

      Advances in Cognitive Neurodynamics

      巻: (VII) ページ: 95-97

    • 関連する報告書
      2021 実施状況報告書
    • 査読あり
  • [学会発表] 敵対的生成ネットワークにより生成される疑似カオス時系列にみられる誤差の分析2023

    • 著者名/発表者名
      山口 裕, 田中 悠貴
    • 学会等名
      日本応用数理学会第19回研究部会連合発表会
    • 関連する報告書
      2022 実績報告書
  • [学会発表] Self-organization of a dynamical orthogonal basis acquiring large memory capacity in modular reservoir computing2022

    • 著者名/発表者名
      Y. Kawai, J.Park, I. Tsuda, and M. Asada
    • 学会等名
      ICANN 2022
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] 脳の数学原理を求めて:カオスにもとづく複雑系脳科学の展開2022

    • 著者名/発表者名
      津田一郎
    • 学会等名
      21世紀応用数学の現在と未来―西浦廉政先生古希記念研究会
    • 関連する報告書
      2022 実績報告書
    • 招待講演
  • [学会発表] カオス力学を基軸にした複雑系脳科学への先駆的な貢献 -- 脳科学の数学原理2022

    • 著者名/発表者名
      津田一郎
    • 学会等名
      藤原洋数理科学賞大賞授賞講演
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] Nicotinic acetylcholine receptors to regulate important brain activities: what occurs in molecular level ?2022

    • 著者名/発表者名
      Shigetohi Nara
    • 学会等名
      The 8th International Congress on Cognitive Neurodynamics
    • 関連する報告書
      2022 実績報告書
    • 国際学会
  • [学会発表] CycleGANを利用した循環的変換による連続的画像生成2022

    • 著者名/発表者名
      田中 天也, 山口 裕
    • 学会等名
      第21回情報科学技術フォーラム (FIT2022)
    • 関連する報告書
      2022 実績報告書
  • [学会発表] GANを用いて生成した擬似カオス時系列に対する非線形時系列解析2022

    • 著者名/発表者名
      田中 悠貴, 山口 裕
    • 学会等名
      日本応用数理学会2022年度年会
    • 関連する報告書
      2022 実績報告書
  • [学会発表] CycleGANにより構成される力学系のアトラクタ分布にみられるべき則2022

    • 著者名/発表者名
      遠原 由規, 山口 裕
    • 学会等名
      日本応用数理学会2022年度年会
    • 関連する報告書
      2022 実績報告書
  • [学会発表] GANを用いた分岐パラメータに依存したカオス時系列の生成2022

    • 著者名/発表者名
      高橋 直樹, 山口 裕
    • 学会等名
      日本応用数理学会2022年度年会
    • 関連する報告書
      2022 実績報告書
  • [学会発表] CycleGANの反復変換により生成される力学系軌道のカオス性2022

    • 著者名/発表者名
      遠原 由規, 山口 裕
    • 学会等名
      日本応用数理学会第18回研究部会連合発表会
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] GANを用いて生成した擬似カオス時系列の統計的性質2022

    • 著者名/発表者名
      田中 悠貴, 山口 明宏, 山口 裕
    • 学会等名
      日本応用数理学会第18回研究部会連合発表会
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] GANを用いたカオス時系列生成2021

    • 著者名/発表者名
      田中 悠貴, 山口 裕
    • 学会等名
      日本応用数理学会2021年度年会
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] CycleGANを用いた繰り返し画像変換に現れるアトラクタダイナミクスの分析2021

    • 著者名/発表者名
      遠原 由規, 山口 裕
    • 学会等名
      日本応用数理学会2021年度年会
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] リザバーコンピューティングにおける教師の動的な選択2021

    • 著者名/発表者名
      海老原端馬、津田一郎、山口裕
    • 学会等名
      日本応用数理学会2021年度年会
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] 拘束条件付き自己組織化理論に基づく機能分化に関する数理的・情報論的基盤2021

    • 著者名/発表者名
      津田一郎
    • 学会等名
      第62回日本神経学会学術大会
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] Hessian-Free 法を用いた Echo State Network の構造探索2021

    • 著者名/発表者名
      濱地優輝, 平川翼, 山下隆義, 藤吉弘亘, 山口 裕, 津田一郎
    • 学会等名
      情報処理学会第20回情報科学技術フォーラム
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] 相互情報量最小化による機能分化の誘導2021

    • 著者名/発表者名
      山口裕, 津田一郎
    • 学会等名
      生理研研究会 第3回力学系の始点からの脳・神経回路の理解
    • 関連する報告書
      2021 実施状況報告書
  • [学会発表] Neural ODEによる画像認識過程の可視化2020

    • 著者名/発表者名
      角田 千哉, 山口 裕
    • 学会等名
      応用数理学会2020年度年会
    • 関連する報告書
      2020 実施状況報告書

URL: 

公開日: 2020-04-28   更新日: 2024-01-30  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi