• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 課題ページに戻る

2021 年度 実施状況報告書

大自由度力学系のアトラクタのダイナミクス解析と群知能創発との関係解明

研究課題

研究課題/領域番号 20K11978
研究機関東京都市大学

研究代表者

神野 健哉  東京都市大学, 情報工学部, 教授 (50286762)

研究分担者 中野 秀洋  東京都市大学, 情報工学部, 教授 (10386360)
研究期間 (年度) 2020-04-01 – 2023-03-31
キーワード粒子群最適化法 / ヒステリシス / ニューラルネットワーク / リザバーコンピューティング / ダイナミクス / 学習法 / 制約条件充足問題 / 計算量
研究実績の概要

本研究課題の目的は、多数の素子が結合した大自由度力学系のダイナミクスを解明し、その解析結果を利用し解探索性能を向上させることである。2021年度は2次系である結合発振器を関数最適解探索に使用した場合として、我々が提案しているヒステリシスニューラルネットワークをモデルとして系の安定アトラクタを制約条件充足問題の解に対応させた場合について検討を行った。そして安定解の存在条件とその収束速度について検討を行った。その結果、提案システムでは制約条件充足問題の解探索時間が問題サイズNに対してlogNと非常に高速な探索が可能であることを明らかにした。またヒステリシスニューロンを相互結合させた系をリザバー層に適用させたヒステリシスリザバーコンピューティングを提案し、各ニューロンの時定数を変化させることでヒステリシスリザバーコンピューティングの記憶容量が増大することも明らかにした。一方、粒子群最適化法ではそのダイナミクスにカオス現象を導入することで局所探索能力が向上することを明らかにした。これを一般化し各粒子のダイナミクスに適切な微小振動を与えることと参照する最適解情報を変化させることで局所解探索に関するダイナミクスが変化し、解探索能力が向上することを明らかにした。この結果を基に粒子群最適化法を多層ニューラルネットワークの学習に使用した場合に関して検討を開始した。多層ニューラルネットワークでは中間層のニューロン数および層数を増加させることによってその性能を向上させているが、エッジコンピューティングを想定し、中間層のニューロン数がより少ないシステムで同等の能力が得られることが望まれている。これを解決するために粒子群最適化法での学習を行っている。その結果、学習に要する計算コストは粒子群最適化法を用いた手法では高いものの、従来提案されている学習法よりも高精度な学習結果が得られることを明らかにした。

現在までの達成度 (区分)
現在までの達成度 (区分)

2: おおむね順調に進展している

理由

昨年度はコロナ禍の感染拡大に伴い、大学・研究室への入構が制限され、また本研究以外での大学での講義などオンライン化に伴う準備などに時間を要したため、年度前半は予定していた時間よりも研究を行う時間が減少したことにともない、当初計画していた研究計画よりも若干進捗が遅くなったが、その状況にも慣れ当初の計画通りに本年度の研究は進捗している。

今後の研究の推進方策

リザバーコンピューティングなどに関しては当初の研究計画通りにダイナミクス解析を行う。
また局所探索能力を向上させた粒子群最適化法による多層ニューラルネットワークの学習に関する研究を本年度も継続すると同時に、多層ニューラルネットワークの最適構造探索 Network Architechture Search; NAS に関して研究を開始している。

次年度使用額が生じた理由

コロナ禍の影響により予算時には研究成果公表のための出張旅費を計上していたが、これの使用が著しく減少したために次年度使用額が生じた。本年度は研究成果公表のための論文投稿費及び出張旅費として使用する計画である。

  • 研究成果

    (32件)

すべて 2022 2021

すべて 雑誌論文 (5件) (うち査読あり 5件、 オープンアクセス 5件) 学会発表 (27件) (うち国際学会 9件)

  • [雑誌論文] Consideration of the output series generated by hysteresis reservoir computing2022

    • 著者名/発表者名
      Saito Tsukasa、Jin'no Kenya
    • 雑誌名

      Nonlinear Theory and Its Applications, IEICE

      巻: 13 ページ: 258~263

    • DOI

      10.1587/nolta.13.258

    • 査読あり / オープンアクセス
  • [雑誌論文] Relationship between the number of elements in constraint satisfaction problems and the computation time of HNN2022

    • 著者名/発表者名
      GENKA Takumi、JIN'NO Kenya
    • 雑誌名

      Nonlinear Theory and Its Applications, IEICE

      巻: 13 ページ: 282~287

    • DOI

      10.1587/nolta.13.282

    • 査読あり / オープンアクセス
  • [雑誌論文] Analysis of particle swarm optimization by dynamical systems theory2021

    • 著者名/発表者名
      Jin'no Kenya
    • 雑誌名

      Nonlinear Theory and Its Applications, IEICE

      巻: 12 ページ: 118~132

    • DOI

      10.1587/nolta.12.118

    • 査読あり / オープンアクセス
  • [雑誌論文] Analysis of Particle Swarm Optimization Method Based on Dynamical Systems2021

    • 著者名/発表者名
      JIN'NO Kenya
    • 雑誌名

      IEICE ESS Fundamentals Review

      巻: 15 ページ: 70~79

    • DOI

      10.1587/essfr.15.2_70

    • 査読あり / オープンアクセス
  • [雑誌論文] Noise Reduction Method Focusing on Spectral Envelopment and Fine Structure of Speech2021

    • 著者名/発表者名
      Fukawa Taichi、Jin'no Kenya
    • 雑誌名

      Journal of Signal Processing

      巻: 25 ページ: 233~237

    • DOI

      10.2299/jsp.25.233

    • 査読あり / オープンアクセス
  • [学会発表] Ability to generate output series for Hysteresis Reservoir Computing2021

    • 著者名/発表者名
      Tsukasa Saito, Kenya Jin'no
    • 学会等名
      IEEE The 18th International SoC Conference (ISOCC 2021) , pp. 179-180, On-line, 2021
    • 国際学会
  • [学会発表] A considerations for the solution search capability of PSO with micro fluctuations2021

    • 著者名/発表者名
      Riku Takato, Kenya Jin'no
    • 学会等名
      IEICE The 2021 Nonlinear Science Workshop ( NLSW 2021 ) , NLSW-29, On-line, 2021.
    • 国際学会
  • [学会発表] Estimating label of data using Fisher Criterion2021

    • 著者名/発表者名
      Ryuhei Motoki, Kenya Jin'no
    • 学会等名
      IEICE The 2021 Nonlinear Science Workshop ( NLSW 2021 ) , NLSW-60, On-line, 2021.
    • 国際学会
  • [学会発表] Japanese Fingerspelling Identification by using Mediapipe2021

    • 著者名/発表者名
      Masanao Yasumuro, Kenya Jin'no
    • 学会等名
      IEICE The 2021 Nonlinear Science Workshop ( NLSW 2021 ) , NLSW-44, On-line, 2021.
    • 国際学会
  • [学会発表] Consideration of the Output Series Generated by Hysteresis Reservoir Computing2021

    • 著者名/発表者名
      Tsukasa Saito, Kenya Jin'no
    • 学会等名
      IEICE The 2021 Nonlinear Science Workshop ( NLSW 2021 ) , NLSW-25, On-line, 2021.
    • 国際学会
  • [学会発表] Evaluation of the Effect of Phoneme Time Stretching on Speaker Embedding2021

    • 著者名/発表者名
      Taichi Fukawa, Kenya Jin'no
    • 学会等名
      IEICE The 2021 Nonlinear Science Workshop ( NLSW 2021 ) , NLSW-51, On-line, 2021.
    • 国際学会
  • [学会発表] Relationship between the number of elements in constraint satisfaction problems and the computation time of HNN2021

    • 著者名/発表者名
      Takumi Genka, Kenya Jin'no
    • 学会等名
      IEICE The 2021 Nonlinear Science Workshop ( NLSW 2021 ) , NLSW-59, On-line, 2021.
    • 国際学会
  • [学会発表] Training Multilayer Neural Networks with PSO2021

    • 著者名/発表者名
      Riku Takato, Kenya Jin'no
    • 学会等名
      2022 RISP International Workshop on Nonlinear Circuits, Communications and Signal Processing (NCSP 2022), pp. 177-180, On-line, 2022.
    • 国際学会
  • [学会発表] Emergence of the Boid Swarm2021

    • 著者名/発表者名
      Yusuke Nakazato, Kenya Jin'no
    • 学会等名
      2022 RISP International Workshop on Nonlinear Circuits, Communications and Signal Processing (NCSP 2022), pp. 181-184, On-line, 2022.
    • 国際学会
  • [学会発表] SVMを用いたFew-shot Learningの試み2021

    • 著者名/発表者名
      元木 竜平, 神野 健哉
    • 学会等名
      2021年度 NOLTAソサイエティ大会, NLS-11 (オンライン, 2021. 6.12)
  • [学会発表] 音素の時間伸縮による話者埋め込みへの影響の実験的評価2021

    • 著者名/発表者名
      布川 大知, 神野 健哉
    • 学会等名
      電子情報通信学会 2021年ソサイエティ大会, A-8-5(On-line, 2021. 9. 14-17)
  • [学会発表] 連続時間ヒステリシスニューラルネットの計算量の検討2021

    • 著者名/発表者名
      源河 拓巳, 神野 健哉
    • 学会等名
      電子情報通信学会 2021年ソサイエティ大会, N-1-8(On-line, 2021. 9. 14-17)
  • [学会発表] ヒステリシスリザバー素子の時定数が与える影響2021

    • 著者名/発表者名
      齋藤 吏, 神野 健哉
    • 学会等名
      電子情報通信学会 2021年ソサイエティ大会, N-1-9(On-line, 2021. 9. 14-17)
  • [学会発表] SVMを用いたラベルなしデータの分類2021

    • 著者名/発表者名
      元木 竜平, 神野 健哉
    • 学会等名
      電子情報通信学会 2021年ソサイエティ大会, N-1-10(On-line, 2021. 9. 14-17)
  • [学会発表] 微小摂動を考慮したPSOの解探索能力の考察2021

    • 著者名/発表者名
      高頭 陸, 神野 健哉
    • 学会等名
      電子情報通信学会 非線形問題研究会, NLP2021-65, pp. 82-85 (J:COMホルトホール大分, 大分, 2021. 12. 17-18)
  • [学会発表] データのラベル推定のためフィッシャー基準を基にした新しい評価基準の考察2021

    • 著者名/発表者名
      元木 竜平, 神野 健哉
    • 学会等名
      電子情報通信学会 非線形問題研究会, NLP2021-62, pp. 86-89 (J:COMホルトホール大分, 大分, 2021. 12. 17-18)
  • [学会発表] ヒステリシス・リザーバー層の特性と学習出力系列の関係について2021

    • 著者名/発表者名
      齋藤 吏, 神野 健哉
    • 学会等名
      電子情報通信学会 非線形問題研究会, NLP2021-99 MICT2021-74 MBE2021-60, pp.121-124 (On-line, 2022. 1. 21-23)
  • [学会発表] MediaPipeとSVMを用いた日本語指文字認識システムの試作2021

    • 著者名/発表者名
      安室 誠直, 神野 健哉
    • 学会等名
      電子情報通信学会 非線形問題研究会, NLP2021-115 MICT2021-90 MBE2021-76, pp.205-208 (On-line, 2022. 1. 21-23)
  • [学会発表] Auto Encoderによる顔の向き変換2021

    • 著者名/発表者名
      岡本 紗季, 神野 健哉
    • 学会等名
      東北大学電気通信研究所 共同プロジェクト研究・非線形ワークショップ 合同研究会 p. 25, P9 (オンライン, 2022. 2.26-2.27)
  • [学会発表] 新たなクラスター評価基準を用いたデータのラベル推定2021

    • 著者名/発表者名
      元木 竜平, 神野 健哉
    • 学会等名
      東北大学電気通信研究所 共同プロジェクト研究・非線形ワークショップ 合同研究会 p. 30, P14 (オンライン, 2022. 2.26-2.27)
  • [学会発表] Word2Vecによる単語埋め込み表現の基礎考察2021

    • 著者名/発表者名
      酒井 麻帆, 神野 健哉
    • 学会等名
      東北大学電気通信研究所 共同プロジェクト研究・非線形ワークショップ 合同研究会 p. 33, P18 (オンライン, 2022. 2.26-2.27)
  • [学会発表] BERTによる文章ベクトルのk~means法を用いた文章分類2021

    • 著者名/発表者名
      泉 諒音, 神野 健哉
    • 学会等名
      東北大学電気通信研究所 共同プロジェクト研究・非線形ワークショップ 合同研究会 p. 37, P22 (オンライン, 2022. 2.26-2.27)
  • [学会発表] ニューラルネットワークによって分離された領域数の推定2021

    • 著者名/発表者名
      髙橋 知里, 神野 健哉
    • 学会等名
      東北大学電気通信研究所 共同プロジェクト研究・非線形ワークショップ 合同研究会 p. 39, P25 (オンライン, 2022. 2.26-2.27)
  • [学会発表] DropoutとBatch Normalizationの効果の検証2021

    • 著者名/発表者名
      代 美月, 神野 健哉
    • 学会等名
      電子情報通信学会 2022年総合大会, N-1-11(On-line, 2022. 3. 15-18)
  • [学会発表] AutoEncoderによる顔の向き変換2021

    • 著者名/発表者名
      岡本 紗季, 神野 健哉
    • 学会等名
      電子情報通信学会 2022年総合大会, N-1-12(On-line, 2022. 3. 15-18)
  • [学会発表] 新たなクラスター評価基準を用いたデータのラベル推定2021

    • 著者名/発表者名
      元木 竜平, 神野 健哉
    • 学会等名
      電子情報通信学会 2022年総合大会, N-1-13(On-line, 2022. 3. 15-18)
  • [学会発表] PSOによる多層ニューラルネットワークの学習2021

    • 著者名/発表者名
      高頭 陸, 神野 健哉
    • 学会等名
      電子情報通信学会 2022年総合大会, N-1-23(On-line, 2022. 3. 15-18)

URL: 

公開日: 2022-12-28  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi