• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

段階的共進化による汎用神経回路網の自動構築に関する研究

Research Project

Project/Area Number 23H00491
Research Category

Grant-in-Aid for Scientific Research (A)

Allocation TypeSingle-year Grants
Section一般
Review Section Medium-sized Section 61:Human informatics and related fields
Research InstitutionYokohama National University

Principal Investigator

長尾 智晴  横浜国立大学, 総合学術高等研究院, 特任教員(教授) (10180457)

Co-Investigator(Kenkyū-buntansha) 白川 真一  横浜国立大学, 大学院環境情報研究院, 教授 (90633272)
田邊 遼司  横浜国立大学, 大学院環境情報研究院, 准教授 (80780923)
森 辰則  横浜国立大学, 大学院環境情報研究院, 教授 (70212264)
島 圭介  横浜国立大学, 大学院環境情報研究院, 教授 (50649754)
Project Period (FY) 2023-04-01 – 2028-03-31
Project Status Granted (Fiscal Year 2025)
Budget Amount *help
¥46,670,000 (Direct Cost: ¥35,900,000、Indirect Cost: ¥10,770,000)
Fiscal Year 2025: ¥9,620,000 (Direct Cost: ¥7,400,000、Indirect Cost: ¥2,220,000)
Fiscal Year 2024: ¥9,360,000 (Direct Cost: ¥7,200,000、Indirect Cost: ¥2,160,000)
Fiscal Year 2023: ¥11,050,000 (Direct Cost: ¥8,500,000、Indirect Cost: ¥2,550,000)
Keywords神経回路網 / 機械学習 / 進化計算 / 最適化 / 共進化 / 深層学習 / 進化計算法
Outline of Research at the Start

本研究では,従来の階層型・前向き結合型神経回路網モデルから脱却し,内部に階層型・相互結合型などの構造を含み,多目的・多機能で高度かつ柔軟な知能情報処理を行なうことができる,言わば“人工脳”を最適化法の一種の進化計算法などをベースにして単純な機能から複雑な機能へと段階的に進化させることで自動構築する汎用神経回路網の自動構築手法を提案するとともに,現在の説明可能AI技術を発展させ,汎用神経回路網の内部機能の位置や構造,判断根拠・処理の機序を明らかにして人に説明することを目指す人工脳科学とでも呼ぶべき方法論を開発する.さらに,構築した汎用神経回路網を実世界の問題に適用してその有効性を検証する.

Outline of Annual Research Achievements

2023年度は当初計画した項目1) 神経回路網の段階的進化,2) 人との共進化,3) 量子計算による大規模実験,4) 実問題に適用して提案手法の有効性を検証する,についてそれぞれ研究を進めた.1)では相互結合型回路網にHopfieldモデルより多くのパターンを記憶させる方式を開発した.また,複数のタスクを同時に解くように大規模言語モデル(LLM)に与えるプロンプトをマルチタスク化すると、それぞれのタスクを個別に解くよりも精度が向上することを示した.さらに,スパイキングニューラルネットワーク(SNN)の性能向上を目的に,通常のニューラルネットワークで学習した重みをSNNに効果的に流用する方法の検討を開始した.さらに,生体信号の識別などを対象とし,様々な確率構造を内包したニューラルネットモデルを考案した.また時系列信号を表現する新しい確率モデルを提案した.2)では階層型神経回路網の入力変数の中から真に必要なものを浸透学習法(日米特許取得済)あるいはNeural Additive Models (NAM)を用いて選択する方式を開発するとともに,入力変数について人のもつ知見を有効に利用する方式を開発した.また,人手で吟味して構築したキーワード集合を利用するとLLMを用いた文分類タスクの精度が向上することを示すとともに[1]、同タスクにおいて、代表的なLLMに対するプロンプトの構成法による感受性・頑健性を比較検討し、人手で与える入力・出力の形式と分類精度の関係について考察した.3)については特に量子アニーリングについて調査・解析して来年度以降に実施する予定の実験方法について考察した.4)については単眼の画像中の3次元物体の立体形状を把握するニューラルネットワークを開発して実験によりその有効性を検証した.本研究は順調に実施中であり,今後も多くの研究成果を上げることが大いに期待できる.

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

当初計画した研究項目について,それぞれ計画通りに研究を遂行することができており,成果の公表状況も複数の国際会議発表など良好であるためこのように判断した.

Strategy for Future Research Activity

これまでの研究成果を踏まえ,さらにそれらを発展させるべく研究を実施する。今後の研究項目ごとに実施内容を示す:1) 神経回路網の段階的進化:具体的な問題を人がサブタスクに分割し,それらを順次学習させることで神経回路網を多機能化する実験を行なって性能を評価する.2) 人との共進化:特に工場での製品検査などの具体的な問題を設定して,人との対話を通して高精度な欠陥検査やセグメンテーションを実現する方式を開発して評価する.3) 量子計算による大規模実験:神経回路網の構造最適化を量子アニーリングの問題として定式化する方法について検討するとともに,実験を開始する.4)汎用NNのためのXAIの開発:複雑な構造のNNに対してその挙動を解析する手法について検討する.5) 実問題に適用して提案手法の有効性を検証する: 昨年度から扱っている実問題1としての立体の3次元概念獲得に加えて,実問題2として相互結合を含む神経回路網による画像の記憶と連想に基づく問題を新たに扱って有効性を検証する.
得られた成果は学会などで積極的に発表することによって社会に還元する予定である.

Report

(2 results)
  • 2023 Comments on the Screening Results   Annual Research Report
  • Research Products

    (18 results)

All 2024 2023

All Journal Article (5 results) (of which Peer Reviewed: 5 results) Presentation (13 results) (of which Invited: 2 results)

  • [Journal Article] HACNet: End-to-end learning of interpretable table-to-image converter and convolutional neural network2024

    • Author(s)
      Takuya Matsuda, Kento Uchida, Shota Saito, Shinichi Shirakawa
    • Journal Title

      Knowledge-Based Systems

      Volume: 284 Pages: 111293-111293

    • DOI

      10.1016/j.knosys.2023.111293

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed
  • [Journal Article] A Few-Shot Approach to Resume Information Extraction via Prompts2023

    • Author(s)
      Chengguang Gan and Tatsunori Mori
    • Journal Title

      Lecture Notes in Computer Science, Springer

      Volume: 13913 Pages: 445-455

    • DOI

      10.1007/978-3-031-35320-8_32

    • ISBN
      9783031353192, 9783031353208
    • Related Report
      2023 Annual Research Report
    • Peer Reviewed
  • [Journal Article] Sentence-to-Label Generation Framework for Multi-task Learning of Japanese Sentence Classification and Named Entity Recognition2023

    • Author(s)
      Chengguang Gan, Qinghao Zhang and Tatsunori Mori
    • Journal Title

      Lecture Notes in Computer Science, Springer

      Volume: 13913 Pages: 257-270

    • DOI

      10.1007/978-3-031-35320-8_18

    • ISBN
      9783031353192, 9783031353208
    • Related Report
      2023 Annual Research Report
    • Peer Reviewed
  • [Journal Article] Sensitivity and Robustness of Large Language Models to Prompt Template in Japanese Text Classification Tasks2023

    • Author(s)
      Chengguang Gan and Tatsunori Mori
    • Journal Title

      Proceedings of the 37th Pacific Asia Conference on Language, Information and Computation (PACLIC 2023)

      Volume: - Pages: 1-11

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed
  • [Journal Article] Open-set motion recognition and adaptive structure modification of classifier based on clustering of unknown motions2023

    • Author(s)
      Takayuki Mukaeda and Keisuke Shima
    • Journal Title

      Proceedings of 2023 IEEE International Conference on Systems, Man, and Cybernetics (SMC)

      Volume: - Pages: 4307-4312

    • DOI

      10.1109/smc53992.2023.10394622

    • Related Report
      2023 Annual Research Report
    • Peer Reviewed
  • [Presentation] 対数線形化された無限混合正規分布に基づく未知クラス推定確率ニューラルネットの構造最適化2024

    • Author(s)
      南部 穣汰,迎田 隆幸,柏木 僚太,島 圭介
    • Organizer
      情報処理学会第86回全国大会
    • Related Report
      2023 Annual Research Report
  • [Presentation] 適応的遷移型HMMを内包するリカレント確率ニューラルネットによるオープンセット動作認識2024

    • Author(s)
      迎田 隆幸,嘉山 敢太,島 圭介
    • Organizer
      第29回ロボティクスシンポジア
    • Related Report
      2023 Annual Research Report
  • [Presentation] ドメインシフト時のオープンセット認識におけるドメイン汎化手法の評価と改良2023

    • Author(s)
      野口 将嗣,白川 真一
    • Organizer
      人工知能学会全国大会
    • Related Report
      2023 Annual Research Report
  • [Presentation] 特徴選択と特徴間の相互作用を組み込んだNeural Additive Modelsの提案2023

    • Author(s)
      岸本 泰俊,山西 康太,松田 拓也,白川 真一
    • Organizer
      人工知能学会全国大会
    • Related Report
      2023 Annual Research Report
  • [Presentation] Safe OptimizationのためのCMA-ESの提案2023

    • Author(s)
      内田 絢斗,濱野 椋希,野村 将寛,斉藤 翔汰,白川 真一
    • Organizer
      進化計算シンポジウム2023
    • Related Report
      2023 Annual Research Report
  • [Presentation] 目的関数の単調増加変換に不変性を与える多目的最適化フレームワークの提案2023

    • Author(s)
      山田 裕太郎, 内田 絢斗, 白川 真一
    • Organizer
      進化計算シンポジウム2023
    • Related Report
      2023 Annual Research Report
  • [Presentation] 文脈付き最適化問題のためのCMA-ESのWarm Startingの提案2023

    • Author(s)
      関野 裕太, 内田 絢斗, 白川 真一
    • Organizer
      進化計算シンポジウム2023
    • Related Report
      2023 Annual Research Report
  • [Presentation] 進化型多目的最適化アルゴリズムにおける環境選択の性能を悪化させる点集合の自動生成2023

    • Author(s)
      福元圭, 田邊遼司
    • Organizer
      進化計算シンポジウム2023
    • Related Report
      2023 Annual Research Report
  • [Presentation] 計算コストの高いブラックボックス最適化に対する特徴量に基づく自動アルゴリズム選択2023

    • Author(s)
      吉川拓志, 田邊遼司
    • Organizer
      進化計算シンポジウム2023
    • Related Report
      2023 Annual Research Report
  • [Presentation] 説明可能AI(XAI)から共進化AI(CAI)へ2023

    • Author(s)
      長尾智晴
    • Organizer
      SCI-2023 TS02
    • Related Report
      2023 Annual Research Report
    • Invited
  • [Presentation] 共進化型AIから職人芸的AIへ2023

    • Author(s)
      長尾智晴
    • Organizer
      応用脳科学アカデミー
    • Related Report
      2023 Annual Research Report
    • Invited
  • [Presentation] 適応的遷移確率を導入した混合正規分布内包型隠れマルコフモデルに基づくリカレント確率ニューラルネット2023

    • Author(s)
      嘉山 敢太,迎田 隆幸,島 圭介
    • Organizer
      第24回計測自動制御学会システムインテグレーション部門講演会
    • Related Report
      2023 Annual Research Report
  • [Presentation] 周波数特徴を抽出可能な畳込み層を有する深層確率ニューラルネット2023

    • Author(s)
      川崎 弘貴,迎田 隆幸,島 圭介
    • Organizer
      第41回日本ロボット学会
    • Related Report
      2023 Annual Research Report

URL: 

Published: 2023-04-13   Modified: 2025-06-20  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi