• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

継続的な知識の学習と忘却を両立する適応的クラスタリング手法の開発

Research Project

Project/Area Number 22K12199
Research Category

Grant-in-Aid for Scientific Research (C)

Allocation TypeMulti-year Fund
Section一般
Review Section Basic Section 61040:Soft computing-related
Research InstitutionOsaka Metropolitan University

Principal Investigator

増山 直輝  大阪公立大学, 大学院情報学研究科, 准教授 (00815607)

Project Period (FY) 2022-04-01 – 2025-03-31
Project Status Granted (Fiscal Year 2023)
Budget Amount *help
¥4,160,000 (Direct Cost: ¥3,200,000、Indirect Cost: ¥960,000)
Fiscal Year 2024: ¥910,000 (Direct Cost: ¥700,000、Indirect Cost: ¥210,000)
Fiscal Year 2023: ¥650,000 (Direct Cost: ¥500,000、Indirect Cost: ¥150,000)
Fiscal Year 2022: ¥2,600,000 (Direct Cost: ¥2,000,000、Indirect Cost: ¥600,000)
Keywords継続学習 / クラスタリング / データマイニング / 深層学習 / マルチラベル学習 / コンセプトドリフト / 適応共鳴理論
Outline of Research at the Start

計算機科学の分野において「継続学習」を掲げる多くの従来研究では,「学習した情報を如何にして保持し続けるか?」に注力している.一方で,近年の脳科学の研究において,「忘却」による不要な情報の整理が効率的な継続学習と記憶の頑健性の維持に対して重要な役割を担っていることが示唆されている.本研究では,継続学習が可能な適応的クラスタリング手法に着目し,知識の選択的忘却により学習性能の向上と保存している知識の頑健性向上を実現する学習システムの提案を行う.具体的には,破滅的忘却を伴わない選択的忘却機構と,選択的忘却に基づくコンセプトドリフトへの対応を実現する.

Outline of Annual Research Achievements

本研究課題は,知識の選択的忘却による学習性能の向上と,保存している知識の頑健性向上を実現する学習システムの提案を目的とする.具体的には,継続学習が可能な適応的クラスタリング手法をベース手法として,破滅的忘却を伴わない知識の選択的忘却機構と,知識の選択的忘却に基づくコンセプトドリフトへの対応を実現する手法の開発を行う.また,提案手法の有効性を検証するため,人工・実世界データセットを用いて,他の最新手法との識別性能の定量的比較を行う.また,比較実験から提案手法の利点と欠点を明確化することで,今後の研究に関する議論と検討を行う.

2023年度は,2022年度までに提案した手法の単体での活用以外に,他の学習手法への適用を模索した.具体的には,リプレイバッファを利用した継続学習が可能な深層学習手法において,適応的クラスタリング手法によりリプレイバッファに保持する学習データの選択を効果的に行うことで,深層学習手法の継続学習性能を向上させることが可能であることを示した.上記手法において,リプレイバッファに保持するデータの候補は時々刻々と変化する状況(つまり,未知のクラスに属するデータが継続的に与えられるタイプのコンセプトドリフト)であり,これまでに提案してきた適応的クラスタリング手法が効果的に利用可能であったと言える.この結果は,未知のクラスに属するデータが継続的に与えられる状況において,これまでに提案してきた適応的クラスタリング手法により学習データの取捨選択を行うことで,さまざまなタイプの機械学習手法の学習性能の向上が期待できることを示唆する.
また,2022年度の成果の外部発表にも積極的に取り組み,現状の成果に対するコメントや今後の研究に関する議論と検討を行った.その知見を基に,さらなる手法の改良・改善に努めている.

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

2023年度は,成果の外部発表を通してこれまでの提案手法に対する改良・改善の議論を積極的に行い,手法の利点・欠点を把握することができている.この知見を基に円滑に研究開発を行うことが可能である.また,提案手法を他の学習手法に適用するなど,2022年度までとは異なる観点からの提案手法の可能性を考えることができているため,おおむね順調に進展していると考える.

Strategy for Future Research Activity

2023年度は,2022年度に提案した手法に対して,学習した情報を忘却することでコンセプトドリフトに対処し,効率的な学習を実現する機構の提案を行う.また,定期的に国際会議などで成果を発表することで,研究内容の発信や今後の共同研究の機会を積極的に模索する.

Report

(2 results)
  • 2023 Research-status Report
  • 2022 Research-status Report
  • Research Products

    (13 results)

All 2024 2023 2022 Other

All Journal Article (2 results) (of which Int'l Joint Research: 1 results,  Peer Reviewed: 2 results) Presentation (10 results) (of which Int'l Joint Research: 1 results) Remarks (1 results)

  • [Journal Article] Improvement of a Classifier Using Adaptive Resonance Theory-Based Clustering for Multi-Label Mixed Data2024

    • Author(s)
      西川毅, 増山直輝, 能島裕介
    • Journal Title

      Journal of Japan Society for Fuzzy Theory and Intelligent Informatics

      Volume: 36 Issue: 1 Pages: 543-549

    • DOI

      10.3156/jsoft.36.1_543

    • ISSN
      1347-7986, 1881-7203
    • Year and Date
      2024-02-15
    • Related Report
      2023 Research-status Report
    • Peer Reviewed
  • [Journal Article] Multi-Label Classification via Adaptive Resonance Theory-Based Clustering2023

    • Author(s)
      Masuyama Naoki、Nojima Yusuke、Loo Chu Kiong、Ishibuchi Hisao
    • Journal Title

      IEEE Transactions on Pattern Analysis and Machine Intelligence

      Volume: Early Access Issue: 7 Pages: 1-18

    • DOI

      10.1109/tpami.2022.3230414

    • Related Report
      2022 Research-status Report
    • Peer Reviewed / Int'l Joint Research
  • [Presentation] Adaptive resonance theory-based topological clustering with node deletion mechanism for evolving stream data2023

    • Author(s)
      T. Takebayashi, N. Masuyama, Y. Nojima
    • Organizer
      International Conference on Machine Learning and Cybernetics and the International Conference on Wavelet Analysis and Pattern Recognition
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research
  • [Presentation] パラメータ設定の不要な適応共鳴理論に基づく階層的クラスタリング手法の性能比較2023

    • Author(s)
      鳥越大貴,増山直輝,能島裕介
    • Organizer
      第6回継続学習と知能の創発研究会
    • Related Report
      2023 Research-status Report
  • [Presentation] 適応共鳴理論に基づく階層的クラスタリング手法の比較検討2023

    • Author(s)
      田代一貴,増山直輝,能島裕介
    • Organizer
      第6回継続学習と知能の創発研究会
    • Related Report
      2023 Research-status Report
  • [Presentation] 自己教師あり継続学習のためのクラスタリングによるリプレイバッファ選択方法の改良2023

    • Author(s)
      増山直輝
    • Organizer
      第6回継続学習と知能の創発研究会
    • Related Report
      2023 Research-status Report
  • [Presentation] 適応共鳴理論に基づくマルチラベル量質混在データのためのクラスタリング手法の改良2023

    • Author(s)
      西川毅,増山直輝,能島裕介
    • Organizer
      第6回継続学習と知能の創発研究会
    • Related Report
      2023 Research-status Report
  • [Presentation] ε-局所差分プライバシを考慮した適応共鳴理論に基づく連合クラスタリング手法の検討2023

    • Author(s)
      上田裕也,増山直輝,能島裕介
    • Organizer
      第39回ファジィシステムシンポジウム
    • Related Report
      2023 Research-status Report
  • [Presentation] 適応共鳴理論に基づく階層的クラスタリングにおけるクラスタリング性能向上方法の検討2023

    • Author(s)
      鳥越大貴,田代一貴,増山直輝,能島裕介,伊藤諒適,三宅寿英,馬野元秀
    • Organizer
      第39回ファジィシステムシンポジウム
    • Related Report
      2023 Research-status Report
  • [Presentation] ε-局所差分プライバシを考慮した適応共鳴理論に基づく連合クラスタリング手法の検討2023

    • Author(s)
      上田裕也,増山直輝,能島裕介
    • Organizer
      第5回継続学習と知能の創発研究会
    • Related Report
      2023 Research-status Report
  • [Presentation] 適応共鳴理論に基づくクラスタリングを用いたマルチラベル識別におけるラベル学習手法の改良2023

    • Author(s)
      扇野雄太,増山直輝,能島裕介
    • Organizer
      第5回継続学習と知能の創発研究会
    • Related Report
      2023 Research-status Report
  • [Presentation] 警戒パラメータの推定が可能な適応共鳴理論に基づくトポロジカルクラスタリング手法2022

    • Author(s)
      竹林章宜,増山直輝,能島裕介
    • Organizer
      第4回継続学習と知能の創発研究会
    • Related Report
      2022 Research-status Report
  • [Remarks] マルチラベル識別問題においてデータとラベルの継続学習を実現!人工知能の新たなデータ学習手法を開発

    • URL

      https://www.omu.ac.jp/info/research_news/entry-03914.html

    • Related Report
      2022 Research-status Report

URL: 

Published: 2022-04-19   Modified: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi