• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2019 Fiscal Year Research-status Report

確率的不動点最適化アルゴリズムとアンサンブル学習への応用

Research Project

Project/Area Number 18K11184
Research InstitutionMeiji University

Principal Investigator

飯塚 秀明  明治大学, 理工学部, 専任教授 (50532280)

Project Period (FY) 2018-04-01 – 2021-03-31
Keywords確率的最適化 / 不動点 / アンサンブル学習 / 最適化アルゴリズム
Outline of Annual Research Achievements

アンサンブル学習法とは、複数の学習器を訓練し、それらを組み合わせて将来を予測することができる最先端の学習法である。各学習器は、ニューラルネットワーク等に関する従来学習アルゴリズムを、訓練用データから得られる最適化問題に適用することで生成される。しかしながら、ノイズに対する頑強なアンサンブル構築のための疎性(sparsity)と安定したアンサンブル構築のための多様性(diversity)とを考慮したアンサンブル学習においては、従来の学習アルゴリズムでは適用できない大規模かつ複雑な確率的最適化問題を解決する必要がある。本研究の目的は、このような最適化問題を解くことが可能な新学習アルゴリズムに基づく新アンサンブル学習法を開発することである。

令和元年度では、大規模かつ複雑な確率的最適化問題を解くための確率的不動点最適化アルゴリズムとその収束解析について提案することができた。また、確率的不動点最適化アルゴリズムを加速させるための手法についても研究を進めることができた。これは、令和二年度に行う研究テーマとなっている。

Current Status of Research Progress
Current Status of Research Progress

1: Research has progressed more than it was originally planned.

Reason

令和元年度に開発した「確率的不動点最適化アルゴリズム」が大規模かつ複雑な確率的最適化問題を解くことを示し、そのアルゴリズムに基づくアンサンブル学習法を提案することができた。数値比較実験により、本提案学習法が既存学習法と比べて高い分類精度を達成するアンサンブル学習法であることを示すことができた。これらの結果を纏めた論文は、ジャーナル IEEE Transactions on Cybernetics に採録されることになった。また、この提案手法を加速させるための手法についても幾つか提案することができており、それらの成果は現在、投稿中である。この研究テーマは令和二年度から開始する予定であったため、当初の計画以上に進展していると言える。

Strategy for Future Research Activity

令和元年度の研究成果を発展させる。例えば、より高速、かつ、高精度のアンサンブル学習法の開発ができるようにする。上述の通り、現在、令和元年度に開発した「確率的不動点最適化アルゴリズム」の高速化に成功している。

Causes of Carryover

適切に使用したが僅かに次年度使用額が生じた。研究遂行のために適切に使用する。

  • Research Products

    (8 results)

All 2020 2019 Other

All Journal Article (5 results) (of which Peer Reviewed: 5 results,  Open Access: 4 results) Presentation (2 results) (of which Int'l Joint Research: 1 results,  Invited: 2 results) Remarks (1 results)

  • [Journal Article] Stochastic Fixed Point Optimization Algorithm for Classifier Ensemble2020

    • Author(s)
      Hideaki Iiduka
    • Journal Title

      IEEE Transactions on Cybernetics

      Volume: - Pages: -

    • DOI

      10.1109/TCYB.2019.2921369

    • Peer Reviewed
  • [Journal Article] Incremental Proximal Method for Nonsmooth Convex Optimization With Fixed Point Constraints of Quasi-nonexpansive Mappings2019

    • Author(s)
      Haruhi Oishi, Yu Kobayashi, Hideaki Iiduka
    • Journal Title

      Linear and Nonlinear Analysis

      Volume: 5 Pages: 477 493

    • Peer Reviewed / Open Access
  • [Journal Article] Convergence Analysis of Incremental and Parallel Line Search Subgradient Methods in Hilbert Space2019

    • Author(s)
      Kazuhiro Hishinuma, Hideaki Iiduka
    • Journal Title

      Journal of Nonlinear and Convex Analysis

      Volume: 20 Pages: 1937 1947

    • Peer Reviewed / Open Access
  • [Journal Article] Incremental and Parallel Machine Learning Algorithms With Automated Learning Rate Adjustments2019

    • Author(s)
      Kazuhiro Hishinuma, Hideaki Iiduka
    • Journal Title

      Frontiers in Robotics and AI

      Volume: 6 Pages: 77

    • DOI

      10.3389/frobt.2019.00077

    • Peer Reviewed / Open Access
  • [Journal Article] Iterative Methods for Parallel Convex Optimization With Fixed Point Constraints2019

    • Author(s)
      Kaito Sakurai, Takayuki Jimba, Hideaki Iiduka
    • Journal Title

      Journal of Nonlinear and Variational Analysis

      Volume: 3 Pages: 115 126

    • DOI

      10.23952/jnva.3.2019.2.01

    • Peer Reviewed / Open Access
  • [Presentation] 複雑制約付き凸最適化とその応用 -不動点理論で端緒を開く-2019

    • Author(s)
      飯塚 秀明
    • Organizer
      日本オペレーションズ・リサーチ学会 2019年秋季研究発表会
    • Invited
  • [Presentation] Fixed Point Algorithms and Their Applications2019

    • Author(s)
      Hideaki Iiduka
    • Organizer
      The International Conference on Nonlinear Analysis and Convex Analysis-International Conference on Optimization: Techniques and Applications
    • Int'l Joint Research / Invited
  • [Remarks] 数理最適化研究室へようこそ

    • URL

      https://iiduka.net/

URL: 

Published: 2021-01-27  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi