• 研究課題をさがす
  • 研究者をさがす
  • KAKENの使い方
  1. 前のページに戻る

確率的不動点最適化アルゴリズムとアンサンブル学習への応用

研究課題

研究課題/領域番号 18K11184
研究種目

基盤研究(C)

配分区分基金
応募区分一般
審査区分 小区分60020:数理情報学関連
研究機関明治大学

研究代表者

飯塚 秀明  明治大学, 理工学部, 専任教授 (50532280)

研究期間 (年度) 2018-04-01 – 2021-03-31
研究課題ステータス 完了 (2020年度)
配分額 *注記
3,510千円 (直接経費: 2,700千円、間接経費: 810千円)
2020年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円)
2019年度: 1,040千円 (直接経費: 800千円、間接経費: 240千円)
2018年度: 1,430千円 (直接経費: 1,100千円、間接経費: 330千円)
キーワード確率的最適化 / 不動点 / アンサンブル学習 / 最適化アルゴリズム
研究成果の概要

疎性と多様性を考慮したアンサンブル学習問題を考察し、その問題が不動点集合上の確率的最適化問題として定式化できることを示した。その問題に対して、確率的不動点最適化アルゴリズムを提案し、定数学習率、減少学習率、直線探索による学習率に対する収束解析を与えた。定数学習率においては、十分小さな学習率を有するアルゴリズムが問題の解を近似することができる。減少学習率においては、問題の解に収束するための条件を与えた。直線探索による学習率においては、アルゴリズムが問題の解に収束することを示した。提案及び既存アンサンブル学習法との数値比較により、提案手法の高分類精度を示すことができた。

研究成果の学術的意義や社会的意義

疎性や多様性を考慮したアンサンブル学習においては、大規模かつ複雑な確率的最適化問題を解く必要がある。しなしながら、従来のアンサンブル学習法は、その問題の大幅な緩和やその問題の解へ収束する保証がない学習アルゴリズムに基づいており、本来達成すべきアンサンブル学習法の性能を満たしていない。本研究での提案手法は、その問題に直接適用できる不動点最適化アルゴリズムに基づくアンサンブル学習法であり、世界的に例のない新解法である。本研究の成果は、従来アンサンブル学習法の適用範囲に関する改善に多大な貢献ができることから応用数学的観点のみならず、工学的観点から見ても意義があると言える。

報告書

(4件)
  • 2020 実績報告書   研究成果報告書 ( PDF )
  • 2019 実施状況報告書
  • 2018 実施状況報告書
  • 研究成果

    (17件)

すべて 2020 2019 2018 その他

すべて 雑誌論文 (13件) (うち国際共著 3件、 査読あり 13件、 オープンアクセス 8件) 学会発表 (3件) (うち国際学会 2件、 招待講演 3件) 備考 (1件)

  • [雑誌論文] Fixed point quasiconvex subgradient method2020

    • 著者名/発表者名
      Kazuhiro Hishinuma, Hideaki Iiduka
    • 雑誌名

      European Journal of Operational Research

      巻: 282 号: 2 ページ: 428-437

    • DOI

      10.1016/j.ejor.2019.09.037

    • 関連する報告書
      2020 実績報告書
    • 査読あり / 国際共著
  • [雑誌論文] Decentralized Hierarchical Constrained Convex Optimization2020

    • 著者名/発表者名
      Hideaki Iiduka
    • 雑誌名

      Optimization and Engineering

      巻: 21 号: 1 ページ: 181213-181213

    • DOI

      10.1007/s11081-019-09440-7

    • 関連する報告書
      2020 実績報告書
    • 査読あり
  • [雑誌論文] Parallel computing proximal method for nonsmooth convex optimization with fixed point constraints of quasi-nonexpansive mappings2020

    • 著者名/発表者名
      Kengo Shimizu, Kazuhiro Hishinuma, Hideaki Iiduka
    • 雑誌名

      Applied Set-Valued Analysis and Optimization

      巻: 2 号: 1 ページ: 1-17

    • DOI

      10.23952/asvao.2.2020.1.01

    • 関連する報告書
      2020 実績報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Efficiency of Inexact Fixed Point Quasiconvex Subgradient Method2020

    • 著者名/発表者名
      Kazuhiro Hishinuma, Hideaki Iiduka
    • 雑誌名

      Linear and Nonlinear Analysis

      巻: 6 ページ: 3548-3548

    • 関連する報告書
      2020 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Computation Time of Iterative Methods for Nonsmooth Convex Optimization With Fixed Point Constraints of Quasi-Nonexpansive Mappings2020

    • 著者名/発表者名
      Kengo Shimizu, Hideaki Iiduka
    • 雑誌名

      Linear and Nonlinear Analysis

      巻: 6 ページ: 281286-281286

    • 関連する報告書
      2020 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Training Deep Neural Networks Using Conjugate Gradient-like Methods2020

    • 著者名/発表者名
      Hideaki Iiduka, Yu Kobayashi
    • 雑誌名

      Electronics

      巻: 9 号: 11 ページ: 1809-1809

    • DOI

      10.3390/electronics9111809

    • 関連する報告書
      2020 実績報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Hybrid Riemannian Conjugate Gradient Methods with Global Convergence Properties2020

    • 著者名/発表者名
      Hiroyuki Sakai, Hideaki Iiduka
    • 雑誌名

      Computational Optimization and Applications

      巻: 77 号: 3 ページ: 811830-811830

    • DOI

      10.1007/s10589-020-00224-9

    • 関連する報告書
      2020 実績報告書
    • 査読あり
  • [雑誌論文] Stochastic Fixed Point Optimization Algorithm for Classifier Ensemble2020

    • 著者名/発表者名
      Hideaki Iiduka
    • 雑誌名

      IEEE Transactions on Cybernetics

      巻: - 号: 10 ページ: 4370-4380

    • DOI

      10.1109/tcyb.2019.2921369

    • 関連する報告書
      2019 実施状況報告書
    • 査読あり
  • [雑誌論文] Incremental Proximal Method for Nonsmooth Convex Optimization With Fixed Point Constraints of Quasi-nonexpansive Mappings2019

    • 著者名/発表者名
      Haruhi Oishi, Yu Kobayashi, Hideaki Iiduka
    • 雑誌名

      Linear and Nonlinear Analysis

      巻: 5 ページ: 477493-477493

    • 関連する報告書
      2019 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Convergence Analysis of Incremental and Parallel Line Search Subgradient Methods in Hilbert Space2019

    • 著者名/発表者名
      Kazuhiro Hishinuma, Hideaki Iiduka
    • 雑誌名

      Journal of Nonlinear and Convex Analysis

      巻: 20 ページ: 19371947-19371947

    • 関連する報告書
      2019 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Incremental and Parallel Machine Learning Algorithms With Automated Learning Rate Adjustments2019

    • 著者名/発表者名
      Kazuhiro Hishinuma, Hideaki Iiduka
    • 雑誌名

      Frontiers in Robotics and AI

      巻: 6 ページ: 77-77

    • DOI

      10.3389/frobt.2019.00077

    • 関連する報告書
      2019 実施状況報告書
    • 査読あり / オープンアクセス / 国際共著
  • [雑誌論文] Iterative Methods for Parallel Convex Optimization With Fixed Point Constraints2019

    • 著者名/発表者名
      Kaito Sakurai, Takayuki Jimba, Hideaki Iiduka
    • 雑誌名

      Journal of Nonlinear and Variational Analysis

      巻: 3 号: 2 ページ: 115126-115126

    • DOI

      10.23952/jnva.3.2019.2.01

    • 関連する報告書
      2019 実施状況報告書
    • 査読あり / オープンアクセス
  • [雑誌論文] Distributed Optimization for Network Resource Allocation with Nonsmooth Utility Functions2018

    • 著者名/発表者名
      Hideaki Iiduka
    • 雑誌名

      IEEE Transactions on Control of Network Systems

      巻: 印刷中 号: 4 ページ: 1354-1365

    • DOI

      10.1109/tcns.2018.2889011

    • 関連する報告書
      2018 実施状況報告書
    • 査読あり
  • [学会発表] 複雑制約付き凸最適化とその応用 -不動点理論で端緒を開く-2019

    • 著者名/発表者名
      飯塚 秀明
    • 学会等名
      日本オペレーションズ・リサーチ学会 2019年秋季研究発表会
    • 関連する報告書
      2019 実施状況報告書
    • 招待講演
  • [学会発表] Fixed Point Algorithms and Their Applications2019

    • 著者名/発表者名
      Hideaki Iiduka
    • 学会等名
      The International Conference on Nonlinear Analysis and Convex Analysis-International Conference on Optimization: Techniques and Applications
    • 関連する報告書
      2019 実施状況報告書
    • 国際学会 / 招待講演
  • [学会発表] Decentralized Optimization and Its Applications2018

    • 著者名/発表者名
      Hideaki Iiduka
    • 学会等名
      The 6th Asian Conference on Nonlinear Analysis and Optimization
    • 関連する報告書
      2018 実施状況報告書
    • 国際学会 / 招待講演
  • [備考] 数理最適化研究室へようこそ

    • URL

      https://iiduka.net/

    • 関連する報告書
      2020 実績報告書 2019 実施状況報告書 2018 実施状況報告書

URL: 

公開日: 2018-04-23   更新日: 2022-01-27  

サービス概要 検索マニュアル よくある質問 お知らせ 利用規程 科研費による研究の帰属

Powered by NII kakenhi