• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Machine Learning under Differential Equations: An Approach by Non-smooth Optimal Control

Research Project

Project/Area Number 20H02172
Research Category

Grant-in-Aid for Scientific Research (B)

Allocation TypeSingle-year Grants
Section一般
Review Section Basic Section 21040:Control and system engineering-related
Research InstitutionThe University of Kitakyushu

Principal Investigator

永原 正章  北九州市立大学, 環境技術研究所, 教授 (90362582)

Project Period (FY) 2020-04-01 – 2023-03-31
Project Status Granted (Fiscal Year 2021)
Budget Amount *help
¥17,680,000 (Direct Cost: ¥13,600,000、Indirect Cost: ¥4,080,000)
Fiscal Year 2022: ¥5,070,000 (Direct Cost: ¥3,900,000、Indirect Cost: ¥1,170,000)
Fiscal Year 2021: ¥5,980,000 (Direct Cost: ¥4,600,000、Indirect Cost: ¥1,380,000)
Fiscal Year 2020: ¥6,630,000 (Direct Cost: ¥5,100,000、Indirect Cost: ¥1,530,000)
Keywords機械学習 / 最適制御 / IoT / サイバーフィジカルシステム / スプライン / スパースモデリング / COVID-19 / 数値最適化 / ニューラルODE / ノンパラメトリック回帰
Outline of Research at the Start

ニューラルネットワークを微分方程式(ODE)で表現した「無限の深さの」深層学習(ニューラルODE)や,IoTにおける物理系センサデータからのノンパラメトリック回帰など,微分方程式の制約をもつ機械学習が近年,重要性を増している.しかし,従来の機械学習の手法では,それら微分方程式を陽に扱うことはできない.本研究の目的は,(1)微分方程式を制約にもつ機械学習を非平滑最適制御問題として再定式化し,(2)微分方程式を陽に考慮した無限次元の最適化を効率よく解く手法を提案,そして(3)電動車いすを用いた実証実験により提案手法の有効性を示すことである.

Outline of Annual Research Achievements

2020年度は,機械学習のノンパラメトリック回帰問題を最適制御の問題として定式化し,その特徴を必要条件から分析した.また,確率的方法による新しい最適制御の数値解法を提案した.具体的には,有限個のデータセットが与えられたときに,それらデータにフィットする滑らかな曲線を求める問題(平滑化スプライン)を考察の対象とした.データ点上での制約を付け加えたときの最適曲線を制約付きの最適制御問題として定式化し,必要条件を導出した.さらに,その必要条件である2点境界値問題を高速に解くアルゴリズムを開発した.このアルゴリズムは,Robbins-Monroアルゴリズムを拡張したものであり,確率的手法により初期推定値を求める.さらにニュートン法により,数値解の精密化を図る手法を提案した.これらの手法は,論文としてまとめられ,Optimal Control, Applications and Methods誌およびIEEE Control Systems Lettersに投稿した(現在,査読中).

さらに,近年の喫緊の課題である新型コロナウィルス (COVID-19) エピデミック(またはパンデミック)の抑制の問題を最適制御の枠組みから検討し,人間行動の抑制を目標とした制御問題を新たな考察対象として,その最適制御を検討した.この新しい取り組みは,Advanced Robotics誌への論文として発表し,制御理論・機械学習だけでなくネットワーク科学や経済学とも連携した分野横断型共同研究を提案した.

Current Status of Research Progress
Current Status of Research Progress

1: Research has progressed more than it was originally planned.

Reason

研究計画通りに,機械学習の問題を最適制御問題として定式化し,その必要条件の導出と数値解法の検討は予定通りに進んでいる.さらに,新型コロナウィルスパンデミックの問題を新たに考察の対象とし,人間社会系に対する最適制御問題として定式化する研究の方向性を見出した.これは当初計画していた範囲よりもさらに広い範囲であり,また早期に解決が求められている喫緊の社会的課題である.以上より,本研究は当初の計画以上に進展していると言える.

Strategy for Future Research Activity

当初の研究計画通り,新しい枠組みでの機械学習アルゴリズムを実システムに適用すべく,電動車いすを制御対象とした自動運転実験に取り組むため,その実験環境の準備と高速アルゴリズムの導出を計画する.さらに,(当初の計画にはないが)パンデミック抑制のための検討を進め,提案する機械学習アルゴリズムによるデータからの人間行動の予測,および最適制御による人間行動の抑制に関する研究を推進する.

Report

(1 results)
  • 2020 Annual Research Report

Research Products

(16 results)

All 2021 2020 Other

All Int'l Joint Research (4 results) Journal Article (5 results) (of which Int'l Joint Research: 2 results,  Peer Reviewed: 5 results,  Open Access: 1 results) Presentation (5 results) (of which Int'l Joint Research: 5 results) Book (1 results) Remarks (1 results)

  • [Int'l Joint Research] Indian Institute of Technology Bombay/Indian Institute of Technology Hyderabad(インド)

    • Related Report
      2020 Annual Research Report
  • [Int'l Joint Research] University of Southern California(米国)

    • Related Report
      2020 Annual Research Report
  • [Int'l Joint Research] Paderborn University(ドイツ)

    • Related Report
      2020 Annual Research Report
  • [Int'l Joint Research] Melbourne University/Queensland University of Technology(オーストラリア)

    • Related Report
      2020 Annual Research Report
  • [Journal Article] Control, intervention, and behavioral economics over human social networks against COVID-192021

    • Author(s)
      M. Nagahara, B. Krishnamachari, M. Ogura, A. Ortega, Y. Tanaka, Y. Ushifusa, and T. Valente
    • Journal Title

      Advanced Robotics

      Volume: -

    • DOI

      10.1080/01691864.2021.1928553

    • Related Report
      2020 Annual Research Report
    • Peer Reviewed / Int'l Joint Research
  • [Journal Article] Maximum Hands-Off Control With Time-Space Sparsity2021

    • Author(s)
      Ikeda Takuya、Nagahara Masaaki
    • Journal Title

      IEEE Control Systems Letters

      Volume: 5 Pages: 1213-1218

    • DOI

      10.1109/lcsys.2020.3023265

    • Related Report
      2020 Annual Research Report
    • Peer Reviewed
  • [Journal Article] Majority Determination in Binary-valued Communication Networks2021

    • Author(s)
      Azuma Shun-Ichi、Nagahara Masaaki
    • Journal Title

      IEEE Transactions on Control of Network Systems

      Volume: - Pages: 1-1

    • DOI

      10.1109/tcns.2020.3038839

    • Related Report
      2020 Annual Research Report
    • Peer Reviewed / Open Access
  • [Journal Article] LPV-FIR Modeling of Wheelchair Dynamics and Its Application to Model Predictive Control2021

    • Author(s)
      TOKUSHIGE Tatsuki、FUJIMOTO Yusuke、NAGAHARA Masaaki
    • Journal Title

      T. SICE

      Volume: 57 Issue: 3 Pages: 156-161

    • DOI

      10.9746/sicetr.57.156

    • NAID

      130007999529

    • ISSN
      0453-4654, 1883-8189
    • Related Report
      2020 Annual Research Report
    • Peer Reviewed
  • [Journal Article] CLOT norm minimization for continuous hands-off control2020

    • Author(s)
      Nagahara Masaaki、Chatterjee Debasish、Challapalli Niharika、Vidyasagar Mathukumalli
    • Journal Title

      Automatica

      Volume: 113 Pages: 108679-108679

    • DOI

      10.1016/j.automatica.2019.108679

    • Related Report
      2020 Annual Research Report
    • Peer Reviewed / Int'l Joint Research
  • [Presentation] Maximum hands-off control with time-space sparsity2021

    • Author(s)
      T. Ikeda and M. Nagahara
    • Organizer
      American Control Conference
    • Related Report
      2020 Annual Research Report
    • Int'l Joint Research
  • [Presentation] Linear quadratic tracking control with sparsity-promoting regularization2021

    • Author(s)
      Z. Zhang and M. Nagahara
    • Organizer
      American Control Conference
    • Related Report
      2020 Annual Research Report
    • Int'l Joint Research
  • [Presentation] An Approach to Minimum Attention Control by Sparse Derivative2020

    • Author(s)
      Masaaki Nagahara, and Dragan Nesic
    • Organizer
      59th IEEE Conference on Decision and Control (CDC2020)
    • Related Report
      2020 Annual Research Report
    • Int'l Joint Research
  • [Presentation] The turnpike property in the maximum hands-off control2020

    • Author(s)
      Noboru Sakamoto, and Masaaki Nagahara
    • Organizer
      59th IEEE Conference on Decision and Control (CDC2020), 2020
    • Related Report
      2020 Annual Research Report
    • Int'l Joint Research
  • [Presentation] Maximum hands-off feedback control for finite-time stabilization2020

    • Author(s)
      Yogesh Kumar, Sukumar Srikant, Masaaki Nagahara, Debasish Chatterjee, and Daniel E. Quevedo
    • Organizer
      59th IEEE Conference on Decision and Control (CDC2020)
    • Related Report
      2020 Annual Research Report
    • Int'l Joint Research
  • [Book] Sparsity Methods for Systems and Control2020

    • Author(s)
      Masaaki Nagahara
    • Total Pages
      200
    • Publisher
      Now Publishers
    • ISBN
      9781680837247
    • Related Report
      2020 Annual Research Report
  • [Remarks] Masaaki Nagahara's Web Page

    • URL

      https://nagahara-masaaki.github.io/

    • Related Report
      2020 Annual Research Report

URL: 

Published: 2020-04-28   Modified: 2022-04-19  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi