Machine Learning under Differential Equations: An Approach by Non-smooth Optimal Control
| Project/Area Number |
20H02172
|
|---|
| Research Category |
Grant-in-Aid for Scientific Research (B)
|
| Allocation Type | Single-year Grants |
|---|
| Section | 一般 |
|---|
| Review Section |
Basic Section 21040:Control and system engineering-related
|
|---|
| Research Institution | The University of Kitakyushu |
|---|
Principal Investigator |
永原 正章 北九州市立大学, 環境技術研究所, 教授 (90362582)
|
|---|
| Project Period (FY) |
2020-04-01 – 2023-03-31
|
| Project Status |
Granted (Fiscal Year 2021)
|
| Budget Amount *help |
¥17,680,000 (Direct Cost: ¥13,600,000、Indirect Cost: ¥4,080,000)
Fiscal Year 2022: ¥5,070,000 (Direct Cost: ¥3,900,000、Indirect Cost: ¥1,170,000)
Fiscal Year 2021: ¥5,980,000 (Direct Cost: ¥4,600,000、Indirect Cost: ¥1,380,000)
Fiscal Year 2020: ¥6,630,000 (Direct Cost: ¥5,100,000、Indirect Cost: ¥1,530,000)
|
|---|
| Keywords | 機械学習 / 最適制御 / IoT / サイバーフィジカルシステム / スプライン / スパースモデリング / COVID-19 / 数値最適化 / ニューラルODE / ノンパラメトリック回帰 |
|---|
| Outline of Research at the Start |
ニューラルネットワークを微分方程式（ODE）で表現した「無限の深さの」深層学習（ニューラルODE）や，IoTにおける物理系センサデータからのノンパラメトリック回帰など，微分方程式の制約をもつ機械学習が近年，重要性を増している．しかし，従来の機械学習の手法では，それら微分方程式を陽に扱うことはできない．本研究の目的は，（１）微分方程式を制約にもつ機械学習を非平滑最適制御問題として再定式化し，（２）微分方程式を陽に考慮した無限次元の最適化を効率よく解く手法を提案，そして（３）電動車いすを用いた実証実験により提案手法の有効性を示すことである．
|
| Outline of Annual Research Achievements |
2020年度は，機械学習のノンパラメトリック回帰問題を最適制御の問題として定式化し，その特徴を必要条件から分析した．また，確率的方法による新しい最適制御の数値解法を提案した．具体的には，有限個のデータセットが与えられたときに，それらデータにフィットする滑らかな曲線を求める問題（平滑化スプライン）を考察の対象とした．データ点上での制約を付け加えたときの最適曲線を制約付きの最適制御問題として定式化し，必要条件を導出した．さらに，その必要条件である２点境界値問題を高速に解くアルゴリズムを開発した．このアルゴリズムは，Robbins-Monroアルゴリズムを拡張したものであり，確率的手法により初期推定値を求める．さらにニュートン法により，数値解の精密化を図る手法を提案した．これらの手法は，論文としてまとめられ，Optimal Control, Applications and Methods誌およびIEEE Control Systems Lettersに投稿した（現在，査読中）．
さらに，近年の喫緊の課題である新型コロナウィルス (COVID-19) エピデミック（またはパンデミック）の抑制の問題を最適制御の枠組みから検討し，人間行動の抑制を目標とした制御問題を新たな考察対象として，その最適制御を検討した．この新しい取り組みは，Advanced Robotics誌への論文として発表し，制御理論・機械学習だけでなくネットワーク科学や経済学とも連携した分野横断型共同研究を提案した．
|
| Current Status of Research Progress |
Current Status of Research Progress
1: Research has progressed more than it was originally planned.
Reason
研究計画通りに，機械学習の問題を最適制御問題として定式化し，その必要条件の導出と数値解法の検討は予定通りに進んでいる．さらに，新型コロナウィルスパンデミックの問題を新たに考察の対象とし，人間社会系に対する最適制御問題として定式化する研究の方向性を見出した．これは当初計画していた範囲よりもさらに広い範囲であり，また早期に解決が求められている喫緊の社会的課題である．以上より，本研究は当初の計画以上に進展していると言える．
|
| Strategy for Future Research Activity |
当初の研究計画通り，新しい枠組みでの機械学習アルゴリズムを実システムに適用すべく，電動車いすを制御対象とした自動運転実験に取り組むため，その実験環境の準備と高速アルゴリズムの導出を計画する．さらに，（当初の計画にはないが）パンデミック抑制のための検討を進め，提案する機械学習アルゴリズムによるデータからの人間行動の予測，および最適制御による人間行動の抑制に関する研究を推進する．
|
Report
(1 results)
Research Products
(16 results)
