| Project/Area Number |
22K17950
|
|---|
| Research Category |
Grant-in-Aid for Early-Career Scientists
|
| Allocation Type | Multi-year Fund |
|---|
| Review Section |
Basic Section 61030:Intelligent informatics-related
|
|---|
| Research Institution | Osaka University (2023)
Kyushu University (2022) |
|---|
Principal Investigator |
小西 卓哉 大阪大学, 大学院情報科学研究科, 特任講師(常勤) (20760169)
|
|---|
| Project Period (FY) |
2022-04-01 – 2025-03-31
|
| Project Status |
Granted (Fiscal Year 2023)
|
| Budget Amount *help |
¥4,290,000 (Direct Cost: ¥3,300,000、Indirect Cost: ¥990,000)
Fiscal Year 2024: ¥910,000 (Direct Cost: ¥700,000、Indirect Cost: ¥210,000)
Fiscal Year 2023: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2022: ¥2,340,000 (Direct Cost: ¥1,800,000、Indirect Cost: ¥540,000)
|
|---|
| Keywords | 機械学習 |
|---|
| Outline of Research at the Start |
機械学習による予測結果を別の最適化問題に利用する予測・最適化の問題は機械学習が社会に浸透するにつれて重要性を増している．この問題に対して近年最適化問題の情報を陰関数微分によって機械学習のモデルの学習に反映させる研究が注目されている．しかし，陰関数微分による学習は勾配計算に時間がかかり，扱う状況によって性能が大きくばらつく問題点がある．本研究では，こうした陰関数微分による学習の問題点を解決する効率的なアルゴリズムの開発を行う．また，得られたアルゴリズムを実用的な予測・最適化の問題を解くために活用する．これらの研究を通してアルゴリズムの理解を深め，社会の幅広い問題へ応用することを目指す．
|
| Outline of Annual Research Achievements |
近年，陰関数微分が機械学習の様々な予測・最適化の問題に応用されている．しかし陰関数微分を伴う学習は勾配の計算に時間がかかり，扱う状況によって性能がばらつくことが問題になる．本研究ではこれらの課題を解決する効率的なアルゴリズムを開発し，より実践的な問題へ応用することを検討している．
今年度はまず高速化の課題に対して，前年度に取り組んでいた深層平衡モデルを解析した研究についてまとめの作業を行い，最終的に機械学習に関する国際論文誌に採択された．論文では，平衡点を求めるプロセスを離散的な力学系として解釈することで，計算効率を高めた代理的なモデルを提案し，数値実験による有効性を示した結果を報告した．この研究を通して得られた知見は，陰関数微分を利用する他のアルゴリズムに応用できるだけでなく，関連するより広範な問題に対しても活用できる可能性があると考えられる．
また，安定性の課題に対しても調査を行った．陰関数微分を予測・最適化の問題に応用するとき，データの量と問題の種類に応じて性能がばらつく傾向があり，こうした不安定な挙動はアルゴリズムを実際に応用するときに課題になる．そこで挙動が不安定になる原因や仕組みを明らかにすることで，様々な状況の変化に対して安定した性能を達成するための方策について検討している．今年度はデータ量と性能のトレードオフや，性能がばらつくメカニズムを主に理論的な側面から検証を行った．
|
| Current Status of Research Progress |
Current Status of Research Progress
3: Progress in research has been slightly delayed.
Reason
高速化の課題については，これまでの結果をまとめ，一定の成果を発表することができた．他方で安定化の課題については，今年度は理論的な解析を試みたが，現時点ではまだ有力な結果は得られていない．
|
| Strategy for Future Research Activity |
今年度に引き続き安定化の課題について取り組む予定をしている．これまでに得られた知見を踏まえた上で，理論的な観点だけでなく，もう少し実際の問題で有効な手法についても検討していく予定である．
|
