| Project/Area Number |
23K11246
|
|---|
| Research Category |
Grant-in-Aid for Scientific Research (C)
|
| Allocation Type | Multi-year Fund |
|---|
| Section | 一般 |
|---|
| Review Section |
Basic Section 61040:Soft computing-related
|
|---|
| Research Institution | Hosei University |
|---|
Principal Investigator |
山岸 昌夫 法政大学, 理工学部, 准教授 (30638870)
|
|---|
| Project Period (FY) |
2023-04-01 – 2027-03-31
|
| Project Status |
Granted (Fiscal Year 2023)
|
| Budget Amount *help |
¥4,680,000 (Direct Cost: ¥3,600,000、Indirect Cost: ¥1,080,000)
Fiscal Year 2026: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2025: ¥780,000 (Direct Cost: ¥600,000、Indirect Cost: ¥180,000)
Fiscal Year 2024: ¥1,820,000 (Direct Cost: ¥1,400,000、Indirect Cost: ¥420,000)
Fiscal Year 2023: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
|
|---|
| Keywords | 機械学習 / 連続最適化 / 大域的最適化 / 最急降下法 / 最適化アルゴリズム / 深層学習 |
|---|
| Outline of Research at the Start |
「多層ニューラルネットワークの学習」は、ある種の誤差関数を最小化する問題として定式化されており、特定の誤差関数に対しては、厳密な最小化を実現できることが知られている。本研究では、高度な学習(例えば、学習後のニューラルネットワークに推論を効率的に実現できる機能を付加するなど)を目標とした誤差関数に対して、厳密な最小化を実現する最適化アルゴリズムの提案を目指す。
|
| Outline of Annual Research Achievements |
機械学習アルゴリズムは，数理最適化理論の高度化に支えられながら進化して続けている．「多層ニューラルネットワークの学習問題」は， 大域的な最適解を求めることが困難な問題の１つとして考えられてきたが，近年になり，基本的な反復アルゴリズムの代表例である最急降下法を用いて，特定の条件の下で大域的最適解が求められることが明らかになってきている．本研究では，これらの成果を拡張し，より広いクラスの学習問題とより広いクラスの反復アルゴリズムに対して，大域的な最適解への収束を保証するための条件を明らかにし，ニューラルネットワーク(NN)の学習理論に寄与することを目標としている．
今年度は，大域的最適化を目指す対象となるNNの構造を決定するべく，具体的な応用問題（視線動作分類）に対してNN型の手法を構築した．視線動作分類は，顔魅力評定時の評価者の視線運動に現れる特徴を用いて，視線運動情報から評価者の魅力評定値を推定する問題である．この問題を対象に，(i)評価者の個人差が大きく，個人差を考慮可能なNNの構造が有望であること，(ii)各個人ごとに別々のNNを準備することで高い推定精度を実現できること，(iii)各個人ごとのNNのパラメータの中でも，優れた推定精度を達成するものが局在する部分空間が存在すること，(iv)この特別な部分空間は，安直な目的関数に対して通常の最急降下法を素直に用いたとしても発見には至らないこと，などを実験的に明らかにすることに成功している．
|
| Current Status of Research Progress |
Current Status of Research Progress
3: Progress in research has been slightly delayed.
Reason
様々な検討の結果，NNの構造に具体的な制約をかけることが避けられないような感触を得ている．それに伴い，適切な構造の検討に時間がかかってしまっている．
|
| Strategy for Future Research Activity |
研究実績の概要の(iv)で述べたとおり，視線動作分類を対象に検討したNNでは，安直な目的関数を対象に，通常の最急降下法を素直に用いたとしても，所望の部分空間の発見には至らないことが観察されている．この課題を主な対象とし，特別に設計されたNN・目的関数・それらに対する学習アルゴリズムの収束解析を検討する．
|
