| Project/Area Number |
20K11979
|
|---|
| Research Category |
Grant-in-Aid for Scientific Research (C)
|
| Allocation Type | Multi-year Fund |
|---|
| Section | 一般 |
|---|
| Review Section |
Basic Section 61040:Soft computing-related
|
|---|
| Research Institution | Shonan Institute of Technology |
|---|
Principal Investigator |
|
|---|
| Project Period (FY) |
2020-04-01 – 2024-03-31
|
| Project Status |
Completed (Fiscal Year 2023)
|
| Budget Amount *help |
¥3,510,000 (Direct Cost: ¥2,700,000、Indirect Cost: ¥810,000)
Fiscal Year 2022: ¥1,040,000 (Direct Cost: ¥800,000、Indirect Cost: ¥240,000)
Fiscal Year 2021: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000)
Fiscal Year 2020: ¥1,300,000 (Direct Cost: ¥1,000,000、Indirect Cost: ¥300,000)
|
|---|
| Keywords | ニューラルネットワーク / 学習アルゴリズム / 準ニュートン法 / モーメント法 / 不動点加速法 / ネステロフの加速勾配法 |
|---|
| Outline of Research at the Start |
本研究課題では，AIとIoT技術がもたらす新たな時代の到来とともに予想される，より複雑（強非線形）かつ膨大なデータ（ビッグデータ）の処理を可能とするニューラルネットワークのこれまでにない新たな学習法の開発を目指す．この為，強非線形データに対応するモーメント準ニュートン法の高速化及び収束性能の解析，および，強非線形ビックデータの学習を高精度かつ高速に可能とするアルゴリズムの開発と解析を行う．これらの研究により，従来では実現不可能であった複雑さと規模を持つニューラルネットワークの学習問題を解決する．
|
| Outline of Final Research Achievements |
In this research, we developed a new learning method for neural networks that enables processing of more complex (strongly non-linear) and massive data (big data). In this process, we examined the relationship with the momentum method, quasi-Newton method, Nesterov's accelerated gradient method, and fixed-point acceleration method, and verified the mechanisms of each algorithm for acceleration and discussed the convergence by integrating them. Furthermore, through computer simulations on various test problems and real problems, we were able to clarify their effectiveness and issues. Through this research, we gained insights into solving problems using neural networks for learning data with a complexity that was previously impossible to achieve.
|
| Academic Significance and Societal Importance of the Research Achievements |
IoTの発展により，あらゆる場面でデータが蓄積され，これまで全く無関係であると考えられてきたデータを同時に扱うことが必要な時代となった．従って，今後はデータ量が増大するだけではなく，より複雑な関係性を内包する大規模データの扱いが必要となってきた． 一方，大規模データの学習には，データの一部分を用いた勾配による確率的勾配法が必要であるが，強非線形データの学習では十分に高精度な解を得られないといった問題があった．本研究では，この両者の特徴を持つ強非線形ビックデータの学習に対する高精度かつ高速な手法の可能性を探り，従来よりも強力な学習アルゴリズムの開発に成功したことに学術的および社会的意義がある．
|
