2020 Fiscal Year Research-status Report
Development of New Generation Artificial Intelligence Based on Theoretical Analyses of Deep Learning
| Project/Area Number |
18K19821
|
|---|
| Research Institution | Nara Institute of Science and Technology |
|---|
Principal Investigator |
池田 和司 奈良先端科学技術大学院大学, 先端科学技術研究科, 教授 (10262552)
|
|---|
| Project Period (FY) |
2018-06-29 – 2022-03-31
|
| Keywords | 深層学習 / ResNet / トラッキング / グラフ信号処理 |
|---|
| Outline of Annual Research Achievements |
本研究は，現在は試行錯誤が中心の人工知能(AI)研究の転換をめざすものである．AIの中心である深層学習の中心は，独自のビッグデータと豊富な計算機資源及び人的資源を持つ巨大情報産業が先導しているが，これに対抗してAI研究をリードするために深層学習の要素技術を理論解析し，次世代直方人工知能の開発を目指している．深層学習におけるコア技術である確率降下法，プレトレーニング，ドロップアウト，ショートカット，の4つである．昨年度までに，汎化ギャップを評価する方法，フィッシャー情報行列の固有値を評価する方法などにより，深層学習の性能を理論的に解析する方法を利用し，近年特に注目されているResNetを中心的に研究し，ResNetの特徴であるショートカット(スキップコネクション)の有無が汎化能力に与える影響の評価およびドロップアウトとその亜種であるストキャスティックデプスについて，フィッシャー情報行列の固有値の評価を行ってきた．本年度は視点を変えて，多数の素子の連続値近似による解析やグラフ信号処理との融合を行うとともに，理論研究の知見を生かした深層学習の応用研究を行ってきた．その結果，グラフ問題において有効な計算方法を開発するとともに，社会性研究における動物トラッキングにおいて深層学習の有効性を確認することができた．
|
| Current Status of Research Progress |
Current Status of Research Progress
3: Progress in research has been slightly delayed.
Reason
コロナ禍による移動の制限および研究員雇用の遅延により，本年度計画していたトラッキングによる社会性研究への応用を実施できなかった．これは次年度に繰り越して実施する予定である．
|
| Strategy for Future Research Activity |
多数の素子の連続値近似による解析は道半ばであり，今後は深層学習の最適設計に取り組む予定である．またグラフ信号処理との融合も引き続き進め，深層学習の応用をより広範なものにしていく．
具体的には，深層学習の連続値近似により深層学習を関数空間に拡大し，その実現は有限個の素子によるサンプリングだとみなすことにより，最適な深層学習を設計する．
|
| Causes of Carryover |
コロナ禍により研究員雇用が遅れたため，研究に遅延が生じた．研究員は次年度に雇用し，研究を実施する予定である．
|
Research Products
(5 results)
