2020 Fiscal Year Annual Research Report
Advance of artificial intelligence by theoretical investigation of deep learning
| Project/Area Number |
18K19793
|
|---|
| Research Institution | The Institute of Statistical Mathematics |
|---|
Principal Investigator |
福水 健次 統計数理研究所, 数理・推論研究系, 教授 (60311362)
|
|---|
| Co-Investigator(Kenkyū-buntansha) |
鈴木 大慈 東京大学, 大学院情報理工学系研究科, 准教授 (60551372)
今泉 允聡 東京大学, 大学院総合文化研究科, 准教授 (90814088)
|
|---|
| Project Period (FY) |
2018-06-29 – 2021-03-31
|
| Keywords | 人工知能 / 深層学習 / ニューラルネットワーク / 理論解析 |
|---|
| Outline of Annual Research Achievements |
本年度は，深層学習の学習ダイナミクスに関する研究と，因果性に関わる研究とを行い，いくつかの成果を得た．
まず，深層生成モデルとして最も有名である敵対的生成ネットワーク（GAN)の生成器の学習ダイナミクスに関して研究を行った．GANの学習では安定化が重要な課題となっており，さまざまな発見的方法がいくつも提案されている．これらの方法に理論的な理解を与えるため，確率分布上の最適化の観点から収束性を議論し，学習を安定にする条件とそれに関連する安定化手法の関係を明らかにした．この研究成果は深層学習をはじめとする人工知能分野のトップ国際会議であるICLR2020に採択された．
また，深層学習を用いた因果方向の推定問題に関して研究を行い，多数の因果方向に関する例（データ）から帰納的に因果方向を推定するメタ学習を適用する方法を開発した．ベンチマークデータセットにおいてメタ学習の効果が確認でき，従来の最も精度のよい方法と同程度の性能が出ることを示した．この成果は，人工知能分野のトップ国際会議AAAI2020に採択された．また，変分オートエンコーダ―を用いた因果効果の推定に対する新しい方法を開発し，従来法と比較して高い推定精度が得られることが分かった．現在研究成果をまとめているところである．さらに，深層学習がデータに内在する意味のない相関を学習してしまい汎化しないというショートカット学習の問題を回避するための方法について研究を行い，基本的なアルゴリズムを確立した．
|
