2021 Fiscal Year Research-status Report
Stochastic gradient variational Bayes for time-series modeling
| Project/Area Number |
18K18117
|
|---|
| Research Institution | Toyo University |
|---|
Principal Investigator |
佐野 崇 東洋大学, 情報連携学部, 講師 (00710295)
|
|---|
| Project Period (FY) |
2018-04-01 – 2023-03-31
|
| Keywords | 確率勾配変分ベイズ法 / 時系列データ / 畳み込みニューラルネットワーク / ベイジアンネットワーク / 確率的グラフィカルモデル |
|---|
| Outline of Annual Research Achievements |
確率勾配変分ベイズ法を用いた研究を続行した。運動制御に向けた時系列学習として、物理系の最も単純な場合として、1次元に拘束された質点が、単振動を行うシミュレーションを行い、データの生成を行った。この物理系の状態の時間変化は、2次元のグラフに表すことができる。これを2次元の畳み込みニューラルネットワークを用いて、変分オートエンコーダ型の教師なし学習を行うことで、ダイナミクスの学習が可能であるか評価を行った。様々な初期条件から状態の系列を作成し、6000枚のグラフを入力データとして、学習を行ったところ、十分学習が進めば、モデルは定性的に正しく軌道の予測ができることがわかった。このことは、畳み込みニューラルネットワークによる物理ダイナミクスの学習が可能であることを示しており、それを利用した運動制御の可能性を示唆している。
畳み込みニューラルネットワークと変分ベイズ型の学習法の別の応用として、noisy-ORベイジアンネットワークの新しい学習方法を開発した。この方法では、ベイジアンネットワークの離散確率変数に対応するため、Neural Variational Inference and Learning (NVIL)という手法を応用した。新しく開発した手法では、畳み込みニューラルネットワークによって推論ネットワークを構築する。この方法によって、手書き数字が扱えるほど大規模なベイジアンネットワークの学習が可能であることがわかった。また、手書き数字の1部分が基本的な表現として学習され、理解しやすい表現の獲得が可能であった。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
コロナ禍における大学運営業務の分量は増加したが、おおむね想定通りであり、研究も実行できた。
|
| Strategy for Future Research Activity |
本研究では、畳み込みニューラルネットワークを用いたダイナミクスの学習の可能性を見出すことができたが、対象としている物理系はまだ単純であるため、より複雑な系での検証が必要である。また、運動制御へとつなげるためには、系に加わる外力が、どのように系に変化を与えるかを知らなければならない。そのための物理系のセットアップと、データの準備方法が今後の課題である。さらに、今回は変分オートエンコーダ型の学習を行ったが、NVIL型など、他の学習手法との比較評価も課題である。
|
| Causes of Carryover |
コロナ禍において十分な学会活動ができなかったため、繰り越し分は、主に参加を見送った学会参加費として使用する。
|
