研究課題/領域番号 |
19H04186
|
研究機関 | 中央大学 |
研究代表者 |
樋口 知之 中央大学, 理工学部, 教授 (70202273)
|
研究分担者 |
中村 和幸 明治大学, 総合数理学部, 専任教授 (40462171)
Wu Stephen 統計数理研究所, データ科学研究系, 准教授 (70804186)
|
研究期間 (年度) |
2019-04-01 – 2023-03-31
|
キーワード | 深層学習 / 状態空間モデル / 変分オートエンコーダ / 粒子フィルタ |
研究実績の概要 |
非線形および非ガウスの状態空間モデルの一般的解法は、原理的には粒子フィルタによって与えられるが、システムモデルと観測モデルの型は既知でなければならない点が、状態空間モデル利用上の最大の障害である。本研究では深層学習による生成モデルを状態空間モデルの枠組みに導入し、状態空間モデルの適用限界を突破する理論研究とアルゴリズムの確立を目的とする。技術的にもっと具体的に言えば、パラメータ同定も含めてシステムモデルと観測モデルの自動同定法の確立になる。今年度は、粒子フィルタとVariational Auto Encoder (VAE) を融合し、観測モデルとプロポーザル分布を自動的に同定するためのシンプルかつ基本的な推定アルゴリズムを構築することに注力した。そのアルゴリズムを、既知の非線形ガウス型の状態空間モデルで表現された時系列データに適用し、再現可能性を検討した。具体的には、非線形力学系分野で解析されているモデル、具体的にはローレンツモデルとFitzHugh-Nagumoモデルに適用し、データ同化でいう双子実験を行った。特に本年度は、Deep Kalman Filter (DKF) と本研究で狙う枠組みの関係性を整理するとともに、理論的枠組みの十分な検討を行った。特に、パラメータ学習手法であるEvidence Lower Bound(ELVO) やMonte Carlo Objective (MCO) の一般的推定法の調査および、Filtering Variational Objectives (FIVO)の計算機への実装による検証をすすめた。
|
現在までの達成度 (区分) |
現在までの達成度 (区分)
2: おおむね順調に進展している
理由
この2, 3年、VAEを状態空間モデルに融合する研究が活発である。そのこと自体は、我々の研究方針の妥当性を支持するものであるが、一方、競争が激しいことを物語っている。この環境下、情報収集を効果的に行うことができ、それらを資料としてまとめ、今後の研究の軸を改めて確認できたことにより、今年度の大きな目標は達成できている。また、基礎的なアルゴリズムを複数のカオス時系列モデルにより検証することで、構造的な部分においても将来的に大きな障害となりそうな課題を特定できたことは、今後の研究を進める上で大きな成果を得られた。これらにより、おおむね順調にすすんでいると自己評価する。本研究は、理論および数値実験が主たる研究の内容であるため、新型コロナウイルスによる影響は現時点ではあまりないが、成果の国際発表や海外との共同研究の実施においては今後問題が起こってくるかも知れない。
|
今後の研究の推進方策 |
2020年度は、計算機に実装する基本アルゴリズムの開発を進める。VAEの計算プラットフォームへのインポートを行う。乱数ベクトルの発生数と対数尤度の推定精度の関係を数値実験により調べる。この結果をもとにパラメータ学習部分のアルゴリズムの改良を行う。2021年度には、既知の状態空間モデルをデータから逆推定する双子実験を開始する。これにより、アルゴリズムの改善を図る。また状態空間モデルが時間とともに変容していくデータに対して、アルゴリズムの追随性や可塑性を数値実験により検討する。2022年度には、アルゴリズムの実データへの適用を行う。特に、カオス時系列データと想定されているデータに対して適用し、カオス研究の観点から新知見を得る。また、全体を通じて、適宜、論文や学会での発表により成果を公開する。 研究体制としては、研究代表者である樋口がアルゴリズム開発を担当する。研究分担者のWuは、開発したアルゴリズムを計算機に実装し、テストデータによる検証と、実データへの適用およびその結果の分析を担当する。もう一人の研究分担者の中村は、アプリケーションの整備が急速にすすんでいる深層学習の、特にAEおよびVAEの状態空間モデルへのインポートおよび融合計算部分を担当する。本提案と類似の手法であるDKF(Deep Kalman Filter)の研究を行っている方々とも、別の研究開発プロジェクト(NEDO: 国立研究開発法人新エネルギー・産業技術総合開発機構による支援)で密に情報交換を行う予定である。
|