2021 Fiscal Year Research-status Report
深層学習と統計モデリングの融合による自然現象予報のための画像変換方法の検討
| Project/Area Number |
20K11863
|
|---|
| Research Institution | Wakayama University |
|---|
Principal Investigator |
八谷 大岳 和歌山大学, システム工学部, 講師 (00578908)
|
|---|
| Project Period (FY) |
2020-04-01 – 2023-03-31
|
| Keywords | 深層学習 / 点過程 / マルチスモーダル / Transformer |
|---|
| Outline of Annual Research Achievements |
本研究では、ステップ1として、2021年度前半までに、ディープニューラルネットワーク（以下、DNN）の画像変換技術と、自然科学にて研究が進んでいる統計モデルとを融合し、過去のイベントの時空間情報から未来のイベントを予測する方法を検討し、ステップ２として、2021年度後半から、近年、先端技術として注目を集めているTransformerを導入し、ステップ１の方式を拡張する計画である。本年度は、本計画に従い検討を行い、ステップ１の成果を、MIRU2021（画像の認識・理解シンポジウム）のインタラクティブ、ACML2021（Asian Conference on Machine Learning）のlong oralにて報告するとともに、国際論文誌に投稿した。また、ステップ２の成果を、国際会議に投稿した。
具体的には、不規則に発生するイベントの統計モデルとして知られている点過程では、次のイベントの起こりやすさを表す強度関数をモデル化する。近年、強度関数のモデルに、LSTM（Long Short-Term Memory）とDNNとを用いた自由度の高い方式が提案された（T. Omi et al., NeurIPS2019）。しかし、当該方式は、次のイベントの時間予測には応用されたものの、位置や深さなどの空間的な情報を活用することができていなかった。
そこで、ステップ１として、過去のイベントの時空間的な系列から特徴量を抽出し、時空間的な強度関数を推定するために、理論的な強度関数の分解に基づくマルチストリーム点過程方式を提案し、トイデータおよび地震のデータを用いた実験を通して、その有効性を示した。また、ステップ２として、イベントの時間系列からAttention機構を用いて特徴抽出を行うTransformerを導入し、多様なイベントパターンに対応できるように拡張した。
|
| Current Status of Research Progress |
Current Status of Research Progress
2: Research has progressed on the whole more than it was originally planned.
Reason
オンラインでの研究の打ち合わせ、実験および論文執筆の環境を整備し、研究を円滑に進めることができるようになったため。
|
| Strategy for Future Research Activity |
ステップ１の論文誌の採録に向けて論文の改善を進めるとともに、ステップ２の方式の改良と追加実験を行い、8月までに論文誌に投稿する。具体的には、ステップ２の方式は、過去のイベントの発生時刻の系列から、学習可能なアンカーベクトルとの相関関係に基づき、系列を表す特徴ベクトルを抽出するところが特徴となっている。時空間イベント予測するために、当該方式を、マルチモーダルなattention機構を導入し拡張する。また、時空間的なイベントの発生を予測する問題として、トイデータと地震データ以外に、自転車のレンタルの発生時刻と場所を予測する問題においても、公開データを用いて実験し、産業ユースケースでの有効性を示す。
|
| Causes of Carryover |
本年度は、国内および国際会議への出張を想定し旅費を計上していたが、新型コロナの影響により全ての会議がオンラインで実施されることになり次年度使用額が生じた。次年度では、国内会議および国際会議への出張と学会参加費および論文誌の掲載料としての使用を予定している。しかし、学会が引き続きオンラインで実施される場合は、オンラインの学会発表に用いるノートパソコンなどの機器の購入に使用する。
|
Research Products
(2 results)
