• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Sparse factor analysis in high-dimensional time series and its application to energy science

Research Project

Project/Area Number 23K11007
Research Category

Grant-in-Aid for Scientific Research (C)

Allocation TypeMulti-year Fund
Section一般
Review Section Basic Section 60030:Statistical science-related
Research InstitutionKyushu University

Principal Investigator

廣瀬 慧  九州大学, マス・フォア・インダストリ研究所, 教授 (40609806)

Project Period (FY) 2023-04-01 – 2026-03-31
Project Status Granted (Fiscal Year 2023)
Budget Amount *help
¥4,680,000 (Direct Cost: ¥3,600,000、Indirect Cost: ¥1,080,000)
Fiscal Year 2025: ¥1,430,000 (Direct Cost: ¥1,100,000、Indirect Cost: ¥330,000)
Fiscal Year 2024: ¥1,430,000 (Direct Cost: ¥1,100,000、Indirect Cost: ¥330,000)
Fiscal Year 2023: ¥1,820,000 (Direct Cost: ¥1,400,000、Indirect Cost: ¥420,000)
Keywords因子分析モデル / 高次元時系列データ解析 / 欠測データ解析
Outline of Research at the Start

本研究では、因子分析モデルと状態空間モデルを融合させた多変量時系列モデリングを行う。時系列データの内在する構造を理解し、新たな知識発見へとつなげるためには、推定されたモデルを解釈することが必要不可欠となる。そこで、新たな正則化項に基づくスパース正則化法を提案する。とくに、Lasso等の従来のスパース推定法だけでなく、因子分析特有のスパース推定法である因子回転を拡張することにより、全く新しいスパース正則化法を提案する。この方法が実現すると、高精度に予測し、かつ結果を解釈できる手法として、様々な科学・産業に応用できるようになる。提案手法を実行するRパッケージを作成し、Web上に公開する。

Outline of Annual Research Achievements

本研究では、多変量時系列データに基づいた高精度な予測モデルの構築を目指している。特に、電力需要予測の分野での実用的な問題解決への応用を想定し、複数の時系列データを活用してその合計値を予測する合計値予測に焦点を当てた。この研究で採用したアプローチは、合計値を目的変数とし、過去の電力使用量のデータや気温などの環境情報を説明変数として用いた回帰モデルである。これにより、合計値を対象とした予測が実現できるようになる。そこで、このモデルの予測性能と振る舞いを解析した。
その結果、時系列の数が増加すると、説明変数の次元も増加し、モデルの複雑度が高まることが数値的に確認された。また、このことが理論的に成り立つかどうか調べたところ、誤差の相関が正であるときに、世帯数が増えるとモデルの複雑度が増加することを示すことができた。とくに、世帯数が多い場合、パラメータ数が観測数を超えることさえあり、オーバーフィッティングの問題が生じてしまう。この問題に対処するため、世帯をクラスタリングすることで、説明変数の次元を抑制し、モデルの過学習を防ぐ方法を考えた。このクラスタリングによって、モデルのバイアスバリアンストレードオフを実現できる場合があることが示された。また、実データ解析及び数値シミュレーションを通じて、二重降下現象が起こることを確認した。二重降下現象は、深層学習でよく現れる最新のバイアスバリアンストレードオフの振る舞いであり、近年多くの研究者が取り組んでいるホットトピックである。
以上の研究成果を、国際会議で1件、国内学会で1件発表を行った。

Current Status of Research Progress
Current Status of Research Progress

3: Progress in research has been slightly delayed.

Reason

当初の目標は、多変量時系列の予測を高精度に行うために因子分析モデルを適用することであった。今年度は、その前段階として、まずは複数の時系列の相関関係を活用することで、どの程度予測精度が向上するかを調べた。その結果、クラスタリングを行うことによって精度良く予測ができることが理論的にわかった。因子分析を直接適用したわけではないが、大量のデータを精度よく予測する一般的な理論を構築したという意味で進展したと言える。さらに、因子分析モデルはクラスタリングと大きく関連しており、今回の研究は、因子分析を行うことによってどのようにして予測精度が向上するかを理解する助けとなる内容である。

Strategy for Future Research Activity

現段階ではまだ因子分析による予測を行っていないため、まずは電力需要のデータに因子分析を適用する。また、クラスタリングとの比較も行うため、Prenetによるクラスタリングを行い、合計値予測におけるクラスタリングの結果や予測精度の比較検証を行う。さらに、Prenet以外のクラスタリング手法(たとえば、k-meansやWard法)との比較も行う。理論的、数値的に様々な方法を比較することにより、因子分析を用いる有用性を明らかにする。

Report

(1 results)
  • 2023 Research-status Report
  • Research Products

    (11 results)

All 2024 2023

All Journal Article (2 results) (of which Peer Reviewed: 2 results,  Open Access: 2 results) Presentation (9 results) (of which Int'l Joint Research: 4 results,  Invited: 2 results)

  • [Journal Article] Time Series Analysis under Not Missing at Random2024

    • Author(s)
      馬場 由羽貴、廣瀬 慧
    • Journal Title

      Journal of the Japan Statistical Society, Japanese Issue

      Volume: 53 Issue: 2 Pages: 275-296

    • DOI

      10.11329/jjssj.53.275

    • ISSN
      0389-5602, 2189-1478
    • Year and Date
      2024-02-27
    • Related Report
      2023 Research-status Report
    • Peer Reviewed / Open Access
  • [Journal Article] Fast same-step forecast in SUTSE model and its theoretical properties2024

    • Author(s)
      Yoshida Wataru、Hirose Kei
    • Journal Title

      Computational Statistics & Data Analysis

      Volume: 190 Pages: 107861-107861

    • DOI

      10.1016/j.csda.2023.107861

    • Related Report
      2023 Research-status Report
    • Peer Reviewed / Open Access
  • [Presentation] Factor analysis and its application to energy data analysis.2023

    • Author(s)
      Hirose, K
    • Organizer
      Mathematical Research in Energy Systems I 2 CNER-IMI Joint International Workshop
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research / Invited
  • [Presentation] Statistical modeling for electricity demand forecasting.2023

    • Author(s)
      Hirose, K
    • Organizer
      The Fifth Workshop on Interdisciplinary Sciences (WIS 2023)
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research / Invited
  • [Presentation] Aggregation value regression and its application to household demand forecasting2023

    • Author(s)
      Hirose, K., Masuda, H., Matsui, H
    • Organizer
      10th International Congress on Industrial and Applied Mathematics(ICIAM 2023 TOKYO)
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research
  • [Presentation] An algebraic approach to factor analysis.2023

    • Author(s)
      Fukasaku, R., Hirose, K., Kabata, Y., Teramoto, K.
    • Organizer
      10th International Congress on Industrial and Applied Mathematics(ICIAM 2023 TOKYO).
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research
  • [Presentation] スパースペナルティを用いたバイクラスタリング2023

    • Author(s)
      王 際強, 廣瀬 慧
    • Organizer
      2023年度 統計関連学会連合大会
    • Related Report
      2023 Research-status Report
  • [Presentation] スパース動的回帰モデルによる複数時刻の時系列分析2023

    • Author(s)
      吉田 航, 廣瀬 慧
    • Organizer
      2023年度 統計関連学会連合大会
    • Related Report
      2023 Research-status Report
  • [Presentation] 合計値回帰モデルにおけるクラスタリングによる二重降下現象と電力需要量予測への応用2023

    • Author(s)
      廣瀬 慧, 増田 弘毅, 松井 秀俊
    • Organizer
      2023年度 統計関連学会連合大会
    • Related Report
      2023 Research-status Report
  • [Presentation] 統計的ダイバージェンスを応用した高次元線形回帰モデルに対する正則化パラメータの頑健な選択について2023

    • Author(s)
      倉田 澄人, 廣瀬 慧
    • Organizer
      2023年度 統計関連学会連合大会
    • Related Report
      2023 Research-status Report
  • [Presentation] 計算機代数に基づく因子分析の最尤推定2023

    • Author(s)
      深作 亮也,廣瀬 慧,加葉田 雄太朗,寺本 圭佑
    • Organizer
      日本計算機統計学会 第37回大会
    • Related Report
      2023 Research-status Report

URL: 

Published: 2023-04-13   Modified: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi