• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to previous page

Model Development and Demonstration of Electricity Aggregation using Reinforcement Learning

Research Project

Project/Area Number 23K13306
Research Category

Grant-in-Aid for Early-Career Scientists

Allocation TypeMulti-year Fund
Review Section Basic Section 21010:Power engineering-related
Research InstitutionUniversity of Tsukuba

Principal Investigator

小平 大輔  筑波大学, システム情報系, 助教 (20880777)

Project Period (FY) 2023-04-01 – 2025-03-31
Project Status Granted (Fiscal Year 2023)
Budget Amount *help
¥4,550,000 (Direct Cost: ¥3,500,000、Indirect Cost: ¥1,050,000)
Fiscal Year 2024: ¥1,950,000 (Direct Cost: ¥1,500,000、Indirect Cost: ¥450,000)
Fiscal Year 2023: ¥2,600,000 (Direct Cost: ¥2,000,000、Indirect Cost: ¥600,000)
Keywords電力取引 / 強化学習 / 太陽光発電予測 / 電力市場価格予測 / 蓄電池 / アグリゲーション / 電気自動車 / 発電量予測
Outline of Research at the Start

本研究では、分散再生可能エネルギー発電を集約する電力アグリゲーターの不確実性と制御性の課題を強化学習アルゴリズムによって解決することを目的とする。実証試験を通じてアグリゲーションの実現性を示し、電力市場に高度な調整力を持つアグリゲーターの実用化を促進する。

Outline of Annual Research Achievements

本研究ではアグリゲーターが複数の需要家を制御する前段階として、住宅用のPVと蓄電池を保有する需要家1軒の電力取引の収益向上を目的に、強化学習ベースの蓄電池運用計画を決める手法を提案することを目的とした。手法としては気象庁が予測を行い、公開するGPVデータから将来の天候に関する予測データを取得し、PV出力予測やスポット市場価格、インバランス料金といった電力価格予測を行い、深層強化学習のモデルによって充放電計画の策定を行った。PV出力予測においては、これまでの先行研究が決定論的予測であったところを、予測区間をもった確率論的予測を用いることで、予測誤差を考慮することとした。以下に本研究で得られた知見を述べる。
1.将来のPV出力や電力価格を、GPVデータを用いて予測することは可能であるが、前提としてGPVデータが予測されたものであり、さらにスポット市場締め切り前となると実需給時間帯の30時間から50時間程度前の予測データを用いなければならないため、すでに予測の誤差があることを考慮しなければならない。特に天気が急激に変化する場合はGPVデータにはその情報は含まれにくく、実績と大きく乖離する可能性がある。
2.スポット市場締め切り前に充放電計画を策定し、それに従う動作モードでは、蓄電池を用いない場合と比較して、収益が約160%増加した。
3.実需給直前に改めて充放電計画を再策定するreal timeモードでは、蓄電池を用いない場合と比較しても収益が悪化した。これは深層強化学習モデルが考慮すべき時間幅や、報酬設計がreal timeモードの環境下では不適切であったことが原因である。
5.収益を向上させるためにはインバランスの削減が必要である。売電の収入に関しては、充放電計画によって売電収入を向上させることができるが、インバランスが発生すると、その収入を単純に打ち消す結果となってしまう。

Current Status of Research Progress
Current Status of Research Progress

2: Research has progressed on the whole more than it was originally planned.

Reason

太陽光発電の予測、電力市場価格の予測の結果を用いて、PPOの強化学習モデルが収益性を向上させる蓄電池の充放電のスケジュールを生成できることを確認できたことは目標の一部を達成したと言える。

Strategy for Future Research Activity

・予測誤差を考慮するために、現在のモデルでは太陽光発電の予測を区間幅(例えば90%,50%,10%)といったもので実装しているが、実際には確率分布そのもの(正規分布になるのであれば中央値と分散などが考えられる)を与える方が現実の予測を良く反映していることになる。正規分布でない一般的な確率分布のパラメータをどのように設定して強化学習モデルへ与えるかを検討する。
・将来のPV出力や電力価格を、GPVデータを用いて予測することは可能であるが、前提としてGPVデータが予測されたものであり、さらにスポット市場締め切り前となると実需給時間帯の30時間から50時間程度前の予測データを用いなければならないため、すでに予測の誤差があることを考慮しなければならない。特に天気が急激に変化する場合はGPVデータにはその情報は含まれにくく、実績と大きく乖離するパターンがあり、改善の余地がある。予測を実受給の直前(30分前等)にもう一度おこない充放電スケジュールを再策定するreal timeモードを開発したが、現実にはうまく動作していない(収益性が逆に悪化してしまう)。強化学習モデルに与える報酬を事前のスケジューリングを行う時とは異なる設計にする必要がある。

Report

(1 results)
  • 2023 Research-status Report
  • Research Products

    (4 results)

All 2024 2023

All Presentation (4 results) (of which Int'l Joint Research: 1 results)

  • [Presentation] 収益向上を目指した強化学習による蓄電池制御2024

    • Author(s)
      後藤 拓也,小平 大輔
    • Organizer
      令和6年電気学会全国大会
    • Related Report
      2023 Research-status Report
  • [Presentation] Quantile Regressionを用いた確率的電力価格予測2024

    • Author(s)
      大曽根 佑紀,小平 大輔
    • Organizer
      令和6年電気学会全国大会
    • Related Report
      2023 Research-status Report
  • [Presentation] 分位点回帰を用いた太陽光と風力発電の統合予測モデル2024

    • Author(s)
      野村 成孝,小平 大輔
    • Organizer
      令和6年電気学会全国大会
    • Related Report
      2023 Research-status Report
  • [Presentation] Optimal Control of Battery System by Reinforcement Learning Considering Profitability2023

    • Author(s)
      T. Goto and D. Kodaira
    • Organizer
      2023 International Conference on Power and Renewable Energy Engineering (PREE)
    • Related Report
      2023 Research-status Report
    • Int'l Joint Research

URL: 

Published: 2023-04-13   Modified: 2024-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi