• Search Research Projects
  • Search Researchers
  • How to Use
  1. Back to project page

2022 Fiscal Year Research-status Report

一般化ベイズ学習法の情報論的解釈と設計

Research Project

Project/Area Number 19K11825
Research InstitutionToyohashi University of Technology

Principal Investigator

渡辺 一帆  豊橋技術科学大学, 工学(系)研究科(研究院), 准教授 (10506744)

Project Period (FY) 2019-04-01 – 2024-03-31
Keywordsε不感応損失 / 情報量規準 / スパース推定 / 正則化パラメータ
Outline of Annual Research Achievements

疎性に基づく推定法(スパース推定法)においては、疎性の度合いを決定する正則化パラメータを適切に設定する必要がある。経験ベイズ法による正則化パラメータの推定は、ベイズ法における事前分布の最適化問題と捉えることができるが、スパース推定法においては共役性が成り立たず計算が困難となる。時系列データから区分線形なトレンド成分を抽出するスパース推定法であるL1トレンドフィルタリングについて、局所変分近似による近似法を導出し、正則化パラメータの推定法を構築した。トレンド推定精度、変化点検出精度に関して、系列長から決まる一定値に基づく従来の推定法と数値実験による比較を行い、導出された
推定法の有効性が示された。また時系列の滑らかさの仮定を一般化し、カルマンフィルタに基づく効率的な推定法を正則化パラメータとの同時推定の場合に拡張できることを示した。この成果について、共同研究者が情報理論分野の国際会議において発表した。
データ解析において幅広い応用を持つサポートベクトル回帰はε不感応損失関数により構築されている。不感応パラメータεの最尤法およびベイズ法について、前年度までに得られた統計的推定精度の評価に基づき、人工データを用いて赤池情報量規準やベイズ情報量規準の適用可能性を検証した。カーネル法と組み合わせた場合にも、従来のモデル選択規準の適用可能性と改変による精度向上が確認された。正則化パラメータなどの他のパラメータもデータから設定する状況に拡張することで、カーネル関数の選択も含めた実用的なモデル選択法の基礎となることが示唆された。

Current Status of Research Progress
Current Status of Research Progress

3: Progress in research has been slightly delayed.

Reason

L1トレンドフィルタリングにおける正則化パラメータの推定法は、推定法自体の解析や事前分布最適化問題としての一般論との関係については未解明点が多い。
不感応パラメータを推定した場合の情報量規準については、人工データでの検証は順調に進んでいるが、実データでの検証には他のパラメータの扱いを検討する必要がある。

Strategy for Future Research Activity

スパース推定における正則化パラメータ推定法の解析や、一般論との関係については共同研究者との議論を進める。不感応パラメータを推定した場合の情報量規準についても、共同研究者と協力し他のパラメータの扱いを検討し、実データでの検証を進める。

Causes of Carryover

参加を予定していた国際会議がオンライン開催となり、未使用額が生じた。次年度以降での国際会議参加に使用する予定である。

  • Research Products

    (2 results)

All 2022 Other

All Journal Article (1 results) (of which Peer Reviewed: 1 results) Remarks (1 results)

  • [Journal Article] Approximate Empirical Bayes Estimation of the Regularization Parameter in l1 Trend Filtering2022

    • Author(s)
      Omae Akiharu、Watanabe Kazuho
    • Journal Title

      Proc. of 2022 IEEE International Symposium on Information Theory (ISIT)

      Volume: 1 Pages: 462-467

    • DOI

      10.1109/ISIT50566.2022.9834623

    • Peer Reviewed
  • [Remarks] 豊橋技術科学大学情報・知能工学系学習推論システム研究室

    • URL

      http://www.lisl.cs.tut.ac.jp/

URL: 

Published: 2023-12-25  

Information User Guide FAQ News Terms of Use Attribution of KAKENHI

Powered by NII kakenhi