Project/Area Number |
19K11825
|
Research Category |
Grant-in-Aid for Scientific Research (C)
|
Allocation Type | Multi-year Fund |
Section | 一般 |
Review Section |
Basic Section 60010:Theory of informatics-related
|
Research Institution | Toyohashi University of Technology |
Principal Investigator |
渡辺 一帆 豊橋技術科学大学, 工学(系)研究科(研究院), 准教授 (10506744)
|
Project Period (FY) |
2019-04-01 – 2024-03-31
|
Project Status |
Granted (Fiscal Year 2022)
|
Budget Amount *help |
¥4,290,000 (Direct Cost: ¥3,300,000、Indirect Cost: ¥990,000)
Fiscal Year 2023: ¥650,000 (Direct Cost: ¥500,000、Indirect Cost: ¥150,000)
Fiscal Year 2022: ¥650,000 (Direct Cost: ¥500,000、Indirect Cost: ¥150,000)
Fiscal Year 2021: ¥1,170,000 (Direct Cost: ¥900,000、Indirect Cost: ¥270,000)
Fiscal Year 2020: ¥910,000 (Direct Cost: ¥700,000、Indirect Cost: ¥210,000)
Fiscal Year 2019: ¥910,000 (Direct Cost: ¥700,000、Indirect Cost: ¥210,000)
|
Keywords | ε不感応損失 / 情報量規準 / スパース推定 / 正則化パラメータ / レート歪み関数 / 最適再構成分布 / 板倉・斎藤距離 / 頑健性 / ミニマックス予測 / 変動二値情報源 / 一般化事後分布 / 経験ベイズ法 / 潜在変数モデル |
Outline of Research at the Start |
本研究では統計的機械学習法の性能を解析する学習理論研究や、その知見を応用した学習法の設計論の構築を行う。特に、ベイズ推測に基づく学習法であるベイズ学習を、情報理論の一分野であり歪み有りデータ圧縮の限界を明かにするレート歪み理論により捉えることで、その性能や限界を明らかにする。そして、ベイズ学習やその一般化において重要な構成要素である事前分布および事後分布の設計に関し、レート歪み理論による性能限界の特徴づけおよび限界に近い性能を実現する設計法を構築する。
|
Outline of Annual Research Achievements |
疎性に基づく推定法(スパース推定法)においては、疎性の度合いを決定する正則化パラメータを適切に設定する必要がある。経験ベイズ法による正則化パラメータの推定は、ベイズ法における事前分布の最適化問題と捉えることができるが、スパース推定法においては共役性が成り立たず計算が困難となる。時系列データから区分線形なトレンド成分を抽出するスパース推定法であるL1トレンドフィルタリングについて、局所変分近似による近似法を導出し、正則化パラメータの推定法を構築した。トレンド推定精度、変化点検出精度に関して、系列長から決まる一定値に基づく従来の推定法と数値実験による比較を行い、導出された 推定法の有効性が示された。また時系列の滑らかさの仮定を一般化し、カルマンフィルタに基づく効率的な推定法を正則化パラメータとの同時推定の場合に拡張できることを示した。この成果について、共同研究者が情報理論分野の国際会議において発表した。 データ解析において幅広い応用を持つサポートベクトル回帰はε不感応損失関数により構築されている。不感応パラメータεの最尤法およびベイズ法について、前年度までに得られた統計的推定精度の評価に基づき、人工データを用いて赤池情報量規準やベイズ情報量規準の適用可能性を検証した。カーネル法と組み合わせた場合にも、従来のモデル選択規準の適用可能性と改変による精度向上が確認された。正則化パラメータなどの他のパラメータもデータから設定する状況に拡張することで、カーネル関数の選択も含めた実用的なモデル選択法の基礎となることが示唆された。
|
Current Status of Research Progress |
Current Status of Research Progress
3: Progress in research has been slightly delayed.
Reason
L1トレンドフィルタリングにおける正則化パラメータの推定法は、推定法自体の解析や事前分布最適化問題としての一般論との関係については未解明点が多い。 不感応パラメータを推定した場合の情報量規準については、人工データでの検証は順調に進んでいるが、実データでの検証には他のパラメータの扱いを検討する必要がある。
|
Strategy for Future Research Activity |
スパース推定における正則化パラメータ推定法の解析や、一般論との関係については共同研究者との議論を進める。不感応パラメータを推定した場合の情報量規準についても、共同研究者と協力し他のパラメータの扱いを検討し、実データでの検証を進める。
|
Report
(4 results)
Research Products
(21 results)