| 研究課題/領域番号 |
19K11825
|
|---|
| 研究種目 |
基盤研究(C)
|
| 配分区分 | 基金 |
|---|
| 応募区分 | 一般 |
|---|
| 審査区分 |
小区分60010:情報学基礎論関連
|
|---|
| 研究機関 | 豊橋技術科学大学 |
|---|
研究代表者 |
渡辺 一帆 豊橋技術科学大学, 工学(系)研究科(研究院), 准教授 (10506744)
|
|---|
| 研究期間 (年度) |
2019-04-01 – 2024-03-31
|
| 研究課題ステータス |
完了 (2023年度)
|
| 配分額 *注記 |
4,290千円 (直接経費: 3,300千円、間接経費: 990千円)
2023年度: 650千円 (直接経費: 500千円、間接経費: 150千円)
2022年度: 650千円 (直接経費: 500千円、間接経費: 150千円)
2021年度: 1,170千円 (直接経費: 900千円、間接経費: 270千円)
2020年度: 910千円 (直接経費: 700千円、間接経費: 210千円)
2019年度: 910千円 (直接経費: 700千円、間接経費: 210千円)
|
|---|
| キーワード | レート歪み関数 / 最適再構成分布 / 板倉・斎藤距離 / ミニマックス予測 / ε不感応損失 / スパース推定 / 正則化パラメータ / 情報量規準 / 頑健性 / 変動二値情報源 / 一般化事後分布 / 経験ベイズ法 / 潜在変数モデル |
|---|
| 研究開始時の研究の概要 |
本研究では統計的機械学習法の性能を解析する学習理論研究や、その知見を応用した学習法の設計論の構築を行う。特に、ベイズ推測に基づく学習法であるベイズ学習を、情報理論の一分野であり歪み有りデータ圧縮の限界を明かにするレート歪み理論により捉えることで、その性能や限界を明らかにする。そして、ベイズ学習やその一般化において重要な構成要素である事前分布および事後分布の設計に関し、レート歪み理論による性能限界の特徴づけおよび限界に近い性能を実現する設計法を構築する。
|
| 研究実績の概要 |
ベイズ学習における二種類のレート歪み関数を定式化し、歪みが小さい極限の振る舞いを解析し、両者の関係を示す不等式を導出した。
前年度までに得られたサポートベクトル回帰における不感応パラメータの推定精度の評価に基づき、人工データおよび実データを用いて赤池情報量規準やベイズ情報量規準の適用可能性を検証した。正則化パラメータなどの他のパラメータもデータから設定する状況に拡張することで、カーネル関数の選択も含めた実用的なモデル選択法の基礎となることが示唆された。
その他に疎性に基づく推定法（スパース推定法）における正則化パラメータの推定法やオンライン時系列予測、レート歪み関数を達成する最適再構成分布に関する研究を期間全体を通じて実施した。経験ベイズ法による正則化パラメータの推定は、ベイズ法における事前分布の最適化問題と捉えることができるが、スパース推定法においては共役性が成り立たず計算が困難となる。時系列データから区分線形なトレンド成分を抽出するスパース推定法であるL1トレンドフィルタリングについて、局所変分近似による近似法を導出し、正則化パラメータの推定法を構築した。
ベイズ学習による系列の予測は一定の最適性を持つが、観測データ系列の出方によっては、全てのデータを観測した際に最適な予測との乖離が大きくなってしまう可能性がある。実数値データの予測問題において提案された、この乖離に関する最適性を持つ予測法を、二値データからの生成確率の変動を予測する方法に拡張し、ベイズ学習で用いられる近似法が有効であることを示し、近似の下で最適性を持つ予測法を開発した。
音声信号処理、通信トラフィック理論等に広く用いられる板倉・斎藤距離を歪み尺度とした場合のレート歪み関数を達成する再構成分布を調べ、情報源がガンマ分布以外の場合には一般的に離散分布となることを示した。
|
