ベイズ学習における二種類のレート歪み関数を定式化し、歪みが小さい極限の振る舞いを解析し、両者の関係を示す不等式を導出した。 前年度までに得られたサポートベクトル回帰における不感応パラメータの推定精度の評価に基づき、人工データおよび実データを用いて赤池情報量規準やベイズ情報量規準の適用可能性を検証した。正則化パラメータなどの他のパラメータもデータから設定する状況に拡張することで、カーネル関数の選択も含めた実用的なモデル選択法の基礎となることが示唆された。 その他に疎性に基づく推定法(スパース推定法)における正則化パラメータの推定法やオンライン時系列予測、レート歪み関数を達成する最適再構成分布に関する研究を期間全体を通じて実施した。経験ベイズ法による正則化パラメータの推定は、ベイズ法における事前分布の最適化問題と捉えることができるが、スパース推定法においては共役性が成り立たず計算が困難となる。時系列データから区分線形なトレンド成分を抽出するスパース推定法であるL1トレンドフィルタリングについて、局所変分近似による近似法を導出し、正則化パラメータの推定法を構築した。 ベイズ学習による系列の予測は一定の最適性を持つが、観測データ系列の出方によっては、全てのデータを観測した際に最適な予測との乖離が大きくなってしまう可能性がある。実数値データの予測問題において提案された、この乖離に関する最適性を持つ予測法を、二値データからの生成確率の変動を予測する方法に拡張し、ベイズ学習で用いられる近似法が有効であることを示し、近似の下で最適性を持つ予測法を開発した。 音声信号処理、通信トラフィック理論等に広く用いられる板倉・斎藤距離を歪み尺度とした場合のレート歪み関数を達成する再構成分布を調べ、情報源がガンマ分布以外の場合には一般的に離散分布となることを示した。
|