2018 Fiscal Year Annual Research Report
Design Principles of Learning and Inference Models with Optimal Latent Distributions
| Project/Area Number |
15K16050
|
|---|
| Research Institution | Toyohashi University of Technology |
|---|
Principal Investigator |
渡辺 一帆 豊橋技術科学大学, 工学(系)研究科(研究院), 講師 (10506744)
|
|---|
| Project Period (FY) |
2015-04-01 – 2019-03-31
|
| Keywords | レート歪み関数 / ディリクレ過程平均法 / スパース回帰符号 / ミニマックス予測 / 経験ベイズ法 |
|---|
| Outline of Annual Research Achievements |
機械学習法の性質を情報理論における圧縮限界から特徴づけ、学習法の設計論を構築するための各部分課題に関し、以下のような成果が得られた。
レート歪み関数は歪み有りデータ圧縮における歪みと圧縮率の間の最適なトレードオフ関係を示す。スパース線形回帰符号は、貪欲法によるスパース推定の考え方を用いた歪み有り圧縮法であり、二乗損失においてレート歪み関数を達成することが証明された。スパース線形回帰符号を、絶対損失の場合に拡張し、二乗損失に特化した従来法を改良した成果について共同研究者が口頭発表を行った。また、近似メッセージ伝搬法を用いた実装の性能評価により、従来の貪欲法に比べ、より詳細なパラメータ調整が必要なことがわかった。レート歪み関数を求める確率分布の最適化問題とその最適解に関する研究とその最近の進展ついて、電子情報通信学会総合大会チュートリアルセッションにおいて招待講演を行った。
ディリクレ過程（DP）平均法は、効率的な計算量でクラスタ数の推定が可能なクラスタリング手法として提案された。DP平均法について、最大歪みや外れ値への頑健性をもつ歪み尺度を含む拡張とその有効性を示し、情報理論分野の国際会議、国内会議において共同研究者が口頭発表を行った。
事象の有無を表す2値系列から生成確率の時間変動を予測する問題において、近似の上でミニマックス最適性を持つ予測手法を開発し、共同研究者がポスター発表した。
疎性に基づいた推定法の構成に利用されるL1正則化に関し、経験ベイズ法の厳密解を解析し、近似法の精度を定量的に明らかにした。この成果について共同研究者が筆頭著者である論文が英文誌に掲載された。
|
